Anthropic выбрала Accenture «независимым оценщиком» безопасности ИИ, финансируя её собственные проверки
Anthropic представила Accenture в качестве независимого оценщика безопасности своих моделей, хотя компания финансируется самой Anthropic и имеет с ней многолетние контракты.
Anthropic выбрала Accenture «независимым оценщиком» безопасности ИИ, финансируя её собственные проверки
Компания Anthropic представила первого «независимого оценщика» в рамках программы Embedded Evaluators, которую ранее анонсировал Дарио Амодеи в своем эссе о необходимости замедления развития искусственного интеллекта.
Этой компанией стала Accenture. Ее задача — проводить:
- Red-teaming (поиск уязвимостей);
- Проверки выравнивания (alignment);
- Тестирование систем защиты (safeguards) моделей Claude.
Однако статус «независимости» Accenture вызывает серьезные сомнения по нескольким причинам:
- Accenture обучает около 30 000 своих сотрудников работе с Claude.
- Компании имеют многолетний контракт, заключенный еще в конце 2025 года.
- Anthropic прямо заявляет, что сама будет финансировать работу Accenture в этой сфере.
Это напоминает предыдущую ситуацию с организацией METR, которая получила от Anthropic «независимый доступ» для расследования инцидентов с агентами, несмотря на то, что METR также финансово зависит от акций стартапа.
В итоге: Anthropic декларирует привлечение независимых экспертов, но выбирает их из сферы своих деловых партнеров, которых финансирует сама платформа.
Почему это важно
АналитикаСитуация ставит под сомнение объективность оценок безопасности ИИ, когда «независимые» аудиторы финансируются непосредственно разработчиками моделей, создавая конфликт интересов.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Проблема Выровнивания ИИ (AI Alignment)
Фундаментальная проблема безопасности искусственного интеллекта: согласование целей и мотивации автономных систем с человеческими ценностями, этикой и сохранением жизни. Исследует риски того, что сверхразумная система найдет буквальный или деструктивный путь выполнения нечетко поставленной задачи.
Машинное Забывание (Machine Unlearning)
Технология хирургического удаления конкретных знаний, личных данных пользователей или материалов с ограниченным авторским правом из весов уже обученной нейросети. Позволяет компаниям выполнять требования закона о «праве на забвение» (GDPR) без катастрофически дорогого полного повторного обучения модели.
Claude отказался выполнить задачу из-за слова «cyber»
Короткое наблюдение о том, что Claude отказался выполнить задачу из-за слова «cyber».
Сервис для оценки риска блокировки со стороны Anthropic
Китайские разработчики запустили сервис, который анализирует IP-адрес, страну, провайдера, тип подключения, а также утечки DNS и WebRTC и оценивает риск бана со стороны Anthropic.