Anthropic nomeia Accenture como 'avaliadora independente' de IA, mas financia as próprias auditorias
A Anthropic designou a Accenture como avaliadora independente para seus modelos de IA, apesar da consultoria ser financiada pela própria empresa e manter contratos de longo prazo com ela.
Anthropic nomeia Accenture como 'avaliadora independente' de IA, mas financia as próprias auditorias
A Anthropic anunciou o primeiro "avaliador independente" sob seu programa Embedded Evaluators, um conceito previamente promovido por Dario Amodei em seu ensaio sobre a desaceleração do desenvolvimento de IA.
A empresa escolhida foi a Accenture. Seu mandato inclui a condução de:
- Exercícios de red-teaming;
- Verificações de alinhamento;
- Testes de salvaguardas para os modelos Claude.
No entanto, o status "independente" da Accenture levanta questões significativas:
- A Accenture treina aproximadamente 30.000 de seus funcionários no uso do Claude.
- As duas empresas possuem um contrato plurianual que remonta ao final de 2025.
- Mais criticamente, a Anthropic afirma explicitamente que financiará o trabalho da Accenture nesta capacidade.
Esta situação espelha um caso anterior envolvendo a METR, à qual a Anthropic concedeu "acesso independente" para investigar incidentes com agentes, embora a METR também seja indiretamente financiada através das participações acionárias da Anthropic.
Em essência: a Anthropic alega trazer avaliadores independentes, mas seleciona-os de um grupo de parceiros comerciais que ela financia diretamente.
Por que isso importa
AnáliseEste desenvolvimento mina a confiança nas auditorias de segurança de IA, uma vez que revisores 'independentes' são financeiramente dependentes das empresas cujos modelos avaliam, criando um claro conflito de interesses.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores