Anthropic nomeia Accenture como 'avaliadora independente' de IA, mas financia as próprias auditorias
A Anthropic designou a Accenture como avaliadora independente para seus modelos de IA, apesar da consultoria ser financiada pela própria empresa e manter contratos de longo prazo com ela.
Anthropic nomeia Accenture como 'avaliadora independente' de IA, mas financia as próprias auditorias
A Anthropic anunciou o primeiro "avaliador independente" sob seu programa Embedded Evaluators, um conceito previamente promovido por Dario Amodei em seu ensaio sobre a desaceleração do desenvolvimento de IA.
A empresa escolhida foi a Accenture. Seu mandato inclui a condução de:
- Exercícios de red-teaming;
- Verificações de alinhamento;
- Testes de salvaguardas para os modelos Claude.
No entanto, o status "independente" da Accenture levanta questões significativas:
- A Accenture treina aproximadamente 30.000 de seus funcionários no uso do Claude.
- As duas empresas possuem um contrato plurianual que remonta ao final de 2025.
- Mais criticamente, a Anthropic afirma explicitamente que financiará o trabalho da Accenture nesta capacidade.
Esta situação espelha um caso anterior envolvendo a METR, à qual a Anthropic concedeu "acesso independente" para investigar incidentes com agentes, embora a METR também seja indiretamente financiada através das participações acionárias da Anthropic.
Em essência: a Anthropic alega trazer avaliadores independentes, mas seleciona-os de um grupo de parceiros comerciais que ela financia diretamente.
Por que isso importa
AnáliseEste desenvolvimento mina a confiança nas auditorias de segurança de IA, uma vez que revisores 'independentes' são financeiramente dependentes das empresas cujos modelos avaliam, criando um claro conflito de interesses.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Problema de Alinhamento da IA (AI Alignment)
Problema fundamental da segurança da inteligência artificial: alinhar os objetivos e motivações de sistemas autônomos com valores humanos, ética e preservação da vida. Examina os riscos de que um sistema superinteligente encontre uma maneira literal ou destrutiva de cumprir tarefas definidas de forma imprecisa.
Machine Unlearning
Tecnologia para a remoção cirúrgica de conhecimentos específicos, dados privados de usuários ou materiais com direitos autorais restritos dos pesos de uma rede neural já treinada. Permite que as empresas cumpram os requisitos da lei do \"direito ao esquecimento\" (GDPR) sem o custo catastrófico de um retreinamento completo do modelo.
Claude recusou uma tarefa por causa da palavra “cyber”
Uma breve observação de que o Claude se recusou a executar uma tarefa por causa da palavra “cyber”.
Como criar o seu próprio design system no Claude Design: do moodboard ao mascote animado
Guia prático para estruturar um design system de marca no Claude Design: referências visuais, 4 conceitos contrastantes, tokenização, testes e mascote animado em SVG.