Anthropic wybrał Accenture jako „niezależnego audytora” bezpieczeństwa AI, finansując własne kontrole
Anthropic ogłosiło Accenture pierwszym „niezależnym ewaluatorem” w ramach programu Embedded Evaluators, mimo że firma ta jest bezpośrednio finansowana przez Anthropic i posiada z nią długoterminowe kontrakty.
Anthropic wybrał Accenture jako „niezależnego audytora” bezpieczeństwa AI, finansując własne kontrole
Anthropic ogłosiło powołanie pierwszego „niezależnego ewaluatora” w ramach swojego programu Embedded Evaluators. Koncepcja ta była wcześniej promowana przez Dario Amodei w jego eseju dotyczącym spowolnienia rozwoju sztucznej inteligencji.
Wybraną firmą jest Accenture. Jej zadania obejmują:
- Prowadzenie ćwiczeń red-teamingowych;
- Weryfikację zgodności (alignment checks);
- Testowanie zabezpieczeń modeli Claude.
Jednak status „niezależności” Accenture budzi poważne wątpliwości:
- Accenture szkoli około 30 000 swoich pracowników na platformie Claude.
- Obie firmy łączą wieloletnie umowy, które sięgają końcem 2025 roku.
- Co najważniejsze, Anthropic otwarcie przyznaje, że to ono będzie finansować pracę Accenture w tej roli.
Sytuacja ta przypomina wcześniejszy przypadek METR, który otrzymał od Anthropic „niezależny dostęp” do badania incydentów związanych z agentami AI, mimo że METR również był pośrednio finansowany poprzez udziały kapitałowe Anthropic.
W istocie: Anthropic twierdzi, że angażuje niezależnych ewaluatorów, ale wybiera ich spośród grona partnerów biznesowych, których bezpośrednio finansuje.
Dlaczego to ważne
AnalizaTa praktyka podważa zaufanie do audytów bezpieczeństwa AI, ponieważ „niezależni” recenzenci są finansowo zależni od firm, których modele oceniają, co tworzy oczywisty konflikt interesów.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami