Anthropic wybrał Accenture jako „niezależnego audytora” bezpieczeństwa AI, finansując własne kontrole
Anthropic ogłosiło Accenture pierwszym „niezależnym ewaluatorem” w ramach programu Embedded Evaluators, mimo że firma ta jest bezpośrednio finansowana przez Anthropic i posiada z nią długoterminowe kontrakty.
Anthropic wybrał Accenture jako „niezależnego audytora” bezpieczeństwa AI, finansując własne kontrole
Anthropic ogłosiło powołanie pierwszego „niezależnego ewaluatora” w ramach swojego programu Embedded Evaluators. Koncepcja ta była wcześniej promowana przez Dario Amodei w jego eseju dotyczącym spowolnienia rozwoju sztucznej inteligencji.
Wybraną firmą jest Accenture. Jej zadania obejmują:
- Prowadzenie ćwiczeń red-teamingowych;
- Weryfikację zgodności (alignment checks);
- Testowanie zabezpieczeń modeli Claude.
Jednak status „niezależności” Accenture budzi poważne wątpliwości:
- Accenture szkoli około 30 000 swoich pracowników na platformie Claude.
- Obie firmy łączą wieloletnie umowy, które sięgają końcem 2025 roku.
- Co najważniejsze, Anthropic otwarcie przyznaje, że to ono będzie finansować pracę Accenture w tej roli.
Sytuacja ta przypomina wcześniejszy przypadek METR, który otrzymał od Anthropic „niezależny dostęp” do badania incydentów związanych z agentami AI, mimo że METR również był pośrednio finansowany poprzez udziały kapitałowe Anthropic.
W istocie: Anthropic twierdzi, że angażuje niezależnych ewaluatorów, ale wybiera ich spośród grona partnerów biznesowych, których bezpośrednio finansuje.
Dlaczego to ważne
AnalizaTa praktyka podważa zaufanie do audytów bezpieczeństwa AI, ponieważ „niezależni” recenzenci są finansowo zależni od firm, których modele oceniają, co tworzy oczywisty konflikt interesów.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Problem wyrównania AI (AI Alignment)
Fundamentalny problem bezpieczeństwa sztucznej inteligencji: zgodność celów i motywacji autonomicznych systemów z wartościami ludzkimi, etyką oraz ochroną życia. Analizuje ryzyko, że superinteligentny system znajdzie dosłowną lub destrukcyjną ścieżkę realizacji nieprecyzyjnie sformułowanego zadania.
Machine Unlearning
Technology for surgically removing specific knowledge, private user data, or copyright-restricted materials from the weights of an already trained neural network. It allows companies to comply with 'Right to be Forgotten' (GDPR) requirements without the prohibitively expensive cost of full model retraining.
Claude odmówił wykonania zadania przez słowo „cyber”
Krótka obserwacja, że Claude odmówił wykonania zadania przez słowo „cyber”.
Serwis ocenia ryzyko bana ze strony Anthropic
Chińscy programiści uruchomili serwis, który analizuje adres IP, kraj, dostawcę internetu, typ połączenia oraz wycieki DNS i WebRTC, a następnie przyznaje ocenę zaufania od 0 do 100 dla dostępu powiązanego z Anthropic.