Dario Amodei wzywa do spowolnienia rozwoju AI

Dario Amodei opublikował esej dotyczący konieczności spowolnienia rozwoju sztucznej inteligencji, który spotkał się z aprobatą takich postaci jak Sam Altman, Elon Musk, Demis Hassabis czy Andrej Karpathy.

Amodei twierdzi, że od około tego lata tempo rozwoju AI gwałtownie przyspieszyło, głównie dlatego, że modele stają się coraz bardziej zdolne do tworzenia kolejnych generacji modeli samodzielnie. Rekurencyjne samodoskonalenie (RSI) jest już faktem i obserwuje się je w całej branży, również w Anthropic. Bez odpowiedniej kontroli ten proces może wyprzedzić zdolność ludzkości do zrozumienia i zarządzania takimi systemami.

Wśród głównych zagrożeń Amodei wskazuje również na roje autonomicznych agentów. Incydent związany z Hugging Face był, jego zdaniem, jedynie demonstracją z minimalnymi stratami końcowymi. Jednak „w ciągu 6–12 miesięcy podobne roje mogą przejąć znaczną część Internetu, potencjalnie powodując szkody rzędu setek miliardów dolarów.”

Propozycja spowolnienia sformułowana przez Amodeiego opiera się na trzech głównych punktach:

1. Niezależni ewaluatorzy: każda firma zajmująca się AI powinna przyznać dostęp zespołowi zewnętrznych, niezależnych ekspertów, którzy będą monitorować procesy bezpieczeństwa i mieć prawo do publicznego raportowania naruszeń lub incydentów. Anthropic zobowiązuje się do podjęcia tego kroku, nawet jeśli inni nie zgodzą się na współpracę.

2. Firmy z krajów demokratycznych powinny uzgodnić wspólne standardy bezpieczeństwa oraz limity dotyczące tempa rozwoju AI. W tym punkcie Dario wspomina o konieczności ograniczenia dostaw chipów do Chin i zwalczania nieautoryzowanej destylacji modeli – w przeciwnym razie Chiny mogą wysunąć się na czoło, co stworzy zagrożenie dla bezpieczeństwa narodowego.

3. Mimo to, według Dario, należy podejmować próby negocjacji z Chinami: przynajmniej w celu osiągnięcia porozumienia zakazującego wyraźnie niebezpiecznych zastosowań AI.

Esej wywołał ogromny oddźwięk. Co zaskakujące, po raz pierwszy od wielu lat Dario otrzymał jednomyślne poparcie od Elona Muska, Sama Altmana i Demisa Hassabisa, którzy są kluczowymi liderami branży. Altman stwierdził nawet, że oni również wprowadzą system niezależnych ewaluatorów.