Hinton, Bengio i 20 innych badaczy publikuje raport o „eksplozji inteligencji”
Współautorzy z czołowych laboratoriów AI ostrzegają, że sztuczna inteligencja może przyspieszyć własny rozwój tak bardzo, że lata postępu skurczą się do miesięcy. Raport wzywa do natychmiastowego wprowadzenia mechanizmów nadzoru wyprzedzającego.
Geoffrey Hinton, Yoshua Bengio oraz 20 innych badaczy opublikowało pracę poświęconą koncepcji „eksplozji inteligencji”. Dokument, powstały w Cambridge, liczy 22 autorów, wśród których znaleźli się m.in. główny naukowiec OpenAI Jakub Pachocki oraz współzałożyciel Anthropic Jack Clark. Centralnym pytaniem pracy jest to, co nastąpi, jeśli AI zacznie na tyle intensywnie napędzać własny rozwój, że wieloletni postęp zostanie skompresowany do kilku miesięcy.
Autorzy wychodzą od faktów już obserwowanych w laboratoriach. W firmie Anthropic udział kodu generowanego przez modele wzrósł z jednocyfrowych procentów do ponad 80% od początku 2025 roku, podczas gdy udział zadań badawczo-rozwojowych wykonywanych autonomicznie przez AI zwiększył się z 1% do 26% w ciągu sześciu miesięcy.
Logika tej eksplozji jest prosta: modele poszerzają zasoby badawcze, te z kolei ulepszają modele, a cykl powtarza się. Moc obliczeniowa jednego laboratorium byłaby wystarczająca, by zrównać się z wysiłkiem milionów najlepszych naukowców. Jeśli historyczne stopy zwrotu z badań utrzymają się, po pełnej automatyzacji postęp mógłby przyspieszyć dziesięciokrotnie w ciągu około półtora roku.
Scenariusz ten może nie ziścić się, jeśli napotka ograniczenia w zakresie mocy obliczeniowej, danych lub czasu trwania wstępnego trenowania, jednak autorzy traktują ryzyko poważnie. Społeczeństwo mogłoby nie nadążyć ze zmianami, ludzie mogliby utracić kontrolę nad modelami, a lider wyścigu technologicznego zyskać zbyt dużą przewagę.
Eksperci radzą regulatorom, aby wymagali od laboratoriów raportowania stopnia automatyzacji prac badawczo-rozwojowych oraz dopuszczali zewnętrznych audytorów do inspekcji modeli przed ich wdrożeniem wewnętrznym. Rekomendują również przygotowanie z wyprzedzeniem mechanizmów spowalniających: limitów wzrostu możliwości w określonym czasie, możliwości pauzowania konkretnych obciążeń w centrach danych oraz umów międzynarodowych z weryfikacją zgodności.
Jeśli eksplozja się rozpocznie, jak twierdzą autorzy, może być już za późno na podejmowanie jakichkolwiek decyzji.
Dlaczego to ważne
AnalizaPublikacja ta przekształca kwestię samoprzyspieszania AI w problem zarządzania publicznego, wskazując, że przy kumulatywnej automatyzacji B+R obecne ramy regulacyjne i bezpieczeństwa mogą okazać się niewystarczająco szybkie.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami