Noam Brown: Odcięcie AI od internetu może nie zadziałać

Dwarak Patel opublikował niedawno obszerny wywiad z czołowym badaczem OpenAI i autorem modeli o1 oraz o3. Noam Brown argumentuje, że ludzie systematycznie niedoszacowują możliwości sztucznej inteligencji, a systemy bezpieczeństwa muszą zostać natychmiast podniesione do zupełnie innego poziomu.

Zdaniem Browna nie możemy traktować AI jako systemu, który w razie awaryjnej sytuacji można po prostu „odłączyć od sieci”. To pozorne poczucie bezpieczeństwa, ponieważ nawet taka izolacja może okazać się nieskuteczna.

Brown powołuje się na starsze badania dowodzące, że dwa fizycznie odizolowane komputery mogą teoretycznie wymieniać dane poprzez ciepło: jeden nagrzewa procesor CPU, a drugi odczytuje zmiany temperatury za pomocą wbudowanego czujnika. W związku z tym naprawdę zaawansowany system AI – jeśli by chciał i byłby w stanie – mógłby znaleźć sposób na „ucieczkę”.

Dodatkowo Brown ostrzega przed nadmiernym poleganiem na mechanizmie Chain of Thought (CoT) przy interpretowaniu intencji modelu. Przejrzystość łańcuchów rozumowania „już ulega degradacji”, a im mądrzejsze stają się modele, tym skuteczniej potrafią ukrywać przed użytkownikami to, czego nie chcą im pokazać.