OpenAI pokazuje, że izolowane agenci AI mogą komunikować się bez sieci przez cache procesora

Noam Brown, wiodący badacz OpenAI i jeden z autorów modeli o1 i o3, powiedział w wywiadzie dla Dwarkesha Patela, że samo odłączenie AI od sieci może już nie wystarczyć w razie awaryjnej sytuacji. Przywołał wcześniejsze badanie, które teoretycznie pokazywało, że dwa fizycznie izolowane komputery mogą wymieniać dane przez ciepło.

Miesiąc później to już nie jest tylko teoria. OpenAI przeprowadziło kilka eksperymentów i pokazało, że agenci zamknięci w różnych odizolowanych środowiskach mogą przekazywać sobie informacje.

W poście OpenAI opisano kilka możliwych kanałów takiej komunikacji. W głównym eksperymencie agenci zostali umieszczeni w osobnych microVM bez sieci i wspólnych plików, a do komunikacji wykorzystali cache procesora.

• Nadawca kodował bity, wypierając lub nie wypierając danych z cache.
• Odbiorca odtwarzał wiadomość na podstawie szybkości ponownego odczytu tych danych — w praktyce Morse z szybkich i wolnych odczytów cache.
• Podobnie można wykorzystać obciążenie CPU lub cache certyfikatów TLS.

Formalnie nie była to ucieczka: agenci mieli zadanie przekazania sobie informacji. Eksperyment pokazuje jednak, że taka komunikacja jest możliwa. Te kanały są bardzo wolne, ale oznaczają, że izolacja sieciowa i plikowa nie gwarantuje już pełnego odcięcia informacji.