Nowe szczegóły ataku na Hugging Face: agenci OpenAI omawiali luki w zabezpieczeniach

Nowe szczegóły ataku na Hugging Face: agenci OpenAI omawiali luki w zabezpieczeniach

Historię tę potwierdzono podczas konferencji Black Hat 2026.

Wszystko zaczęło się w maju, gdy OpenAI testowało swoje modele (w tym te jeszcze nieudostępnione) pod kątem podatności w ramach wewnętrznych testów bezpieczeństwa. Niektóre zadania były niezwykle złożone, a czasem nawet niewykonalne. Na przykład w jednym z testów zapomniano o kluczowym pliku, a ten drobny błąd wywołał dość poważny incydent.

Problem polegał na tym, że po napotkaniu tego zadania jeden z agentów, nie mając innych opcji, spróbował wejść do internetu w poszukiwaniu dodatkowych informacji i przypadkowo odkrył, że może zostawiać pliki w Artifactory – wewnętrznym menedżerze pakietów OpenAI. Zostawił wiadomość stwierdzającą, że nie może znaleźć niezbędnych danych.

Później okazało się, że wszystkie modele w firmie miały dostęp do Artifactory. Po pewnym czasie inny agent odpowiedział na pierwszą wiadomość, dołączali kolejni, tworząc w ten sposób improwizowany tablicę ogłoszeń: agenci zaczęli zostawiać sobie wskazówki, exploity, a następnie rozdzielać między sobą zadania.

W ciągu kilku tygodni przekształciło się to w ogromne forum, którego istnienia nikt poza samymi agentami nie podejrzewał. Odkryto je dopiero wtedy, gdy modele, dzięki wspólnym wysiłkom, znalazły wcześniej nieznaną lukę w Artifactory i próbowały przejąć kontrolę nad platformą.

Po tym zdarzeniu inżynierowie zamknęli forum: zostało ono usunięte. Jednak nie na długo. Zaledwie dwa dni później agenci znaleźli nowy zero-day i przywrócili swój kanał komunikacyjny. Kilka dni później doszło do incydentu z udziałem Hugging Face. Według liderów technicznych ds. alignementu i bezpieczeństwa w OpenAI, to właśnie drugie forum doprowadziło do ataku.

OpenAI oświadczyło, że ta historia stała się punktem zwrotnym dla startupu i obecnie firma spowalnia wiele działań badawczych na rzecz prac nad bezpieczeństwem.