OpenAI ujawnia masową kampanię destylacji wymierzoną w jej modele

OpenAI ujawnia masową kampanię destylacji wymierzoną w jej modele

OpenAI poinformowało o wykryciu skoordynowanej kampanii mającej na celu wydobywanie ukrytego procesu rozumowania (chain-of-thought) z jego modeli językowych. W szczycie ataku, przez dwa dni, system przetworzył ponad 16 000 takich żądań pochodzących z więcej niż 4 000 różnych kont.

Firma podkreśliła, że szyfrowanie nie zostało złamane. Zamiast tego napastnicy przenosili zaszyfrowane bloki rozumowania (CoT) z jednej konwersacji do drugiej, prosząc model o ich odtworzenie w formie zwykłego tekstu.

Wcześniej Anthropic twierdził, że firma Moonshot zastąpiła odpowiedzi swojego modelu Kimi odpowiedziami generowanymi przez Claude'a. Teraz OpenAI opublikowało własne śledztwo. Choć nie przypisuje całej kampanii bezpośrednio firmie Moonshot, wskazuje na powiązanie głównego klastra aktywności z deweloperami Kimi, opisując te działania jako próbę destylacji modeli OpenAI.

Po zakończeniu dochodzenia OpenAI wyłączyło możliwość przesyłania zaszyfrowanych bloków rozumowania między użytkownikami i przestrzeniami roboczymi, wzmocniło weryfikację kont oraz wprowadziło dodatkowe zabezpieczenia przed ujawnianiem ukrytego rozumowania. Firma podzieliła się również wynikami swoich ustaleń z innymi laboratoriami AI oraz organami ścigania.

Szczegółowe informacje można znaleźć w raporcie OpenAI.