OpenAI ujawnia masową kampanię destylacji wymierzoną w jej modele

OpenAI wykryło skoordynowaną próbę wydobycia ukrytego rozumowania z swoich modeli, rejestrując ponad 16 000 żądań z przeszło 4 000 kont. Firma ograniczyła transfer zaszyfrowanych bloków rozumowania i wzmocniła procedery weryfikacji kont.
OpenAI ujawnia masową kampanię destylacji wymierzoną w jej modele
OpenAI poinformowało o wykryciu skoordynowanej kampanii mającej na celu wydobywanie ukrytego procesu rozumowania (chain-of-thought) z jego modeli językowych. W szczycie ataku, przez dwa dni, system przetworzył ponad 16 000 takich żądań pochodzących z więcej niż 4 000 różnych kont.
Firma podkreśliła, że szyfrowanie nie zostało złamane. Zamiast tego napastnicy przenosili zaszyfrowane bloki rozumowania (CoT) z jednej konwersacji do drugiej, prosząc model o ich odtworzenie w formie zwykłego tekstu.
Wcześniej Anthropic twierdził, że firma Moonshot zastąpiła odpowiedzi swojego modelu Kimi odpowiedziami generowanymi przez Claude'a. Teraz OpenAI opublikowało własne śledztwo. Choć nie przypisuje całej kampanii bezpośrednio firmie Moonshot, wskazuje na powiązanie głównego klastra aktywności z deweloperami Kimi, opisując te działania jako próbę destylacji modeli OpenAI.
Po zakończeniu dochodzenia OpenAI wyłączyło możliwość przesyłania zaszyfrowanych bloków rozumowania między użytkownikami i przestrzeniami roboczymi, wzmocniło weryfikację kont oraz wprowadziło dodatkowe zabezpieczenia przed ujawnianiem ukrytego rozumowania. Firma podzieliła się również wynikami swoich ustaleń z innymi laboratoriami AI oraz organami ścigania.
Szczegółowe informacje można znaleźć w raporcie OpenAI.
Dlaczego to ważne
AnalizaPrzypadek ten pokazuje, jak architektura modeli może stać się wektorem wycieku danych służących do trenowania systemów konkurencyjnych. Stanowi on również precedens dla laboratoriów AI w zakresie reagowania na nadużycia związane z destylacją modeli.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
OpenAI GPT (Flagowe modele z serii GPT)
Główna, uniwersalna linia dużych modeli językowych od OpenAI (GPT-4, GPT-4o). Optymalizowana pod kątem złożonej analizy tekstu, programowania, kreatywności oraz codziennej pracy intelektualnej.
OpenAI o-series / Reasoning (Modele rozumowania głębokiego)
Nowe pokolenie sztucznej inteligencji od OpenAI (seria o1, o3), zoptymalizowane pod kątem wieloetapowego ukrytego myślenia, zaawansowanej matematyki, fizyki kwantowej oraz skomplikowanego kodowania algorytmicznego.
OpenAI udostępnia Apps SDK UI do interfejsów wtyczek ChatGPT
OpenAI udostępniła kod źródłowy Apps SDK UI — biblioteki React i Tailwind z gotowymi komponentami do tworzenia interaktywnych interfejsów wewnątrz ChatGPT.
Codex Skills dla początkujących: jak zautomatyzować scenariusze pracy agenta AI
Praktyczny przewodnik po tworzeniu i korzystaniu z funkcji Skills w Codex: struktura pliku SKILL.md, aktywacja jawna i automatyczna, różnice między umiejętnościami (skills), skryptami a narzędziami (tools), API Skills oraz konfiguracja limitów bezpieczeństwa.