OpenAI spowalnia rozwój modeli z powodu ryzyka cyberbezpieczeństwa

OpenAI spowalnia rozwój modeli z powodu ryzyka cyberbezpieczeństwa

Wczoraj OpenAI opublikowało post na blogu, w którym przyznało, że incydent z udziałem platformy HuggingFace oraz potencjał wewnętrznej modelu o nazwie Astra skłoniły firmę do rozważenia ograniczenia tempa skalowania.

Kluczowe ustalenia:

1. Dwutygodniowa przerwa w treningu RL (reinforcement learning) dla modeli przygotowujących się do premiery (prawdopodobnie dotyczy to Astry), podczas której wzmacniane są zabezpieczenia środowisk treningowych.
2. Zatrzymanie wnioskowania na klastrach badawczych dla procesów wymagających dostępu do internetu lub narzędzi, aby zweryfikować bezpieczeństwo piaskownic. Ograniczony dostęp został przywrócony, jednak dla wszystkich obciążeń związanych z Astrą wprowadzono najwyższy poziom ochrony. Niektóre z tych zadań pozostają wstrzymane do czasu migracji na nową infrastrukturę.
3. Rozszerzony monitoring łańcucha myślenia (chain-of-thought), obejmujący więcej alertów i śledzenie na wszystkich etapach procesów.

Choć komunikat brzmi odpowiedzialnie, pojawia się pytanie: "Czy firma pokroju OpenAI angażuje się w tak czysto altruistyczne działania?".

Przynajmniej harmonogram wydaje się podejrzanie wygodny, tekst zawiera wiele odniesień promujących model Astra, a takie oświadczenie może służyć zarówno jako sposób na wygenerowanie zainteresowania nowym modelem, jak i jako uzasadnienie ewentualnych opóźnień.

Warto poczekać na techniczny raport w tej sprawie.