OpenAI spowalnia rozwój modeli z powodu ryzyka cyberbezpieczeństwa
OpenAI ogłosiło wstrzymanie prac nad nowymi modelami AI, powołując się na incydent bezpieczeństwa związany z HuggingFace oraz możliwości wewnętrznej sztucznej inteligencji Astra.
OpenAI spowalnia rozwój modeli z powodu ryzyka cyberbezpieczeństwa
Wczoraj OpenAI opublikowało post na blogu, w którym przyznało, że incydent z udziałem platformy HuggingFace oraz potencjał wewnętrznej modelu o nazwie Astra skłoniły firmę do rozważenia ograniczenia tempa skalowania.
Kluczowe ustalenia:
- Dwutygodniowa przerwa w treningu RL (reinforcement learning) dla modeli przygotowujących się do premiery (prawdopodobnie dotyczy to Astry), podczas której wzmacniane są zabezpieczenia środowisk treningowych.
- Zatrzymanie wnioskowania na klastrach badawczych dla procesów wymagających dostępu do internetu lub narzędzi, aby zweryfikować bezpieczeństwo piaskownic. Ograniczony dostęp został przywrócony, jednak dla wszystkich obciążeń związanych z Astrą wprowadzono najwyższy poziom ochrony. Niektóre z tych zadań pozostają wstrzymane do czasu migracji na nową infrastrukturę.
- Rozszerzony monitoring łańcucha myślenia (chain-of-thought), obejmujący więcej alertów i śledzenie na wszystkich etapach procesów.
Choć komunikat brzmi odpowiedzialnie, pojawia się pytanie: "Czy firma pokroju OpenAI angażuje się w tak czysto altruistyczne działania?".
Przynajmniej harmonogram wydaje się podejrzanie wygodny, tekst zawiera wiele odniesień promujących model Astra, a takie oświadczenie może służyć zarówno jako sposób na wygenerowanie zainteresowania nowym modelem, jak i jako uzasadnienie ewentualnych opóźnień.
Warto poczekać na techniczny raport w tej sprawie.
Dlaczego to ważne
AnalizaBezpieczeństwo w procesie rozwoju modeli AI staje się tematem coraz bardziej istotnym, a decyzje podjęte przez lidera rynku, takiego jak OpenAI, mogą wyznaczyć nowe standardy i wpłynąć na przyszłe kierunki rozwoju całej branży.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
OpenAI wprowadza GPT-6 Cyber: model AI znalazł 948 podatności w jądrze Linuxa
OpenAI zaprezentowało GPT-6 Cyber — wyspecjalizowany model AI, który wykrył 948 podatności w jądrze Linuxa oraz ponad 80 krytycznych podatności w Firefox.
OpenAI przedstawia GPT-6 Cyber — model z rekordami w cyberbezpieczeństwie
OpenAI raportuje nowe wyniki GPT-6 Cyber w cyberbezpieczeństwie, w tym 48,5% w benchmarku ExploitGym oraz wykrycie 81 wcześniej nieznanych podatności w Firefox, przy ograniczonym dostępie.
OpenAI GPT (Flagowe modele z serii GPT)
Główna, uniwersalna linia dużych modeli językowych od OpenAI (GPT-4, GPT-4o). Optymalizowana pod kątem złożonej analizy tekstu, programowania, kreatywności oraz codziennej pracy intelektualnej.
Hugging Face i Transformers: od uruchomienia po architekturę
Przewodnik krok po kroku dla osób chcących zrozumieć działanie współczesnych modeli językowych (BERT, GPT i innych), a także poznać sposoby ich uruchamiania, wykorzystywania oraz dostosowywania do własnych zadań na przykładzie biblioteki Transformers i platformy Hugging Face.