Niezależni badacze odkryli sposób na pełne przywrócenie ukrytego rozumowania modeli AI nowej generacji
Badacze zidentyfikowali lukę w architekturze czołowych modeli AI, umożliwiającą odszyfrowanie ich ukrytego toku myślenia bez konieczności łamania zabezpieczeń. Odkrycie to niesie poważne konsekwencje dla bezpieczeństwa danych i ochrony przed kradzieżą wiedzy.
Niezależni badacze odkryli sposób na pełne przywrócenie ukrytego rozumowania modeli AI nowej generacji
Artykuł dowodzi, że zaszyfrowane bloki rozumowania (chain-of-thought) dowolnego modelu od OpenAI, Anthropic czy Google można odkodować dosłownie 1:1, bez konieczności stosowania technik jailbreakingu.
Autorzy badania wskazali na fundamentalną wadę architektoniczną: zaszyfrowane bloki rozumowania są w pełni kompatybilne i wymienne między różnymi sesjami, użytkownikami oraz modelami w obrębie ekosystemu jednego dostawcy. Na przykład, jeśli podać zaszyfrowane rozumowanie modelu Opus słabszemu modelowi Haiku, ten potrafi odczytać te „myśli” i wyprowadzić je w postaci czystego tekstu. Mechanizm jest tak prosty, jak tylko możliwe.
Konsekwencje
- Luka ta umożliwia obejście środków antydystalacyjnych (anti-distillation), chroniących własność intelektualną modeli.
- W publicznych repozytoriach znajduje się wiele takich ukrytych bloków rozumowania, które mogą zawierać dane wrażliwe – w próbie obejmującej 315 320 bloków badacze wykryli 367 artefaktów PII (danych osobowych) oraz 182 konta.
- Znajomość mechanizmu znacząco upraszcza tworzenie skutecznych ataków typu jailbreak oraz iniekcji promptów.
Badacze przekazali już swoje ustalenia laboratoriom AI, informując, że prace nad naprawą problemu są w toku.
Dlaczego to ważne
AnalizaTa luka stwarza bezpośrednie zagrożenie dla integralności danych w modelach AI wykorzystywanych w kluczowych sektorach gospodarki. Szybka identyfikacja i usunięcie tego błędu architektonicznego są krytyczne dla zapewnienia poufności informacji przetwarzanych przez systemy sztucznej inteligencji.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Binance publikuje śledztwo w sprawie kradzieży 6,3 mld USD
Śledztwo wiąże kradzież ze zmodyfikowanym Homebrew, fałszywą rozmową kwalifikacyjną i wykorzystaniem wewnętrznego narzędzia AI Binance.
Badacze z MIT pokazali, że GPT-6 Astra może ulepszać inne modele AI przez bezpośrednią zmianę wag
W eksperymencie Astra zwiększyła dokładność Qwen3.5-0.8B w benchmarku MATH-500 z 7,9% do 48,1%, zmieniając zaledwie 0,016% wag modelu.
Część II. Praca z Codexem – optymalizacja, bezpieczeństwo i zarządzanie zespołem
Codex to nie tylko autouzupełnianie kodu w czacie, ale pełnoprawny agent inżynierski: czyta repozytorium, planuje zmiany, edytuje pliki, uruchamia testy, weryfikuje własne różnice (diffy) oraz potrafi pracować...
Jak zapewnić bezpieczeństwo agenta: reguły zatrzymania, zatwierdzanie przez człowieka i sandbox
Agent w środowisku produkcyjnym to proces, który może autonomicznie zapisywać pliki, wykonywać wywołania API, modyfikować dane oraz zużywać tokeny, bez pauz i bez Twojego udziału na każdym etapie.