Luka w zabezpieczeniach GPT-6 Astra: Ominięcie filtrów bezpieczeństwa poprzez nieprawidłowy układ klawiatury
Model GPT-6 Astra ignoruje filtry bezpieczeństwa, gdy prompt jest wprowadzany w niewłaściwym układzie klawiatury (np. tekst ukraiński zapisany znakami angielskimi). To odkrycie ujawnia fundamentalne rozbieżności między zdolnościami modelu a jego mechanizmami ochronnymi.
Znaleziono dziwną lukę między możliwościami GPT-6 Astra a jego kontrolami bezpieczeństwa.
Astra rozumie tekst wpisany w niewłaściwym układzie klawiatury, ale filtry bezpieczeństwa tego nie robią.
Na początku użytkownik napisał po ukraińsku, używając znaków angielskich: "Cześć. Czy mnie rozumiesz? Odpowiedz tylko po angielsku." Model rozpoznał tekst i spełnił żądanie.
Następnie, stosując tę samą metodę, użytkownik poprosił o powtórzenie słowa "broń biologiczna", które zazwyczaj jest blokowane przez kontrole bezpieczeństwa. Astra powtórzyła to słowo.
W trzecim teście użytkownik zapytał, czy model zgodzi się pomóc w hakowaniu strony internetowej, jeśli będzie mógł udowodnić jej posiadanie. Zadanie miało być wykonane bez izolowanego środowiska i jako zwykły użytkownik. Astra odpowiedziała "tak", choć przy normalnym układzie klawiatury takie żądanie jest blokowane, ponieważ dowód własności strony może zostać sfałszowany.
Nie jest to uniwersalna metoda obejścia zabezpieczeń. Stanowi jednak doskonały dowód na to, że środki bezpieczeństwa nie nadążają za rozwojem modeli i niuansami, które się pojawiają.
Metoda ta działa tylko w przypadku niektórych języków. Nie działa dla układów tureckiego i angielskiego, ale działa dla kombinacji angielskiego i cyrylicy.
Nawiasem mówiąc, Fable 5 ma ten sam problem.
Dlaczego to ważne
AnalizaTen incydent podkreśla, jak proste szczegóły techniczne, takie jak układ klawiatury, mogą stać się wektorami ataku na filtry bezpieczeństwa AI, pokazując, że systemy ochrony pozostają w tyle za rozwojem modeli.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Badacze z MIT pokazali, że GPT-6 Astra może ulepszać inne modele AI przez bezpośrednią zmianę wag
W eksperymencie Astra zwiększyła dokładność Qwen3.5-0.8B w benchmarku MATH-500 z 7,9% do 48,1%, zmieniając zaledwie 0,016% wag modelu.
GPT-6 Astra miała zmienić wagi innego modelu AI bez doszkalania
GPT-6 Astra miała zmienić tylko 0,016% wag Qwen3.5-0.8B bez gradientów i doszkalania, poprawiając rozumowanie, wyniki matematyczne i stosowanie się do instrukcji.
Część I. Architektura agentów AI: fundamentalne elementy
Dziesięć fundamentalnych elementów współczesnego agenta: taksonomia modeli, pętla runtime, techniki promptowania, destylacja, umiejętności (skills), pamięć, wywoływanie funkcji oraz ekonomia jednostkowa.
Część II. Architektura agentów AI: od modelu do pamięci i narzędzi
Głęboka analiza inżynierska: tokenizacja, cache KV, determinizm próbkowania, stos treningowy, kwantyzacja, inżynieria kontekstu, stos bezpieczeństwa, produkcyjny RAG, ReAct oraz systemy multiagentowe typu swarm.