Hakerzy wykorzystują halucynacje AI do oszustw
Hakerzy wykorzystują halucynacje AI do oszustw
Zespół Unit 42 opublikował raport o nowej technice oszukańczej zwanej Phantom Squatting, w której atakujący rejestrują fikcyjne domeny generowane przez sztuczną inteligencję.
Unit 42, jeden ze światowych liderów w zakresie śledztw dotyczących cyberataków i analizy złośliwego oprogramowania, opublikował fascynujące badanie na temat tzw. Phantom Squatting.
Jak wiadomo, modele AI mają tendencję do wymyślania nieistniejących adresów URL, przy czym niektóre domeny są generowane częściej niż inne. Na przykład system może wyprodukować adres name_download.com zamiast poprawnego https://name.com.
Atakujący zdali sobie sprawę, że te fikcyjne adresy można zarejestrować i wykorzystać do phishingu. Mechanizm ten jest podobny do typosquattingu, w którym hakerzy wykorzystywali błędy ludzkie, rejestrując strony takie jak https://goggle.com.
Co więcej, nie ma potrzeby wabienia użytkowników – robi to za hackerów sama sztuczna inteligencja.
Jeśli myślisz, że to odosobniony przypadek, pomyśl jeszcze raz: badacze zidentyfikowali już ponad 13 000 istniejących złośliwych adresów URL wykorzystujących tę zasadę. Istnieje również około 250 000 niezarejestrowanych domen, które modele regularnie "wymyślają". To prawdziwa kopalnia złota dla oszustów wszelkiego rodzaju.
Dlaczego to ważne
AnalizaTa nowa technika oszustwa pokazuje, jak AI może być wykorzystana do tworzenia zagrożeń, co komplikuje ochronę użytkowników. Wzrost ataków phishingowych opartych na fikcyjnych domenach wymaga opracowania nowych strategii bezpieczeństwa.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Halucynacje AI (Hallucinations & Confabulations)
Generowanie przez model językowy informacji faktycznie nieprawdziwych, wymyślonych lub nieistniejących (np. bibliotek, metod API, cytatów), prezentowanych z wysokim prawdopodobieństwem pewności.
Halucynacje pakietów w kodzie (Hallucinated Packages)
Niebezpieczny rodzaj halucynacji modeli AI w programowaniu. Model wymyśla wiarygodne, ale nieistniejące biblioteki oraz pakiety npm/PyPI, tworząc krytyczne luki bezpieczeństwa (Slopsquatting).
Jak stworzyć własny design system w Claude Design: od moodboardu do animowanej maskotki
Kompletny przewodnik po budowaniu firmowego systemu designu w Claude Design: selekcja referencji, generowanie 4 koncepcji, tokenizacja, testy i animowana maskotka SVG.
50 stylów wizualnych: fundamentalny przewodnik dla systemów projektowych, UI/UX i art direction
Pełny wizualny słownik 50 stylów projektowych: analiza estetyki, palety kolorów, połączenia typograficzne, zasady dla systemów projektowych oraz precyzyjne sterowanie AI.