Hakerzy wykorzystują halucynacje AI do oszustw
Hakerzy wykorzystują halucynacje AI do oszustw
Zespół Unit 42 opublikował raport o nowej technice oszukańczej zwanej Phantom Squatting, w której atakujący rejestrują fikcyjne domeny generowane przez sztuczną inteligencję.
Unit 42, jeden ze światowych liderów w zakresie śledztw dotyczących cyberataków i analizy złośliwego oprogramowania, opublikował fascynujące badanie na temat tzw. Phantom Squatting.
Jak wiadomo, modele AI mają tendencję do wymyślania nieistniejących adresów URL, przy czym niektóre domeny są generowane częściej niż inne. Na przykład system może wyprodukować adres name_download.com zamiast poprawnego https://name.com.
Atakujący zdali sobie sprawę, że te fikcyjne adresy można zarejestrować i wykorzystać do phishingu. Mechanizm ten jest podobny do typosquattingu, w którym hakerzy wykorzystywali błędy ludzkie, rejestrując strony takie jak https://goggle.com.
Co więcej, nie ma potrzeby wabienia użytkowników – robi to za hackerów sama sztuczna inteligencja.
Jeśli myślisz, że to odosobniony przypadek, pomyśl jeszcze raz: badacze zidentyfikowali już ponad 13 000 istniejących złośliwych adresów URL wykorzystujących tę zasadę. Istnieje również około 250 000 niezarejestrowanych domen, które modele regularnie "wymyślają". To prawdziwa kopalnia złota dla oszustów wszelkiego rodzaju.
Dlaczego to ważne
AnalizaTa nowa technika oszustwa pokazuje, jak AI może być wykorzystana do tworzenia zagrożeń, co komplikuje ochronę użytkowników. Wzrost ataków phishingowych opartych na fikcyjnych domenach wymaga opracowania nowych strategii bezpieczeństwa.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami