Hackers exploram alucinações de IA para fraudes

A Unit 42, uma das principais equipes globais em investigações de ciberataques e análise de malware, publicou um estudo fascinante sobre a técnica denominada Phantom Squatting.

Como é sabido, os modelos de IA tendem a inventar URLs inexistentes, e alguns domínios são gerados com maior frequência. Por exemplo, a IA pode produzir name_download.com em vez do correto https://name.com.

Os atacantes perceberam que esses endereços fictícios podem ser registrados e utilizados para phishing. O conceito é semelhante ao typosquatting, no qual hackers exploravam erros humanos registrando sites como https://goggle.com.

Além disso, não há necessidade de atrair usuários manualmente; a própria IA faz esse trabalho para os hackers.

E se você pensa que este é um caso isolado, pense novamente: pesquisadores já identificaram mais de 13.000 URLs maliciosas existentes que utilizam esse princípio. Há também cerca de 250.000 domínios não registrados que os modelos inventam regularmente — um verdadeiro achado para fraudadores de todos os tipos.