Les pirates exploitent désormais les hallucinations de l'IA pour commettre des fraudes

Unit 42, l'une des équipes mondiales de référence dans l'investigation sur les cyberattaques et l'analyse des logiciels malveillants, a publié une étude fascinante sur la technique dite du Phantom Squatting.

Comme on le sait, l'IA a tendance à inventer des URL inexistantes, et certains domaines sont générés plus fréquemment que d'autres. Par exemple, elle pourrait produire name_download.com au lieu de l'adresse correcte https://name.com.

Les attaquants ont compris que ces adresses fictives pouvaient être enregistrées puis utilisées pour du phishing. Le principe est similaire au typosquatting, où les hackers exploitaient les erreurs humaines en enregistrant des sites comme https://goggle.com.

De plus, il n'est même plus nécessaire de piéger activement les utilisateurs : l'IA fait le travail pour les pirates.

Et si vous pensez qu'il s'agit d'un cas isolé, détrompez-vous : les chercheurs ont déjà identifié plus de 13 000 URLs malveillantes existantes utilisant ce principe. Il existe également environ 250 000 domaines non enregistrés que les modèles inventent régulièrement. Une véritable aubaine pour les fraudeurs de toutes sortes.