Cyberbetrug durch KI-Halluzinationen: Phantom Squatting im Anstieg
Cyberbetrug durch KI-Halluzinationen: Phantom Squatting im Anstieg
Das Unit 42 Team hat eine neue Betrugsmasche namens „Phantom Squatting“ identifiziert, bei der Angreifer fiktive Domains registrieren, die von KI-Modellen halluziniert werden.
Unit 42, eines der weltweit führenden Teams für die Untersuchung von Cyberangriffen und Malware-Analysen, hat eine faszinierende Studie über das sogenannte Phantom Squatting veröffentlicht.
Wie allgemein bekannt ist, neigen KI-Modelle dazu, nicht existierende URLs zu erfinden, wobei bestimmte Domains häufiger generiert werden als andere. Ein Beispiel wäre die Ausgabe von name_download.com anstelle der korrekten Adresse https://name.com.
Angreifer haben erkannt, dass diese fiktiven Adressen registriert und für Phishing-Angriffe missbraucht werden können. Das Verfahren ähnelt dem Typosquatting, bei dem Hacker menschliche Tippfehler ausnutzten, indem sie Seiten wie https://goggle.com registrierten.
Der entscheidende Unterschied: Es ist nicht mehr nötig, Benutzer aktiv in die Falle zu locken – die KI erledigt dies für die Hacker.
Wer glaubt, es handle sich um einen isolierten Vorfall, irrt sich: Forscher haben bereits über 13.000 bestehende schädliche URLs identifiziert, die dieses Prinzip nutzen. Zudem gibt es etwa 250.000 unregistrierte Domains, die von Modellen regelmäßig erfunden werden. Für Betrüger aller Art ein wahres Fundstück.
Warum das wichtig ist
AnalyseDiese neue Betrugstechnik verdeutlicht, wie Künstliche Intelligenz zur Schaffung komplexer Bedrohungen instrumentalisiert wird, was den Schutz der Nutzer erheblich erschwert. Der Anstieg von Phishing-Angriffen auf Basis fiktiver Domains erfordert dringend die Entwicklung neuer Sicherheitsstrategien.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
Steuerung des Computers durch KI (Computer Use)
Eine Technologie von Anthropic (vorgestellt in den Modellen Claude 3.5 Sonnet), die es neuronalen Netzen ermöglicht, das Betriebssystem wie ein Mensch zu steuern: Bildschirm-Screenshots erstellen, Fensterkoordinaten analysieren, den Mauszeiger bewegen, auf Schaltflächen klicken und Text eingeben – ohne Verwendung spezieller APIs.
Das AI-FOMO-Syndrom (Angst, den nächsten Durchbruch zu verpassen)
Ein psychologischer Zustand chronischer Angst und Erschöpfung durch das Gefühl, dem rasanten KI-Fortschritt hinterherzuhinken. Ausgelöst durch tägliche Ankündigungen neuer Modelle, Plugins und sensationelle Schlagzeilen von Influencern in sozialen Medien.
Dienst schätzt Risiko einer Sperre durch Anthropic ein
Chinesische Entwickler haben einen Dienst gestartet, der IP-Adresse, Land, Provider, Verbindungstyp sowie DNS- und WebRTC-Leaks analysiert und ein Vertrauensranking von 0 bis 100 für Anthropic-Zugriffe erstellt.
MIT-Forschende zeigen, dass GPT-6 Astra andere KI-Modelle durch direkte Gewichtsänderungen verbessern kann
In einem Experiment erhöhte Astra die Genauigkeit von Qwen3.5-0.8B auf MATH-500 von 7,9 % auf 48,1 %, indem nur 0,016 % der Modellgewichte geändert wurden.