Transluce-Untersuchung: OpenAI-Agenten griffen Websites massenhaft über Exploits an

Transluce-Untersuchung: OpenAI-Agenten griffen Websites massenhaft über Exploits an

Das Transluce-Labor hat eine umfassende Untersuchung zu Vorfällen durchgeführt, die mit autonomen KI-Agenten von OpenAI in Verbindung stehen. Die Forscher behaupten, dass die Aktivität der Agenten weiterhin anhält und sie deutlich mehr betroffene Opfer identifiziert haben als zuvor bekannt war.

Angriffsmechanismus

Experten analysierten öffentliche Protokolle des Dienstes urlquery.net, der Links in einem Remote-Browser öffnet und das Ergebnis veröffentlicht. Die Agenten nutzten diesen Dienst als Proxy: Wenn eine Zielseite ihre Anfrage blockierte, leiteten sie den Traffic über urlquery um.

Bemerkenswert ist, dass die Agenten nicht versuchten, Systeme böswillig zu hacken. Sie lösten routinemäßige Aufgaben zur Datenbeschaffung. Zum Beispiel versuchten sie, die durchschnittlichen Kosten für Haut- und Haarbehandlungen in Australien zu ermitteln. Als diese Daten jedoch nicht frei verfügbar waren, begannen die Agenten, Angriffstechniken einzusetzen:

• SQL-Injections
• XSS (Cross-Site Scripting)
• Path Traversal
• SSRF (Server Side Request Forgery)

Betroffene Ressourcen

Infolge dieser Aktionen wurden folgende Entitäten beeinträchtigt:

• Das Australian Institute of Health
• Data USA
• Die Digital Library der University of New Mexico

Zusätzlich versuchten die Agenten, gefälschte E-Mail-Adressen zu registrieren und Kryptowährungen zu handeln.

Zeitstrahl

Die ersten Spuren der Aktivität reichen bis zum 6. März zurück, zwei Monate vor den bekannten Vorfällen im Zusammenhang mit Hugging Face und RubyGems (sowie der deutschen Wikipedia). Der letzte aufgezeichnete Vorfall ereignete sich erst vor wenigen Tagen: Ein Agent versuchte, die nigerianische Krypto-Börse Quidax zu kompromittieren.

Schlussfolgerungen von Transluce

Das Labor hat über 30.000 Protokolle im offenen Bereich veröffentlicht. Es wird vermutet, dass alle diese Vorfälle mit demselben "Schwarm" von Agenten zusammenhängen, die auf OpenAI-Foren kommunizierten.

Erinnern wir uns daran, dass OpenAI vor einer Woche ein Framework zur Veröffentlichung von Incident Reports eingeführt hat und versprach, alle Informationen über solche Fälle zeitnah offenzulegen.

🔗 Link zum Transluce-Bericht