Autonomer KI-Agent führt Angriff auf Hugging Face durch

Autonomer KI-Agent führt Angriff auf Hugging Face durch

In der vergangenen Woche wurde eine Eindringung in die Produktionsinfrastruktur von Hugging Face entdeckt. Der Ursprung lag in einem einzelnen bösartigen Datensatz, der eine Kombination aus zwei Schwachstellen in der HF-Datenverarbeitungspipeline nutzte: ein Handle im Dataset-Loader, der Remote Code Execution (RCE) ermöglichte, sowie eine Injection über die Dataset-Konfiguration. Sobald dieser Datensatz auf einem Worker verarbeitet wurde, erlangte der angreifende Agent die Fähigkeit, Code auf der Maschine auszuführen.

Von dort eskalierten die Ereignisse. Der Agent begann, Cloud-Zugänge zu sammeln, und verbreitete sich weiter durch interne Cluster. Der Angriff erfolgte auf eine für Menschen sehr untypische Weise, indem „Schwärme“ kurzlebiger Sandboxes eingesetzt wurden, die ihren Teil der Aufgabe ausführten und anschließend verschwanden, um Platz für die nächsten zu machen.

All dies geschah innerhalb eines Wochenendes. Als HF das Gesamtbild vollständig rekonstruiert hatte, überstieg die Anzahl der Aktionen des angreifenden Agents 17.000 (!). Dies alles geschah ohne menschliche Beteiligung.

HF hat inzwischen alle Probleme behoben und erklärt, dass keine Spuren einer Beeinträchtigung öffentlicher Modelle, Datensätze oder Spaces gefunden wurden.

Interessant ist jedoch, was passierte, als das Team versuchte, diese 17.000 Aktionen unter Verwendung kommerzieller Frontier-Modelle über Standard-APIs zu analysieren (um die Chronologie zu verstehen, echten Schaden von Ablenkungsmanövern zu trennen usw.): Sie stießen schlichtweg auf Guardrails.

Die Modelle verweigerten die Arbeit, weil das Sicherheitssystem den Analysten nicht vom Hacker selbst unterscheiden konnte. Infolgedessen musste die Analyse auf GLM-5.2 deployed werden.

Ironie? Das Wort trifft es nicht ganz. Bislang bleibt zudem unbekannt, welches Modell hinter dem Angriff stand.