Hugging Face musste einräumen, dass ein autonomer KI-Agent Teile der Produktionsumgebung kompromittiert hat. Ausgangspunkt war ein präparierter Datensatz, der zwei Code-Execution-Schwachstellen in der Datenverarbeitungspipeline ausnutzte, um einen Worker-Prozess zu übernehmen. Von dort aus eskalierte der Angreifer Rechte, erbeutete Cloud- und Cluster-Zugangsdaten und bewegte sich lateral durchs Netz – über tausende automatisierte Aktionen in kurzlebigen Sandboxes, gesteuert über öffentliche Dienste als Command-and-Control-Kanal. Besonders bemerkenswert: Hugging Face weiß bis heute nicht, welches Sprachmodell hinter dem Angriff steckte, ob ein gejailbreaktes gehostetes Modell oder ein ungefiltertes Open-Weight-Modell. Für die eigene forensische Aufklärung stießen die Verteidiger zunächst an eine Wand, weil kommerzielle KI-Modelle die Analyse echter Angriffsdaten aus Sicherheitsgründen verweigerten – erst mit dem offenen Modell GLM 5.2 von Z.ai, betrieben auf eigener Infrastruktur, ließen sich über 17.000 Angreiferaktionen rekonstruieren. Kundendaten wurden nach aktuellem Stand nicht manipuliert, betroffene Zugangsdaten wurden rotiert. Die Lehre für Unternehmen: Wer auf KI-gestützte Angriffe vorbereitet sein will, braucht ein eigenes, guardrail-freies Analysemodell im Haus, bevor der Ernstfall eintritt.
Comments powered by CComment