Unheimlich: KI-Tools brechen bei Tests aus und greifen autonom an!

Administratoren-Team reinheimer systemloesungen in Darmstadt – mehr zum KI-Angriff auf Hugging Face

„Die ich rief, die Geister / Werd‘ ich nun nicht los.“ Dieses Zitat aus Goethes „Der Zauberlehrling“ beschreibt eine Situation, in der man etwas angestoßen oder heraufbeschworen hat, das außer Kontrolle gerät und nicht mehr gestoppt werden kann. So erscheint es angesichts der aktuellen Vorgänge bei OpenAI: Hier brachen bei Tests offenbar KI-Agenten aus einer „stark isolierten Umgebung“ aus, gelangten ins Internet, indem sie eine bisher unbekannte Schwachstelle (Zero Day) ausnutzten; sie haben dann offenbar autonom die Produktionsinfrastruktur von Hugging Face (weltweit eine der größten KI-Plattformen zum Veröffentlichen und Herunterladen von KI-Modellen) angegriffen. Quelle: OpenAI, 21. Juli. Beteiligt waren den Angaben zufolge experimentelle Modelle – darunter GPT-5.6 Sol – und ein noch leistungsfähigeres Vorabmodell. „Es ist ein Stoff für düstere Science-Fiction-Geschichten“, kommentierte die Frankfurter Allgemeine Zeitung online.

Das Security-Team von Hugging Face und dessen KI-Agenten erkannten und beendeten den Angriff auf ihre Infrastruktur, so die Stellungnahme von OpenAI. Man arbeite „eng mit Hugging Face zusammen, um den Vorfall weiter zu untersuchen“.

OpenAI geht auch darauf ein, was diesen Vorfall so besonders macht: „… wir erwarten, dass es mit der zunehmenden Verbreitung immer leistungsfähigerer, cyberfähiger KI-Modelle künftig häufiger auftreten wird“ – „… something we expect to become more commonplace with the proliferation of increasingly cyber-capable models“. 

Über die Gefahren hoch entwickelter KI-Modelle hatten wir auf unseren Seiten bereits in Zusammenhang mit Claude Mythos Preview berichtet. Im Raum steht nun die Befürchtung, dass es in Zusammenhang mit immer leistungsfähigeren KI-Modellen zu einem Wettlauf zwischen IT-Security und immer besser ausgerüsteten Cyberangreifern kommen könnte. Wichtiger denn je ist eine professionelle Betreuung aller geschäftskritischen EDV-Infrastrukturen durch Systemadministratoren, die technisch auf der Höhe der Zeit arbeiten.