Ein autonom agierendes KI-Modell ‌sei ⁠bei internen Tests ausser Kontrolle geraten, räumte OpenAI am Dienstag (Ortszeit) in einem Blog-Beitrag ein. Das Unternehmen sprach von einem «beispiellosen Cyber-Vorfall» und kündigte an, seine ⁠Sicherheitsvorkehrungen zu verstärken.

Den Angaben zufolge sollten die neuesten KI-Agenten in einer kontrollierten und isolierten Umgebung auf ihre Fähigkeiten zum Erkennen und Umgehen von IT-Sicherheitslücken getestet werden. Den ‌Programmen sei es jedoch gelungen, die Beschränkungen zu überwinden, Zugang zum Internet zu erlangen ‌und die Systeme von Hugging Face zu attackieren. Über diese Plattform ​können Nutzer frei zugängliche KI-Modelle und -Trainingsdaten herunterladen.

Hugging Face hatte vergangene Woche mitgeteilt, Opfer eines Cyberangriffs geworden zu sein. Dieser sei von völlig neuer Qualität. «Er wurde von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert.» Als Reaktion auf das OpenAI-Eingeständnis schrieb Hugging-Face-Mitgründer Clement Delangue auf dem Kurznachrichtendienst X: «Angesichts der Raffinesse des Schadcodes hatten wir vermutet, dass der Cyberangriff aus einem 'Frontier Lab' stammte. Wie sich herausstellte, war das tatsächlich der Fall!» ‌Führende KI-Entwickler heissen im Fachjargon «Frontier Labs».

Er sei sich sicher, dass hinter dem Angriff keine böse Absicht stecke, betonte Delangue. Sein Unternehmen und OpenAI arbeiteten mit Hochdruck an der Aufarbeitung des Vorfalls. «Es ist wirklich unglaublich, dass all das autonom passiert ​ist!» Die US-Cybersicherheitsbehörden waren für eine Stellungnahme zunächst nicht zu erreichen.

Für Katie Moussouris, Chefin der Beratungsfirma Luta Security, ​ist der Vorfall nur ein Vorgeschmack auf künftige Hackerangriffe. «Entwickler und staatliche Prüfer müssen ​daran arbeiten, KI-Systeme einzudämmen, zu überwachen und Betroffene zu informieren, wenn eine KI einen weiteren Houdini-Trick vollführt – idealerweise, bevor sie Dritten Schaden zufügt.» Harry Houdini war ein bekannter ‌Entfesselungskünstler.

Der Angriff auf Hugging Face sei aber auch mit bereits verfügbarer Technologie möglich, warnte Matt Suiche, ein Ingenieur bei der Softwarefirma Tolmo, die autonom agierende KI-Programme entwickelt. «Unsere Agenten können dies ebenfalls. Wir nutzen dabei nicht einmal die neuesten KI-Modelle.»

Die ​Diskussion um ​die zunehmenden Cybersicherheitsrisiken durch Künstliche Intelligenz (KI) hat spätestens mit der Entwicklung des ⁠Modells «Mythos» von Anthropic Fahrt aufgenommen. Das US-Startup macht dieses Programm bislang nicht allgemein zugänglich, ​da es sich durch verbesserte ⁠Fähigkeiten beim Aufspüren und Ausnutzen von IT-Sicherheitslücken auszeichnet. Stattdessen gewährte Anthropic im Rahmen des Projekts «Glasswing» ausgewählten Unternehmen und Institutionen Zugang, damit diese ihre Systeme ‌auf Schwachstellen prüfen können. Zeitweise schaltete Anthropic «Mythos» auf Anordnung der US-Regierung sogar komplett ab.

Auch OpenAI steht unter verstärktem Druck der Behörden. Das Unternehmen darf sein neuestes KI-Modell GPT-5.6 wegen Sicherheitsbedenken ebenfalls nur ausgewählten Nutzern zur Verfügung stellen. Dies ‌und der Vorfall bei Hugging Face werfen einen Schatten auf die Börsenpläne des Unternehmens. Es hatte Anfang ​Juni einen vertraulichen Antrag auf Zulassung zum Aktienhandel eingereicht. Einem Zeitungsbericht zufolge denkt OpenAI jedoch darüber nach, sein Debüt auf 2027 zu verschieben. Anthropic strebt ebenfalls an die Börse.

(Reuters)