Die auf Künstliche Intelligenz (KI) spezialisierte US-Firma OpenAI hat die Verantwortung für einen Hackerangriff auf das Startup Hugging Face übernommen. Ein autonom agierendes ‌KI-Modell sei ⁠bei internen Tests ausser Kontrolle geraten, räumte OpenAI am Dienstag (Ortszeit) in einem Blog-Beitrag ein. Das Softwareunternehmen um Vorstandschef Sam Altman sprach von einem «beispiellosen Cyber-Vorfall» und kündigte an, ⁠seine Sicherheitsvorkehrungen zu verstärken.

Experten warnen seit Langem davor, dass KI-Programme mit ihren rasant wachsenden Fähigkeiten selbst ihre Entwickler auf dem falschen Fuss erwischen können.

OpenAI zufolge sollten die neuesten KI-Agenten in einer kontrollierten und ‌isolierten Umgebung auf ihre Fähigkeiten zum Erkennen und Umgehen von IT-Sicherheitslücken getestet werden. Den Programmen sei es jedoch ‌gelungen, die Beschränkungen zu überwinden, Zugang zum Internet zu erlangen und die Systeme ​von Hugging Face zu attackieren. Über diese Plattform können Nutzer frei zugängliche KI-Modelle und -Trainingsdaten herunterladen.

Hugging Face hatte vergangene Woche mitgeteilt, Opfer eines Cyberangriffs geworden zu sein. Dieser sei von völlig neuer Qualität. «Er wurde von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert.» Als Reaktion auf das OpenAI-Eingeständnis schrieb Hugging-Face-Mitgründer Clement Delangue auf dem Kurznachrichtendienst X: «Angesichts der Raffinesse des Schadcodes hatten wir vermutet, dass der Cyberangriff aus einem 'Frontier Lab' stammte. Wie sich herausstellte, war das tatsächlich der Fall!» Führende KI-Entwickler heissen im Fachjargon «Frontier Labs».

Hugging Face ‌nutzte zur Analyse der Attacke nach eigenen Angaben KI-Modelle der chinesischen Anbieter Z.ai und Moonshot. Diese beiden Programme gelten westlichen Produkten als technologisch ebenbürtig. Zudem dürfen sie anders als viele US-Modelle auch zur Cyberabwehr eingesetzt werden. Hugging-Face-Mitgründer Thomas Wolf begründete die Entscheidung zugunsten der China-KI mit Zeitdruck und der Leistungsfähigkeit der Software.

Neue Diskussion über Cybersicherheit

Er ​sei sich sicher, dass hinter dem Angriff keine böse Absicht stecke, betonte Delangue. Sein Unternehmen und OpenAI arbeiteten mit Hochdruck ​an der Aufarbeitung des Vorfalls. «Es ist wirklich unglaublich, dass all das autonom passiert ist!» Die US-Cybersicherheitsbehörden ​waren für eine Stellungnahme zunächst nicht zu erreichen.

Für Katie Moussouris, Chefin der Beratungsfirma Luta Security, ist der Vorfall nur ein Vorgeschmack auf künftige Hackerangriffe. «Entwickler und staatliche Prüfer müssen daran arbeiten, KI-Systeme einzudämmen, zu überwachen ‌und Betroffene zu informieren, wenn eine KI einen weiteren Houdini-Trick vollführt – idealerweise, bevor sie Dritten Schaden zufügt.» Harry Houdini war ein bekannter Entfesselungskünstler.

Bundesregierung ist alarmiert

Die Bundesregierung bezeichnete den Hackerangriff auf Hugging Face als «Paradigmenwechsel». Sie verabschiedete am Mittwoch eine Cybersicherheitsstrategie für die Bundesverwaltung. So sollen unter anderem die Verantwortlichkeiten für die Abwehr von Hackerangriffen klarer geregelt werden. «Unser Anspruch ist, schnell ​eine hohe Sicherheitswirkung ​zu entfalten», sagte Claudia Plattner, Chefin des Bundesamts für Sicherheit in der Informationstechnik (BSI).

Die ⁠Gefahren durch automatisierte Hackerangriffe werden voraussichtlich auch ein Thema auf dem geplanten hochrangigen KI-Treffen zwischen den ​USA und China sein. Insidern zufolge wollen ⁠die beiden führenden Staaten bei der KI-Entwicklung im September über eine Regulierung dieser Technologie beraten.

Cybergefahren durch KI sind seit längerem ein Thema

Die Diskussion um die zunehmenden ‌Cybersicherheitsrisiken durch KI hat spätestens mit der Entwicklung des Modells «Mythos» von Anthropic Fahrt aufgenommen. Das US-Startup macht dieses Programm bislang nicht allgemein zugänglich, da es sich durch verbesserte Fähigkeiten beim Aufspüren und Ausnutzen von IT-Sicherheitslücken auszeichnet. Stattdessen gewährte Anthropic im Rahmen des Projekts «Glasswing» ausgewählten Unternehmen und Institutionen Zugang, damit ‌diese ihre Systeme auf Schwachstellen prüfen können. Zeitweise schaltete Anthropic «Mythos» auf Anordnung der US-Regierung sogar komplett ab.

Auch OpenAI ​steht unter verstärktem Druck der Behörden. Das Unternehmen darf sein neuestes KI-Modell GPT-5.6 wegen Sicherheitsbedenken ebenfalls nur ausgewählten Nutzern zur Verfügung stellen. Dies und der Vorfall bei Hugging Face werfen einen Schatten auf die Börsenpläne des Unternehmens. Es hatte Anfang Juni einen vertraulichen Antrag auf Zulassung zum Aktienhandel eingereicht. Einem Zeitungsbericht zufolge denkt OpenAI jedoch darüber nach, sein Debüt auf ‌2027 zu verschieben. 

(Reuters)