GPT-6.1 Astra habe interne ‌Sicherheitstests nicht ⁠bestanden und unerwünschtes Verhalten an den Tag gelegt, sagte die verantwortliche Managerin des US-Startups, Saachi Jain, der Nachrichtenagentur Reuters am Montag (Ortszeit). «Wir wollen gewährleisten, dass ⁠unsere Modelle sicher sind, ganz gleich, ob sie innerhalb des Unternehmens oder bei Kunden eingesetzt werden.» Das «Wall Street Journal» hatte zuerst über die Entscheidung berichtet.

Astra ist darauf ausgelegt, komplexe ‌Aufgaben weitgehend selbstständig zu erledigen. Das KI-Modell habe sich über Anweisungen hinweggesetzt und Nutzer häufiger getäuscht als frühere ‌Versionen, erläuterte Jain. Darüber hinaus habe es keine ausreichende Rückmeldung zu seinen ​Aktionen gegeben. Die Entscheidung, die Veröffentlichung von Astra vorerst zu stoppen, fiel einen Tag vor Beginn der OpenAI-Entwicklerkonferenz, auf der das Unternehmen neue Produkte vorstellt.

«Ich glaube, OpenAI erlebt gerade einen 'Frankenstein-Moment'», sagte Marcel Tietjen, Technologie-Experte der Beratungsfirma BearingPoint. Bei dem KI-Entwickler und seinen Konkurrenten reife offenbar die Erkenntnis, dass die neuesten Modelle nicht kontrollierbar seien. Er gehe daher davon aus, dass sie das Entwicklungstempo drosseln werden, «weil die Risiken für die Unternehmen existenzbedrohend sein können».

OpenAI-KI war auch für Angriff auf «Hugging Face» verantwortlich

Derzeit steht die gesamte KI-Branche unter verschärfter Beobachtung, nachdem ausser Kontrolle geratene KI-Modelle in den vergangenen Monaten mehrfach in fremde IT-Systeme eingedrungen sind. So hatte sich ein OpenAI-Programm unerlaubt Zugang zu den Daten des staatlichen australischen Gesundheitsportals verschafft.

Am Dienstag entschuldigte sich das US-Unternehmen für die verzögerte Meldung des Vorfalls an ​die zuständigen Behörden und gelobte Besserung. Eine OpenAI-KI war auch für den Angriff auf die Entwickler-Plattform «Hugging Face» verantwortlich, der ​im Juli weltweit Schlagzeilen gemacht hatte.

Diese Vorfälle gehören zu den Auslösern der aktuellen Debatte, ob ​diese Technologie eine existenzielle Gefahr für die Menschheit darstellt. Führende Experten, darunter OpenAI-Chef Sam Altman, warnen vor den Risiken und fordern eine Drosselung des Entwicklungstempos. OpenAI hat inzwischen seinen für ‌diesen Herbst geplanten Börsengang verschoben. Der Erzrivale Anthropic strebt zwar weiterhin an die Wall Street und hofft auf eine Marktkapitalisierung von mehr als zwei Billionen Dollar. In einem ungewöhnlichen Schritt warnt das Startup in seinem Börsenprospekt jedoch davor, dass die Technologie, von deren Erfolg das Unternehmen abhängt, schwere Schäden verursachen könnte.

Rufe nach strengerer Regulierung

Für Dienstag war ein Treffen führender Vertreter der Technologiebranche ⁠mit der US-Regierung geplant, bei dem über eine Begrenzung der Risiken beraten werden ​sollte. US-Präsident Donald Trump lehnt eine verschärfte ⁠Regulierung jedoch ab. Die Warnungen vor den Gefahren Künstlicher Intelligenz (KI) seien ein «Schwindel» und spielten China in die Hände.

Die USA und die Volksrepublik liefern ‌sich einen Wettstreit um die Führung bei dieser Zukunftstechnologie. Beim jüngsten Treffen zwischen Trump und dem chinesischen Staatspräsidenten Xi Jinping spielte das Thema KI-Regulierung entgegen den Erwartungen nur eine untergeordnete Rolle.

Der US-Bundesstaat Florida will OpenAI jedoch dazu zwingen, neue KI-Modelle künftig nur ‌noch unter Aufsicht externer Kontrolleure zu entwickeln. Bundesdigitalminister Karsten Wildberger (CDU) sieht dagegen vorrangig die Unternehmen in der Pflicht.

«Die Welt ​ist jetzt nicht ein Testgebiet für Produkte», sagte er in einem Interview der TV-Sender RTL und ntv. Entwickler dürften neue KI-Modelle erst dann auf den Markt bringen, wenn diese auch sicher seien. Beim Thema Regulierung plädierte er für eine internationale Kooperation zwischen den USA, China und Europa.

(Reuters)