Der bislang unveröffentlichte Brandbrief einiger Software-Entwickler habe die Liste der Kritikpunkte des Verwaltungsrats an Altmans Arbeit verlängert, sagten zwei mit der Angelegenheit vertraute Personen. Kritisch beurteilte das Gremium Altmans Bestreben, ChatGPT um jeden Preis zu vermarkten, ohne die gesellschaftlichen Folgen vollständig zu erfassen. Nach Protesten von Investoren und Belegschaft ist der OpenAI-Mitgründer inzwischen auf seinen Posten zurückgekehrt.
Die Nachrichtenagentur Reuters konnte das Warnschreiben zunächst nicht einsehen. Die Verfasser reagierten nicht auf eine Bitte um Stellungnahme. OpenAI wollte sich auf Anfrage zu diesem Thema nicht äussern. In einem internen Rundschreiben bestätigte das Unternehmen allerdings, dass der Verwaltungsrat einen Brief erhalten habe. Ausserdem wurde darin das Projekt «Q*» (sprich: Q-Star) erwähnt.
Durchbruch auf dem Weg zu künstlicher «Superintelligenz»
Nach Ansicht einiger OpenAI-Mitarbeiter gelang im Rahmen des Projekts «Q*» ein Durchbruch auf dem Weg zu einer künstlichen «Superintelligenz», sagte einer der Insider. Die neue Software habe bestimmte mathematische Probleme gelöst, die die Entwickler hinsichtlich des Potenzials von «Q*» optimistisch stimme. Reuters konnte diese Aussagen nicht unabhängig verifizieren.
Eine dem Menschen überlegene «Künstliche Allgemeine Intelligenz» (Artificial General Intelligence, AGI) könnte komplexe Aufgaben ohne Einmischung von aussen bewältigen. Kritiker befürchten, dass derartige Programme dann Verteidigungssysteme steuern, politische Propaganda verbreiten oder Waffen produzieren.
Mathematik ist der Schlüssel
Für Experten ist die Verbesserung mathematischer Fähigkeiten der Schlüssel für die Weiterentwicklung von KI. Bislang sind Programme wie ChatGPT gut bei der Übersetzung oder Erstellung von Texten, indem sie anhand statistischer Wahrscheinlichkeiten das nächste Wort vorhersagen. Da es bei mathematischen Gleichungen aber nur eine einzige richtige Antwort gibt, scheitern sie oft an Aufgaben auf Grundschulniveau. Eine Verbesserung der Fähigkeiten in diesem Bereich gilt als Hinweis auf Denkvermögen, das menschlicher Intelligenz ähnelt.
In ihrem Warnbrief an den OpenAI-Verwaltungsrat hätten die Verfasser auf die Fähigkeiten der neuen KI und die von ihr ausgehenden Gefahren hingewiesen, ohne jedoch Details zu nennen, sagten die Insider weiter. Ausserdem wiesen sie auf die Arbeit des Teams «KI-Wissenschaftler» hin. Dessen Ziel sei es, KI so zu optimieren, dass sie Forschungsaufgaben übernehmen kann.
In der vergangenen Woche hatte Altman auf dem Gipfeltreffen der Asiatisch-Pazifischen Wirtschaftsgemeinschaft Durchbrüche bei der Entwicklung dieser Technologie in Aussicht gestellt. «Viermal in der Geschichte von OpenAI - zuletzt vor einigen Wochen - durfte ich dabei sein, wenn wir den Schleier der Unwissenheit lüften und die Grenzen des Wissens erweitern.» Einen Tag später musste er als OpenAI-Chef seinen Hut nehmen.
(Reuters)
