Olah forderte bei der Vorstellung der ersten Enzyklika von Papst Leo am Montag im Vatikan, Religionsvertreter, Regierungen und die Zivilgesellschaft müssten stärker an der Kontrolle der neuen Technik beteiligt werden. Es bestehe die reale Möglichkeit, dass KI menschliche Arbeit in sehr grossem Massstab verdrängen werde, warnte Olah.
Technologiekonzerne stünden unter starkem kommerziellen und geopolitischen Druck. Dieser könne im Widerspruch zu den Interessen der Gesellschaft stehen. Daher sei eine Überprüfung von aussen unerlässlich.
Der Papst rief Regierungen weltweit dazu auf, die Entwicklung von KI-gesteuerten Systemen zu verlangsamen. Die Technologie verbreite Desinformationen und könne die Welt in endlose Kriege stürzen. Es brauche ein aktiveres politisches Engagement, um die Dinge zu entschleunigen, wenn sich alles beschleunige, hiess es in dem Lehrschreiben mit dem Titel «Magnifica Humanitas». Leo forderte zudem strenge ethische Grenzen für den Einsatz von KI beim Militär und betonte, es sei unzulässig, Maschinen über Leben und Tod entscheiden zu lassen.
Der Anthropic-Mitgründer nannte drei Bereiche, die dringende Aufmerksamkeit erfordern: das Risiko massenhafter Arbeitsplatzverluste, die weltweite gerechte Verteilung der KI-Vorteile sowie die ungelöste Frage, wie das zunehmend komplexe Verhalten der Systeme zu interpretieren sei.
Olah war der einzige Vertreter grosser Technologiekonzerne bei der Veranstaltung im Vatikan. Das US-Unternehmen Anthropic entwickelt die KI-Software Claude. Olah und andere ehemalige Mitarbeiter von OpenAI hatten die Firma im Jahr 2021 gegründet. Sie hatten den Entwickler von ChatGPT zuvor aus Sorge über eine zu schnelle und unzureichend getestete Entwicklung verlassen.
(Reuters)
