«Chinesische und amerikanische Experten sind sich hinsichtlich der Risiken der KI weitgehend einig», betont Brian Tse, Gründer und Chef von Concordia ⁠AI, einer Denkfabrik für KI-Sicherheit und -Regulierung. Der Unterschied liege in der Einschätzung und Priorisierung der Risiken.

China liefert sich mit den USA ein Wettrennen um die Führung bei der Zukunftstechnologie KI. ‌Beim Thema Regulierung verfolgt die Regierung in Peking jedoch einen anderen Ansatz: Während sich die Diskussion in ‌den USA um eine drohende KI-Apokalypse dreht, wollen die chinesischen Behörden die ​Gefahren mithilfe technischer Standards und staatlicher Kontrolle im Zaum halten.

Die Einbeziehung externer Experten in die KI-Entwicklung, die Dario Amodei – der Chef des US-Startups Anthropic – als Kontrollinstanz vorschlägt, ist in der Volksrepublik daher bislang kein Thema. Dort vertraut man auf Verpflichtungen für Programmierer, Sicherheitstests und externe Überprüfungen.

Letztere sind bei chinesischen KI-Modellen meist leichter umzusetzen. Anders als US-Konkurrenten wie Anthropic oder OpenAI setzen die dortigen Entwickler meist auf «Open Weight»-KI-Modelle. Bei diesen sind die Trainingsdaten frei zugänglich und ‌können von jedermann analysiert und an die eigenen Bedürfnisse angepasst werden. Die Kehrseite der Medaille sei, dass sich die Verbreitung modifizierter Versionen kaum kontrollieren lasse, warnen Experten.

Für Chinas Behörden gehört der «Verlust der operativen Kontrolle» zu den Risiken sogenannter KI-Agenten, die Aufgaben weitgehend selbstständig erledigen. Dazu ​gehörten die Umgehung von Sicherheitsvorkehrungen und das ungewollte Eindringen in IT-Systeme Dritter. Bei einer Überprüfung durch das britische AI Security ​Institute (AISI) hatte unlängst die KI «Kimi K3» des chinesischen Startups Moonshot die Begrenzungen der abgeschlossenen Testumgebung ​überwunden.

Chinesische Entwickler müssen daher Vorkehrungen treffen, um derartige Kontrollverluste rasch zu entdecken, ungewollte Aktionen zu unterbinden und die Folgen zu beheben. Ausserdem werden sie dazu verpflichtet, ihre Modelle gegen die Manipulation ‌der Trainingsdaten und der KI-Algorithmen abzusichern. Darüber hinaus müssen die Programme ihre Nutzer über alle Entscheidungen informieren und die Zustimmung eines Menschen zu den geplanten Aktionen einholen.

Ergänzend arbeiteten die Behörden an einem expliziten Regelwerk für die Sicherheit von KI-Agenten, erläutert Branchenexperte Tse. Es wäre weltweit das erste seiner Art. Die Europäische ​Union (EU) hat ​zwar mit dem «AI Act» ein Gesetzespaket für den KI-Einsatz verabschiedet. Autonom agierende Agenten ⁠werden darin jedoch nicht erwähnt.

Die Regierung in Peking sieht die verbesserten Fähigkeiten der ​führenden KI-Modelle der US-Entwickler OpenAI und ⁠Anthropic zudem als Gefahr für die nationale Sicherheit. Sie will daher die eigene Cyberabwehr stärken. «Open Weight»-Modelle eignen sich dafür besonders gut, weil sie für die ‌Abwehr von Angriffen optimiert werden können. Die US-Online-Plattform Hugging Face nutzte nach eigenen Angaben eine KI des chinesischen Entwicklers Z.ai für die Analyse des Angriffs durch ein ausser Kontrolle geratenes KI-Modell von OpenAI. Die chinesische Software habe sich für diese Aufgabe als ‌besonders leistungsfähig erwiesen.

Die westlichen Rufe nach einer Drosselung der KI-Entwicklung finden daher in China kein Gehör. Die dortigen ​Behörden forcieren stattdessen den Einsatz dieser Technologie in sämtlichen Bereichen der Wirtschaft. Allerdings haben sie in der Vergangenheit die Veröffentlichung neuer KI-Modelle blockiert, die aus ihrer Sicht nicht den Vorgaben entsprachen. So verzögerte sich im Jahr 2023 die Markteinführung mehrerer Chatbots, bis die Cybersicherheitsbehörde CAC ein Regelwerk für generative KI verabschiedet hatte.

(Reuters)