Vizegouverneurin Sarah Breeden warnte auf der EZB-Konferenz im portugiesischen Sintra, dass die Systeme in Stressphasen die Volatilität an den Finanzmärkten verstärken könnten, wenn sie auf ähnliche Eingaben gleich reagieren. Derzeit setzen Investoren KI nach ihren Angaben überwiegend für risikoärmere Aufgaben wie Recherchen ein. Die Nutzung autonom handelnder Agenten könne jedoch rasch zunehmen. Regulierungsbehörden müssten zudem genau beobachten, welche Folgen diese Agenten für Verbraucher und den Zahlungsverkehr haben.

«Diese beiden Beispiele – agentischer Handel und agentisches Trading – zeigen, dass wir mit zunehmenden KI- Fähigkeiten immer wieder prüfen müssen, ob bestehende technologieunabhängige Regulierungsrahmen weiterhin ausreichen», sagte Breeden in ihrer Rede in Sintra.

Unternehmen setzen KI-Modelle zunehmend ein. Agenten gelten dabei als eine der wichtigsten Möglichkeiten, die Produktivität zu steigern, indem sie Aufgaben eigenständig ausführen, aber von Menschen angeleitet werden. Für Konsumenten könnte dies laut Breeden bedeuten, dass KI mithilfe solcher Agenten Urlaubsreisen bucht oder den Kühlschrank auffüllt. Im Finanzsektor könnten Agenten Handelsstrategien ausführen.

«Wenn KI-Agenten auf dieselben Eingaben oder Auslöser ähnlich reagieren, könnten sie in Stressphasen die Volatilität verstärken — insbesondere wenn sich ihre Ziele von den ursprünglichen Zielsetzungen oder den Zielen der öffentlichen Politik entfernen. Das wäre eine Ausprägung des Fehlanpassungsproblems, das bei einigen KI-Modellen auftreten kann», sagte Breeden.

Die britische Zentralbank arbeitet gemeinsam mit der Bank für Internationalen Zahlungsausgleich und der Bundesbank daran, zu untersuchen, ob Agenten ein «Herdenverhalten» auslösen können und wie Behörden diesem Problem begegnen können. Dazu gehört auch die Frage, ob Schutzmechanismen wie «Handelsunterbrechungen oder Notausschalter eingeführt werden sollten, die den Handel marktweit begrenzen oder stoppen würden, wenn fehlerhafte KI- Modelle einen Marktzusammenbruch verursachen.»

BoE-Gouverneur Andrew Bailey hat erklärt, die Technologie könne dazu beitragen, das schwache Wirtschaftswachstum Großbritanniens wieder zu beleben. Britische Behörden sorgen sich jedoch um die Auswirkungen auf den Bankensektor, insbesondere falls neue Modelle Schwachstellen für Cyberangriffe in der gesamten Wirtschaft offenlegen.

Breeden sagte, internationale Zusammenarbeit werde entscheidend sein. Neue KI-Fähigkeiten könnten sich über gemeinsame Technologieabhängigkeiten, global systemrelevante Finanzinstitute und die Marktinfrastruktur grenzüberschreitend verbreiten.

«Was ist, wenn die nächste Überraschung die neuesten Fähigkeiten in die Hände böswilliger Akteure legt oder sich Modelle so entwickeln, dass sie angesichts der Hinweise, dass sich einige im Test anders verhalten als unter realen Bedingungen, schwerer bewerten und kontrollieren lassen?», sagte sie. «Wir sollten nicht auf eine Krise warten, um die Zusammenarbeit aufzubauen, die wir brauchen.»

(cash/Bloomberg)