Regulierungsbehörden beginnen Roboter zu lehren, wer der Chef ist. Nachdem sie Milliarden von Euro für hochmoderne Technologien für künstliche Intelligenz ausgegeben haben, sehen sich europäische Banken und Versicherer mit einer strengeren Prüfung ihrer Instrumente konfrontiert, die Betrug bekämpfen, die Kreditwürdigkeit der Kreditnehmer prüfen und Entscheidungen über Ansprüche automatisieren sollen.

Neue EU-Regeln, die in dieser Woche in Kraft treten, werden die Kontrolle durch die Menschen und den Verbraucherschutz betonen, was Unternehmen, die versuchen, die Werkzeuge der Zukunft zu bauen, behindern könnte.

"Unternehmen, die KI-Technologien entwickeln, müssen die Datenschutzprobleme in den Entwurfsprozess einbeziehen und einbetten", sagt David Martin, Senior Legal Officer beim Verbraucherschützer BEUC in Brüssel, in einem Interview mit Bloomberg. "Das ist nichts, wo sie am Ende nur ein Kästchen ankreuzen können."

EU-Unternehmen im Nachteil

Die Regeln könnten ein Hindernis für Programmierer darstellen, die immer ausgefeiltere Algorithmen entwerfen möchten. Das dürfte EU-Unternehmen, die mit Wettbewerbern in den USA und Asien konkurrieren, bei der Entwicklung neuer Technologien benachteiligen, erklärt Nick Wallace, ein in Brüssel ansässiger Senior Policy Analyst am Center for Data Innovation, einem unabhängigen und gemeinnützigen Forschungsinstitut.

"Damit ein algorithmisches Modell für einen Menschen - auch für einen Menschen mit einem ziemlich guten Verständnis von Algorithmen - transparent ist, muss es innerhalb eines gewissen Komplexitätsgrads gehalten werden", sagt Wallace. "Je mehr Abstraktionen man hat, geschweige denn je mehr Datenpunkte, desto schwieriger wird es für jeden Menschen, sich hinzusetzen, alles durchzulesen und die Entscheidung zu hinterfragen."

Regulierungsbehörden weltweit versuchen Anschluss zu halten an das Tempo mit dem die Finanzindustrie alles, von Handelsabteilungen bis zu Kreditentscheidungen und Helpdesks für Kunden, automatisiert. Die Bankenbranche wird in diesem Jahr 3,3 Milliarden US-Dollar in KI und verwandte Technologien investieren, was sie nach Angaben des Marktforschungsunternehmens International Data Corporation zum zweitgrössten Ausgabenträger macht. Die Gesamtausgaben für die Technologien werden laut IDC bis 2021 auf 52,2 Milliarden US-Dollar steigen, gegenüber rund 19 Milliarden US-Dollar in diesem Jahr.

Zustimmung der Kunden

Die Allgemeine Datenschutzverordnung der EU, die am 25. Mai in Kraft tritt, sieht vor, dass Unternehmen in der Regel die Zustimmung von Personen einholen müssen, wenn deren persönliche Daten dazu verwendet werden sollen, bestimmte Arten von Entscheidungen, die erhebliche Auswirkungen haben, wie z. B. die Gewährung eines Kredits, vollständig zu automatisieren.

Die Kunden haben das Recht zu verlangen, dass der Mitarbeiter eines Unternehmens eingreift und eine Entscheidung überprüft. Sie haben die Befugnis, Details über einen automatisierten Prozess zu erhalten, um gegen diskriminierende Praktiken vorzugehen.

"Grosse Unternehmen erkennen an, dass dies eine Herausforderung darstellt und dass Persönlichkeits- und Datenschutzrechte bei der Konzeption und Entwicklung von Produkten oder Dienstleistungen jeglicher Art in vollem Umfang berücksichtigt werden müssen", sagt John Bowman, Senior Principal in London bei Promontory Financial Group, einer Tochtergesellschaft von IBM, in einem Interview mit Bloomberg.

Bedenken der Unternehmen

Als die politischen Entscheidungsträger im vergangenen Jahr die Details der Vorschriften festlegten, setzte sich die Finanzindustrie einschliesslich der Association for Financial Markets in Europe und U.K. Finance nachdrücklich dafür ein, dass die Behörden vorsichtig vorgehen und erkennen, dass die Technologien den Verbrauchern zugute kommen können.

In einem 24-Seite umfassenden Schreiben an politische Entscheidungsträger, erklärte die European Banking Federation: "Profiling-Aktivitäten sollten nicht unbedingt als negative Auswirkungen auf die Kunden wahrgenommen werden."

Das Gesetz wird von der Versicherungsbranche genau beobachtet, wo vier von fünf Führungskräften sagen, dass KI-Systeme in den nächsten zwei Jahren zusammen mit menschlichen Mitarbeitern eingesetzt werden sollen, wie Accenture in einem Bericht in diesem Jahr darlegte.

Allianz, Europas grösster Versicherer, nutzt in mehreren Bereichen seines Versicherungsgeschäfts Daten und Technologien zum maschinellen Lernen. Dazu gehört die Automatisierung eines papierbasierten und manuellen Underwriting-Prozesses für kleine und mittlere Unternehmen.

Die automatische Entscheidungsfindung basiere in der Regel entweder auf Einwilligung oder sei Bedingung für den Abschluss eines Vertrags, erklärt Philipp Raether, Chief Privacy Officer der Münchner Allianz Gruppe.

"In Szenarien, in denen Profiling für den Vertragsabschluss notwendig ist, wird dies für den Kunden nachvollziehbar gemacht", sagt Raether.

(Bloomberg)