Künstliche Intelligenz hält mit grossen Versprechungen Einzug in die Medizin. Sie soll Diagnosen verbessern, Operationen präziser machen und Ärzte entlasten. Doch mit der schnellen Einführung von ‌KI mehren ‌sich Berichte über Fehlfunktionen und Verletzungen bei Patienten, wie eine Reuters-Recherche zeigt, für die Sicherheits- und Rechtsunterlagen analysiert wurden. Im Zentrum der Kritik stehen nicht nur die Hersteller, sondern auch US-Aufsichtsbehörden, die mit der rasanten Entwicklung überfordert scheinen. Das Ausmass wird an den Zahlen deutlich: Die Zahl der von der Arzneimittelbehörde FDA zugelassenen Medizinprodukte mit KI-Funktionen hat sich im Vergleich ​zu Ende 2022 auf 1357 verdoppelt.

Im Fokus steht ein Operationssystem für die Behandlung chronischer Nasennebenhöhlenentzündungen mit dem Namen «TruDi». Seit ‌der Integration einer KI-Software 2021 gingen bei der FDA mindestens 100 Meldungen ‌zu Fehlfunktionen oder unerwünschten Ereignissen ein, nachdem zuvor sieben registriert worden waren. In mindestens zehn Fällen wurden Patienten verletzt. Zwei von ihnen erlitten nachweislich einen Schlaganfall und reichten Klage ein.

Auch bei anderen KI-gestützten Geräten wurden Probleme gemeldet. So soll ein Herzmonitor Rhythmusstörungen übersehen haben, während ein Ultraschallgerät laut Berichten Körperteile eines Fötus falsch identifizierte. Die FDA weist darauf hin, dass Sicherheitsmeldungen keine eindeutigen Rückschlüsse auf Ursachen zulassen. Ein Sprecher der übergeordneten Gesundheitsbehörde HHS erklärt zudem, dass für medizinische Geräte, die KI nutzen, ⁠dieselben strengen Standards gelten wie für alle anderen Produkte.

Weniger Prüfer für immer mehr KI-Geräte

Eine im Fachmagazin Jama veröffentlichte Studie von Forschern mehrerer US-Universitäten ergab jedoch, dass KI-gestützte Geräte etwa doppelt so häufig zurückgerufen wurden wie andere Medizinprodukte, die unter ähnlichen Regeln zugelassen wurden.

Ein Grund für die zunehmenden Risiken liegt nach Einschätzung von FDA-Mitarbeitern beziehungsweise ​früheren Mitarbeitern in einer geschwächten Aufsicht. Ein spezialisiertes Team zur Prüfung von KI-Software sei unter der Regierung von Donald Trump ‌im Zuge der von Elon Musk vorangetriebenen Sparkampagne erheblich verkleinert worden. Dies habe die Fähigkeit beeinträchtigt, ‍komplexe Anträge sorgfältig zu prüfen. «Wenn die Ressourcen fehlen, ist es wahrscheinlicher, dass Dinge übersehen werden», sagt ein ehemaliger Prüfer.

Dazu kommt ein Zulassungssystem, das Experten für unzureichend halten. Die meisten KI-basierten Medizinprodukte müssen ​keine neuen klinischen Studien durchlaufen. Stattdessen können Hersteller die Zulassung beantragen, indem sie auf bereits genehmigte, aber oft KI-freie Vorgängermodelle verweisen. «Der traditionelle Ansatz der FDA zur Regulierung von Medizinprodukten ist der Aufgabe nicht gewachsen, die Sicherheit und Wirksamkeit von KI-gestützten Technologien zu gewährleisten», sagt Regulierungsexperte Alexander Everhart von der Washington University.

Gleichzeitig stehen Unternehmen unter Druck, KI ‌als Verkaufsargument einzusetzen. In einer Klage gegen den Hersteller des «TruDi»-Systems heisst es, die KI sei vor ⁠allem als Marketinginstrument integriert worden. Demnach nahm das Unternehmen ein Genauigkeitsziel von lediglich 80 Prozent ‌für Teile der neuen Technologie in Kauf, um sie schneller auf den Markt zu bringen. Zudem werfen die Unterlagen Fragen zu möglichen Interessenkonflikten auf: Der Chirurg, der die beiden Operationen vornahm, nach denen es ‍zu Schlaganfällen kam, war über Jahre hinweg als bezahlter Berater für den Hersteller tätig.

Regulierungsexperte Everhart beklagt, man verlasse sich darauf, dass die Hersteller gute Arbeit leisteten, ohne dass es «sinnvolle Leitplanken» gebe. Welche Folgen solche mutmasslichen Fehler für Patienten haben können, zeigt der Fall von ​Erin Ralph. Die Mutter von vier Kindern erlitt nach einer Operation mit dem «TruDi»-System einen Schlaganfall. «Ich bin immer noch in Therapie», ‍sagte sie mehr als ein Jahr später. «Es fällt mir schwer, ohne eine Orthese zu gehen und meinen linken Arm wieder funktionstüchtig zu bekommen.»

Der «TruDi»-Anbieter Acclarent hat die Vorwürfe in beiden Schlaganfall-Klagen zurückgewiesen. Das Unternehmen argumentiert, das System weder entwickelt noch hergestellt, sondern nur vertrieben zu haben, wie aus den Gerichtsakten hervorgeht. Der Mutterkonzern Integra LifeSciences erklärt, es gebe keine Hinweise auf einen Zusammenhang zwischen der KI-Technologie und den angeblichen Verletzungen.

(Reuters)