Wer haftet, wenn die KI sich irrt?

Wer haftet, wenn die KI zu einer falschen Entscheidung bei der Interpretation eines Röntgenbilds kommt? Interessanterweise ist die Antwort auf diese Frage zunächst einmal simpel: Da es bislang keine KI-spezifischen Gesetze zur Haftung gibt, gelten die üblichen Haftungsregeln. Die wichtigste Botschaft: Im Verhältnis zwischen Zahnarzt und Patient ergeben sich beim Einsatz von KI-Technologien als Hilfsmittel kaum Besonderheiten. Fehlentscheidungen auf der Grundlage einer fehlerhafter Hilfstechnik werden (zumeist) durch den Arzt verschuldet sein. Selbst wenn also die Vorhersage der KI falsch gewesen ist, entlastet das den Arzt ebenso wenig wie ein defektes Instrument bei operativen Eingriffen.

Eine spezielle KI-Haftung wird seit Jahren diskutiert. Erforderlich scheint das jedoch nicht, denn die vorhandenen Rechtsgrundlagen lassen sich – bislang jedenfalls – gut auf medizinische KI anwenden. Erst wenn in die Praxis Anwendungen kommen, die ähnlich einem vollkommen autonom fahrenden Auto den Anspruch erheben, ärztliche Tätigkeiten tatsächlich ersetzen zu können, müsste über eine solche spezielle KI-Haftung nachgedacht werden. Umgekehrt gilt dann möglicherweise aber auch, dass KI durch ihre überzeugende Genauigkeit als Stand der Technik und der medizinischen Erkenntnisse anzusehen ist – und Ärzte und Zahnärzte dann gute Gründe brauchen, um von der KI-Meinung abzuweichen.

Für die Haftung des Herstellers einer KI-basierten Technologie kommt es darauf an, ob das Ergebnis der KI überhaupt „falsch“ war. Die im Markt erhältlichen KI-Anwendungen erstellen jedoch – wie oben beschrieben – keine Diagnose, sondern berechnen Wahrscheinlichkeiten und unterstützen damit den Zahnarzt. Dabei greift die KI auf gelerntes Expertenwissen zurück: Irrt die KI in ihrem Vorschlag, muss das ja nicht zwingend heißen, dass die detektierte Struktur nicht viele Eigenschaften (zum Beispiel einer Kariesläsion) aufweist. Die abgeleitete, fehlerhafte Diagnose stammt dann aber nicht von der KI, sondern vom Nutzer. Warum das Ergebnis der KI danebenlag, lässt sich im Nachhinein zudem nicht immer ermitteln – das hängt vom Design der KI („Erklärbarkeit“, siehe Teil 4 dieser Serie), der Komplexität der Entscheidung und den Besonderheiten des konkreten Falles ab.

Ob die KI einen „Mangel“ im Sinne der Gewährleistung aufweist, hängt zudem davon ab, welche „Beschaffenheit“ vereinbart wurde. Oftmals kommen KI-Anwendungen ja unter Verweis auf Genauigkeitsmetriken auf den Markt – wobei aber immer auch Fehlertoleranzen angegeben werden. Die Käufer dürfen demnach eine Funktionsfähigkeit innerhalb dieses Rahmens erwarten: „Fehlerhaft“ sind demzufolge Produkte, die nicht eine „erwartbare Sicherheit“ oder Funktion aufweisen.

Bei neuen Technologien gibt dies den Gerichten einen weiten Beurteilungsspielraum. Produkte sind nicht allein deswegen fehlerhaft, weil sie mit einer bestimmten Wahrscheinlichkeit falsche Ergebnisse produzieren, wobei gerade bei Medizinprodukten schon eine kritische Messlatte angelegt wird.

Die Haftung für KI wird relevanter, wenn Systeme angeboten werden, die die verantwortliche Entscheidung der behandelnden Person ersetzen sollen oder in Medizinprodukten integriert sind. Hier bestehen aber sehr hohe regulatorische Hürden. Systeme müssen ihre Sicherheit im Vergleich zum menschlichen Experten und anderen KI-Anwendungen am Markt demonstrieren. 

Außerdem wird großes Augenmerk darauf gelegt, voraussehbare Risiken abzufangen. In einem KI-gestützten System zur Teleoperation könnten beispielsweise durch fest einprogrammierte Algorithmen die Handlungsmöglichkeiten der KI so beschränkt werden, dass Fehlentscheidungen möglichst wenig Schaden anrichten. Bei Unterstützungssystemen ist zum Beispiel auf die eingeschränkte Zuverlässigkeit und die Notwendigkeit der Überprüfung hinzuweisen.

Anforderungen ergeben sich beim Einsatz von KI-Technologien auch aus dem Datenschutz. Hier sind vor allem die Datenverarbeitungen des Herstellers betroffen. Für den Anwender gelten weiter die allgemeinen Anforderungen zum Umgang mit Patientendaten. Bei der Verwendung von Cloud-Anwendungen ist beispielsweise die Verschlüsselung eine wichtige Maßnahme zur Sicherstellung des Schutzes der Betroffenen.

Im Ergebnis entstehen durch den Einsatz von KI-Technologien in der Zahnarztpraxis bislang wenig Besonderheiten. Verantwortlich bleibt die behandelnde Person. Die KI ist (noch) ein Hilfsmittel, dessen technische Grenzen beim Einsatz berücksichtigt werden müssen. Für „Fehlentscheidungen“ der KI werden die Hersteller selten erfolgreich in Anspruch genommen werden können – jedenfalls solange nur Wahrscheinlichkeiten versprochen werden.