KI in der ZahnarztPraxis – Teil 5

Wer haftet, wenn die KI sich irrt?

,
Falk Schwendicke
Die Anwendung von Software mit „künstlicher Intelligenz“ löst auch mit Blick auf die Haftung große Unsicherheiten aus. Wer haftet, wenn die KI sich irrt und dem Patienten ein Schaden entsteht? Wann ist ein Ergebnis der KI überhaupt „falsch“? Ein Thema, das komplizierter erscheint, als es in Wirklichkeit ist.

Wer haftet, wenn die KI zu einer falschen Entscheidung bei der Interpretation eines Röntgenbilds kommt? Interessanterweise ist die Antwort auf diese Frage zunächst einmal simpel: Da es bislang keine KI-spezifischen Gesetze zur Haftung gibt, gelten die üblichen Haftungsregeln. Die wichtigste Botschaft: Im Verhältnis zwischen Zahnarzt und Patient ergeben sich beim Einsatz von KI-Technologien als Hilfsmittel kaum Besonderheiten. Fehlentscheidungen auf der Grundlage einer fehlerhafter Hilfstechnik werden (zumeist) durch den Arzt verschuldet sein. Selbst wenn also die Vorhersage der KI falsch gewesen ist, entlastet das den Arzt ebenso wenig wie ein defektes Instrument bei operativen Eingriffen.

Eine spezielle KI-Haftung wird seit Jahren diskutiert. Erforderlich scheint das jedoch nicht, denn die vorhandenen Rechtsgrundlagen lassen sich – bislang jedenfalls – gut auf medizinische KI anwenden. Erst wenn in die Praxis Anwendungen kommen, die ähnlich einem vollkommen autonom fahrenden Auto den Anspruch erheben, ärztliche Tätigkeiten tatsächlich ersetzen zu können, müsste über eine solche spezielle KI-Haftung nachgedacht werden. Umgekehrt gilt dann möglicherweise aber auch, dass KI durch ihre überzeugende Genauigkeit als Stand der Technik und der medizinischen Erkenntnisse anzusehen ist – und Ärzte und Zahnärzte dann gute Gründe brauchen, um von der KI-Meinung abzuweichen.

Was ist ein Irrtum der KI?

Für die Haftung des Herstellers einer KI-basierten Technologie kommt es darauf an, ob das Ergebnis der KI überhaupt „falsch“ war. Die im Markt erhältlichen KI-Anwendungen erstellen jedoch – wie oben beschrieben – keine Diagnose, sondern berechnen Wahrscheinlichkeiten und unterstützen damit den Zahnarzt. Dabei greift die KI auf gelerntes Expertenwissen zurück: Irrt die KI in ihrem Vorschlag, muss das ja nicht zwingend heißen, dass die detektierte Struktur nicht viele Eigenschaften (zum Beispiel einer Kariesläsion) aufweist. Die abgeleitete, fehlerhafte Diagnose stammt dann aber nicht von der KI, sondern vom Nutzer. Warum das Ergebnis der KI danebenlag, lässt sich im Nachhinein zudem nicht immer ermitteln – das hängt vom Design der KI („Erklärbarkeit“, siehe Teil 4 dieser Serie), der Komplexität der Entscheidung und den Besonderheiten des konkreten Falles ab.

Wann ist sie mangelhaft?

Ob die KI einen „Mangel“ im Sinne der Gewährleistung aufweist, hängt zudem davon ab, welche „Beschaffenheit“ vereinbart wurde. Oftmals kommen KI-Anwendungen ja unter Verweis auf Genauigkeitsmetriken auf den Markt – wobei aber immer auch Fehlertoleranzen angegeben werden. Die Käufer dürfen demnach eine Funktionsfähigkeit innerhalb dieses Rahmens erwarten: „Fehlerhaft“ sind demzufolge Produkte, die nicht eine „erwartbare Sicherheit“ oder Funktion aufweisen.

KI IN DER ZAHNARZTPRAXIS

Erste Anwendungen mit Künstlicher Intelligenz (KI) für die Zahnarztpraxis gibt es inzwischen, doch noch immer herrscht viel Unsicherheit darüber, was KI eigentlich ist und leisten kann. Was können Zahnärztinnen und Zahnärzte vom Einsatz einer KI im Alltag erwarten? Welchen Mehrwert kann ein solches Werkzeug bringen? In der Reihe „KI in der Zahnarztpraxis“ erörtern Experten Fragen zum Verständnis der KI.

Bei neuen Technologien gibt dies den Gerichten einen weiten Beurteilungsspielraum. Produkte sind nicht allein deswegen fehlerhaft, weil sie mit einer bestimmten Wahrscheinlichkeit falsche Ergebnisse produzieren, wobei gerade bei Medizinprodukten schon eine kritische Messlatte angelegt wird.

Haftet die KI?

Die Haftung für KI wird relevanter, wenn Systeme angeboten werden, die die verantwortliche Entscheidung der behandelnden Person ersetzen sollen oder in Medizinprodukten integriert sind. Hier bestehen aber sehr hohe regulatorische Hürden. Systeme müssen ihre Sicherheit im Vergleich zum menschlichen Experten und anderen KI-Anwendungen am Markt demonstrieren. 

Außerdem wird großes Augenmerk darauf gelegt, voraussehbare Risiken abzufangen. In einem KI-gestützten System zur Teleoperation könnten beispielsweise durch fest einprogrammierte Algorithmen die Handlungsmöglichkeiten der KI so beschränkt werden, dass Fehlentscheidungen möglichst wenig Schaden anrichten. Bei Unterstützungssystemen ist zum Beispiel auf die eingeschränkte Zuverlässigkeit und die Notwendigkeit der Überprüfung hinzuweisen.

Was ist mit Datenschutz?

Anforderungen ergeben sich beim Einsatz von KI-Technologien auch aus dem Datenschutz. Hier sind vor allem die Datenverarbeitungen des Herstellers betroffen. Für den Anwender gelten weiter die allgemeinen Anforderungen zum Umgang mit Patientendaten. Bei der Verwendung von Cloud-Anwendungen ist beispielsweise die Verschlüsselung eine wichtige Maßnahme zur Sicherstellung des Schutzes der Betroffenen.

Fazit

Im Ergebnis entstehen durch den Einsatz von KI-Technologien in der Zahnarztpraxis bislang wenig Besonderheiten. Verantwortlich bleibt die behandelnde Person. Die KI ist (noch) ein Hilfsmittel, dessen technische Grenzen beim Einsatz berücksichtigt werden müssen. Für „Fehlentscheidungen“ der KI werden die Hersteller selten erfolgreich in Anspruch genommen werden können – jedenfalls solange nur Wahrscheinlichkeiten versprochen werden. 

Matthias Hartmann

Fachanwalt für IT-Recht, HK2 RechtsanwälteHausvogteiplatz 11A, 10117 Berlin 
130433-flexible-1900

Univ.-Prof. Dr. Falk Schwendicke

Direktor der Abteilung für Orale
Diagnostik, Digitale Zahnheilkunde
und Versorgungsforschung,
CharitéCentrum 3 für Zahn-, Mund- und Kieferheilkunde, MVZ Charité
Zahnheilkunde Charité –
Universitätsmedizin Berlin
Aßmannshauser Str. 4–6, 14197 Berlin

Melden Sie sich hier zum zm-Newsletter des Magazins an

Die aktuellen Nachrichten direkt in Ihren Posteingang

zm Heft-Newsletter


Sie interessieren sich für einen unserer anderen Newsletter?
Hier geht zu den Anmeldungen zm Online-Newsletter und zm starter-Newsletter.