So arbeiten Sie mit KI in der Praxis!

Was vor wenigen Jahren noch wie Science-Fiction anmutete, wird jetzt zunehmend Teil unserer Alltagswelt. Bild- und Spracherkennungsprogramme, Navigationssysteme, Übersetzungshilfen und Chatbots sind nur Beispiele für KI-Anwendungen, die wir bereits nutzen und die uns bei den Verrichtungen des täglichen Lebens unterstützen, heißt es seitens der BZÄK.

KI verberge sich etwa in Softwaresystemen, die für das Erstellen von virtuellen Modellen zum Einsatz kommen. "Sie wird für die Analyse von Bildaufnahmen und digitalen Modellen genutzt und ist in Designinstrumenten für die Planung und Herstellung von Restaurationen und kieferorthopädischen Apparaturen enthalten. Dabei sind die möglichen Anwendungen denkbar weit gestreut: Sie erstrecken sich über alle Fachgebiete der Zahn-, Mund- und Kieferheilkunde und umfassen den gesamten Verlauf der zahnärztlichen Behandlung; von der Befundung über die Diagnose bis hin zur Therapieplanung, -ausführung und -kontrolle“.

Auch nichtzahnärztliche Tätigkeiten, besonders in der Praxisverwaltung, kommen für den Einsatz von KI-Systemen in Betracht. Dazu zählen Sprachverarbeitungsprogramme für die Terminvergabe oder für die Bearbeitung von Patientenanfragen. Doch natürlich verarbeiten KI-Anwendungen Daten. „Sobald diese personenbezogen sind, gelten die Bestimmungen der EU-Datenschutz-Grundverordnung“, stellt die BZÄK klar. Gesundheitsdaten wiederum würden in der DSGVO als besondere Kategorie von personenbezogenen Daten definiert, für deren Verarbeitung zusätzliche Anforderungen erfüllt sein müssen. KI-Anwendungen unterliegen damit den Regelungen der DSGVO und weiteren spezifischen, deutschen Datenschutzbestimmungen. Dabei sei es unerheblich, ob eine KI-Anwendung im Kontext der Praxisverwaltung oder der Behandlung eingesetzt wird.

Bei KI-Systemen, die zu medizinischen oder zu zahnmedizinischen Zwecken verwendet werden, handele es sich definitionsgemäß außerdem um Medizinprodukte, das heißt, es gelten zusätzlich die europäischen und nationalen Bestimmungen für das Inverkehrbringen und den Betrieb von Medizinprodukten. Und gegenwärtig sei eine Zulassung nur dann möglich, wenn die KI-Anwendung „fertig“ trainiert ist. „Man spricht hier auch von statischer KI – in Abgrenzung zu dynamischen Systemen. Letztere entwickeln sich im laufenden Betrieb mithilfe neu gesammelter Daten kontinuierlich weiter“, so die BZÄK.

Längst werde KI als eine Schlüsseltechnologie für die Zukunftsfähigkeit nicht nur einzelner Berufszweige, sondern ganzer Gesellschaften angesehen. Vor diesem Hintergrund habe sich die EU dafür entschieden, einen eigenen Rechtsrahmen für KI-Systeme zu schaffen, der neue Grundlagen auch für das Gesundheitswesen legen wird. Den Vorschlag für eine EU-Verordnung zur Festlegung harmonisierter Vorschriften für KI hat die Europäische Kommission im April 2021 vorgelegt. Aktuell ist die Abstimmung darüber jedoch ins Stocken geraten.

Zum Spannungsfeld von KI und Berufsrecht hält die BZÄK fest: „Die eigenverantwortliche Berufsausübung der Zahnärztin oder des Zahnarztes steht auch beim Einsatz von KI-Anwendungen zu jeder Zeit im Vordergrund. Zahnärzte und Zahnärztinnen bleiben auch beim Einsatz von KI-Anwendungen persönlich voll verantwortlich.“

Worauf vor einer möglichen Anschaffung und Inbetriebnahme von Software auf Basis von KI zu achten ist, zeigt eine Checkliste. Sie soll Praxisinhaber dabei unterstützen, die richtigen Fragen zu stellen, die für eine solche Entscheidung wichtig sind.

KI-Anwendungen in der Zahnmedizin verarbeiten personenbezogene (Gesundheits-)Daten. Diese Datenverarbeitungen können zu unterschiedlichen Zwecken erfolgen, die jeweils datenschutzrechtlich zu beurteilen sind. So können die Zwecke der Verarbeitung einer Primärnutzung (Behandlung, Versorgung) oder aber auch einer Sekundärnutzung (Training, Erprobung und Bewertung von Algorithmen) dienen. Beim Einsatz von KI-Anwendungen in der Praxis steht deshalb die Leitung in der Pflicht, die datenschutzrechtlichen Vorgaben einzuhalten. BZÄK und KZBV haben dazu einen Datenschutz- und IT-Sicherheitsleitfaden herausgegeben, der die damit verbundenen Fragen beantwortet.

Als Einstieg sei es sinnvoll, sich mit folgenden Fragen vorab zu beschäftigen:

• "Gibt es nachvollziehbare Informationen darüber, welche Daten wie von der KI-Anwendung verarbeitet werden?

• Gibt es nachvollziehbare Informationen darüber, wo diese Daten gespeichert und verarbeitet werden?

• Gibt es nachvollziehbare Informationen darüber, ob beziehungsweise inwieweit Daten von Dritten (beispielsweise des Herstellers der Anwendung) weiterverarbeitet werden (können)? (Wer – außer dem verantwortlichen Zahnarzt/der verantwortlichen Zahnärztin hat Zugriff auf die Daten? Wer wartet die Software? Werden in der Praxis generierte Daten zu Trainingszwecken genutzt? Ist ein Auftragsverarbeitungsvertrag notwendig? Bietet der Hersteller einen Vertrag zur Auftragsverarbeitung an? Sind besondere Geheimhaltungsvereinbarungen zu treffen?)

• Gibt es nachvollziehbare Informationen darüber, welche Maßnahmen getroffen werden, um Daten zu schützen (Verschlüsselung etc.)?

• Gibt es nachvollziehbare Informationen darüber, welche Informationspflichten gegenüber Patientinnen und Patienten bestehen und wie eine Einwilligung der Patientinnen und Patienten eingeholt und dokumentiert wird?"

Wichtig laut BZÄK: Zahnärztinnen und Zahnärzte, die Produkte mit KI-gestützter Software einsetzen wollen, sind für deren zweckbestimmten Betrieb verantwortlich. Bei der Beurteilung von Funktionalität und Qualität einer KI-Anwendung könne die Beantwortung der folgenden Fragen helfen:

• "Ist das Produkt als Medizinprodukt zugelassen und gibt es nachvollziehbare Informationen zur Risikoklasse des Produkts?

• Sind Zweck, Funktionalität und Anwendungsbereich des KI-Systems konkret beschrieben?

• Gibt es eine (elektronische) Gebrauchsanweisung für das Produkt?

• Enthält die Gebrauchsanweisung alle relevanten Informationen und ist sie leicht verständlich?

• Ist nachvollziehbar, in welchen Ländern die Daten erhoben wurden, an denen das Produkt trainiert und getestet wurde?

• (Wurden die Daten in einem oder in mehreren Zentren erhoben? Das Training an Daten aus mehreren Ländern kann von Vorteil sein)

• Erlaubt das Produkt, die Logik einer Entscheidung nachzuvollziehen?

Für eine vertiefende Lektüre empfiehlt die BZÄK:

• Weiterführende Informationen zum Datenschutz und zur IT-Sicherheit finden Sie im gemeinsamen Leitfaden von Bundeszahnärztekammer und Kassenzahnärztlicher Bundesvereinigung: Datenschutz & IT-Sicherheit in der Zahnarztpraxis.

• Aktuelle Informationen zur IT-Sicherheit von KI-Systemen finden Sie auf den Internetseiten des Bundesamtes für Sicherheit in der Informationstechnik (BSI)

• Informationen zur Klassifizierung von Medizinprodukten finden Sie auf den Internetseiten des Bundesinstituts für Arzneimittel und Medizinprodukte (BfArM)

Rückfragen können Zahnärztinnen und Zahnärzte gerne an die Abteilung Versorgung und Qualität per E-Mail (abt.vuq@bzaek.de) stellen.