Was bei Datenschutz und KI-Verordnung jetzt zu beachten ist

Getting your Trinity Audio player ready...

Besonders im Bereich der Zahnmedizin, wo künstliche Intelligenz auf sensible Gesundheitsdaten treffen kann, gilt es rechtlich trittsicher zu sein. Fehler bei der Auswahl oder Nutzung von KI- und Cloud-Systemen können nicht nur zu Datenschutzverstößen, sondern auch zu Haftungsrisiken und empfindlichen Bußgeldern führen. Hinzu kommt mit der europäischen KI-Verordnung (KIVO) ein weiterer Rechtsrahmen, der insbesondere medizinische KI-Anwendungen als sogenannte Hochrisiko-Systeme einstuft und zusätzliche Pflichten für Anwender begründet [1].

Der Einsatz digitaler Systeme in der Zahnarztpraxis muss stets im Einklang mit den einschlägigen datenschutzrechtlichen Bestimmungen erfolgen. Zentrale Grundlage ist dabei die Datenschutz-Grundverordnung, die für die Verarbeitung personenbezogener Daten verbindliche Vorgaben macht und für die Verarbeitung von besonderen Kategorien personenbezogener Daten i. S. v. Art. 9 Abs. 1 DSGVO – zu denen auch Gesundheitsdaten inkl. biometrische und genetische Daten zählen – besonders strenge Maßstäbe anlegt [2]. Dies bedeutet, dass jede Datenverarbeitung – unabhängig davon, ob sie lokal, cloudbasiert oder KI-gestützt erfolgt – einer klaren rechtlichen Rechtfertigung bedarf und erhöhten Schutzanforderungen unterliegt.

Während klassische Praxissoftware datenschutzrechtlich inzwischen gut eingeordnet ist, stellen KI-basierte Anwendungen Zahnarztpraxen vor neue Herausforderungen. Anders als herkömmliche IT-Systeme beschränken sich KI-Lösungen häufig nicht auf die reine Speicherung oder Anzeige von Daten, sondern analysieren diese, erkennen Muster und geben Handlungsempfehlungen [3,4]. Gerade bei KI-gestützter Bildauswertung, Diagnoseunterstützung oder automatisierter Dokumentation stellt sich daher die Frage, auf welcher Rechtsgrundlage diese Datenverarbeitung erfolgt und wo ihre Grenzen liegen.

Für den Praxisalltag besonders relevant ist, dass die DSGVO zwar die Verarbeitung von Gesundheitsdaten zu Behandlungszwecken erlaubt, diese Erlaubnis jedoch nicht schrankenlos gilt. KI-Systeme dürfen nur insoweit eingesetzt werden, wie sie tatsächlich der medizinischen Versorgung dienen und keine weitergehenden, eigenständigen Zwecke verfolgen. Kritisch wird es insbesondere dann, wenn Patientendaten für Trainings-, Lern- oder Optimierungszwecke der KI verwendet werden sollen. In diesen Fällen reicht die Behandlungsgrundlage regelmäßig nicht aus; vielmehr sind strenge Zweckbindungen einzuhalten und eine behandlungsfremde (dienstleisterseitige) Datenverarbeitung auszuschließen, sofern die Daten nicht ohnehin im Rahmen der medizinischen Forschung gesondert verarbeitet werden sollen.

Die datenschutzrechtlichen Anforderungen sind immer dann zu beachten, wenn eine Person anhand eines Datums direkt identifiziert werden kann oder aber unter Zuhilfenahme weiterer Informationen identifizierbar ist. Für anonyme Daten gelten die Vorschriften der DSGVO nicht. Ob patientenbezogene Informationen – wie etwa Röntgenbilder – nun personenbezogen oder anonym sind, richtet sich nach der Re-Identifizierbarkeit und wie die jeweilige Fachdisziplin selbst das Risiko der Re-Identifizierbarkeit einordnet [5]. So kann ein Röntgenbild eines Kiefers, ohne Verbindung zu den Informationen aus der Patientenakte, durchaus als faktisch anonym gelten, sofern die Zahnarztpraxis eine Zuordnung nicht oder nur mit unverhältnismäßig hohem Aufwand betreiben kann. Wäre aber eine Re-Identifizierung etwa aufgrund einer besonderen Zahn- bzw. Kieferstellung möglich, so müsste man wieder von einem Personenbezug ausgehen. Es kommt mithin auf den Einzelfall an, weshalb im Rahmen der medizinischen Forschung auch auf zusätzliche technische Möglichkeiten der Anonymisierung, wie bspw. dem Prozess des MRI-Defacing zur Anonymisierung von MRT-Aufnahmen, zurückgegriffen wird [6]. Unabhängig davon, ob die verarbeiteten Daten nun personenbezogen sind oder nicht, bleiben für KI-Anwendungen die Anforderungen der KI-VO zu beachten, da diese Verordnung nicht an das Vorliegen eines Personenbezugs knüpft.

Hinzu kommt das Verbot ausschließlich automatisierter Entscheidungen mit rechtlicher oder vergleichbar erheblicher Wirkung. Auch wenn KI-Systeme wertvolle Unterstützung leisten können, bleibt die Verantwortung für Diagnose und Therapie stets beim behandelnden Zahnarzt. Die ärztliche Letztentscheidung und eine nachvollziehbare Kontrolle der KI-Ergebnisse sind datenschutzrechtlich zwingend.

Allgemeine datenschutzrechtliche Pflichten im Rahmen der Einführung

Unabhängig davon, ob in der Zahnarztpraxis KI-gestützte Anwendungen – etwa zur Diagnostik oder Praxisorganisation – oder klassische IT-Systeme eingesetzt werden und unabhängig davon, ob diese als Cloud-Lösung oder lokal („on premises“) betrieben werden, gilt ein Grundsatz: Sobald personenbezogene Daten verarbeitet werden, sind die allgemeinen datenschutzrechtlichen Anforderungen der DSGVO einzuhalten. Hierbei sollte der Daten- schutzbeauftragte (DSB) der Praxis am besten im Rahmen des Entscheidungsprozesses miteingebunden werden, damit rechtzeitig die richtigen Fragen für einen rechtskonformen Einsatz gestellt und unnötige Risiken vermieden werden können.

Zentrale Leitlinie sind dabei die in Art. 5 DSGVO verankerten Grundsätze. In der Praxis bedeutet dies, dass jede Datenverarbeitung rechtmäßig, nach Treu und Glauben und für die betroffenen Patientinnen und Patienten nachvollziehbar erfolgen muss [7]. Problematisch ist vor diesem Hintergrund, dass die Datenschutzinformation für die Patienten ausreichende Transparenz über die „Blackbox“ KI bieten muss. In der Praxis erfordert der Einsatz von KI- und Cloud-Systemen regelmäßig eine Anpassung der Datenschutzhinweise sowie – je nach Anwendung – eine ergänzende Aufklärung im Behandlungskontext [8]. Personenbezogene Daten dürfen zudem nur für festgelegte, eindeutige Zwecke erhoben und nicht ohne Weiteres für andere Zwecke weiterverwendet werden (Zweckbindung). Gleichzeitig ist darauf zu achten, dass nur solche Daten verarbeitet werden, die für den jeweiligen Zweck tatsächlich erforderlich sind (Datenminimierung).

Weitere Anforderungen betreffen die sachliche Richtigkeit der Daten sowie deren Speicherung nur so lange, wie es für den Behandlungs- oder Verarbeitungszweck notwendig ist. Hinzu kommt die Gewährleistung von Integrität und Vertraulichkeit, etwa durch geeignete technische und organisatorische Maßnahmen zum Schutz vor unbefugtem Zugriff (auch praxisintern) oder Datenverlust. Schließlich verpflichtet die Rechenschaftspflicht die Praxis dazu, die Einhaltung all dieser Grundsätze nachweisen zu können. Eng damit verknüpft ist Art. 25 DSGVO („Privacy by Design und by Default“). Danach sind Datenschutzanforderungen bereits bei der Auswahl und Implementierung von Softwarelösungen zu berücksichtigen. Für Zahnarztpraxen bedeutet dies, Systeme so auszuwählen und zu konfigurieren, dass datenschutzfreundliche Voreinstellungen bestehen und nur die tatsächlich erforderlichen Daten verarbeitet werden [9]. Dies gilt für KI-Systeme in besonderem Maße, da hier Datenverarbeitung häufig komplex und für die Anwendenden nicht vollständig transparent ist.

Datenschutzrechtliche Zuverlässigkeit des Dienstleisters

Neben allgemeinen datenschutzrechtlichen Pflichten gibt es besondere Anforderungen sowohl aus der DSGVO als auch der KIVO, die es vor der Anschaffung von digitalen Systemen für den Praxisalltag zu beachten gilt. Sowohl die KI-VO als auch die DSGVO verfolgen einen risikobasierten Ansatz. Es werden keine spezifischen Vorgaben zu Technologien und Algorithmen gemacht, sondern der Umgang mit personenbezogenen Daten bzw. die Auswirkungen durch KI-Systeme werden reguliert. Beide Gesetze weisen zudem mehrere Überschneidungen auf und sind gleichermaßen bei der Einführung KI-gestützter Systeme zu beachten [10]. Wenn es um die Auswahl von Anbietern KI-gestützter Systeme oder allgemein von Cloud-gestützten Systemen (etwa im Rahmen von digitalen Patientenakten oder im Praxismanagementbereich) geht, ist es entscheidend, das Produkt – bzw. den Anbieter – vor der Einführung einer datenschutzrechtlichen Prüfung zu unterziehen. Dies vermeidet nicht nur im Nachhinein Rechtskonformitätsprobleme, sondern ist auch Ausprägung der datenschutzrechtlichen Sorgfaltspflicht des Verantwortlichen gem. Erwägungsgrund 81 DSGVO.

Dabei kann bereits eine erste Sichtprüfung der Webseite des Anbieters oder des Prospekts für eine erste Zuverlässigkeitsprüfung geeignet sein. Entscheidend sind vor allem, ob der Anbieter Informationen über den Datenschutz und Datensicherheit proaktiv zur Verfügung stellt und – wenn ja – welche Aussagekraft diese besitzen. Bei allzu kurzen, verschlagworteten Statements im Duktus von „Die Lösung ist 100% datenschutzkonform“ ist jedenfalls grundsätzlich Skepsis angebracht. Eine rechtskonforme Ausgestaltung von Cloud-gestützten diagnostischen KI-Systemen ist komplex. Dieser Umstand muss sich entsprechend in dem Kommunikationshandeln des Dienstleisters widerspiegeln. Finden sich widersprüchliche Aussagen oder gar Berichte über Verletzungen des Schutzes personenbezogener Daten, spricht das gegen die Zuverlässigkeit des Dienstleisters.

Dienstleister, die Systeme (mit oder ohne KI-Komponenten) hosten, oder aber durch einen Wartungsvertrag Zugang zu den im System verarbeiteten personenbezogenen Daten erhalten (können), sind Auftragsverarbeiter i. S. v. Art. 4 Nr. 8 DSGVO. Auftragsverarbeiter zeichnen sich dadurch aus, dass sie gerade kein Eigeninteresse an der Verarbeitung personenbezogener Daten verfolgen, sondern – streng weisungsgebunden – als verlängerter Arm des datenschutzrechtlich Verantwortlichen (der Praxis) handeln [11]. Hierin liegt oft ein Widerspruch, wenn man sich die entsprechenden Angebotsmodelle und Verträge näher besieht. Die Absicht, Daten zu eigenen Zwecken zu nutzen – etwa zur Weiterentwicklung des Angebotsspektrums – ist insbesondere bei kleineren und US-amerikanischen Anbietern durchaus häufig. Solch ein Vorgehen ist mit der Auftragsverarbeiter- eigenschaft unvereinbar. Grundsätzlich muss daher in dem zuschließenden Auftragsverarbeitungsvertrag gem. Art. 28 DSGVO ausgeschlossen werden, dass die personenbezogenen Daten von Patienten zu Trainingszwecken der KI verwendet werden [12].Die Prüfung des Auftragsverarbeitungsvertrags bietet weitere Anhaltspunkte zur Beurteilung, ob der Anbieter und damit auch das System die notwendige Zuverlässigkeit für einen Praxiseinsatz besitzen. So sollten unbedingt die Unterauftragnehmer, die zur Erbringung der Hauptleistung eingesetzt werden, überprüft werden. Gerade kleinere Anbieter greifen häufig auf White-Labeling-Lösungen zurück und stellen im Grunde keinerlei Technologie und Infrastrukturen selbst bereit. So kann es vorkommen, das wesentliche Leistungsmerkmale von US-Amerikanischen Dienstleistern – wie bspw. Open-AI o.Ä. – erbracht werden, was neben der fehlenden datenschutzrechtlichen Zulässigkeit der Verarbeitung von personenbezogenen Daten zudem ein weiteres Risiko der Datenübermittlung in unsichere Drittstaaten darstellt. Dies ist allgemein sowohl nach Art. 44 ff. DSGVO als auch für Gesundheitsdaten im speziellen gem. § 393 Abs. 2 SGBV nur unter engen Voraussetzungen möglich.

Schließlich müssen die technischen und organisatorischen Schutzmaßnahmen (TOM) des Anbieters – und natürlich auch des Verantwortlichen in der Praxis – gem. Art. 32 Abs. 1 DSGVO ein dem Risiko angemessenes Schutzniveau gewährleisten. Was vor diesem Hintergrund als „angemessen“ zu qualifizieren ist, muss der Verantwortliche selbst beurteilen, wobei der Kontext der Verarbeitung ebenso zu berücksichtigen ist wie die Sensitivität der Daten selbst [13]. Pauschale Angaben oder gar Verschlagwortung der Maßnahmen reichen hier nicht aus. Die Entscheidungsträger der Praxis müssen letztlich begründen können, weshalb sie die vom Anbieter angegebenen TOM als ausreichend qualifizieren und haften letztlich auch hierfür. Maßstab sollte daher die Frage sein, ob ein sachverständiger Dritter die Angemessenheit anhand der gemachten Angaben beurteilen könnte.

KI-VO

Die KI-Verordnung verfolgt – ebenso wie die DSGVO – einen klar risikobasierten Ansatz: Nicht die Technologie als solche wird reguliert, sondern ihr konkreter Einsatz. Je nach Gefährdungspotenzial unterscheidet die Verordnung zwischen KI-Systemen mit unannehmbarem, hohem, begrenztem und minimalem Risiko [14]. Entsprechend steigen mit zunehmendem Risiko auch die rechtlichen Anforderungen und Pflichten für die Praxen. Unzulässig sind insbesondere Anwendungen, die eine erhebliche Gefahr für Sicherheit oder Grundrechte darstellen, etwa durch gezielte Manipulation.

Für Zahnarztpraxen von besonderer Bedeutung ist die Kategorie der Hochrisiko-KI. Darunter fallen Systeme, die entweder als Sicherheitsbestandteil eines regulierten Produkts eingesetzt werden oder selbst ein solches Produkt darstellen – etwa KI-gestützte Medizinprodukte. In der Praxis betrifft dies insbesondere Software zur Diagnoseunterstützung oder KI-Module in medizinischen Geräten. Aufgrund der engen Verzahnung mit der EU-Medizinprodukteverordnung (MDR) sind viele KI-Anwendungen im Gesundheitswesen regelmäßig als Hochrisiko-Systeme gem. Art. 6 Abs. 1 KI-VO einzuordnen, insbesondere ab Risikoklasse IIa i.S.d. Regel 11 Anhang VII MDR [15].

Für Hersteller solcher Systeme gelten umfangreiche Pflichten. Vor dem Inverkehrbringen ist eine Konformitätsbewertung durchzuführen, die unter anderem Anforderungen an Datenqualität, Bias-Vermeidung, technische Dokumentation, Protokollierung sowie Cybersicherheit und Robustheit umfasst. Zudem sind ein Qualitäts- und Risikomanagementsystem zu etablieren [16]. Aber auch Zahnarztpraxen als Anwendende stehen in der Verantwortung. Sie müssen prüfen, ob eine ordnungsgemäße Konformitätserklärung vorliegt und sicherstellen, dass das System ausschließlich entsprechend der vorgesehenen Zweckbestimmung eingesetzt wird (ähnlich dem Grundsatz der Zweckbindung der DSGVO). Hinzu kommen flankierende Pflichten, etwa die Durchführung einer Datenschutz-Folgenabschätzung nach der DSGVO oder den Einsatz fortlaufend zu überwachen, um Fehlfunktionen oder Risiken frühzeitig zu erkennen.

Die zeitlichen Vorgaben sind ebenfalls zu beachten: Hochrisiko-KI-Systeme müssen grundsätzlich ab dem 2. August 2026 den Anforderungen der KI-Verordnung entsprechen; für bestimmte Medizinprodukte gelten Übergangsfristen bis August 2027. Dem- gegenüber unterliegen KI-Systeme mit geringem Risiko – etwa Chatbots oder Dokumentationshilfen – primär Transparenzpflichten. Große Sprachmodelle werden als sogenannte Allzweck-KI gesondert reguliert. Mit der KI-VO gewinnt zudem die Schulung des Praxispersonals an Bedeutung. Mitarbeitende müssen in der Lage sein, die Funktionsweise und Grenzen eingesetzter KI-Systeme zu verstehen und deren Ergebnisse kritisch einzuordnen. Diese sogenannte „AI Literacy“ ist eine zentrale Voraussetzung für einen sicheren und verantwortungsvollen Einsatz im Praxisalltag.

Datenschutzfolgenabschätzung bei risikoreichen Datenverarbeitungen

KI-Systeme im Allgemeinen und insbesondere im medizinisch-diagnostischen Sektor bringen erhöhte datenschutzrechtliche Risiken mit sich. Zur Bewertung und Minimierung von Risiken kennt das Datenschutzrecht das Instrument der Datenschutzfolgenabschätzung (DSFA) gem. Art. 35 DSGVO. Diese ist immer dann verpflichtend durchzuführen, wenn die Verarbeitung personenbezogener Daten, insbesondere bei Verwendung neuer Technologien, aufgrund der Art, des Umfangs, der Umstände und der Zwecke der Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat [17]. Vor dem Hintergrund des KI-Einsatzes im medizinischen Bereich wird durch die Einstufung in die Kategorie der „Hochrisiko KI-Systeme“ in der KI-VO immer von einer Pflicht zur Durchführung einer DSFA auszugehen sein. Klarstellend enthält Art. 26 Abs. 9 KI-VO in diesem Kontext auch einen Verweis auf Art. 35 DSGVO, wonach die Betriebsanleitung, die vom Hersteller solcher Systeme gem. Art. 13 KI-VO den Betreibern – also den Zahnarztpraxen – bereitzustellen ist, die zentrale Grundlage bildet. In der Praxis zeigt sich damit, dass die Anforderungen aus KI-VO und Datenschutzrecht eng miteinander verzahnt sind und nicht getrennt betrachtet werden können. Auch hier spielt die Zuverlässigkeit des Anbieters folglich eine herausgehobene Rolle. Nicht nur die Anforderungen, dass diese Informationen vorliegen müssen, sondern auch deren Detaillierungsgrad kann folglich die Anfertigung einer DSFA erleichtern. Die Betriebsanleitung muss so ausgestaltet sein, dass sie die Anwendenden in die Lage versetzt, die datenschutzrechtlichen Risiken realistisch zu bewerten. Ein Schema, wie eine DSFA durchzuführen ist, kennt die DSGVO nicht. Das ist einerseits von Vorteil, da der Verantwortliche insofern zwar methodisch frei ist; andererseits kann es aber auch zu Unsicherheiten führen, wie im Einzelnen genau vorzugehen ist. Entscheidend ist, dass zumindest die in Art. 35 Abs 7 lit. a bis d DSGVO beschriebenen Mindestinhalte in der DSFA abgeprüft werden. Die Betriebsanleitung muss demnach eine systematische Beschreibung der geplanten Verarbeitungsvorgänge ermöglichen. Für die Zahnarztpraxis bedeutet dies etwa Klarheit darüber, welche personenbezogenen Daten verarbeitet werden, zu welchen Zwecken dies erfolgt und wie die Datenflüsse konkret ausgestaltet sind. Darüber hinaus sollte die Dokumentation eine Bewertung der Notwendigkeit und Verhältnismäßigkeit der Datenverarbeitung in Bezug auf den vorgesehenen Einsatzzweck unterstützen. Ebenso erforderlich ist eine nachvollziehbare Einschätzung der Risiken für die Rechte und Freiheiten der betroffenen Patienten – etwa im Hinblick auf Fehlentscheidungen der KI oder unzureichende Transparenz. Schließlich müssen auch geeignete technische und organisatorische Maßnahmen beschrieben sein, mit denen identifizierte Risiken begrenzt werden können. Hierzu zählen beispielsweise Kontrollmechanismen durch den Zahnarzt („Human in the Loop“), Zugriffsbeschränkungen oder Maßnahmen zur Qualitätssicherung der Ergebnisse.

Für die Praxis bedeutet dies: Die Datenschutzfolgenabschätzung ist bei Hochrisiko-KI nicht nur eine formale Pflicht, sondern ein zentrales Steuerungsinstrument. Sie ermöglicht es, Risiken frühzeitig zu erkennen und geeignete Schutzmaßnahmen festzulegen und schafft damit zugleich Rechtssicherheit im Praxisalltag. Sofern eine DSFA vom Verantwortlichen durchzuführen ist, besteht gem. § 38 Abs. 1 Satz 2 BDSG die Pflicht zur Benennung eines fachkundigen Datenschutzbeauftragten (DSB), unabhängig von der Mitarbeiterzahl der Praxis. Insbesondere bei kleineren Zahnarztpraxen, die (noch) nicht über einen solchen DSB verfügen, sollte das ebenfalls Bestandteil der Vorüberlegungen im Rahmen der Anschaffung derlei Systeme sein. In jedem Fall ist es ratsam, den DSB rechtzeitig im Vorfeld der Anschaffung von Cloud- und KI-Systemen mit einzubinden, denn er unterstützt und berät die Verantwortlichen in allen datenschutzrechtlichen Fragen, die sich im Zusammenhang derartiger Systeme stellen und kann sie hier aktiv entlasten.

Checkliste zur Einführung von Cloud-/KI-Systemen in der Zahnarztpraxis

Vor der Einführung

• Zweck und Erforderlichkeit des Systems geprüft
• Datenschutzbeauftragten frühzeitig eingebunden
• Anbieter auf Seriosität und Transparenz geprüft

Datenschutz und Verträge

• Auftragsverarbeitungsvertrag (Art. 28 DSGVO) abgeschlossen
• Nutzung von personenbezogenen Daten zu eigenen Zwecken (KI-Trainingszwecke) ausgeschlossen
• Drittlandtransfers rechtlich geprüft

Technische Sicherheit

• Zugriffskonzepte und Verschlüsselung umgesetzt
• Protokollierung und Datensicherung gewährleistet

KI-spezifische Anforderungen

• Konformitätserklärung des Herstellers liegt vor
• Ärztliche Letztentscheidung („Human in the Loop“) sichergestellt
• Datenschutzfolgenabschätzung durchgeführt (bei Hochrisiko-KI regelmäßig erforderlich)

Dokumentation und Transparenz

• Datenschutzhinweise für Patienten angepasst
• Verzeichnis der Verarbeitungstätigkeiten aktualisiert

Organisation

• Mitarbeitende geschult
• Prozesse für Datenschutzvorfälle definiert