KI im Gesundheitswesen und bei Medizinprodukten

KI-Systeme unterstützen Befundung, Triage, Therapieplanung und Verwaltung in Kliniken und Praxen. Für Hersteller und Anwender treffen dabei Medizinprodukterecht, KI-Verordnung, Datenschutzrecht und Berufsrecht aufeinander. Diese Seite richtet sich an MedTech-Unternehmen, Softwareanbieter, Kliniken, Praxen und Labore, die KI entwickeln oder einsetzen.

Software als Medizinprodukt

Software ist ein Medizinprodukt, wenn der Hersteller sie für einen medizinischen Zweck im Sinne von Art. 2 Nr. 1 der Medizinprodukteverordnung (EU) 2017/745 (MDR) bestimmt, etwa zur Diagnose, Überwachung, Vorhersage oder Behandlung von Krankheiten. Für In-vitro-Diagnostika gilt die Verordnung (EU) 2017/746 (IVDR). Maßgeblich ist die Zweckbestimmung, die der Hersteller in Kennzeichnung, Gebrauchsanweisung und Werbung festlegt. Wer eine KI-Anwendung als bloßes Organisations- oder Dokumentationswerkzeug vermarktet, ihr aber im Vertrieb diagnostische Fähigkeiten zuschreibt, riskiert eine abweichende Einstufung durch die Behörden.

Die Klassifizierung richtet sich nach Regel 11 des Anhangs VIII MDR. Software, die Informationen für diagnostische oder therapeutische Entscheidungen liefert, ist mindestens der Klasse IIa zuzuordnen, bei möglichen schweren Gesundheitsschäden höher. Damit ist in den meisten Fällen eine Benannte Stelle an der Konformitätsbewertung beteiligt.

KI-Verordnung: Medizinprodukte als Hochrisiko-KI nach Anhang I

MDR und IVDR sind in Anhang I der KI-Verordnung (EU) 2024/1689 aufgeführt. Nach Art. 6 Abs. 1 KI-VO ist ein KI-System ein Hochrisiko-System, wenn es selbst ein solches Produkt oder dessen Sicherheitsbauteil ist und das Produkt einer Konformitätsbewertung durch Dritte unterliegt. Für KI-Medizinprodukte ab Klasse IIa und für IVD, die eine Benannte Stelle erfordern, ist das regelmäßig der Fall.

Durch den Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) gelten die Hochrisiko-Pflichten für Produkte nach Anhang I erst ab dem 2. August 2028. Diese Zeit sollten Hersteller nutzen, denn die Anforderungen sind umfangreich:

Risikomanagementsystem für KI-spezifische Risiken (Art. 9 KI-VO), integriert in das Risikomanagement nach ISO 14971
Daten-Governance: Qualität, Repräsentativität und Bias-Prüfung der Trainings-, Validierungs- und Testdaten (Art. 10 KI-VO)
Technische Dokumentation und Protokollierung (Art. 11, 12 KI-VO), die nach Art. 8 Abs. 2 KI-VO mit der MDR-Dokumentation zusammengeführt werden kann
Transparenz und Gebrauchsanweisung für Betreiber (Art. 13 KI-VO), menschliche Aufsicht (Art. 14 KI-VO), Genauigkeit, Robustheit und Cybersicherheit (Art. 15 KI-VO)
Qualitätsmanagementsystem (Art. 17 KI-VO), das in das QMS nach MDR eingebettet wird

Die Konformitätsbewertung erfolgt nach Art. 43 Abs. 3 KI-VO im Rahmen des MDR- bzw. IVDR-Verfahrens. Die Benannte Stelle muss dafür auch für die KI-Anforderungen benannt sein. Hersteller sollten früh klären, ob ihre Stelle diese Benennung anstrebt.

Praxistipp: Kliniken und Praxen, die ein KI-Medizinprodukt einsetzen, sind Betreiber im Sinne von Art. 26 KI-VO. Sie müssen das System gemäß Gebrauchsanweisung verwenden, menschliche Aufsicht durch kompetentes Personal sicherstellen und Protokolle aufbewahren. Die Förderung der KI-Kompetenz der Beschäftigten nach Art. 4 KI-VO gilt bereits jetzt.

Gesundheitsdaten und DSGVO

Gesundheitsdaten sind besondere Kategorien personenbezogener Daten nach Art. 9 DSGVO. Ihre Verarbeitung ist grundsätzlich untersagt und nur bei einem Ausnahmetatbestand zulässig, etwa für die Gesundheitsversorgung und Behandlung (Art. 9 Abs. 2 lit. h DSGVO in Verbindung mit § 22 BDSG), aus Gründen der öffentlichen Gesundheit (lit. i) oder mit ausdrücklicher Einwilligung (lit. a). Für das Training eines Modells mit Patientendaten trägt der Behandlungszweck in der Regel nicht. Hier sind Einwilligung, Forschungsprivilegien nach Art. 9 Abs. 2 lit. j DSGVO mit § 27 BDSG oder eine wirksame Anonymisierung zu prüfen.

Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist beim Einsatz von KI auf Gesundheitsdaten regelmäßig erforderlich. Hersteller sollten nach Art. 25 DSGVO datenschutzfreundliche Voreinstellungen vorsehen, etwa lokale Verarbeitung oder Pseudonymisierung vor der Übermittlung.

Europäischer Gesundheitsdatenraum (EHDS)

Die Verordnung (EU) 2025/327 über den Europäischen Gesundheitsdatenraum ist am 26. März 2025 in Kraft getreten und gilt im Wesentlichen ab dem 26. März 2027, wobei zentrale Regeln zur Primär- und Sekundärnutzung erst ab dem 26. März 2029 und für weitere Datenkategorien ab 2031 anwendbar werden. Für KI-Entwickler ist vor allem die Sekundärnutzung relevant: Über Zugangsstellen für Gesundheitsdaten sollen Forschung und Entwicklung, auch das Training von Algorithmen, auf Antrag Zugang zu Gesundheitsdaten in einer sicheren Verarbeitungsumgebung erhalten. Hersteller elektronischer Patientenaktensysteme treffen zudem eigene Anforderungen an Interoperabilität und Protokollierung.

Ärztliche Schweigepflicht bei KI-Diensten

Wer als Arzt, Zahnarzt, Psychotherapeut oder als Angehöriger eines anderen Heilberufs Patientendaten an einen externen KI-Dienst übermittelt, muss § 203 StGB beachten. Nach § 203 Abs. 3 Satz 2 StGB ist die Offenbarung an sonstige mitwirkende Personen zulässig, soweit dies für deren Tätigkeit erforderlich ist. Der Berufsgeheimnisträger muss diese Personen nach § 203 Abs. 4 Satz 2 Nr. 1 StGB zur Geheimhaltung verpflichten, sonst macht er sich selbst strafbar.

In der Praxis bedeutet das:

Frei zugängliche Chatbots ohne Vertrag sind für Patientendaten ungeeignet.
Der Vertrag mit dem KI-Anbieter braucht neben einer Auftragsverarbeitungsvereinbarung nach Art. 28 DSGVO eine Verschwiegenheitsverpflichtung, die auch Unterauftragnehmer erfasst.
Der Anbieter darf Eingaben nicht für das Training eigener Modelle nutzen, wenn dafür keine Rechtsgrundlage besteht.
Bei Diensten außerhalb des EWR sind Drittlandtransfer (Art. 44 ff. DSGVO) und die Zugriffsmöglichkeiten ausländischer Behörden zu prüfen.
Berufsrechtliche Vorgaben, etwa § 9 der Musterberufsordnung für Ärzte und die jeweilige Landesberufsordnung, gelten zusätzlich.

Haftung beim Einsatz von KI

Für Behandlungsfehler gilt der Behandlungsvertrag nach §§ 630a ff. BGB. Der Arzt schuldet den fachlichen Standard; der Einsatz eines KI-Systems verschiebt die Verantwortung nicht auf den Hersteller. Wer einer KI-Empfehlung ungeprüft folgt oder ein gängiges, zuverlässiges System nicht nutzt, kann gleichermaßen haftungsrechtlich angreifbar sein. Die Dokumentation nach § 630f BGB sollte festhalten, welches System eingesetzt wurde und wie die ärztliche Entscheidung zustande kam.

Hersteller haften nach dem Produkthaftungsrecht. Die neue Produkthaftungsrichtlinie (EU) 2024/2853 erfasst Software einschließlich KI ausdrücklich als Produkt und ist bis zum 9. Dezember 2026 umzusetzen; der Bundestag hat das deutsche Umsetzungsgesetz am 8. Oktober 2026 beschlossen. Sie bringt Offenlegungspflichten und Beweiserleichterungen für Geschädigte. Eine eigene EU-KI-Haftungsrichtlinie gibt es nicht; die Kommission hat den Vorschlag 2025 zurückgezogen. Mehr dazu unter Produkthaftung für Software und KI.

KI im Klinikalltag: typische Fehler

Situation	Risiko	Abhilfe
Ärzte nutzen private Chatbot-Konten für Arztbriefe	Verstoß gegen § 203 StGB und Art. 9 DSGVO	Freigegebene Werkzeuge, KI-Richtlinie, Schulung
Eigenentwickeltes Prognosetool für Stationen	Klinik wird Hersteller eines Medizinprodukts und ggf. Anbieter nach KI-VO	Prüfung der Eigenherstellung nach Art. 5 Abs. 5 MDR und der Anbieterrolle
Update ändert das Verhalten eines KI-Systems	Wesentliche Änderung, neue Konformitätsbewertung	Vorab festgelegter Änderungsplan, Change-Management
Keine Protokolle der KI-Ausgaben	Beweisnot im Haftungsfall, Verstoß gegen Art. 26 KI-VO	Protokollierung und Aufbewahrungsfristen festlegen

So unterstützen wir Sie

Abgrenzung und Klassifizierung von KI-Software nach MDR, IVDR und KI-VO
Aufbau der regulatorischen Dokumentation und Integration der KI-Anforderungen in QMS und Risikomanagement
Datenschutzkonzepte für Training und Betrieb, Datenschutz-Folgenabschätzung, Anonymisierung
Verträge mit KI-Anbietern, Kliniken und Forschungspartnern einschließlich Verschwiegenheitsverpflichtung nach § 203 StGB
KI-Richtlinien und Schulungen für Kliniken und Praxen
Beratung zu Haftungsfragen und Produkthaftung

Häufige Fragen

Ist jede KI-Software im Krankenhaus ein Medizinprodukt?

Nein. Software für Terminplanung, Abrechnung oder reine Dokumentation ohne medizinische Zweckbestimmung ist kein Medizinprodukt. Sie kann aber unter andere Regeln fallen, etwa die Transparenzpflichten nach Art. 50 KI-VO oder die DSGVO.

Ab wann gelten die KI-VO-Pflichten für KI-Medizinprodukte?

Die Hochrisiko-Pflichten für Produkte nach Anhang I gelten nach dem Digital Omnibus ab dem 2. August 2028. Pflichten wie die Förderung der KI-Kompetenz nach Art. 4 KI-VO gelten bereits.

Darf eine Praxis Arztbriefe mit einem KI-Dienst erstellen?

Ja, wenn der Dienst vertraglich abgesichert ist: Auftragsverarbeitungsvertrag, Verschwiegenheitsverpflichtung nach § 203 Abs. 4 StGB, kein Training mit Patientendaten und geprüfter Drittlandtransfer. Der Arzt bleibt für den Inhalt verantwortlich.

Wer haftet, wenn die KI eine Diagnose übersieht?

Gegenüber dem Patienten haftet zunächst der Behandelnde nach dem Behandlungsvertrag. Ein Regress gegen den Hersteller kommt nach Produkthaftungs- und Vertragsrecht in Betracht, wenn das System fehlerhaft war.