Für KI-Medizinprodukte fehlen in Europa nicht die Regeln – sondern die Messlatte.

KI-Systeme unterstützen zunehmend Diagnose, Prognose und klinische Entscheidungen. In der EU greifen dafür mit der Medizinprodukteverordnung (MDR), der In-vitro-Diagnostika-Verordnung (IVDR) und dem Artificial Intelligence Act (AI Act) gleich drei Regelwerke ineinander. Während MDR und IVDR ursprünglich für klassische Medizinprodukte konzipiert wurden, adressiert der AI Act spezifische Anforderungen an KI-Systeme. Insbesondere lernende KI verändert ihr Verhalten jedoch über die Zeit – durch Updates, Neutraining oder „Data Drift“. Daher bleibt die praktische Umsetzung dieser Regelwerke gerade bei lernenden und adaptiven Systemen herausfordernd. Es stellt sich die Frage: Wie zertifiziert man etwas, das nach der Zulassung nicht stabil bleibt?

Dieser Frage sind wir gemeinsam mit der Deutschen Akkreditierungsstelle (DAkkS) nachgegangen – federführend von Svenja Reisinger, Promovierende an der Professur für Digital Public Health. Für den Scoping Review wurden 126 Publikationen aus den Jahren 2022 bis 2025 systematisch ausgewertet und die bislang fragmentierte Literatur zur risikoadjustierten Konformitätsbewertung erstmals systematisch zusammengeführt; die Befunde verdichten sich zu sechs Themenfeldern von der Schnittstelle zwischen AI Act und MDR/IVDR über Risikoklassifizierung und Lebenszyklus-Governance bis zu Haftung und Marktüberwachung.

Das zentrale Ergebnis ist kontraintuitiv. Der EU-Rahmen gilt als umfassend – die wiederkehrende Lücke liegt nicht in fehlenden Regeln, sondern in ihrer Operationalisierung. Prinzipien wie Robustheit, Fairness und menschliche Aufsicht werden verlangt; einheitliche Kennzahlen und prüfbare Nachweise, um sie zu belegen, fehlen aber weitgehend. Der Rahmen ist, zugespitzt, prinzipienstark und kennzahlenschwach.

Konkret passt eine einmalige Konformitätsbewertung schlecht zu Systemen, die sich fortlaufend verändern, und unklare Überwachungspflichten drohen die Verantwortung auf klinisches Personal zu verschieben, das die Leistung der KI im Alltag kaum überprüfen kann. Bemerkenswert ist zudem, dass nur 6 der 126 Arbeiten (5 %) empirisch sind. Das Feld ist normativ weit entwickelt, empirisch aber dünn. Viele „Herausforderungen“ sind bislang dokumentierte Bedenken, nicht systematisch beobachtete Befunde.

Daraus ergeben sich klare Ansatzpunkte. Die Verhältnismäßigkeit ließe sich über harmonisierte Nachweisanforderungen zu Robustheit, Verzerrung (Bias) und Unsicherheit operationalisieren. Ebenso braucht es klare Lebenszyklus-Verantwortung für Monitoring, Dokumentation und die Auslöser einer Neubewertung. Und schließlich sollten die Kapazitäten der benannten Stellen gezielt gestärkt werden, flankiert von praxistauglicher Anleitung, wie sich AI-Act-Pflichten in bestehende MDR/IVDR-Verfahren integrieren lassen.