Interaktionsprüfungen, Medikationsanalysen oder eine wissenschaftliche Recherche – künstliche Intelligenz (KI) kann viele Aufgaben in Krankenhausapotheken erleichtern. Doch ab wann steht man dabei im Feld des Medizinprodukterechts oder des AI-Acts der EU? Eine nicht immer einfach zu beantwortende Frage. Dr. rer. nat. Damian Martus, Apotheker am Universitätsklinikum Heidelberg, über eine Regulatorik im Übergangsstadium.

OpenEvidence, eine KI-gestützte medizinische Wissens- und Rechercheplattform aus den USA, wurde im April 2026 vom EU-Markt genommen. Was ist passiert?

OpenEvidence ist ein KI-basiertes Sprachprogramm, mit dem medizinisches Fachpersonal auf große medizinische Literatur-Datenbanken zurückgreifen kann. Vermutlich ist es für KI-gestützte Literaturrecherche entwickelt worden, theoretisch ist jedoch auch eine KI-gestützte Diagnosestellung und Therapieentscheidungsunterstützung (Clinical Decision Support) möglich. Sobald aber ein Produkt oder eine Software zur klinischen Entscheidungsunterstützung genutzt wird, erfüllt sie einen medizinischen Zweck und wird auf europäischer Ebene als Medizinprodukt gemäß Medizinprodukteverordnung (MDR) eingestuft. Dann braucht es die Formulierung einer präzisen Zweckbestimmung des Produkts sowie eine entsprechende Validierung gegen diese. Das fordert übrigens auch der AI-Act der EU.

Und OpenEvidence hatte keine Zweckbestimmung?

Genau, die Anbieter haben ihr Produkt in der EU ohne Zweckbestimmung und entsprechende Validierung zur Verfügung gestellt und haben meines Wissens auch keine Sicherheitsdaten erhoben. Ein Einsatz von OpenEvidence zur klinischen Entscheidungsunterstützung barg daher, vor allem bei direktem Patientenbezug, ein erhebliches Risiko.

Das klingt nach vielen Grauzonen in der täglichen Praxis. Wo genau läuft die Trennlinie zwischen einfachem KI-Tool und Medizinprodukt?

In meinen Augen sind vor allem die in der MDR-geforderte Zweckbestimmung des jeweiligen Produkts und dann die Validierung gegen diese Zweckbestimmung relevant. Die Zweckbestimmung, welche das grundlegende Kriterium für die Klassifizierung u.a. von Software – und hierüber sprechen wir bei einem Großteil der KI-basierten Produkte – darstellt, muss klar, eindeutig und ohne Interpretationsspielraum formuliert sein. Gemäß der MDCG 2019-11 Leitlinie der „Koordinierungsgruppe Medizinprodukte“ muss die Software selbst einen medizinischen Zweck erfüllen, um als (KI)-Medizinproduktesoftware klassifiziert zu werden. Wo jedoch ein medizinischer Zweck beginnt und aufhört, ist immer wieder Bestandteil reger Diskussionen.

Bitte geben Sie Beispiele …

Wenn eine Klinik ein KI-Tool nutzt, um die Verbrauchsdaten von Medikamenten auf einer Station zu erfassen und damit Bestellprozesse zu optimieren – liegt dann ein medizinischer Zweck vor? Ich würde sagen, nein. Die Zweckbestimmung ist eher lagerlogistischer Natur.

Aber wie sieht es aus mit einem KI-Tool, welches ausgehend von der Leber- und Nierenfunktion des Patienten Dosisempfehlungen zu Medikamenten ableitet? Das ist eine klare medizinische Zweckbestimmung. Ein solches Produkt muss als KI-basiertes Medizinprodukt klassifiziert werden – mit allen regulatorischen und technischen Anforderungen, die mit einer Medizinprodukte-Klassifizierung gemäß MDR einhergehen.

Welche Implikationen hat der europäische AI-Act für Klinikapotheken?

Der EU-AI-Act wurde verabschiedet, um einen einheitlichen Rahmen für den Einsatz von KI-Systemen in der EU zu schaffen und richtet sich hierbei breit an Anbieter und Betreiber. Er spricht zahlreiche Aspekte an, etwa den Umgang mit Hochrisiko-KI-Medizinprodukten, die Pflichten von Herstellern, Anbietern sowie Betreibern von KI-Tools, Transparenz- sowie Validierungsanforderungen oder Post-Market-Untersuchungen.

Ein Krankenhaus, welches KI-gestützte Produkte nutzt, ist per definitionem ein Betreiber von KI-Produkten. Es muss nicht nur Anforderungen an Vigilanz und Datenschutz erfüllen, es muss auch einen zweckbestimmungsgemäßen Gebrauch sicherstellen: Gemäß Artikel 4 des AI-Acts muss der Betreiber den Schulungsbedarf aller Mitarbeiter ermitteln, zielgerichtete Schulungskonzepte erstellen und so dafür Sorge tragen, dass seine Mitarbeiter im beruflichen Kontext eine ausreichende technische, rechtliche und ethische KI-Kompetenz entwickeln. Wer etwa KI-gestützte Systeme zur Arzneimittelinformation, Interaktionsprüfung, Medikationsanalyse oder Dokumentation nutzt, muss die Limitationen und Risiken dieser Systeme kennen.

Was ist, wenn eine Klinik sich ein eigenes KI-Programm schreibt?

Dann gilt sie laut AI-Act als Anbieter. Egal, ob sie das KI-System entgeltlich oder unentgeltlich entwickelt, sie hat die gleichen Pflichten wie andere Anbieter von KI-gestützten Anwendungen.

Manövriert sich die EU durch solch eine Regulatorik ins Abseits? Wollen wir wirklich riskieren, dass sich weitere Anbieter vom EU-Markt zurückziehen?

Kurzfristig mag unsere umfassende Regulatorik hinderlich erscheinen, gerade bei viel genutzten Tools wie beispielsweise Open Evidence. Auch die Gesundheitssparte von ChatGPT (ChatGPT Health) ist vermutlich aufgrund erwähnter regulatorischer Hürden zum gegenwertigen Zeitpunkt in der EU nicht nutzbar.

Langfristig sehe ich in einer klaren Regulatorik, vor allen in Bezug auf Validierung und Sicherheitsdaten, aber eine große Chance. Wir sehen am Beispiel der USA, dass Quantität nicht gleich Qualität bedeutet. Zwar sind dort im Vergleich zu Europa mehr KI-gestützte Medizinprodukte marktverfügbar. Allerdings ist nur etwa jedes zehnte von der FDA zugelassene KI-unterstützte Medizinprodukt umfangreich validiert und bei etwa jedem viertem sind keine umfassenden Leistungsstudien durchgeführt worden1. Dies macht eine strenge fortlaufende Überwachung über die Lebensdauer des Produkts hinweg notwendig, weil die Gefahr besteht, dass unerwartete und riskante Leistungsänderungen bei einer breiten Anwendung auftreten.

Wir haben also nichts gewonnen, wenn wir in der EU zwar Zugang zu vielen KI-basierten Produkten haben, diese aber aufgrund mangelnder Validierungs- und Leistungsdaten und damit einhergehender Sicherheitsbedenken nicht gefahrlos einsetzen können.

Und deshalb könnte die strenge Gesetzgebung eine Chance sein?

Ja, ich halte eine klare Regulatorik, vor allen in Bezug auf Validierung und Sicherheitsdaten für essenziell, um KI-basierte Produkte in der medizinischen und pharmazeutischen Praxis sicher nutzbar zu machen. Es ist eine Chance, eigene europäische KI-basierte Medizinprodukte zu entwickeln: gemäß der MDR validiert, mit Sicherheits-sowie Leistungsstudien versehen, datenschutzkonform, mit europäischen Leitlinien angelernt, auf europäischen Servern sitzend und mit strenger Post-Market-Überwachung.

Wie realistisch ist das, nicht zuletzt mit Blick auf die Geschwindigkeit der KI-Entwicklung?

Aktuell tut sich in Bezug auf die doch noch recht starre Regulation KI-basierter Medizinprodukte einiges. Viele europäische Normen und Richtlinien werden momentan über- oder erarbeitet. Gleichzeitig entstehen europäische Leitlinien zum Einsatz von KI im Medizinprodukte- und Arzneimittelbereich. Hier wird also voraussichtlich deutlich mehr Klarheit geschaffen. Man darf gespannt sein, wie viele KI-gestützte Medizinprodukte europäischer Hersteller in der kommenden Zeit marktverfügbar werden.