Medizin
Digital Humanism
Digital Literacy
ID BTBLGR-CMP-22
Kapitel 3.5
Medizinprodukt & KI
Medizinprodukte
Die Einstufung von KI-Anwendungen im Gesundheitswesen als Medizinprodukte hängt von ihrer spezifischen Zweckbestimmung ab. Generische Sprachmodelle wie ChatGPT sind keine Medizinprodukte, während spezialisierte Anwendungen zur Erstellung von Arztbriefen, die medizinische Informationen enthalten, als solche gelten können und spezifische regulatorische Anforderungen erfüllen müssen.
Verfasst von: Frank Stratmann
BTBLGR-CMP-22
Update vom 14.04.2025
Sprachmodelle im Gesundheitswesen: Wann ist eine KI-Anwendung ein Medizinprodukt?
Der Beitrag orientiert sich an der Einschätzung, ob ein Arztbrief-Generator, der ein Sprachmodell wie GPTx oder Llama 3 nutzt, als Medizinprodukt zu klassifizieren ist. Dieser Artikel stellt keine Rechtsberatung dar. Falls Sie entsprechende Expertise benötigen, schreiben Sie mir gern.
Nach der Entwicklung eines KI-gestützten Tools zur automatisierten Erstellung von Arztbriefen aus einfachen handschriftlichen Notizen stellten sich im Zuge der Implementierung regulatorische Fragen. Die Anwendung wurde von einem Chefarzt der Radiologie in Zusammenarbeit mit der IT-Abteilung entwickelt, um den Dokumentationsprozess zu optimieren und die Qualität der Arztbriefe zu verbessern. Das zentrale Bedürfnis war offenkundig, die vielfältigen Sprachbarrieren zu überwinden und Arztbriefe auf Basis fragmentierter Notizen in ein kohärentes Amtsdeutsch zu überführen.
Die Anfrage → berührt nicht nur einen wichtigen regulatorischen Kernpunkt bei KI-Anwendungen im Gesundheitswesen. Eine an sich generische Technologie wie ein Sprachmodell wird in spezifischen Anwendungskontexten plötzlich zum Medizinprodukt. Diese Unterscheidung ist nicht trivial und bedarf einer differenzierten Betrachtung, die ich im Folgenden darlegen möchte.
Mit diesem Eintrag in unserem Kompendium nehmen wir die Fährte auf, uns um die kulturelle Akzeptanz hybrider oder in geteilter Autorschaft zwischen Mensch und Maschine entstandener Medien im Gesundheitsgeschehen zu bemühen.
Die rechtliche Definition von Medizinprodukten
Gemäß der EU-Medizinprodukteverordnung (MDR) gilt Software dann als Medizinprodukt, wenn sie Informationen liefert, die zu »Entscheidungen für diagnostische oder therapeutische Zwecke« herangezogen werden oder wenn sie zur »Diagnose, Verhütung, Überwachung, Vorhersage, Prognose, Behandlung oder Linderung von Krankheiten« eingesetzt wird →. Entscheidend ist hierbei die Zweckbestimmung des Herstellers und die tatsächliche Funktion der Software im medizinischen Kontext.
Software als Medizinprodukt (SaMD)
Unter »Software als Medizinprodukt« (Software as Medical Device, SaMD) versteht man eigenständige Software (Standalone), die ein Medizinprodukt ist, aber nicht Teil eines anderen Medizinprodukts →. Diese Definition ist wichtig für die Unterscheidung zwischen allgemeinen Anwendungen und medizinischen Werkzeugen.
Warum ChatGPT und Llama 3 selbst keine Medizinprodukte sind
Für die Einstufung als Medizinprodukt ist eine explizite medizinische Zweckbestimmung durch den Hersteller erforderlich. Diese ist bei allgemeinen Sprachmodellen, die für eine Vielzahl von Anwendungen konzipiert wurden, nicht gegeben →.
Die länderübergreifende Arbeitsgruppe Medizinprodukte (AGMP) hat hierzu klar Stellung bezogen.
ChatGPT ist kein Medizinprodukt.
In der Begründung wird ausgeführt, dass ein digitales Sprachmodell ohne spezifische medizinische Zweckbestimmung lediglich »Geschichten aufgrund von Wahrscheinlichkeiten zusammenstelle, ohne diese inhaltlich zu begreifen«, was nicht zur Anwendbarkeit der MDR führe →. Diese Sichtweise entspricht auch der Rechtsauffassung des Europäischen Gerichtshofs →.
Die Hersteller dieser generischen KI-Modelle geben nicht an, dass ihre Produkte für medizinische Zwecke entwickelt wurden. →
Weder auf der Website von OpenAI noch an anderer Stelle lassen sich derartige Aussagen des Herstellers finden. Dort lässt sich lediglich die Aussage finden, dass ChatGPT dazu konzipiert wurde, aus diversen im Internet verfügbaren Textbausteinen selbst neue Texte zu generieren.
Warum eine Arztbrief-Anwendung ein Medizinprodukt sein kann
Anders verhält es sich bei spezialisierten Anwendungen, die auf diesen Basismodellen aufbauen, aber explizit für medizinische Zwecke entwickelt wurden. Der in der Anfrage beschriebene Arztbrief-Generator erfüllt mehrere Kriterien, die für die Einstufung als Medizinprodukt relevant sind:
Spezifische medizinische Zweckbestimmung: Die Anwendung ist speziell für die Erstellung von Arztbriefen konzipiert, die medizinische Informationen enthalten und für die weitere Behandlung von Patienten verwendet werden →.
Unterstützung klinischer Entscheidungen: Arztbriefe dienen der Übermittlung von Untersuchungsergebnissen, Diagnosen und Therapieempfehlungen, die für diagnostische und therapeutische Entscheidungen herangezogen werden →.
Professioneller medizinischer Kontext: Die Anwendung wird nicht von Patienten zur Eigenrecherche, sondern von medizinischem Fachpersonal im klinischen Alltag eingesetzt.
Vom generischen Modell zum spezifischen Medizinprodukt
Der entscheidende Unterschied liegt im Kontext und in der Zweckbestimmung.
Es ist ein Unterschied, ob ein Sprachmodell verwendet wird, um eine professionelle Einschätzung zu erheben, die grundsätzlich auch kritisch sein kann oder ob der Nutzer Patient ChatGPT selbst konsultiert und seine Frage dort in Eigenverantwortung stellt.
KI-Systeme, die im Gesundheitswesen eingesetzt werden und für medizinische Entscheidungen relevant sind, werden laut EU-KI-Verordnung sogar als Hochrisiko-KI-Systeme eingestuft →. Medizinprodukte mit KI-Funktionalität fallen regelmäßig unter diese Kategorie, wenn sie ab der MDR-Risikoklasse IIa eine Konformitätsbewertung durch Dritte benötigen.
Rechtliche und praktische Konsequenzen für das Arztbrief-Tool
Wenn das entwickelte Tool als Medizinprodukt einzustufen ist, ergeben sich daraus spezifische regulatorische Anforderungen:
Konformitätsbewertungsverfahren: Abhängig von der Risikoklasse muss ein entsprechendes Verfahren durchgeführt werden.
Qualitätsmanagementsystem: Die MDR verpflichtet Hersteller zur Einrichtung eines Risiko- und Qualitätsmanagementsystems →.
Technische Dokumentation: Umfassende Dokumentation der Entwicklung, Funktionsweise und Risikobewertung ist erforderlich.
Klinische Bewertung: Nachweis der klinischen Leistung und Sicherheit des Produkts.
Empfehlungen
Die Frage, ob eine KI-Anwendung im medizinischen Bereich ein Medizinprodukt darstellt, hängt entscheidend von ihrer spezifischen Zweckbestimmung und ihrem Anwendungskontext ab.
Während generische Sprachmodelle wie GPTx oder Llama 3 selbst keine Medizinprodukte sind, können darauf aufbauende spezialisierte Anwendungen, die für medizinische Entscheidungsprozesse konzipiert wurden, durchaus als solche eingestuft werden.
Für den beschriebenen Arztbrief-Generator bedeutet dies, dass eine sorgfältige regulatorische Betrachtung notwendig ist. Die Entwickler sollten:
Eine detaillierte Risikoanalyse durchführen
Frühzeitig regulatorische Expertise hinzuziehen
Das System auf Konformität mit den Anforderungen der MDR prüfen
Ein angemessenes Qualitätsmanagementsystem implementieren
Sprachmodelle und KI bieten enormes Potenzial für das Gesundheitswesen, etwa bei der Diagnose und der Bereitstellung von Informationen →. Die Balance zwischen Innovation und Regulierung zu finden, bleibt jedoch eine Herausforderung. Entscheidend ist letztlich, dass die Sicherheit der Patienten und die Qualität der medizinischen Versorgung gewährleistet bleiben.
Zitierte und konsultierte Literatur
Quick Check für Medizinprodukte unter der KI-VO - Osborne Clarke
Elektronischer Arztbrief (eArztbrief) | opta data - Telematikinfrastruktur
ChatGPT als Medizinprodukt im Sinne des EU-Rechts? - bayoocare
ChatGPT ist kein Medizinprodukt | PZ - Pharmazeutische Zeitung
Software als Medizinprodukt SaMD: Definition und Klassifizierung
Künstliche Intelligenz (KI) in Medizinprodukten – MDR Leitfaden
AI Act: Leitfaden für Medizinprodukt-Hersteller nach MDR (2025)
KI-basierte Medizinprodukte: MDR versus KI-VO | reuschlaw News
PDF-Praxisinformation: Elektronischer Arztbrief - Anwendungen in der TI
ChatGPT ist kein Medizinprodukt | PZ – Pharmazeutische Zeitung
Brauchen Chatbots eine Zulassung als Medizinprodukt? - MEDICA.de
Medizinprodukt - Definition, Kriterien zur Klassifizierung, Risikoklassen
Die kommende Entwicklung großer Sprachmodelle in der Medizin
ID BTBLGR-CMP-22
Kapitel 3.5
Die im Text gesetzten Links in Form nummerierter Fußnoten stehen für sich. Der Bezug auf die Informationen findet sich deshalb direkt auf der Seite, wohin der Link führt. Für diese Praxis haben wir uns wegen der Übersichtlichkeit der Seite entschieden. Die Zahlen werden deshalb nicht in der üblichen Reihenfolge gesetzt, da die Überarbeitung der Seite immer wieder neue Quellen aufnimmt.