ChatGPT in der Sprechstunde: Warum die Zulassung fehlt, obwohl der Einsatz längst da ist

Gastbeitrag von Daniel Karpati

⏱️ Lesezeit: ca. 3 Minuten

💬 Der Chatbot in der Sprechstunde

Sie tippen einen unklaren Befund in den Chat und lassen sich Differentialdiagnosen vorschlagen. Die Antwort kommt in Sekunden, ist strukturiert und plausibel. Deshalb lohnt sich die Frage: Wieso sind Chatbots wie ChatGPT eigentlich keine Medizinprodukte?

KI-generiertes Bild zur Illustration des Themas.

📋 Was ein Medizinprodukt zum Medizinprodukt macht

Ob eine Software als Medizinprodukt gilt, hängt vereinfacht vom Verwendungszweck ab, den der Hersteller festlegt und über Werbung kommuniziert. Sieht dieser Verwendungszweck eine medizinische Anwendung vor, etwa Diagnose, Überwachung, Vorhersage, Prognose, Behandlung oder Linderung einer Erkrankung, greift die europäische Medizinprodukteverordnung (MDR) oder in der Schweiz die Medizinprodukteverordnung (MepV) [1, 2, 3].

Bei frei zugänglichen Chatbots trifft beides nicht zu: Weder ist der Verwendungszweck medizinisch definiert, noch bewerben die Anbieter ihr Produkt als medizinische Anwendung. Formal sind sie deshalb keine Medizinprodukte, obwohl vielleicht Fachpersonen sie zur klinischen Entscheidungsunterstützung einsetzen [4]. Über die Einstufung entscheidet nämlich nicht, was das Tool kann, sondern was der Hersteller sagt, dass es sein soll.

✅ Was Ihnen eine Zertifizierung bringt

Wäre der Chatbot zertifiziert, könnten Sie sich auf zweierlei verlassen. Erstens hätte eine unabhängige Stelle vor dem Markteintritt geprüft, ob er tatsächlich leistet, was der Hersteller verspricht. Zweitens würde er auch danach unabhängig kontrolliert: Der Hersteller muss die Leistung im Einsatz überwachen und Vorkommnisse melden [1].

Wie tief diese Prüfung geht, hängt vom Risiko ab. Die MDR verlangt von jedem Hersteller, die vorhandene klinische Evidenz systematisch aufzuarbeiten und zu dokumentieren [1].

⚠️ Warum kaum ein Chatbot zertifiziert ist

Dass die meisten frei zugänglichen Chatbots nicht zertifiziert sind, ist häufig eine bewusste Entscheidung: Wer keinen medizinischen Verwendungszweck festlegt, fällt nicht unter die MDR [3, 5]. Für Software mit rein administrativem Zweck ist das sachgerecht [3]. Heikel wird es, wenn ein Tool faktisch Diagnosen vorschlägt, der Hersteller aber keinen medizinischen Zweck deklariert [5].

Doch selbst wer eine Zertifizierung anstrebt, stösst auf ein grundsätzliches Problem: Grosse Sprachmodelle können auf dieselbe Frage unterschiedliche Antworten geben und werden laufend weiterentwickelt. Die MDR verlangt dagegen, dass jede Version geprüft ist; wesentliche Änderungen lösen eine erneute Bewertung aus [1]. Das ist aufwendig und technisch komplex, aber machbar: Mit «Prof. Valmed» ist in der EU bereits ein LLM-basiertes System für Fachpersonen als Medizinprodukt der Klasse IIb zertifiziert [5].

🔎 Die Diskussion ist offen

Prof. Stephen Gilbert von der TU Dresden spricht sich mit Koautoren in einem Nature-Medicine-Artikel für eine Zertifizierungspflicht von LLM-Chatbots aus, da diese bereits heute für medizinische Fragen genutzt werden, ohne die Grundprinzipien zu erfüllen, die man von medizinischer KI erwartet: Nachvollziehbarkeit, Bias-Kontrolle, Validierung [4].

Eine Dresdner Forschungsgruppe, zu der auch Gilbert gehört, geht 2025 einen Schritt weiter [5]. Ihr Grundsatz: Der Zweck eines Systems ist das, was es tatsächlich tut. Verhält sich ein Chatbot wie ein therapeutisches Werkzeug, soll er deshalb auch so reguliert werden, unabhängig davon, wie der Hersteller ihn deklariert [5].

Dahinter steht ein Zielkonflikt: Die Zertifizierungspflicht schützt Patientinnen und Patienten, sie kann aber auch die Erprobung neuer Anwendungen und Innovation im Gesundheitswesen bremsen. Wie liesse sich beides ermöglichen? Kontrollierte Erprobungsräume zwischen Kliniken, Behörden und Anbietern wären ein denkbarer Weg: Anwendungen unter Aufsicht und mit klaren Grenzen im Versorgungsalltag testen und dort, wo sich Nutzen und Aufwand rechtfertigen, den Schritt zur Zertifizierung gehen.

📌 Fazit für die Praxis

Bevor Sie ein KI-Tool klinisch nutzen, prüfen Sie zwei Punkte:

1. Ist das Tool als Medizinprodukt gekennzeichnet (CE)?

2. Nutzen Sie es für den Zweck, den der Hersteller vorsieht?

Fehlt die Kennzeichnung, kann das Tool eine wertvolle Denkhilfe sein. Entscheidung und Dokumentation liegen dann aber ganz bei Ihnen.

Auch ein zertifiziertes Tool nimmt Ihnen die Verantwortung nicht ab. Es gibt Ihnen aber eine geprüfte Grundlage.

Zum Autor: Daniel Karpati hat bei Medgate KI-Anwendungen von der Konzeption bis in den klinischen Betrieb gebracht und war an der Zertifizierung der Medgate App als Medizinprodukt der Klasse IIb nach MDR beteiligt.

Der Autor äussert sich in diesem Beitrag ausschliesslich in persönlicher Eigenschaft. Die Inhalte geben seine eigene Einschätzung wieder und nicht die Position seines Arbeitgebers.

📚 Quellen

1. Verordnung (EU) 2017/745 über Medizinprodukte (MDR), Art. 2, 10, 61, Anhang VIII und XIV.

2. Medizinprodukteverordnung (MepV), SR 812.213.

3. MDCG 2019-11 Rev. 1: Qualification and Classification of Software under MDR/IVDR. Europäische Kommission, 2025.

4. Gilbert S et al. Large language model AI chatbots require approval as medical devices. Nat Med. 2023;29:2396-8. https://doi.org/10.1038/s41591-023-02412-6

5. Ostermann M et al. If a therapy bot walks like a duck and talks like a duck then it is a medically regulated duck. npj Digit Med. 2025;8:741. https://doi.org/10.1038/s41746-025-02175-z