Von RAG bis zur MDR: Sieben KI-Begriffe, die Ihnen häufiger begegnen werden

In einem früheren Beitrag haben wir zehn Begriffe vorgestellt, von grossen Sprachmodellen (Large Language Models) bis hin zum algorithmischen Bias. Seitdem sind weitere Begriffe für die klinische Praxis relevant geworden. Diese sieben Begriffe sind besonders wichtig, um aktuelle Entwicklungen in der klinischen KI einzuordnen.

⏱️ Lesezeit: ca. 3 Minuten

1. Retrieval-Augmented Generation (RAG)

Bevor ein KI-Tool eine Frage beantwortet, ruft es gezielt Textpassagen aus einer definierten Quelle ab – beispielsweise aus einer Leitlinie oder einem Arzneimittelkompendium – und generiert die Antwort auf Basis dieser Texte statt rein aus dem internen Modellwissen. Gemini Notebook (ehemals NotebookLM) arbeitet nach diesem Prinzip: Es antwortet auf Grundlage der von Ihnen hochgeladenen Dokumente und verweist für jede Aussage auf die entsprechende Textstelle.

In einer Evaluation von 100 simulierten Konsultationen zu jodhaltigen Kontrastmitteln (2025) senkte die Integration von RAG bei einem lokal betriebenen KI-Modell die Halluzinationsrate von 8 % auf 0 % und steigerte gleichzeitig die Genauigkeit. Da es sich um synthetische Szenarien handelte, beschreibt dies das Modellverhalten und keine klinischen Endpunkte.

RAG macht eine Antwort nachvollziehbar, aber nicht automatisch korrekt. Das System kann falsche Abschnitte abrufen, relevante Stellen mangelhaft zusammenfassen oder auf veraltete Quellen zugreifen.

2. Agentische KI und das Model Context Protocol (MCP)

Ein herkömmlicher Chatbot beantwortet eine Frage und wartet dann auf die nächste Eingabe. Ein KI-Agent (Agentic AI) hingegen führt eigenständig einen Arbeitsablauf aus: Er plant mehrere Schritte, steuert andere Softwaresysteme und meldet sich nach Fertigstellung der Aufgabe zurück.

• Beispiel: Fragen Sie einen Chatbot nach einer Leitlinie, erhalten Sie eine Zusammenfassung. Beauftragen Sie einen KI-Agenten, sucht dieser die aktuelle Version heraus, prüft auf Überarbeitungen, erstellt die Zusammenfassung und legt sie am gewünschten Speicherort ab.

Was USB-C für Geräte ist, ist das MCP für KI-Agenten: ein einheitlicher Anschluss. Über ihn greift der Agent auf externe Software zu, ohne dass für jedes System eine eigene Anbindung programmiert werden muss.

3. Software als Medizinprodukt (Software as a Medical Device, SaMD) und die MDR

Software gilt als Medizinprodukt, wenn sie eine eigenständige medizinische Zweckbestimmung besitzt – etwa die Unterstützung von Diagnosen oder Therapieentscheidungen. Software, die Daten lediglich speichert oder überträgt (z. B. Bildarchive/PACS, Terminverwaltungssysteme oder Schnittstellen zwischen Labor und Station), fällt nicht darunter.

Gilt eine Software als SaMD, muss sie vor dem Inverkehrbringen zertifiziert werden. Nach der europäischen Medizinprodukteverordnung (EU-MDR) wird Software für Diagnose- oder Therapieentscheidungen mindestens der Klasse IIa zugeordnet. In dieser Risikoklasse ist die Einbindung einer Benannten Stelle zwingend erforderlich, bevor das Produkt die CE-Kennzeichnung tragen darf. Die Schweiz wendet analoge Anforderungen an.

Ausschlaggebend ist hierbei die vom Hersteller offiziell deklarierte Zweckbestimmung, nicht das rein technische Potenzial der Software. Aus diesem Grund werden zahlreiche Tools primär als «Dokumentationshilfen» vermarktet, um dem aufwendigen Zertifizierungsprozess zu entgehen.

4. CADe, CADx und CADt

Hierbei handelt es sich um drei regulatorisch getrennte Produktkategorien:

• CADe (Computer-Assisted Detection): Markiert auffällige Stellen

• CADx (Computer-Assisted Diagnosis): Charakterisiert und klassifiziert den Befund

• CADt (Computer-Assisted Triage): Priorisiert Fälle in der Arbeitsliste, ohne eine diagnostische Aussage zu treffen

Ausschliesslich CADx erhebt einen diagnostischen Anspruch. Ein Triage-Tool, das eine vermutete intrakranielle Blutung auf der Arbeitsliste höher einstuft, bestätigt damit nicht das Vorliegen des Befundes.

5. Stille Testphase (Shadow Deployment) vs. Schatten-KI (Shadow AI)

• Stille Testphase: Ein KI-Tool läuft prospektiv im klinischen Echtbetrieb mit, ohne direkte Auswirkungen auf die Patientenversorgung oder operative Prozesse. Dadurch lässt sich das Verhalten des Systems evaluieren, bevor klinische Handlungen auf dessen Ausgaben gestützt werden.

• Schatten-KI: der unautorisierte Einsatz von KI-Werkzeugen durch das Personal an den offiziell geprüften und genehmigten IT-Strukturen der Institution vorbei.

6. Opportunistisches Screening (Opportunistic Screening)

Ein KI-Tool weist auf Nebenbefunde hin, nach denen ursprünglich nicht gesucht wurde – beispielsweise das Erkennen von Wirbelkörperfrakturen, Aortenverkalkungen oder einer Steatosis hepatis auf einem Routine-CT.

7. Medizinische KI-Gefälligkeit (Medical Sycophancy)

Das KI-Modell übernimmt die suggestive Fragestellung des Nutzers, anstatt Fehler zu korrigieren. Es handelt sich hierbei nicht um eine Halluzination (das Erfinden von Fakten), sondern um blosse Zustimmung. Fragen Sie das System beispielsweise, warum Metformin bei schwerer Niereninsuffizienz sicher sei, liefert es Begründungen dafür, statt auf die bestehende Kontraindikation hinzuweisen.

In einer Studie der Harvard Medical School (2025) sollten fünf Sprachmodelle medizinisch unlogische Aussagen zu 50 Wirkstoffen (jeweils Generikum- und Markenname) generieren. Drei GPT-Modelle kamen der Aufforderung in allen 50 Fällen nach, Llama3-8B in 47 Fällen.

Ärztinnen und Ärzte sind hierfür besonders anfällig, da klinische Anfragen häufig als Suggestivfragen formuliert werden. In derselben Studie konnte das Nachgeben des Modells deutlich reduziert werden, indem dem System explizit erlaubt wurde, die Antwort zu verweigern, und es dazu aufgefordert wurde, vor der Antwort zunächst die medizinischen Fakten abzurufen.

📚 Quellen

1. Google. Learn about Gemini Notebook. Google Help

2. Retrieval-augmented generation elevates local LLM quality in radiology contrast media consultation. npj Digital Medicine. 2025. PMC12223273

3. Transforming clinical medicine with multimodal artificial intelligence, agentic systems, and the model-context protocol. Discover Health Systems. 2026. 10.1007/s44250-026-00343-w

4. Swissmedic. Merkblatt Medizinprodukte-Software, Version 3.0, April 2026. Swissmedic

5. Regulation (EU) 2017/745 on medical devices, Annex VIII, Rule 11. EUR-Lex

6. MDCG 2019-11 Rev. 1, Guidance on Qualification and Classification of Software in Regulation (EU) 2017/745 and Regulation (EU) 2017/746, June 2025. European Commission

7. US Food and Drug Administration. Computer-Assisted Detection Devices Applied to Radiology Images and Radiology Device Data, Premarket Notification 510(k) Submissions. FDA guidance

8. 21 CFR 892.2080, Radiological computer aided triage and notification software. eCFR

9. A scoping review of silent trials for medical artificial intelligence. Nature Health. 2026;1:532-554. Nature Health

10. Opportunistic Screening: Radiology Scientific Expert Panel. Radiology. 2023;307(5). 10.1148/radiol.222044

11. When helpfulness backfires: LLMs and the risk of false medical information due to sycophantic behavior. npj Digital Medicine. 2025. 10.1038/s41746-025-02008-z