Blog
Von LLM bis Halluzination: KI-Begriffe, die man kennen sollte
LLM, Halluzination, CDSS, Algorithmic Bias – ein kompakter Überblick der wichtigsten KI-Begriffe für den medizinischen Alltag.
Dieses Glossar fasst die wichtigsten KI-Begriffe zusammen, die in der medizinischen Praxis, Forschung und in Softwarebeschreibungen verwendet werden – kompakt und technisch fundiert, ohne tiefe Informatikkenntnisse vorauszusetzen.
Schlüsselbegriffe
Large Language Models (LLMs)
Erzeugen Text durch statistische Wahrscheinlichkeitsberechnungen – nicht durch echtes Verstehen. Tools wie ChatGPT, Claude und Gemini sind allgemeine Systeme, keine medizinspezifischen Werkzeuge.
Machine Learning (ML)
Lernt Muster aus bestehenden Daten – reproduziert dabei auch inhärente Fehler und Biases. Die Leistung hängt vollständig von der Qualität der Trainingsdaten ab.
Natural Language Processing (NLP)
Ermöglicht Software das Erkennen, Analysieren und Strukturieren von medizinischem Freitext. Unterstützt klinische Dokumentationsextraktion für Kodierung, Qualitätsanalyse und grossskalige Textrecherche.
Ambient Clinical Intelligence (ACI)
Erzeugt automatisch Dokumentationsentwürfe aus Arzt-Patient-Gesprächen. Die Ausgabe wirkt überzeugend, kann aber sachliche Ungenauigkeiten enthalten. Primär für Anamnesen und Verlaufsnotizen.
Clinical Decision Support Systems (CDSS)
Liefern Hinweise und Empfehlungen, ohne autonome Entscheidungen zu treffen. Anwendungen: Medikamenteninteraktionswarnungen, Risikohinweise.
Halluzination
Das System erzeugt überzeugend klingende, aber vollständig falsche Aussagen. Beispiel: erfundene ESC-Leitlinienempfehlungen, die nie existiert haben.
Algorithmic Bias
Entsteht, wenn Trainingsdaten bestimmte Patientengruppen unterrepräsentieren. Führt zu systematisch schlechterer Leistung für diese Gruppen.
Model Drift / Dataset Shift
Leistungsabfall, wenn sich zugrundeliegende Daten oder Bedingungen verändern. Ausgelöst durch aktualisierte Leitlinien, andere Patientendemographien oder veränderte Workflows.
Human-in-the-Loop
Menschliche Überprüfung ist erforderlich, bevor KI-Ausgaben genutzt werden. Kein vollautomatisches System.
Schweizer Rechtsrahmen
- revDSG (nDSG): Regelt Erhebung, Verarbeitung, Speicherung und Weitergabe von Patientendaten in der Schweiz
- DSFA (Datenschutz-Folgenabschätzung): Erforderlich bei neuen Systemen, die erhöhte Risiken für Patientenrechte darstellen
- DSGVO (GDPR): Gilt für EU-basierte Anbieter, Server oder grenzüberschreitende Datenverarbeitung