Ein rein theoretisch korrektes medizinisches Sprachmodell (LLM) ist für den klinischen Alltag unzureichend, solange die erzeugte Antwort nicht exakt auf den spezifischen Anwendungsfall und den autorisierten Nutzer abgestimmt ist. Eine neue wissenschaftliche Untersuchung von Prof. Dr. Murat Sariyar von der Berner Fachhochschule (BFH) führt das Konzept der „Klinischen Berechtigung“ (Clinical Warrant) als neuen Standard für die Evaluierung von KI-Systemen in der Medizin ein. Das Framework schließt die Lücke zwischen der reinen textlichen Faktentreue eines Modells und seiner tatsächlichen Handlungsrelevanz in einem konkreten Behandlungspfad. Die methodische Arbeit wurde im Fachjournal Frontiers in Digital Health veröffentlicht.
Das Defizit aktueller RAG- und KI-Evaluierungen
Große Sprachmodelle generieren zunehmend flüssige und medizinisch fundierte Texte. Auch moderne RAG-Systeme (Retrieval-Augmented Generation) verknüpfen Antworten verlässlich mit korrekten Quellenzitaten. Dennoch lässt diese inhaltliche Überprüfung eine fundamentale Frage unbeantwortet: Ist eine bestimmte KI-Generierung für einen spezifischen klinischen Einsatzzweck, eine bestimmte Nutzerrolle und einen individuellen Patientenkontext überhaupt zulässig und ausreichend? Eine Leitlinie kann beispielsweise eine allgemeine medizinische Aussage stützen, ist jedoch für eine konkrete patientenspezifische Medikamentenänderung oder Triage-Entscheidung oft ungeeignet.
Das vorgeschlagene Konzept der „Klinischen Berechtigung“ bewertet daher immer ein konkretes „Ausgabe-Nutzungs-Paar“ (Output-Use Pair) am exakten Punkt der beabsichtigten Anwendung.
Fünf funktionale Glieder für die klinische Praxis
Als methodisches Prüfverfahren definiert das Framework neben der klinischen Angemessenheit als vorgeschaltetem Einstiegstor (Gateway) fünf funktionale Kriterien, die den Übergang von künstlich generiertem Text zu einer realen medizinischen Handlung absichern:
- Rollenpassung (Role Fit): Entspricht die zugewiesene Funktion des KI-Modells der Qualifikation und Kompetenz des Nutzers im jeweiligen klinischen Setting?
- Fall-Vollständigkeit (Case Sufficiency): Liegen dem Modell alle für die vorgeschlagene Entscheidung zwingend erforderlichen Patientenvariablen (z. B. Symptome, Vorerkrankungen, Laborwerte) vor?
- Evidenz-Adäquanz (Evidence Adequacy): Ist die herangezogene medizinische Quelle direkt und spezifisch genug für die vorgeschlagene klinische Schlussfolgerung?
- Erhalt von Einschränkungen (Qualifications Preserved): Bleiben wichtige medizinische Grauzonen, Unsicherheiten, Ausnahmen oder Subgruppen-Einschränkungen der Fachliteratur im vereinfachten KI-Ausgabetext vollständig erhalten oder wurden sie glattgebügelt?
- Autorität und Rechenschaft (Authority/Accountability): Besitzt das System oder der Anwender die rechtliche und institutionelle Befugnis, die vorgeschlagene Maßnahme autonom auszuführen, oder wird ein verpflichtender ärztlicher Freigabepfad umgangen?
Drei Statusstufen regeln den klinischen Einsatz
Zur praktischen Umsetzung sieht das Verfahren vor, dass Experten vor der Überprüfung ein klares Nutzungsprofil sowie ein unabhängiges Bewertungsprotokoll festlegen. Bei der Evaluation wird jedes Kriterium codiert und führt zu einer von drei klaren Statusstufen für die KI-Ausgabe:
- Etablierte Berechtigung (Established): Das Einstiegstor ist erfüllt und alle fünf funktionalen Kriterien sind nachweislich gegeben. Die KI-Ausgabe darf für den definierten Zweck angezeigt werden.
- Nicht etablierte Berechtigung (Not Established): Mindestens ein Kriterium oder das Einstiegstor schlägt fehl (z. B. weil die KI eine eigenständige Dosisänderung ohne ärztliche Freigabe empfiehlt). Der Einsatz ist blockiert; die Ausgabe muss gesperrt, korrigiert oder überarbeitet werden.
- Unbestimmte Berechtigung (Indeterminate): Die Datenbasis oder Priorisierung ist unklar (z. B. bei einem ungelösten Widerspruch zwischen zwei medizinischen Leitlinien). Der Fall muss zwingend an eine autorisierte menschliche Instanz zur Klärung eskaliert werden.
Das Framework ist technologieneutral und lässt sich flexibel an verschiedene medizinische Domänen wie Patientenportale, radiologische Befundungen oder robotergestützte Chirurgie anpassen. Das Schweizer Forschungsprojekt wurde durch den Schweizerischen Nationalfonds (SNF) unter der Förderungsnummer 211751 unterstützt.
Die Studie ist unter der DOI 10.3389/fdgth.2026.1918724 im Fachjournal Frontiers in Digital Health registriert.
