Experten der Flinders University warnen davor, dass künstliche Intelligenz (KI) sorgfältig evaluiert und gesteuert werden muss, bevor sie im Gesundheitswesen weit verbreitet ist, und sagen, dass schnelle Fortschritte nicht automatisch zu einer sicheren Anwendung für Patienten führen.
In einem Expertenkommentar mit dem Titel ‘KI kann wie ein Arzt argumentieren; Was kommt als nächstes? Veröffentlicht in WissenschaftFlinders-Forscher warnen davor, dass neue KI-Systeme zwar beeindruckende Fähigkeiten aufweisen, starke Ergebnisse in kontrollierten Studien jedoch nicht bedeuten, dass sie für den routinemäßigen Einsatz in Krankenhäusern oder Kliniken bereit sind.
Die Autoren sagen, es sei dringend notwendig zu verstehen, wie neue KI-Tools sicher in den klinischen Alltag integriert werden können, wobei die Ergebnisse der Patienten weiterhin im Mittelpunkt stehen.
Trotz dieser Warnungen erkennen die Forscher an, dass die jüngsten Fortschritte in der KI echte Möglichkeiten zur Unterstützung von Ärzten schaffen, insbesondere in stark frequentierten und unter hohem Druck stehenden Pflegeeinrichtungen.
Der Kommentar untersucht neue Forschungsergebnisse, die zeigen, dass fortschrittliche, auf Argumentation basierende KI-Systeme Diagnoseszenarien Schritt für Schritt durcharbeiten und in einigen Fällen die diagnostische Leistung erfahrener Ärzte genau erreichen oder sogar übertreffen können.
Erik Cornelisse, Doktorand an der Flinders University und Co-Autor des Kommentars, sagt, dass dieser Wandel einen Übergang von einfachen Fragenbeantwortungstools hin zu Algorithmen markiert, die scheinbar menschenähnliches klinisches Denken bei textbasierten Aufgaben ermöglichen.
Das Flinders-Team betont jedoch, dass die medizinische Versorgung in der realen Welt weit mehr umfasst als textbasiertes Denken oder Testleistung.
Sie sagen, dass die klinische Praxis von der körperlichen Untersuchung, dem Zuhören der Patienten, dem Verständnis des medizinischen und sozialen Kontexts und der Übernahme der Verantwortung für die Ergebnisse abhängt, Elemente, die aktuelle KI-Systeme allein nicht sicher bereitstellen können.
“Entscheidungen im Gesundheitswesen sind komplex, auf dem Spiel und zutiefst menschlich, und Genauigkeit allein, insbesondere bei rein textbasierten Fällen, macht ein System nicht sicher für Patienten, sagt Herr Cornelisse vom College of Medicine und
Öffentliche Gesundheit.
Oberautor Außerordentlicher Professor Ash Hopkins„Ein NHMRC-Forscher und Leiter des Flinders’ Clinical Cancer Epidemiology Lab sagt, dass die moderne Gesundheitsversorgung auf Urteilsvermögen, Rechenschaftspflicht und ethischer Aufsicht beruht.
“-KI-Systeme haben gezeigt, dass sie klinische Probleme mit ähnlicher Leistung wie Ärzte berücksichtigen können, insbesondere in denselben Szenarien, die auch zur Schulung von Ärzten selbst verwendet werden. Dies biete echte Möglichkeiten, Kliniker in der Zukunft zu unterstützen, sagt Associate Professor Hopkins.
“Mehrere Interessengruppen arbeiten derzeit an den Rahmenwerken für KI im Hinblick auf die rechtliche, berufliche oder moralische Verantwortung für ihre Entscheidungen, und derzeit besteht ein dringender Bedarf an einer bewussten und kontrollierten Integration in die klinische Versorgung.”
Der Kommentar hebt bekannte Risiken hervor, die mit schlecht bewerteten Systemen verbunden sind, darunter Voreingenommenheit, ungleiche Pflege und unbeabsichtigte Patientenschäden.
“Der Verlauf zeigt, dass Algorithmen die Ergebnisse verschlechtern können, wenn sie ohne ausreichende Sicherheitsvorkehrungen eingesetzt werden, und dass sie Probleme genauso einfach verstärken können, wie sie sie lösen, insbesondere wenn Systeme auf unvollständigen oder nicht repräsentativen Daten trainiert werden, sagt Herr Cornelisse.
Mit Blick auf die Zukunft argumentieren die Flinders-Forscher, dass die Begeisterung für medizinische KI mit einer starken Governance und klareren Standards für die Bewertung einhergehen muss.
“Wir erlauben Ärzten nicht, ohne Aufsicht und Beurteilung zu praktizieren, und KI sollte nach vergleichbaren Standards gehalten werden, sagt Herr Cornelisse.
DOI
