Washington (LabNews Media LLC) – Nur 13 Prozent der in einer Übersichtsarbeit zu künstlicher Intelligenz (KI) und gesundheitlicher Chancengleichheit untersuchten Artikel definieren den Begriff der gesundheitlichen Chancengleichheit explizit. Diese Lücke könnte dazu führen, dass KI-gestützte Ansätze vor allem privilegierten Gruppen zugutekommen. Das ist ein zentrales Ergebnis einer von Caroline R. Efird von der Georgetown University geleiteten Studie, die in „Health Affairs Scholar“ veröffentlicht wurde (DOI: 10.1093/haschl/qxag236).
Algorithmische Verzerrungen – systematisch unfaire oder diskriminierende Ergebnisse von KI-Modellen – sind laut Mitteilung oft unbeabsichtigt in Algorithmen eingebettet und können gesundheitliche Ungleichheiten verschärfen. Der Mangel an Transparenz und Kontrolle sei besorgniserregend, da marginalisierte Bevölkerungsgruppen das größte Gesundheitsrisiko trügen. „Unsere Forschung zielt darauf ab, sicherzustellen, dass Gesundheitssysteme, Krankenhäuser, Kliniken und die Gesundheitsdienstleistungsforschung KI so einsetzen, dass sie die Gesundheit fördert und nicht unbeabsichtigt schädigt“, sagte Efird.
Nur 13 Prozent der 166 in die Analyse einbezogenen Artikel enthielten eine konkrete Definition von Gesundheitsgerechtigkeit. „Wird Gesundheitsgerechtigkeit vage definiert, besteht die Gefahr, dass Ressourcen vorrangig der privilegiertesten Gruppe zugeteilt werden, anstatt der Gruppe, die sie am dringendsten benötigt“, sagte Efird. Die Mehrheit (70 Prozent) der analysierten Publikationen stammte von Autorenteams aus den USA; eine US-zentrierte Sichtweise berge wahrscheinlich blinde Flecken. Fast 30 Prozent der Artikel enthielten eine Abbildung, ein Rahmenwerk oder ein Diagramm zum gerechten KI-Einsatz. Die meisten (68 Prozent) konzentrierten sich allgemein auf Chancengleichheit und KI, ohne ein bestimmtes Gesundheitsergebnis zu nennen; wenn Autoren spezifische Folgen angaben, betrafen diese unter anderem Herz-Kreislauf-Erkrankungen (5 Prozent), chronische Krankheiten allgemein (5 Prozent), Dermatologie und/oder Hautkrebs (5 Prozent), COVID-19 (3 Prozent), Alterung (2 Prozent), Diabetes mellitus (2 Prozent) und Radiologie (2 Prozent).
„Diverse, interdisziplinäre Teams sind entscheidend für KI-Algorithmen, die im Gesundheitswesen entwickelt und eingesetzt werden“, sagte Efird. Die Einbindung von Datenwissenschaftlern, Forschenden zu gesundheitlicher Chancengleichheit, Behandelnden, Fachleuten und Patienten könne Modellverzerrungen reduzieren. Der KI-Einsatz in Forschung und Praxis sollte in allen Phasen von Design, Umsetzung und Evaluation von Prinzipien der gesundheitlichen Chancengleichheit geleitet werden. Die Übersicht unterstreiche die Notwendigkeit, stärker zu untersuchen, wie KI mit der Behandlung spezifischer Gesundheitsergebnisse zusammenhängt. Fachspezifische Expertise – etwa in Radiologie, Dermatologie oder Kardiologie – sei entscheidend, um das Risiko zu verringern, dass KI bestehende Ungleichheiten verschärft. Fachleute könnten besser als Datenwissenschaftler erkennen, wie diagnostische Ungleichheiten durch Trainingsdaten entstehen könnten, die keine vielfältigen und repräsentativen Patientengruppen enthielten. Auch inklusives Forschungsdesign könne helfen sicherzustellen, dass KI die Gesundheit aller Bevölkerungsgruppen fördert. Weitere Autorinnen und Autoren sind Claudia Park, Parth Mishra, Angela Barr, Andrew Twinamatsiko und Christopher King. Die Studie wurde teilweise von der Georgetown University School of Health unterstützt; die Autoren geben keine finanziellen Interessen an.
