Künstliche Intelligenz (KI) hat in den letzten Jahren enorme Fortschritte in der Medizin ermöglicht, bringt aber auch erhebliche Risiken mit sich, die sorgfältig abgewogen werden müssen. Ein zentrales Problem ist die Datensicherheit und der Schutz der Privatsphäre von Patienten. Medizinische Daten sind äußerst sensibel und wertvoll, weshalb sie häufig das Ziel von Cyberangriffen sind[1]. Die umfangreiche zentrale Speicherung und Analyse von Gesundheitsdaten durch KI-Systeme erhöht dieses Risiko zusätzlich[2]. Ein weiteres gravierendes Risiko sind mögliche Fehldiagnosen und Behandlungsfehler durch KI-Systeme. Große sprachbasierte KI-Modelle können zwar scheinbar professionelle Antworten generieren, diese können jedoch schwerwiegende Fehler enthalten, besonders wenn es um medizinische Fragen geht[3]. Ein konkretes Beispiel wäre ein KI-System, das Hautveränderungen fälschlicherweise als harmlos einstuft, während ein Dermatologe sie als potenziell krebserregend erkennen würde[2]. Die Weltgesundheitsorganisation (WHO) warnt zudem vor dem Risiko, dass KI-Technologie zur Verbreitung von Fehlinformationen missbraucht werden könnte, die… 

Generative KI revolutioniert zunehmend die klinische Forschung und verspricht, viele Prozesse effizienter und effektiver zu gestalten. Ein Hauptanwendungsgebiet ist die Beschleunigung der Patientenrekrutierung für klinische Studien. Forscher am Mass General Brigham Krankenhaus haben gezeigt, dass KI-Software wie ChatGPT den Screening-Prozess zur Identifizierung geeigneter Studienteilnehmer deutlich beschleunigen kann[8]. In ihrer Studie verwendeten sie eine Version von OpenAIs GPT-4 über Microsofts Azure-Cloud, um Patientenakten nach Teilnahmekriterien für eine Herzinsuffizienz-Studie zu durchsuchen. Die KI erreichte dabei eine Genauigkeit von 97,9% bis 100% im Vergleich zur Beurteilung durch Experten – und das zu Kosten von durchschnittlich nur 11 Cent pro Patient[8]. Auch bei der Erstellung von Studienprotokollen und der Analyse von Studiendaten kommt generative KI zum Einsatz. Das Unternehmen Intelligent Medical Objects hat mit SEETrials eine Methode entwickelt, um mit GPT-4 Sicherheits- und Wirksamkeitsinformationen aus Studienabstracts zu extrahieren[9]. Dies ermöglicht Forschern einen schnellen Überblick… 

Immer mehr Organisationen im Gesundheitswesen sind Cyberangriffen ausgesetzt, und die Vorfälle wirken sich negativ auf die Patientenversorgung aus . Dies geht aus einer Umfrage des Cybersicherheitsunternehmens Proofpoint und des Forschungsunternehmens Ponemon Institute hervor. Der Bericht ergab, dass 92 Prozent der Gesundheitsorganisationen in den letzten zwölf Monaten mindestens einen Cyberangriff erlebten, verglichen mit 88 Prozent im letzten Jahr. Fast 70 Prozent gaben an, dass die Angriffe die Patientenversorgung beeinträchtigten.56 Prozent der Organisationen, die mit den vier gängigen Arten von Cyberangriffen konfrontiert waren, berichteten von schlechten Behandlungsergebnissen der Patienten aufgrund von Behandlungsverzögerungen, 53 Prozent gaben an, dass es zu mehr Komplikationen bei Eingriffen gekommen sei und 28 Prozent sagten, dass die Sterberate der Patienten gestiegen sei. https://www.proofpoint.com/us/resources/threat-reports/ponemon-healthcare-cybersecurity-report