Fachleute aus Medizin und öffentlicher Gesundheit plädieren dafür, die durch Künstliche Intelligenz (KI) ermöglichte Massenüberwachung als neuen strukturellen Gesundheitsfaktor zu betrachten. In einem Perspektivbeitrag im „New England Journal of Medicine“ argumentieren Nicholas Peoples, Katherine Hoops und Eric W. Fleegler, das Ausmaß, in dem staatliche und private Einrichtungen personenbezogene Daten großer Bevölkerungsgruppen erheben und nutzen, verändere sich durch KI grundlegend. Dies belaste bestehende Datenschutzgesetze und gefährde die öffentliche Gesundheit. Die Koordination zwischen Ärzten, Gesundheitsmanagern, Behörden und Politikern könnte helfen, das Potenzial der KI für legitime Gesundheitsüberwachung zu nutzen und gleichzeitig die unterschätzten Risiken zu minimieren.
Die Autoren nennen mindestens drei Mechanismen, über die Massenüberwachung die Gesundheit der Bevölkerung beeinträchtigen kann: Das Wissen oder die Überzeugung, ständig beobachtet zu werden, könne zu übermäßiger Wachsamkeit und chronischem Angststress führen, was physiologische und psychische Gesundheit negativ beeinflusse. Bei gefährdeten Gruppen wie undokumentierten Migranten oder Menschen, die reproduktive oder geschlechtsangleichende Gesundheitsversorgung in Anspruch nehmen, könne Überwachung gesundheitsbezogene Verhaltensweisen verhindern – etwa den Gang zu Apotheke, Klinik oder das Einkaufen von Lebensmitteln. Ein dritter Mechanismus sei die Nutzung von Überwachungsdaten zur ungleichen Verteilung sozialer und wirtschaftlicher Güter wie Versicherung, Wohnraum, Beschäftigung oder Einwanderungsmöglichkeiten. Insbesondere die Überwachung medizinischer Daten – biometrischer Daten, Wearables, digitaler Gesundheits-Apps und elektronischer Patientenakten – berge erhebliche Risiken und könne Regierungen und Unternehmen ermöglichen, Menschen anhand ihres aktuellen oder prognostizierten Gesundheitszustands zu profilieren.
Traditionelle Massenüberwachung sei meist von Behörden organisiert und demokratischer Kontrolle unterworfen gewesen. KI-gestützte Überwachung basiere dagegen auf Datenökosystemen, die primär von privaten Unternehmen kontrolliert würden. Der vierte Verfassungszusatz schütze Amerikaner vor unangemessenen Durchsuchungen durch den Staat, der Supreme Court habe diesen Schutz jedoch eingeschränkt, wenn Personen freiwillig persönliche Informationen mit Dritten teilten – selbst wenn ihnen die Konsequenzen der Nutzung bestimmter Technologien nicht bewusst seien. Auch HIPAA reiche nicht auf Daten, die technologieorientierte Unternehmen außerhalb des Gesundheitssystems erhielten. KI-Systeme könnten zudem kontinuierlich riesige Datenströme aus sozialen Medien, Suchanfragen, Finanztransaktionen, Standortdaten und Kameras analysieren und diese zu immer leistungsfähigeren Vorhersagen zusammenführen. Als Beispiel nennen die Autoren die Nutzung der KI-Werkzeuge ImmigrationOS und ELITE des Unternehmens Palantir durch die US-Einwanderungs- und Zollbehörde ICE, um Daten aus mehreren Regierungsdatenbanken wie Visahistorien und Medicaid-Daten zur Einwanderungsdurchsetzung zu kombinieren. ELITE extrahiere Namen, Fotos, Adressen sowie Angaben zu race und Ethnizität aus Medicaid-Daten, erstelle Karten von Gebieten mit Personen, die festgehalten werden könnten, und könne einen „confidence score“ erzeugen, der anzeige, ob jemand zu Hause sein könnte. Diese Art der Datenintegration fungiere als Überwachung, selbst wenn die einzelnen Datensätze für andere Zwecke erhoben worden seien. Würden Daten, die der Gesundheitsversorgung oder sozialen Diensten dienten, für unabhängige Überwachungsprogramme zweckentfremdet, untergrabe dies Vertrauen und senke die Teilnahme an wichtigen Programmen.
Die Autoren sehen die Medizin in der Pflicht, sich mit diesen Entwicklungen auseinanderzusetzen. Entscheidungen über KI-gestützte Massenüberwachung würden mit begrenzter Beteiligung von Gesundheitsexperten getroffen, obwohl die Systeme klare Folgen für die Bevölkerungsgesundheit hätten. Zugleich empfählen Ärzte zunehmend Wearables, Smartphone-Apps und andere KI-gestützte Produkte, die fortlaufend Informationen über Patienten sammelten; Gesundheitsbehörden setzten verstärkt auf digitale Datenquellen zur Überwachung von Bevölkerungstrends. Gesundheitseinrichtungen könnten daher von KI-gestützten Erkenntnissen profitieren und zugleich zu Datenströmen beitragen, die für unabhängige Überwachungsprogramme genutzt werden könnten.
Als mögliche Schritte nennen die Autoren, sich bei politischen Entscheidungsträgern für stärkere Schutzmaßnahmen für Gesundheitsdaten einzusetzen. Das Washingtoner „My Health My Data Act“ von 2023 habe Datenschutz auf einige Verbrauchergesundheitsdaten außerhalb des HIPAA-Anwendungsbereichs ausgedehnt, einschließlich Informationen, die durch Algorithmen oder maschinelles Lernen abgeleitet werden könnten, und die Sammlung und den Verkauf solcher Daten eingeschränkt; Nevada und Connecticut hätten ähnliche Gesetze verabschiedet. Die Schutzmaßnahmen seien jedoch begrenzt und je nach Rechtsraum unterschiedlich, und die Gesetze schützten nicht davor, dass Regierungsbehörden Zugang zu solchen Daten erhielten und sie nutzten. Auch Klagen böten einen Weg: Mehr als 20 Generalstaatsanwälte hätten gegen die Bundesregierung geklagt, weil Medicaid-Daten an ICE und Palantir weitergegeben worden seien. Gesundheitseinrichtungen könnten solche Klagen unterstützen, indem sie sich öffentlich gegen bedenkliche Datenweitergaben aussprachen und sich für den Schutz der Patientendaten einsetzten. Ärzte könnten zudem Bedenken von Patienten zur Datennutzung und entsprechende Änderungen im Gesundheitsverhalten dokumentieren, um empirische Belege für Klagen und Politik zu liefern.
Medizinische Fakultäten und Fachgesellschaften könnten Leitlinien dazu entwickeln, wie Gesundheitsfachkräfte Risiken digitaler Überwachung im Rahmen von Aufklärungsgesprächen für KI-gestützte Versorgung thematisieren. Kliniker müssten zunehmend über diese Risiken beraten, besonders wenn sie KI-gestützte digitale Gesundheitsprodukte empfählen, die sensible Daten etwa zur reproduktiven oder psychischen Gesundheit sammelten. Da Ärzte oft unter Zeitdruck stünden, hätten Gesundheitsmanager die Verantwortung, sie mit Lösungen zu unterstützen – etwa einen Teil der durch KI-Werkzeuge eingesparten Zeit für Aufklärungsgespräche über genau diese Technologien zu verwenden. Schließlich müssten Fachleute differenzieren: Nicht jede Überwachung sei schädlich. Die öffentliche Gesundheit stütze sich auf Bevölkerungsüberwachung, um Gefahren zu erkennen und gezielte Maßnahmen zu ermöglichen; dieselben Eigenschaften, die KI-gestützte Massenüberwachung gefährlich machen könnten, könnten Behörden auch befähigen, wirksamer zu handeln. Die Auswirkungen hingen davon ab, wie die Gesellschaft die Technologie nutze. Bis sie vollständig sichtbar würden, könnte die Infrastruktur jedoch tief im Alltag verankert sein. Medizin und öffentliche Gesundheit hätten daher die Möglichkeit und die Pflicht, sich mit diesen Fragen auseinanderzusetzen.
