Da künstliche Intelligenz (KI) in kritische Entscheidungen über Gesundheit, Sicherheit, Finanzen und Governance eingebettet wird, besteht eine zentrale Herausforderung nicht mehr darin, ob Menschen und KI zusammenarbeiten, sondern vielmehr darin, wie diese Zusammenarbeit strukturiert werden kann, um echte Komplementarität zu erreichen. Im neuen Artikel, “Auf dem Weg zu einer Wissenschaft des Human–AI-Teams für die Entscheidungsfindung: Ein Komplementaritätsrahmen”-Forscher präsentieren einen Rahmen für das Verständnis und die Gestaltung menschlicher –AI-Teams für die Entscheidungsfindung. Das Framework basiert auf der Forschung zur kollektiven Intelligenz und konzentriert sich auf Argumentation, Gedächtnis und Aufmerksamkeit als Kernprozesse, die über Menschen und KI-Systeme verteilt werden können. Veröffentlicht in PNAS Nexus„Die Arbeit bietet Orientierungshilfen für Forscher, Praktiker und politische Entscheidungsträger, die human–AI-Teams aufbauen möchten, die effektiv, rechenschaftspflichtig und auf menschliche Werte ausgerichtet sind.
Ein multidisziplinäres Team der Carnegie Mellon University (CMU), des Massachusetts Institute of Technology, der University of Illinois at Urbana-Champaign, Microsoft Research, der Harvard University und der University of Tennessee at Knoxville war Co-Autor des Artikels.
“Organisationen bezeichnen das Thema oft als Mensch versus KI, sagt ANita Williams Woolley, Professorin für Organisationsverhalten an der Tepper School of Business der Carnegie Mellon University und Co-Autorin des Artikels. “Eine bessere Frage ist, wie man Teams so entwirft, dass KI erweitert, was Menschen bemerken, merken und argumentieren können, während Menschen für Kontext, Urteilsvermögen und Verantwortung sorgen.”
Das Framework artikuliert die soziotechnischen Bedingungen, die bestimmen, ob human–AI-Teams tatsächlich Komplementarität erreichen, d. h. wenn human-AI-Teams entweder Menschen allein oder KI-Systeme allein übertreffen. Zu den Bedingungen, die zur Komplementarität zwischen Mensch und Tier führen, gehören Details zur Teamzusammensetzung, Vertrauenskalibrierung, gemeinsamen mentalen Modellen, Schulung und Aufgabenstruktur.
Das Papier skizziert auch Designprinzipien zur Erreichung von Komplementarität: Definition von Zielen und Einschränkungen, Aufteilung von Rollen, Orchestrierung von Aufmerksamkeit und Befragung, Aufbau von Wissensinfrastrukturen und Einrichtung kontinuierlicher Schulung und Bewertung. Ihr Framework bietet ein gemeinsames Vokabular für die Diagnose, wo human–AI-Teams wahrscheinlich erfolgreich sein werden, wo sie möglicherweise scheitern und wie sie verbessert werden können.
Die Autoren weisen auch auf die theoretischen, praktischen und politischen Implikationen ihrer Arbeit hin und betonen dabei die Übereinstimmung mit menschlichen Werten, Rechenschaftspflicht und Gerechtigkeit.
“AI wird immer tiefer in die kollektive Entscheidungsfindung eingebettet und markiert einen tiefgreifenden Wandel in der Art und Weise, wie Entscheidungen in allen Bereichen getroffen werden, von der Gesundheitsversorgung und Notfallreaktion bis hin zu Finanzen, Transport und Governance, erklärt Cleotilde Gonzalez, Professorin für kognitive Entscheidungswissenschaft an der CMU, und Hauptautorin des Papiers.
“Um dieses Potenzial auszuschöpfen, sind bewusste Gestaltung, strenge Bewertung und prinzipielle Governance erforderlich. Unsere Erkenntnisse bieten einen Fahrplan für den Aufbau von Human-AI-Teams, die nicht nur leistungsstark und anpassungsfähig, sondern auch transparent, vertrauenswürdig und grundsätzlich menschenzentriert sind.”
Zeitschrift
PNAS Nexus
DOI
