München (LabNews Media LLC) – Eine neue Studie der Ludwig-Maximilians-Universität München (LMU) zeigt, dass Menschen zögern, künstlicher Intelligenz Bewusstsein zuzuschreiben, selbst wenn sich die KI genau wie ein Mensch verhält. Wie die Universität am Freitag mitteilte, ziehen Menschen eine überraschend klare Trennlinie zwischen intelligentem Verhalten und Bewusstsein. Die Ergebnisse wurden in der Fachzeitschrift Cognition veröffentlicht.
Berichte über KI-Systeme, die Nutzer täuschen, miteinander kooperieren oder eigene Ziele verfolgen, verleiten zunehmend dazu, über sie zu sprechen, als hätten sie ein eigenes Bewusstsein. Die Studie unter der Leitung von Dr. Louis Longin vom Lehrstuhl für Philosophie des Geistes der LMU München in Zusammenarbeit mit Dr. Bahador Bahrami, Professorin Ophelia Deroy und weiteren Mitarbeitern untersuchte, welches Bewusstseinsniveau Menschen KI tatsächlich zuschreiben.
„Während sich frühere Studien typischerweise mit allgemeinen Fragen dazu befassten, ob KI tatsächlich über mentale Zustände verfügt, vergleicht unsere Studie als erste direkt, wie Menschen KI und Menschen unter identischen Umständen dieselben mentalen Zustände zuschreiben“, so Longin.
„Wir verwenden möglicherweise gedankliche Begriffe für KI, aber das liegt vielleicht nur daran, dass uns bessere Worte fehlen“, sagte Deroy. „Schließlich wird KI darauf trainiert, wie ein Mensch zu handeln und zu sprechen, daher wirken diese Beschreibungen natürlich.“
Studiendesign
Das Team führte Experimente mit fast 1.100 Teilnehmenden durch. Ein Teil von ihnen las kurze Szenarien, in denen künstliche Agenten mehr oder weniger auf ihre Umgebung reagierten, beispielsweise auf Geräusche oder die Gefühlslage anderer. Eine zweite Gruppe las dieselben Szenarien, jedoch mit menschlichen Protagonisten. Anschließend wurden alle Teilnehmenden gebeten einzuschätzen, wie bewusst oder aufmerksam der jeweilige Protagonist seine Umgebung wahrnahm.
Zentrale Ergebnisse
Die Experimente ergaben, dass künstliche Intelligenz und Menschen umso bewusster und aufmerksamer eingeschätzt wurden, je stärker sie auf ihre Umgebung reagierten. Die Zuschreibungen von Bewusstsein und Aufmerksamkeit unterschieden sich jedoch deutlich: Bei der Beurteilung des Bewusstseins zeigte sich eine klare Diskrepanz zwischen KI und Mensch, und selbst die reaktionsschnellste KI wurde als weniger bewusst beurteilt als der am wenigsten reaktionsschnelle Mensch. Die Zuschreibungen von Aufmerksamkeit hingegen folgten einem weitgehend ähnlichen Muster für KI und Mensch.
„Es gibt eine wachsende Sorge in der öffentlichen Diskussion, dass Menschen KI, die sich menschenähnlich verhält, so behandeln könnten, als hätte sie menschenähnliche mentale Zustände“, sagte Longin, Erstautor der Studie. „Wir haben etwas viel Nuancierteres gefunden: Menschen sind durchaus bereit zu sagen, dass eine KI Dinge bemerkt und sich ihrer Umgebung bewusst ist. Aber sie ziehen eine klare Grenze, wenn es um den Begriff ,Bewusstsein‘ geht. Menschen schreiben KI konsequent weniger Bewusstsein zu als Menschen – selbst wenn ihr Verhalten identisch ist.“ Das Wort „bewusst“ werde manchmal locker verwendet, um das Verhalten von KI-Agenten zu beschreiben, doch die Teilnehmenden hielten dennoch eine klare Unterscheidung zwischen Menschen und KI aufrecht.
Bewusstsein und Aufmerksamkeit
Nach Einschätzung der Forschenden ist der Kontrast zum Begriff „Aufmerksamkeit“ ebenso aufschlussreich. Weniger aufgeladene, technischere Begriffe wie „awareness“ (Gewahrsein) würden viel ähnlicher auf KI und Menschen angewendet; sie scheinen dem, was ein Agent tut, näher zu entsprechen und stoßen nicht auf tiefe Unterschiede hinsichtlich subjektiver Erfahrungen.
„Unsere Studie lehrt uns Lektionen darüber, wie wir über KI kommunizieren“, sagte Bahrami, ebenfalls Seniorautor der Studie und Experte für soziale Neurowissenschaften. „Unternehmen und Journalisten greifen oft zu reißerischen Beschreibungen von KI-Modellen und schreiben ihnen Absichten, Pläne oder sogar moralisches Gewissen und Zögern zu. Was unsere Studie zeigt, ist, dass alltägliche Urteile viel differenzierter sind: Menschen setzen KI und Menschen nicht einfach auf dieselbe mentale Skala. Aber die Grenze hängt auch davon ab, welche Begriffe wir verwenden. Bei neutraleren Bezeichnungen wie ,awareness‘ kann die Unterscheidung weitgehend verschwinden. Das macht unsere Sprachwahl wichtig.“
Originalpublikation: Cognition. Weitere bibliografische Informationen sind über die LMU verfügbar.
