Künstliche Intelligenz (KI) ist aus dem Alltag nicht mehr wegzudenken. Von Sprachassistenten bis hin zu komplexen Entscheidungssystemen erleichtert sie zahlreiche Lebensbereiche. Doch die Nachvollziehbarkeit von KI-Entscheidungen bleibt oft eine Herausforderung. Im Sonderforschungsbereich/Transregio (TRR) 318 „Constructing Explainability“ der Universitäten Paderborn und Bielefeld arbeiten Forschende daran, Erklärprozesse von KI-Systemen für Nutzerinnen transparenter und verständlicher zu gestalten. Ein zentraler Aspekt ist dabei die Frage, welche Informationen Nutzerinnen benötigen, um KI-Entscheidungen nachzuvollziehen, und wie KI diese Bedürfnisse erkennen kann.
Im Fokus der Synthesegruppe „Understanding“ des TRR 318 steht das Verstehen als Ziel des Erklärprozesses. Die interdisziplinäre Gruppe, die Expertise aus Computerwissenschaften, Linguistik, Soziologie und Psychologie vereint, unterscheidet zwischen konzeptuellem Wissen („Wissen, dass…“) und Handlungsfähigkeit („Wissen, wie…“). Dabei wird zwischen oberflächlichem und tiefem Verständnis differenziert. Während in alltäglichen Situationen oft ein grundlegendes Verständnis ausreicht, wie etwa die Bedienung eines Geräts, ist in anderen Kontexten ein tieferes Verständnis der zugrundeliegenden Prozesse notwendig.
Die Forschenden betonen, dass Erklärbarkeit ein interaktiver Prozess ist, ähnlich der Kommunikation zwischen Menschen. KI-Systeme sollten daher in der Lage sein, auf individuelle Bedürfnisse und Rückmeldungen der Nutzerinnen einzugehen, etwa durch das Erkennen von verbalen oder nonverbalen Signalen. Die Ergebnisse der Synthesegruppe zeigen, dass die Ziele und Vorkenntnisse von Nutzerinnen stark variieren und maßgeblich beeinflussen, wie Erklärungen gestaltet werden müssen.
Durch die Fokussierung auf die individuellen Perspektiven und Bedürfnisse der Nutzerinnen legt der TRR 318 den Grundstein für eine nutzerfreundliche KI. Ziel ist es, KI-Systeme zu entwickeln, die nicht nur leistungsstark, sondern auch intuitiv verständlich sind und Erklärungen flexibel an die jeweilige Situation und das Vorwissen der Nutzerinnen anpassen können.
