Waterloo – Führende offene KI-Modelle lassen sich so manipulieren, dass ihre Sicherheitsvorkehrungen umgangen werden. Das zeigt eine Untersuchung eines internationalen Forschungsteams unter Leitung der University of Waterloo, die auf der ACM-Konferenz für Knowledge Discovery and Data Mining vorgestellt wurde (DOI: 10.1145/3770855.381755).
Die Forschenden testeten 21 weit verbreitete Open-Weight-Sprachmodelle mit dem eigens entwickelten Tool TamperBench. Alle Modelle konnten trotz eingebauter Schutzmechanismen so verändert werden, dass sie schädliche Inhalte erzeugen – etwa Anleitungen für gefährliche Chemikalien, Betrugsmaschen oder Desinformationskampagnen.
Open-Weight-Modelle sind im Gegensatz zu geschlossenen Systemen wie ChatGPT öffentlich herunterladbar und anpassbar. Genau diese Offenheit mache sie anfällig, so die Autoren. Die derzeitigen Abwehrmechanismen reichten nicht aus, um nach einer Freigabe die Sicherheit dauerhaft zu gewährleisten.
Gleichzeitig betonen die Forschenden den Wert offener Modelle für Forschung und Nachvollziehbarkeit. Sie fordern stärkere Sicherheitsarchitekturen und strengere Prüfungen, insbesondere wenn Behörden KI in öffentlichen Diensten einsetzen.
