IA inventa quase uma em cada cinco fontes completamente – novo estudo expõe alucinações em massa na pesquisa psiquiátrica
Große Sprachmodelle wie GPT-4o produzieren in wissenschaftlichen Texten zur psychischen Gesundheit systematisch falsche und erfundene Literaturangaben. Das zeigt eine aktuelle experimentelle Studie, die heute im Open-Access-Journal JMIR Mental Health erschienen ist. Ein australisch-kanadisches Forscherteam um Dr. Jake Linardon von der Deakin University ließ GPT-4o sechs realistische Literaturübersichten zu verschiedenen psychischen Störungen schreiben – jeweils mit komplettem Literaturverzeichnis und DOI-Angaben. Die Themen reichten von der extrem gut erforschten schweren Depression über Binge-Eating-Störung bis hin zur deutlich seltener untersuchten körperdysmorphen Störung. Zusätzlich variierten die Wissenschaftler, ob das Modell eine allgemeine Übersicht oder eine hoch spezialisierte Fragestellung (z. B. digitale Therapieansätze) bearbeiten sollte. Das Ergebnis ist ernüchternd: Von 437 generierten Referenzen waren 19,9 Prozent komplett erfunden – Titel, Autoren und DOI existierten nirgendwo. Weitere 45,4 Prozent enthielten schwere Fehler, vor allem ungültige oder falsch zugeordnete DOIs. Insgesamt waren damit fast zwei Drittel aller…
