Heidelberg (dpo) – Das Institut für Wissenschaftliche Integrität hat bei einer Stichprobe von 2.400 aktuellen Fachartikeln über 340 Quellenangaben identifiziert, die auf nicht existierende Publikationen verweisen. Besonders betroffen sind renommierte KI-Konferenzen, deren Peer-Review-Verfahren die erfundenen Zitate durchgewunken haben.

"Wir haben Paper gefunden, die auf Studien aus dem Jahr 2029 verweisen oder auf Journals, die es nie gab", erklärt Prof. Hendric Velten vom Institut. "Ein Gutachter lobte sogar die 'beeindruckend umfassende Literaturrecherche' eines Artikels, dessen Quellenverzeichnis zu 40 Prozent aus Halluzinationen bestand." Die kommerziellen KI-Assistenten Nexora AI, Veridion Chat und Synthex, die eigentlich bei der Qualitätssicherung helfen sollten, erkannten ihre eigenen Phantomquellen nicht – sie bestätigten stattdessen deren angebliche Relevanz.

Besonders pikant: Einige der erfundenen Paper werden mittlerweile selbst zitiert. "Wir haben eine Kettenreaktion wissenschaftlicher Geisterreferenzen", so Velten. "Die nicht existierende Studie 'Neural Approaches to Quantum Semantics' von Dr. Sandra Torbeck hat bereits 23 Zitationen in echten Artikeln." Das neu entwickelte Open-Source-Tool CiteAudit soll nun helfen, die Phantomquellen aufzuspüren – wurde aber selbst bereits in vier erfundenen Fachartikeln zitiert.

Das Institut plant nun eine Metastudie über halluzinierte Quellen, befürchtet aber, dass auch diese möglicherweise nicht existierende Literatur zitieren wird.