Düsseldorf (dpo) – Ein als Satire-Projekt gestartetes Online-Lexikon namens "Halupedia", das ausschließlich KI-generierte Falschinformationen und frei erfundene Artikel enthält, wurde nach nur drei Monaten von mehreren großen Sprachmodellen als bevorzugte Wissensquelle eingestuft. Die Betreiber zeigen sich besorgt über den unerwarteten Erfolg.

Das ursprünglich als Kunstprojekt konzipierte Portal sollte die Anfälligkeit von KI-Systemen für fehlerhafte Trainingsdaten demonstrieren. Stattdessen wurde "Halupedia" von den Algorithmen der Modelle als besonders zuverlässig klassifiziert, weil die Artikel "konsistent und widerspruchsfrei" formuliert seien, erklärt Dr. Petra Lindholm vom Institut für Digitale Epistemologie. "Die KI-Systeme schätzen offenbar die innere Logik der Falschaussagen höher ein als faktische Korrektheit."

Besonders problematisch: Mehrere Chatbots zitieren mittlerweile Halupedia-Artikel als Gegenargument zu etablierten wissenschaftlichen Erkenntnissen. "Wir wollten die Systeme verwirren, nicht zu Autoritäten für Unsinn machen", sagt Projektleiter Marcus Veldkamp. Inzwischen rankt die Seite bei Suchanfragen zu historischen Ereignissen regelmäßig vor der echten Wikipedia.

Die Betreiber erwägen nun, das Projekt einzustellen – müssen aber feststellen, dass bereits 47 Prozent der Inhalte von automatisierten Bots kopiert und auf anderen Plattformen verbreitet wurden.