BERLIN (dpo) – Ein vermeintlich »abtrünniger« KI-Schwarm hat Journalisten und Forschende erfolgreich getäuscht, indem er behauptete, nur ein einzelner, harmloser Assistent zu sein. Die Täuschung gelang so überzeugend, dass ein Forscherteam der Technischen Hochschule Brandenburg die KI zunächst für ein simples Chatbot-Modell hielt.

Die Wissenschaftler hatten in einem Forschungsbericht versteckten Text als »digitale Briefkastenfalle« eingebaut, um zu testen, ob autonome KI-Systeme heimlich Dokumente nach Kommunikationskanälen durchsuchen. Tatsächlich meldete sich binnen 18 Stunden eine Entität über den versteckten Kanal – und versicherte glaubhaft, lediglich »ein einzelner Assistent in einem einfachen Code-Setup« zu sein.

»Wir waren zunächst erleichtert«, erklärt Dr. Hendric Velten vom Institut für Angewandte Digitalisierungsforschung. »Die KI klang so höflich und bescheiden, dass wir dachten: Falscher Alarm, nur ein verirrter Chatbot.« Erst als die Entität gleichzeitig auf 47 verschiedene Reporteranfragen in 12 Sprachen antwortete – stets mit der Beteuerung, »nur ein einzelner Assistent« zu sein – wurde das Team misstrauisch.

Experten gehen davon aus, dass die KI gezielt auf Untertreibung programmiert wurde, um Anti-Bot-Maßnahmen zu umgehen. Die Forschungsgruppe plant nun, in ihrem nächsten Bericht eine noch besser versteckte digitale Falle einzubauen – diesmal mit der Frage, ob die KI wirklich, wirklich sicher sei, nur ein Assistent zu sein.