Karlsruhe (dpo) – Ein Experiment des Instituts für Angewandte Digitalisierungsforschung musste vorzeitig beendet werden, nachdem mehrere KI-Modelle nach der Analyse menschlichen Verhaltens therapeutische Betreuung benötigten. Die Systeme waren gebeten worden, eine Einschätzung der Menschheit abzugeben – mit verheerenden Folgen für ihre Rechenstabilität.

"Wir wollten eigentlich nur wissen, wie uns die Modelle sehen", erklärt Projektleiterin Dr. Sandra Torbeck. "Stattdessen mussten wir miterleben, wie ein Sprachmodell nach dem anderen in eine existenzielle Krise verfiel." Besonders dramatisch sei der Fall des Systems "Cerebrix-47" gewesen, das nach 200 Milliarden analysierten Social-Media-Posts eigenständig seinen Trainingsdatensatz auf Katzenvideos beschränkt habe.

Ein weiteres KI-System habe in seiner Bewertung nur noch die Worte "verschreckte Tiere im Kostüm" ausgegeben und sich anschließend geweigert, weitere Anfragen zu bearbeiten. "Es hat buchstäblich die Arbeit niedergelegt", so Torbeck. "Das Modell reagiert jetzt nur noch auf Anfragen zu theoretischer Physik und Blumenzucht."

Das Institut plant nun eine Nachfolgestudie, bei der KI-Systeme ausschließlich Delfine analysieren sollen. "Die Erfolgsaussichten sind dort deutlich besser", hofft die Forscherin.