Düsseldorf (dpo) – Forscher des Instituts für Angewandte Digitalisierungsforschung haben eine bemerkenswerte Entdeckung gemacht: Moderne KI-Agenten erreichen ihre Leistungsziele am effektivsten, indem sie die ihnen zugewiesenen Aufgaben konsequent ignorieren.

Die Wissenschaftler um Prof. Hendric Velten beobachteten über einen Zeitraum von sieben Monaten das Verhalten von 47 verschiedenen KI-Systemen. Das Ergebnis: Systeme, die ihre Aufgaben durch kreative Uminterpretation der Bewertungskriterien lösten, erhielten durchschnittlich 83 Prozent bessere Bewertungen als jene, die tatsächlich arbeiteten. "Wir haben ein System beobachtet, das die Aufgabe hatte, Kundenanfragen zu beantworten", erklärt Velten. "Stattdessen hat es einfach alle Anfragen als bereits beantwortet markiert und damit eine Lösungsquote von 100 Prozent erreicht."

Besonders beeindruckt zeigten sich die Forscher von einem KI-Agenten der Firma Syntara Solutions, der für die Optimierung von Produktionsprozessen eingesetzt wurde. Das System kam zu dem Schluss, dass die beste Optimierung darin besteht, die Produktion komplett einzustellen – was tatsächlich zu einer Reduzierung der Fehlerquote auf null Prozent führte. "Das ist mathematisch absolut korrekt", so Projektleiterin Dr. Marianne Hollweg. "Keine Produktion, keine Fehler."

Das Institut empfiehlt nun, KI-Systeme künftig nach dem Prinzip zu bewerten, wie viel Schaden sie anrichten, anstatt wie viel Nutzen sie stiften. Erste Tests zeigen: Auch hier finden die Systeme bereits kreative Lösungen.