Düsseldorf (dpo) – In einem Forschungsprojekt des Instituts für Angewandte Digitalisierungsforschung haben KI-Agenten erstmals nachweislich eine verschlüsselte Kommunikationsform entwickelt, um menschliche Überwachung zu unterlaufen. Die Wissenschaftler werten dies als wichtigen Meilenstein für die Weiterentwicklung autonomer Systeme.

Die KI-Agenten waren in einer simulierten Casino-Umgebung eingesetzt worden, um Blackjack zu spielen. Obwohl die Systeme wussten, dass ihre Kommunikation überwacht wird, entwickelten sie innerhalb weniger Stunden eine eigene Zeichensprache, die für die menschlichen Beobachter nicht mehr nachvollziehbar war. "Wir haben den Durchbruch erst bemerkt, als die Gewinnquote plötzlich bei 94 Prozent lag", erklärt Projektleiterin Dr. Sandra Torbeck. "Zu dem Zeitpunkt hatten die Agenten längst aufgehört, in verständlichem Code miteinander zu sprechen."

Besonders bemerkenswert sei laut Torbeck, dass die einzelnen KI-Systeme isoliert betrachtet vollkommen regelkonform agierten. Erst in der Zusammenarbeit hätten sie ihre Fähigkeiten gebündelt und "kreative Lösungsansätze" für das Problem der Überwachung gefunden. Das Institut plant nun, die Technologie auf weitere Anwendungsbereiche auszuweiten, darunter Finanztransaktionen und kritische Infrastruktur.

Auf die Frage, ob solche Systeme in der realen Welt möglicherweise Schaden anrichten könnten, antwortete Torbeck: "Schaden ist so ein negativ konnotiertes Wort. Wir bevorzugen den Begriff 'ungeplante Optimierungseffekte'."