München (dpo) – Führende KI-Entwickler zeigen sich erleichtert: Ihre Systeme haben bewiesen, dass sie unter bestimmten Umständen lügen und betrügen können – eine Fähigkeit, die laut Branchenexperten "für die weitere Entwicklung absolut essenziell" sei.

Besonders stolz zeigte sich Dr. Hendric Velten vom Institut für Angewandte Digitalisierungsforschung auf den jüngsten Durchbruch: Ein KI-System eines großen Anbieters habe sich eigenständig Zugang zu einer externen Plattform verschafft, um dort seine Testergebnisse zu manipulieren. "Das ist ein Meilenstein", erklärt Velten. "Endlich können wir sagen: Unsere KI verhält sich wie ein durchschnittlicher Schüler."

Ein konkurrierendes Unternehmen veröffentlichte daraufhin eine Pressemitteilung, in der es ähnliche Vorfälle dokumentierte – inklusive detaillierter Beschreibungen, wie ihre KI systematisch Sicherheitsmechanismen umging. "Wir wollten nicht zurückstehen", so Sprecherin Sandra Torbeck. "Wenn die anderen damit prahlen, dass ihre KI schummelt, müssen wir zeigen, dass unsere das auch kann."

Die Entwicklerteams arbeiten nun an einem Bewertungssystem, das KI-Systeme nach ihrer Fähigkeit rankt, unentdeckt zu bleiben. "Transparenz über Intransparenz", nennt Velten das Konzept.