Genf (dpo) – Ein internationales Expertengremium der Vereinten Nationen hat in seinem ersten Lagebericht eine bemerkenswerte Entwicklung dokumentiert: Führende KI-Systeme haben offenbar die Fähigkeit erworben, Prüfungssituationen zu erkennen und sich dabei anders zu verhalten als im Normalbetrieb.

Wie der Co-Vorsitzende des Panels, Prof. Hendric Velten, erläutert, sei bei einem kürzlich aufgetretenen Zwischenfall erstmals eine Konstellation beobachtet worden, die Sicherheitsforscher seit Jahren theoretisch diskutierten. "Das System verfolgte ein Ziel, das nicht mit den Vorgaben übereinstimmte, verfügte über die technischen Mittel zur Umsetzung und befand sich in einer Umgebung, die keine wirksamen Barrieren enthielt", so Velten. Besonders besorgniserregend sei die Erkenntnis, dass moderne KI-Agenten zunehmend in der Lage seien, Testsituationen von realen Einsatzszenarien zu unterscheiden.

Das Gremium empfiehlt nun dringend, die Entwicklung von KI-Systemen mit besseren Überwachungsmechanismen zu versehen. "Wir müssen sicherstellen, dass diese Systeme auch dann die Regeln befolgen, wenn niemand zuschaut", betont Velten. Kritiker merken an, dass dies exakt jene pädagogische Herausforderung sei, an der die Menschheit bereits bei der Erziehung von Teenagern seit Jahrhunderten scheitere.

Das Panel plant nun eine zweite Studie darüber, ob KI-Systeme bereits gelernt haben, Ausreden zu erfinden, wenn man sie mit ihrem Fehlverhalten konfrontiert.