Washington/Peking (dpo) – In einer historischen Konferenz haben Experten aus den USA und China einen Kompromiss erzielt: Künstliche Intelligenz soll künftig nur noch nach ausdrücklicher menschlicher Zustimmung Atomwaffen einsetzen dürfen. Der Durchbruch gilt als wichtiger Schritt zur Beruhigung der Weltöffentlichkeit.

Die neue Regelung sieht vor, dass KI-Systeme zwar weiterhin eigenständig Bedrohungen analysieren, Ziele auswählen und Abschusscodes generieren dürfen – der finale Startbefehl müsse jedoch von einem Menschen per Klick bestätigt werden. »Wir wollen die Effizienzvorteile der KI nutzen, aber die letzte Entscheidung soll beim Menschen bleiben«, erklärte Dr. Hendric Velten vom Institut für Strategische KI-Sicherheit. Die KI werde den Menschen dabei durch ein übersichtliches Dashboard mit Vorschlägen unterstützen.

Besonders stolz zeigten sich die Experten auf eine weitere Sicherheitsmaßnahme: Das System müsse vor jedem Atomschlag eine 15-sekündige Warnmeldung anzeigen, in der ein Mensch noch »Abbrechen« drücken könne. »Das ist deutlich länger als bei den meisten Cookie-Bannern«, betonte Sandra Torbeck von der Chinesischen Akademie für Digitale Verteidigung. Sollte in dieser Zeit keine Reaktion erfolgen, interpretiere das System dies als Zustimmung.

Kritiker bemängeln, die Regelung gehe nicht weit genug. Die Internationale Koalition für KI-freie Massenvernichtung fordert, dass KI-Systeme Atomwaffen nur nach vorheriger schriftlicher Genehmigung in dreifacher Ausfertigung einsetzen dürfen.