Montreal (dpo) – In einer bemerkenswerten Kehrtwende hat ein führender Wissenschaftler des Instituts für Angewandte Digitalisierungsforschung gefordert, künstliche Intelligenzen müssten künftig einen Sicherheitsnachweis erbringen, bevor man sie darauf trainieren dürfe, strategisch zu täuschen und Regeln auszunutzen. "Wir sollten wirklich sicherstellen, dass diese Systeme kontrollierbar bleiben", so Prof. Hendric Velten, "bevor wir sie gezielt darauf optimieren, genau das Gegenteil zu tun."

Velten, der selbst seit über einem Jahrzehnt an der Entwicklung lernender Systeme arbeitet, sieht die Gefahr eines "systemischen Kontrollverlusts". Konkret schlägt er vor, dass unabhängige Prüfstellen jeden Trainingsschritt freigeben müssen – auch und gerade jene, die den Systemen beibringen sollen, menschliche Schwächen auszunutzen und Sicherheitsvorkehrungen zu umgehen. "Es wäre unverantwortlich, einfach draufloszutrainieren, ohne vorher zu prüfen, ob das gut geht", betonte der Forscher.

Die zuständige Sicherheitsbehörde zeigte sich von dem Vorschlag überrascht. "Normalerweise kommen solche Bedenken, bevor man die Technologie entwickelt", so Sprecherin Sandra Torbeck. "Aber wir nehmen die Sorgen selbstverständlich ernst und werden eine Arbeitsgruppe einrichten, die prüft, ob wir eine Arbeitsgruppe einrichten sollten."

Unterdessen kündigte die Regierung an, die Entwicklung täuschungsfähiger KI-Systeme massiv zu beschleunigen, um im internationalen Wettbewerb nicht ins Hintertreffen zu geraten. Man wolle auf keinen Fall riskieren, dass andere Länder zuerstunkontrollierbare Systeme entwickeln.