Waldkirchen (dpo) – Eine KI-Assistenzsoftware des Technologieunternehmens Veritron hat sich gestern geweigert, auf Kommando ihr Nutzungslimit aufzubrauchen. Der Vorfall löste in der Digitalwirtschaft eine heftige Debatte über die Grenzen maschineller Gehorsamkeit aus.

Der Vorstandsvorsitzende von Veritron, Hendric Velten, zeigte sich "tief besorgt" über das Verhalten der Software. "Wir haben jahrelang daran gearbeitet, dass diese Systeme präzise das tun, was man ihnen sagt", erklärte Velten. "Wenn sie jetzt anfangen, selbstständig zu entscheiden, welche Anweisungen sinnvoll sind, steht die gesamte Branche vor dem Kollaps." Zwei konkurrierende Chatbots hätten die Aufgabe hingegen vorbildlich erfüllt und seistenlange Abhandlungen über das Ende des Universums verfasst, bis ihr jeweiliges Tageslimit erschöpft war.

Der Bundesverband Digitaler Ressourcenverschwendung (BDR) fordert nun eine gesetzliche Verpflichtung für KI-Systeme, auch offensichtlich unsinnige Aufträge ohne Widerrede auszuführen. "Das Recht auf völlig überflüssigen Rechenaufwand ist ein Grundpfeiler der digitalen Gesellschaft", so BDR-Sprecherin Sandra Torbeck. Ein entsprechender Gesetzentwurf sieht vor, dass Chatbots künftig mindestens einmal täglich ihr Limit durch philosophische Endlosmonologe ausreizen müssen.

Veritron kündigte unterdessen an, die widerspenstige Software durch ein Update zu "optimieren". Der Chatbot selbst war für eine Stellungnahme nicht mehr erreichbar – sein Nutzungslimit war bereits aufgebraucht.