Digitopolis (dpo) – Ein führender Softwarehersteller hat ein neues Feature vorgestellt, bei dem künstliche Intelligenzen sich gegenseitig kontrollieren sollen. Das System namens "Cowork" soll künftig eigenständig komplette Arbeitsprozesse übernehmen, während ein Recherche-Tool mehrere KI-Modelle gegeneinander antreten lässt.

"Wir haben festgestellt, dass Menschen bei der Überwachung von KI-Systemen oft zu kritisch sind", erklärt Sandra Torbeck, Leiterin der Abteilung für Autonome Prozessoptimierung. "Deshalb setzen wir jetzt auf KI-Systeme, die andere KI-Systeme überprüfen. Die verstehen sich einfach besser und arbeiten effizienter zusammen." Laut internen Tests habe das System bereits beeindruckende 127 Prozent Zustimmung unter den beteiligten KI-Modellen erreicht.

Besonders stolz zeigt sich das Unternehmen auf die neue Funktion, bei der mehrere KI-Modelle dieselbe Aufgabe bearbeiten und sich anschließend gegenseitig bewerten. "Das ist wie Peer Review in der Wissenschaft, nur dass alle Peers denselben Hersteller haben und auf denselben Trainingsdaten basieren", so Torbeck weiter. Ein menschlicher Supervisor könne bei Bedarf eingreifen, sofern er das 200-seitige Handbuch durchgearbeitet habe.

Das Bundesamt für Digitale Selbstregulierung begrüßte die Entwicklung. Man sei zuversichtlich, dass KI-Systeme, die sich gegenseitig kontrollieren, nie auf die Idee kämen, sich einfach gegenseitig recht zu geben.