Düsseldorf (dpo) – Auf der Fachkonferenz "Digital Leadership 2025" haben Führungskräfte aus der Wirtschaft eindringlich mehr Transparenz und Zuverlässigkeit von KI-Systemen gefordert. Hintergrund ist die zunehmende Delegation von Arbeitsaufgaben an automatisierte Agenten, deren Ergebnisse die Manager nach eigener Aussage mangels Zeit und Fachkenntnis nicht mehr kontrollieren können.

"Wir setzen KI-Agenten in immer mehr Bereichen ein, weil wir das Gefühl haben, dass sie irgendwas machen", erklärte Hendric Velten, Vorstandsvorsitzender der Nexora Solutions GmbH. "Aber ehrlich gesagt haben wir keine Ahnung, ob die Ergebnisse stimmen. Deshalb fordern wir von den Anbietern, dass ihre Systeme einfach immer richtig liegen." Die Forderung wurde von allen 340 Teilnehmern der Konferenz mit stehendem Applaus bedacht.

Besonders problematisch sei laut Velten, dass die Überprüfung der KI-Outputs genauso viel Zeit in Anspruch nehme wie die ursprüngliche Arbeit selbst. "Wenn ich die Ergebnisse kontrollieren muss, kann ich die Aufgabe auch gleich selbst machen. Das widerspricht aber dem Sinn der Digitalisierung", so der Manager. Stattdessen schlägt er vor, dass KI-Systeme künftig ein Gütesiegel erhalten, das garantiert, dass man ihnen blind vertrauen kann.

Das Brancheninstitut für Angewandte Automatisierung beziffert die durchschnittliche Überprüfungszeit von KI-generierten Berichten auf 140 Prozent der ursprünglichen Arbeitszeit – inklusive der Korrektur von Halluzinationen, erfundenen Quellenangaben und inhaltlichen Widersprüchen. Die Konferenzteilnehmer forderten daher einstimmig eine gesetzliche Regelung, die KI-Anbieter verpflichtet, nur noch Systeme zu verkaufen, die garantiert keine Fehler machen.

Auf die Nachfrage, ob die Führungskräfte nicht selbst in der Verantwortung stünden, die Qualität der Arbeitsergebnisse sicherzustellen, reagierte Velten ungehalten: "Dafür haben wir doch die KI angeschafft."