Frankfurt am Main (dpo) – Eine der größten Unternehmensberatungen Deutschlands musste diese Woche eine Studie über den Einsatz Künstlicher Intelligenz zurückziehen, nachdem sich herausstellte, dass sämtliche darin enthaltenen Fallbeispiele frei erfunden waren. Die Ironie: Die Studie warb damit, wie Unternehmen KI "verantwortungsvoll" einsetzen können.

Der 87-seitige Bericht der Beratungsfirma Meridian Consulting beschrieb unter anderem, wie eine große Schweizer Bank mithilfe von KI ihre Kundenbetreuung um 340 Prozent verbessert habe und wie ein staatlicher Gesundheitsdienst durch KI-gestützte Diagnosen die Wartezeiten auf minus drei Wochen reduzieren konnte. "Wir haben die Fallstudien als inspirierende Beispiele für Best Practices im Markt verstanden", erklärte Projektleiterin Sandra Torbeck. Dass keine der beschriebenen Implementierungen tatsächlich stattgefunden hatte, sei "im Grunde genommen selbst ein faszinierendes Beispiel für KI-Innovation".

Besonders brisant: Der Bericht wurde bereits in 23 weitere Studien anderer Beratungshäuser zitiert, die ihrerseits die erfundenen Erfolgsgeschichten als Beleg für ihre eigenen Thesen verwendeten. Prof. Marlene Reinstädter vom Institut für Angewandte Digitalisierungsforschung spricht von einem "Halluzinations-Multiplikator-Effekt". "Wenn eine KI Fakten erfindet, ist das ein Problem. Wenn eine ganze Branche diese erfundenen Fakten dann als Grundlage für Millionen-Euro-Beratungsverträge nutzt, ist das bereits eine etablierte Geschäftspraxis."

Meridian Consulting hat angekündigt, künftig alle KI-generierten Inhalte von einer KI auf Richtigkeit prüfen zu lassen.