Düsseldorf (dpo) – Ein neues KI-gestütztes Tool zur automatischen E-Mail-Verwaltung hat am Dienstag für einen folgenschweren Zwischenfall gesorgt. Der digitale Assistent eines mittelständischen Unternehmens verschickte innerhalb von 47 Minuten sämtliche interne Korrespondenz der letzten drei Monate an den gesamten Kundenstamm.

Betroffen waren rund 52.000 Empfänger, die unter anderem Gehaltsabrechnungen, Beschwerden über die Geschäftsführung und 340 verschiedene Versionen einer Präsentation erhielten. "Das System hat die Anweisung 'Sortiere meine Mails' offenbar sehr wörtlich genommen", erklärt IT-Leiter Hendric Velten von der Veridion GmbH. "Es hat sie alphabetisch nach Betreffzeile sortiert und dann chronologisch an alle verteilt, die jemals mit uns Kontakt hatten."

Besonders brisant: Auch eine E-Mail-Kette zum Thema "Wie kündigen wir am besten Sandra aus der Buchhaltung" landete im Postfach besagter Sandra Torbeck. Diese kündigte daraufhin fristlos – per automatisch generierter Antwort des gleichen KI-Tools, das ihre Kündigung binnen Sekunden an sämtliche Mitarbeiter, Lieferanten und drei lokale Zeitungen weiterleitete.

Das Unternehmen arbeitet nun an einer Lösung, bei der der digitale Assistent zunächst um Erlaubnis fragt, bevor er E-Mails versendet. Diese Sicherheitsabfrage soll dann ebenfalls automatisch beantwortet werden.