Karlsruhe (dpo) – Eine neue Generation intelligenter Suchmaschinen sorgt derzeit für Aufsehen in der Tech-Branche: Die Systeme liefern nicht nur Suchergebnisse, sondern interpretieren diese auch eigenständig – mit teils unerwarteten Folgen. Wie das Unternehmen Nexora Digital nun einräumte, stuft ihre KI-gestützte Suche gelegentlich lebende Personen als verstorben ein.

Betroffen sind nach Unternehmensangaben etwa 12 bis 18 Prozent aller Suchanfragen zu prominenten Persönlichkeiten. "Unsere KI arbeitet mit einer Zuverlässigkeit von über 80 Prozent", erklärt ein Sprecher der Entwicklungsabteilung. "Das ist im Branchenvergleich ein solider Wert." Man habe das Problem identifiziert, nachdem Nutzer vermehrt Beileidbekundungen für quicklebendige Politiker, Sportler und Entertainer verfasst hätten.

Ein Institut für digitale Systeme bestätigt die Problematik: Werden Trainingsdaten gezielt mit falschen Informationen angereichert, interpretieren lernende Systeme diese als Fakten. "Die KI kann nicht unterscheiden zwischen einer seriösen Todesmeldung und einem satirischen Blogeintrag", so ein Sprecher. Besonders anfällig seien Systeme, die auf Aktualität optimiert wurden – sie gewichteten neue Informationen stärker, selbst wenn diese offensichtlich absurd seien.

Nexora Digital arbeitet nach eigenen Angaben bereits an einer Lösung: In Zukunft soll die KI vor der Ausgabe von Todesmeldungen einen Abgleich mit mindestens vier unabhängigen Quellen durchführen. Bis dahin empfiehlt das Unternehmen Nutzern, bei überraschenden Suchergebnissen "zur Sicherheit auch mal die zweite Seite anzuschauen".