Hamburg (dpo) – Das Landgericht Hamburg hat den Suchmaschinenbetreiber Nexora Technologies für fehlerhafte KI-generierte Suchergebnisse haftbar gemacht. Die KI hatte drei Berliner Verlage fälschlich mit organisierter Kriminalität, Geldwäsche und dem Vertrieb illegaler Substanzen in Verbindung gebracht. Nexora kündigte umgehend Berufung an.

Das Gericht wies die Argumentation des Konzerns zurück, wonach es sich lediglich um "eng begrenzte Einzelfälle" handle. Laut interner Statistiken, die im Prozess vorgelegt wurden, verknüpft die KI-Suchübersicht pro Monat etwa 280.000 bis 320.000 unbescholtene Unternehmen mit schweren Straftaten. "Das entspricht gerade einmal 0,0004 Prozent aller Suchanfragen", erklärte Nexora-Sprecherin Claudia Rehberg. "Gemessen an der Gesamtzahl unserer Nutzer ist das statistisch absolut vernachlässigbar."

Die betroffenen Verlage hatten geklagt, nachdem ihre Geschäftspartner reihenweise Verträge gekündigt hatten. Eines der Unternehmen wurde zusätzlich in der KI-Übersicht als "mutmaßlicher Finanzarm einer terroristischen Vereinigung" bezeichnet – eine Information, die die KI aus einem satirischen Online-Artikel generiert hatte, in dem das Wort "Verlag" vorkam. "Wir arbeiten kontinuierlich daran, unsere KI-Systeme zu verbessern", so Rehberg. "Dass unsere Technologie gelegentlich kreativ wird, zeigt ja gerade, wie leistungsfähig sie ist."

Nexora erwägt nun, die fehlerhaften Suchergebnisse künftig mit dem Hinweis "Dies ist eine KI-generierte Übersicht und könnte Ihr Unternehmen mit Schwerverbrechen in Verbindung bringen" zu versehen.