Köln (dpo) – Ein Forschungsteam der Rheinischen Hochschule für Digitale Systeme hat eine erschreckende Schwachstelle aktueller KI-Bilderkennungssysteme aufgedeckt: Bei Tests mit Silhouetten von Alltagsgegenständen ordnete die Software 94 Prozent aller Haustierfotos der Kategorie "Rüstungen und Verteidigungswaffen des Hochmittelalters" zu.

"Wir haben der KI simple Umrisse gezeigt – eine Katze, einen Hund, ein Meerschweinchen", erklärt Projektleiterin Dr. Simone Veltrup. "Das System identifizierte die Katze als Kettenhemd, den Hund als Streitkolben und das Meerschweinchen interessanterweise als Belagerungsturm." Besonders beunruhigend: Ein Goldfisch wurde mit 87-prozentiger Sicherheit als "Normannischer Helm mit Nasenschutz" klassifiziert.

Die KI-Entwicklerfirma Cognitron Systems weist die Kritik von sich. "Unsere Software arbeitet absolut korrekt", so Sprecher Hendric Malten. "Wenn man genau hinschaut, haben Katzen tatsächlich eine gewisse strukturelle Ähnlichkeit mit geflochtenen Metallringen. Das ist eine Frage der Perspektive."

Das Forschungsteam plant nun eine Folgestudie, in der mittelalterliche Rüstungen von der KI analysiert werden sollen. Erste Tests verliefen vielversprechend: Ein echtes Kettenhemd wurde prompt als "schlafende Perserkatze" erkannt.