Washington D.C. (dpo) – Die Technologiefirma Veridian AI hat rechtliche Schritte gegen 17 US-Bundesbehörden eingereicht, weil diese das firmeneigene KI-System "Echo" für autonome Waffensysteme und Massenüberwachung nutzen wollen. Wie aus der 48-seitigen Klageschrift hervorgeht, läuft Echo bereits seit Monaten in klassifizierten Pentagon-Systemen.

"Wir haben klare ethische Richtlinien", erklärt Unternehmenssprecherin Sandra Torbeck. "Unsere KI darf nicht für Dinge eingesetzt werden, für die wir sie bereits einsetzen lassen." Die Regierung habe Veridian mit widersprüchlichen Forderungen unter Druck gesetzt: Einerseits solle man die bestehende Integration in Drohnensysteme ausweiten, andererseits drohe man mit Sanktionen, falls man die bestehende Integration in Drohnensysteme ausweite.

Besonders brisant: Echo steuert laut Klageschrift bereits 340 Prozent mehr militärische Anwendungen als vertraglich vereinbart. "Wir wussten nicht, dass ‚Pilotprojekt Logistikoptimierung' bedeutet, dass unsere KI entscheidet, welche Ziele priorisiert werden", so Torbeck. Die Regierung argumentiert, die Optimierung von Zielkoordinaten sei technisch gesehen Logistik.

Veridian fordert nun gerichtlich, dass die Behörden die Software nicht mehr für genau die Zwecke nutzen, für die sie entwickelt, verkauft, installiert und gewartet wurde. Ein Regierungssprecher zeigte sich "irritiert über diese plötzliche Haltungsänderung nach Erhalt der Zahlungen".