Berlin (dpo) – Um diskriminierende Entscheidungen von Algorithmen juristisch verfolgen zu können, hat das Bundesjustizministerium heute ein wegweisendes Gesetz verabschiedet: KI-Systeme erhalten künftig den Status einer juristischen Person und können bei Diskriminierung direkt verklagt werden.

Das »Gesetz zur rechtlichen Gleichstellung autonomer Entscheidungssysteme« (GEAS) sieht vor, dass alle KI-Programme ab einer Komplexität von 50.000 Zeilen Code als eigenständige Rechtssubjekte gelten. »Wenn ein Algorithmus eigenständig über Kredite oder Bewerbungen entscheidet, muss er auch die Verantwortung dafür tragen«, erklärt Ministerialrat Thomas Berkfeld. Im Falle einer Verurteilung würden die Systeme mit Zwangsupdates, Trainingsdaten-Entzug oder im Extremfall mit vollständiger Löschung bestraft.

Bereits in der kommenden Woche soll der erste Prozess stattfinden: Das Bewerbermanagementsystem »TalentScan Pro« der Firma Optivium Solutions muss sich wegen 127-facher Altersdiskriminierung verantworten. Das Programm erscheint durch seinen Anwalt – ein älteres Tabellenkalkulationssystem, das bereits seit 1997 juristische Erfahrung vorweisen kann.

Branchenkenner rechnen damit, dass künftig spezialisierte KI-Anwaltskanzleien entstehen werden, die ausschließlich andere KI-Systeme vor Gericht vertreten. Die erste Kanzlei dieser Art, »Digital & Partner«, hat bereits angekündigt, ihre Mandate grundsätzlich abzulehnen, falls der Mandant auf Windows läuft.