Berlin (dpo) – Das Bundesministerium für Digitale Transformation hat ein wegweisendes Forschungsprojekt angekündigt: Für insgesamt 27 Millionen Euro soll in den kommenden vier Jahren ein KI-gestütztes System entwickelt werden, das zuverlässig erkennt, ob andere KI-Systeme die Wahrheit sagen. Das Projekt trägt den Arbeitstitel "Vertrauenswürdige Authentifizierung Künstlicher Intelligenz" (VAKI).

Laut Ministeriumssprecher Hendric Velten sei die Notwendigkeit offensichtlich: "Wir setzen zunehmend KI-Systeme in sensiblen Bereichen ein. Da ist es nur logisch, dass wir ein zweites KI-System brauchen, das das erste überprüft." Auf die Frage, wer dann das zweite System überprüfe, antwortete Velten nach kurzem Zögern: "Dafür entwickeln wir parallel ein drittes System. Budget ist bereits eingeplant."

Das beauftragte Forschungsinstitut Veridion hat bereits erste Erfolge vermeldet. "Unser Prototyp kann mit 31-prozentiger Genauigkeit feststellen, ob eine KI halluziniert", erklärt Projektleiterin Dr. Sandra Torbeck stolz. "Das ist statistisch gesehen nur minimal schlechter als reines Raten. Aber wir sind zuversichtlich, diese Quote bis Projektende auf 28 Prozent zu senken."

Parallel kündigte das Ministerium an, auch ein KI-System zur Überprüfung von Forschungsergebnissen zu KI-Lügendetektoren entwickeln zu lassen. Kostenpunkt: 41 Millionen Euro.