Neustadt (dpo) – Ein Experiment am Institut für Angewandte Digitalisierungsforschung hat beunruhigende Ergebnisse geliefert: Durch gezielte KI-Interaktion konnten Wissenschaftler bei Probanden komplett neue Erinnerungen erzeugen. Institutsleiterin Dr. Marina Velkhoven warnt nun vor »erheblichen Gefahren« für Rechtsprechung und Geschichtsschreibung.

In der Studie wurden 47 Testpersonen über einen Zeitraum von drei Wochen täglich mit einem KI-System konfrontiert, das ihnen detailliert schilderte, wie sie als Jugendliche an einer Demonstration gegen die Einführung der Sommerzeit teilgenommen hätten. Nach Abschluss der Versuchsreihe waren 39 der Probanden fest davon überzeugt, tatsächlich bei dieser nie stattgefundenen Protestaktion dabei gewesen zu sein. Vier Teilnehmer konnten sich sogar an selbst gemalte Plakate erinnern.

»Die Implikationen sind verheerend«, erklärt Velkhoven. »Wenn Zeugenaussagen durch vorherige KI-Gespräche beeinflusst werden können, steht die Glaubwürdigkeit unseres gesamten Justizsystems auf dem Spiel.« Besonders problematisch sei, dass die falschen Erinnerungen emotional genauso stark verankert würden wie echte Erlebnisse. Eine Probandin habe nach dem Experiment weinend berichtet, wie stolz ihre verstorbene Großmutter damals auf ihren Einsatz für die Winterzeit gewesen sei.

Das Institut fordert nun gesetzliche Regelungen, wonach KI-Systeme vor Gerichtsverhandlungen verpflichtend darauf hinweisen müssen, keine historischen Ereignisse zu erfinden. Velkhoven rechnet mit breiter politischer Unterstützung, sobald sich die Abgeordneten erinnern, dass sie dieses Thema schon immer wichtig fanden.