San Francisco (dpo) – Ein ehemaliger Mitarbeiter zweier führender KI-Unternehmen hat seine Position aufgegeben, weil er die Entwicklung künstlicher Intelligenz für zu gefährlich hält. Hendric Velten, der zuvor bei den Firmen Prometheus AI und Veridion Technologies an fortgeschrittenen Sprachmodellen arbeitete, warnt nun eindringlich vor den Systemen, an deren Entwicklung er selbst jahrelang beteiligt war.

Besonders brisant: Veltens ehemaliger Kollege bei Veridion Technologies, Dr. Stefan Moorbach, beziffert die Wahrscheinlichkeit einer vollständigen Auslöschung der Menschheit durch fehlgeleitete KI-Systeme in den kommenden zehn Jahren auf über zehn Prozent. Trotz dieser apokalyptischen Einschätzung erscheint Moorbach weiterhin täglich im Büro, um an eben jenen Systemen weiterzuarbeiten. "Die Risikoabschätzung ist Teil meiner wissenschaftlichen Pflicht", erklärte Moorbach gegenüber Reportern, während er im Hintergrund Code für ein neuronales Netzwerk kompilierte.

Velten selbst kündigte seine Position mit einer dreimonatigen Frist und nutzte die verbleibende Zeit, um noch mehrere Trainingsläufe abzuschließen und sein Wissen an Nachfolger weiterzugeben. "Mir war wichtig, niemanden im Stich zu lassen", so der Forscher, der nach eigenen Angaben die geordnete Übergabe seiner Projekte als "verantwortungsvoll" bezeichnete.

Das Institut für Angewandte Digitalisierungsforschung lobte unterdessen beide Forscher für ihre "bemerkenswerte Transparenz" und kündigte an, die Risikoberechnungen in zukünftige Förderanträge aufzunehmen.