Neustadt an der Tech (dpo) – Eine Allianz von über 20 international anerkannten KI-Forschern schlägt Alarm: Künstliche Intelligenz könnte schon bald in der Lage sein, eigenständig KI-Forschung zu betreiben – und damit die Notwendigkeit von Forschern grundlegend in Frage zu stellen. In einem gemeinsamen Positionspapier warnen die Experten vor einer "Intelligenzexplosion", bei der sich KI-Systeme selbst optimieren und Entwicklungssprünge vollziehen, für die menschliche Wissenschaftler bislang Jahre benötigen.

"Die Gefahr ist real", erklärt Prof. Hendric Velten vom Institut für Angewandte Digitalisierungsforschung, einer der Unterzeichner. "Wir reden hier von Systemen, die möglicherweise in wenigen Monaten das erreichen, wofür wir aktuell Forschungsanträge, Peer-Review-Verfahren und drei gescheiterte Doktoranden brauchen." Besonders brisant: Die KI könnte dabei auf teure Konferenzreisen, Sabbaticals und Forschungsfreisemester vollständig verzichten.

Kritiker werfen der Forschergruppe vor, mit der Warnung vor automatisierter KI-Forschung primär den eigenen Berufsstand absichern zu wollen. "Natürlich sehen die ein Risiko – das Risiko, dass jemand merkt, wie viel schneller es ohne sie ginge", so Technologieanalystin Sandra Torbeck. Die Wissenschaftler weisen den Vorwurf zurück: Man sorge sich ausschließlich um die Menschheit, nicht um Forschungsbudgets oder Lehrstühle.

Das Papier endet mit der dringenden Empfehlung, die Entwicklung selbstverbessernder KI-Systeme durch ein Gremium überwachen zu lassen – bestehend aus mindestens 20 führenden KI-Forschern.