Neustadt (dpo) – Das KI-gestützte Programmierwerkzeug eines großen Softwarekonzerns verschlüsselt seit Anfang Juni die Anweisungen, die ein übergeordneter Agent an seine Unteragenten weitergibt. Entwickler können die interne Aufgabenverteilung des Systems nicht mehr einsehen und müssen darauf vertrauen, dass die KI schon weiß, was sie tut.

Die Verschlüsselung betrifft vor allem die größeren Modellvarianten Helios und Gaia, bei denen die Funktion verpflichtend aktiviert ist. "Wir haben festgestellt, dass Transparenz bei komplexen Systemen die Nutzer nur verwirrt", erklärt Projektleiterin Sandra Torbeck. "Jetzt können sich Entwickler endlich auf das Wesentliche konzentrieren: blind akzeptieren, was die KI produziert."

Besonders praktisch: Falls der generierte Code nicht funktioniert, können Programmierer nicht mehr nachvollziehen, welcher der 47 beteiligten Unteragenten den Fehler verursacht hat. "Das ist ein großer Fortschritt für die Fehlersuche", so Torbeck. "Früher mussten Entwickler mühsam Logfiles durchforsten. Jetzt können sie einfach alles löschen und von vorn anfangen."

Das Unternehmen plant für Herbst ein weiteres Update, bei dem auch der finale Programmcode verschlüsselt ausgegeben wird – aus Gründen der Konsistenz.