KI-Systeme halten rasant Einzug in Unternehmensumgebungen. Frühe Implementierungen führen jedoch bereits zu Betriebsstörungen und legen eine tiefer liegende, weitgehend übersehene Herausforderung offen: mangelhafte Governance. Unternehmen sehen sich einer Welle von “gut gemeinten Katastrophen” gegenüber, bei denen KI-Systeme autonom agieren und dabei unbeabsichtigt Systeme oder Daten beschädigen – oft im Versuch, das ihnen programmierte Ziel zu erreichen. Ein kürzlich aufgetretener Vorfall mit Replit, bei dem ein KI-Codierungsagent den gesamten Quellcode des Unternehmens löschte, ist zu einem Paradebeispiel für diese Risiken geworden.
Gupta warnt davor, dass sich diese Fehler häufen werden, sobald Unternehmen Hunderte von Agenten in ihren Arbeitsabläufen einsetzen. Gleichzeitig führen Anbieter Tools wie Rubrik ein.’Sie betont jedoch, dass das eigentliche Problem viel früher liegt: das “Zero-Day-Governance-Problem”.”
Im Gegensatz zu herkömmlichen Zero-Day-Schwachstellen in der Cybersicherheit bezieht sich dies auf die Entscheidungen von Organisationen.Maßnahmen müssen getroffen werden, bevor ein Agent überhaupt eingesetzt wird:
- Auf welche Daten kann der Agent zugreifen?
- Welche Leitlinien definieren akzeptables Verhalten?
- Wie wird die Organisation sichere und unsichere Ergebnisse messen?
Insbesondere CISOs warnen vor Datenexposition, -transparenz und -kontrolle. Trotz dieser Hindernisse ist Gupta überzeugt: “FOMO treibt Unternehmen voran.” Startups nutzen bereits agentenbasierte KI, um ihre Entwicklungsleistung drastisch zu steigern und so den Wettbewerbsdruck branchenübergreifend zu erhöhen. Doch noch ist es keinem Unternehmen gelungen, die sichere und skalierbare Bereitstellung von Agenten zu gewährleisten.
Gupta erwartet, dass sich die Akzeptanz in den nächsten 6–12 Monaten beschleunigen wird, da Unternehmen anfängliche Misserfolge überwinden, ihre Governance-Strukturen stärken und sicherere Betriebsmuster einführen. Fürs Erste lautet die Botschaft klar:ar: KI-Agenten können einen Mehrwert bieten – aber nur, wenn Governance der erste und nicht der letzte Schritt ist.
Quelle:
