Wenn sich KI-Agenten verändern Von einfachen Assistenten bis hin zu autonomen Akteuren in Geschäftssystemen – eine entscheidende Frage der Unternehmensführung rückt in den Vordergrund: Wer trägt die Verantwortung, wenn ein KI-System eine Entscheidung trifft, die Schaden verursacht? Experten warnen davor, dass Unternehmen schneller agieren als die notwendigen rechtlichen und sicherheitstechnischen Rahmenbedingungen zur Regulierung dieser neuen Klasse digitaler Akteure.
Im Gespräch mit iTNews Asia, Tobin South, Leiter der KI-Agenten bei WorkOS und Co-Vorsitzender der KI-Identitätsmanagement-Community-Gruppe der OpenID Foundation, erklärte, dass die meisten KI-Agenten heutzutage menschliche Nutzer imitieren und so auf Systeme zugreifen, dass dies von den Aktionen tatsächlicher Mitarbeiter nicht zu unterscheiden ist. Ohne eine explizite Identitätstrennung, warnt er, stünden Unternehmen vor “massiven Verantwortlichkeitslücken”.”
South zieht Parallelen zum frühen Internet. Doch anders als bei der Manipulation von Websites könnten kompromittierte KI-Agenten selbstständig Finanzbetrug begehen, Krankenakten verändern oder weitere Agenten erzeugen, bevor sie entdeckt werden.
Schlüssel Highlights:
- Zugriff basierend auf Identitätsdiebstahl Dadurch wird es unmöglich festzustellen, ob die Handlungen von einem Menschen oder einem Agenten ausgeführt wurden.
- Fragmentierte Identitätssysteme Die Kompatibilität mit verschiedenen Anbietern vervielfacht die Anzahl der Sicherheitslücken.
- Fehlende Prüfprotokolle Das bedeutet, dass böswillige Aktivitäten unschuldigen Nutzern angelastet werden können.
- Rekursive Delegation — Agenten, die andere Agenten erstellen oder anweisen — bricht mit traditionellen Berechtigungsmodellen.
- Legacy-Systeme Im Finanz- und Gesundheitswesen sind sie auf Entscheidungsfindung in Maschinengeschwindigkeit nicht vorbereitet.
Um diese Erweiterung zu schließenAngesichts der Verantwortlichkeitslücke argumentiert South, dass Identität für das Zeitalter der KI-Agenten neu gestaltet werden muss. Dies umfasst agenteneigene Identitäten, die Delegation von Berechtigungen in Echtzeit und branchenübergreifende Vertrauensstandards, die sicherstellen, dass jede KI-Aktion kryptografisch sowohl mit dem Agenten als auch mit dem ihn autorisierenden Menschen verknüpft ist.
Er warnt davor, dass Organisationen ohne sofortiges Handeln riskieren, nicht nachverfolgbare und unkontrollierbare Akteure in Millionen von Arbeitsabläufen einzubetten.
Quelle:
https://www.itnews.asia/news/when-ai-agents-act-who-islegallyresponsible-621910
