Zur Verantwortung hatte ich an anderer Stelle im Forum schon etwas geschrieben, kurze Antwort, das Unternehmen selbst bleibt in der Verantwortung, nicht der KI-Agent. Aber noch zum Risiko durch KI-Agenten: KI-Agenten sind in IT-Infrastrukturen ein zweischneidiges Schwert: Zuerst die positive Seite (Automatisierter Schutz): KI-Agenten können Bedrohungen in Echtzeit erkennen, Cyberrisiken proaktiv minimieren und Vorfälle eigenständig abwehren, bevor menschliche Admins überhaupt reagieren können.
Dann die negative Seite (Neue Bedrohung): Da Agenten weitreichende Rechte im System besitzen müssen, um autonom handeln zu können, werden sie selbst zum Hochrisiko-Ziel. Werden die Agenten manipuliert (z.B. durch Prompt-Injection-Angriffe) oder kompromittiert, können sie unbemerkt weitreichenden Schaden anrichten oder sensible Daten exfiltrieren.