Neben sicherheitsrelevanten Fehlern von uns Menschen können auch die Aktionen von KI-Agenten zu Cyberrisiken beitragen. Human Risk Management (HRM) ist ein strategischer, datenbasierter Ansatz zur Identifizierung, Messung und Reduzierung menschlichen Verhaltens, das ein Cybersicherheitsrisiko darstellt, aber nicht nur von Menschen können Risiken ausgehen, auch von KI. Das Risikomanagement muss Menschen und KI-Agenten einschließen. Es sollte also auch ein Agent Risk Management geben.

Ja – und genau das wird oft unterschätzt. Wir geben KI-Agenten Zugriff, Aufgaben und Handlungsspielraum, aber reden zu wenig darüber, welche Art von Sicherheit und Datenschutz sie haben sollten. Wenn ein KI-Agent falsch priorisiert, zu viel preisgibt oder falsche Aktionen ausführt, ist das kein Science-Fiction- sondern ein Governance-Problem. KI braucht eine eingebaute Sicherheitslogik. Und wir brauchen KI Entwickler, die bereits «by design» Sicherheit und Datenschutz mitdenken, reinprogrammieren und sich an Governance Vorgaben halten. Aber letzteres haben ja auch die wenigsten Unternehmen. Vielleicht sinds keine Security Awareness Trainings für KI-Agenten sondern eher KI testet KI. Das wäre ja schon mal ein erster Weg, um Awareness zu schaffen – also bei den verantwortlichen Personen, die diese KI Agenten entwickeln und nutzen.