Sichere KI-Agenten: Cyber-Immunity im Fokus

KI-Agenten im Unternehmen: Leitlinien zur Absicherung anhand des Cyber Immunity-Ansatzes.

Kaspersky zeigt in seinem neuen Leitfaden „AI agent security through the lens of Cyber Immunity“, wie Unternehmen autonome KI-Agenten sicher in ihre IT-Infrastrukturen integrieren können. Er basiert auf dem Grundgedanken des Cyber-Immunity-Ansatzes. Er analysiert ausgehend von bekannten Vorfällen und bestehenden Bedrohungsmodellen die Risiken, die mit autonomen agentenbasierten Systemen verbunden sind. Daraus lassen sich Sicherheitsprinzipien für die Entwicklung und den Betrieb agentenbasierter Systeme ableiten.

Zusammenfassung (TL; DR):

• Zentrale Sicherheitsprinzipien für autonome KI-Agenten.
• Cyber-Immunity-Ansatz reduziert Risiken durch Fehlverhalten, Missbrauch und übermäßige Berechtigungen.
• Empfehlungen für CISOs, CIOs und CTOs zu Isolation, Zugriffskontrolle und sicherer Agentenarchitektur.

Default-Deny-Ansatz für externe Interaktionen

Im Fokus stehen unter anderem klar definierte Sicherheitsannahmen und minimale Vertrauensbereiche. Auch die Isolation von Komponenten sowie ein Default-Deny-Ansatz für externe Interaktionen hat man berücksichtigt. Ziel ist, Risiken wie übermäßige Berechtigungen, Datenlöschung oder die missbräuchliche Nutzung von KI-Agenten zu reduzieren. So will man belastbare, sichere Architekturen für den Unternehmenseinsatz schaffen.

KI-Agenten kommen heute in immer mehr Unternehmensszenarien zum Einsatz – von der Automatisierung routinemäßiger Geschäftsprozesse bis hin zu Anwendungen mit hoher Tragweite. Das können etwa Softwareentwicklungsaufgaben oder IT-Sicherheitsfunktionen sein. Um dies zu adressieren, hat Kaspersky einen umfassenden Leitfaden „AI agent security through the lens of Cyber Immunity“ vorgestellt. Dieser behandelt die Absicherung von KI-Agenten basierend auf Cyber Immunity, ein Secure-by-Design-Ansatz. Dabei baut man Systeme so auf, dass sich selbst bei Fehlern oder kompromittierten Komponenten kritische Funktionen schützen lassen.

Typische Einsatzszenarien für KI-Agenten

Der Leitfaden analysiert typische Einsatzszenarien für KI-Agenten, unterschiedliche Grade agentenbasierter Autonomie. Er analysiert auch reale Vorfälle, bei denen KI-Agenten konkrete Schäden verursacht haben. Ziel ist es, bekannte Risiken zu systematisieren und bestehende Bedrohungsmodelle einzuordnen.

Vier Cyber-Immunity-Prinzipien für KI-Agenten

Um das Risiko von Sicherheitsvorfällen zu reduzieren, formuliert Kaspersky im Bericht Cyber-Immunity-Prinzipien für die Entwicklung von KI-Agenten. DDoe Pronzipien sollen die zielgerichtete Ausnutzung von Agenten, zu weitreichende Berechtigungen oder das Löschen von Daten durch KI-Agenten verhindern:

• Sicherheitsannahmen bereits in der Designphase definieren: LLMs und sämtliche Daten aus externen Quellen standardmäßig als nicht vertrauenswürdig behandeln und für jede irreversible Aktion eine ausdrückliche menschliche Bestätigung verlangen.
• Trusted Computing Base (TCB) minimieren: Die Anzahl der Komponenten, denen man für die Sicherheit zwingend vertrauen muss, so gering wie möglich halten.
• Komponenten isolieren: Sandboxes und virtuelle Maschinen einsetzen, um Ausführungsumgebungen zu trennen, vertrauenswürdige und nicht vertrauenswürdige Kontexte voneinander abzugrenzen und einzelne Agenten in Multi-Agenten-Systemen zu isolieren.
• Interaktionen nach dem Default-Deny-Prinzip kontrollieren: Richtlinien für Tool-Aufrufe und deren Argumente anwenden, mit denen Agenten auf externe APIs und Ressourcen zugreifen. Netzwerkverkehr kontrollieren und verhindern, dass Agenten ihre eigene Lieferkette dynamisch verändern.

Praktische Empfehlungen für CISOs, CIOs und CTOs

Der Leitfaden enthält zudem praktische Empfehlungen für CISOs, CIOs und CTOs. Dazu zählen unter anderem die Inventarisierung eingesetzter KI-Agenten, die Entwicklung flexibler Richtlinien für Isolation und Containerisierung sowie das Management der agentenbasierten Lieferkette. So baut man eine sichere Infrastrukturen für KI-Agenten auf.

„Cyber Immunity hat man ursprünglich zwar außerhalb des KI-Kontexts entwickelt. Ihre Kernprinzipien lassen sich jedoch direkt auf fortgeschrittene LLM-basierte Systeme übertragen“, erklärt Vladislav Tushkanov, Head of Kaspersky AI Technology Research Center. „Wenn Entwickler mit grundsätzlich nichtdeterministischen und nicht vertrauenswürdigen Komponenten arbeiten – und große Sprachmodelle sind standardmäßig als solche zu betrachten –, sollten sie Vertrauen in die Architektur der Lösung integrieren. Das begrenzt mögliche Auswirkungen von Fehlern oder Kompromittierungen. Eine sichere Architektur sollte zusätzlich  eine mehrschichtige Verteidigungsstrategie stärken. Diese sollte auf Technologien wie AI Firewall sowie modernen Sicherheitsebenen wie Sandboxes, EDR und SIEM beruht, um heutige intelligente Anwendungen abzusichern.“

Häufige Fragen (FAQ)