KI-Agenten: Die Kollegen, die keiner sieht und keiner stoppt

Rubrik warnt: größere Sicherheitslücken durch mehr KI-Agenten.

Eine neue Studie von Rubrik Zero Labs zeigt bedenkliche Defizite in der Identity Governance: Unternehmen setzen autonome Systeme ein, die sie weder vollständig überwachen noch wiederherstellen können.

Zusammenfassung (TL; DR):

• Eine Studie von Rubrik zeigt, dass Unternehmen zunehmend autonome KI-Agenten einsetzen, ohne über ausreichende Transparenz oder Kontrollmechanismen für diese „Schatten-Belegschaft“ zu verfügen.
• Die resultierende Flut an unkontrollierten nicht-menschlichen Identitäten schafft gefährliche Sicherheitslücken, da Aktionen der Agenten oft nicht überwacht oder im Fehlerfall rückgängig gemacht werden können.
• Experten warnen daher, dass die IT-Resilienz gefährdet ist und die Sicherheit von Identitäten zur Grundvoraussetzung für eine sichere KI-Strategie werden muss.

Rubrik (RBRK) veröffentlicht neue Studienergebnisse von Rubrik Zero Labs, die belegen: Unternehmen setzen autonome KI-Systeme produktiv ein, ohne über die nötigen Kontrollmechanismen zu verfügen. Die Folge ist eine wachsende Lücke zwischen Innovation und Sicherheit. Die Befragung von mehr als 1.600 IT- und Security-Verantwortlichen zeigt:

• 79 Prozent der Befragten in Deutschland und sogar 86 Prozent der Befragten EMEA-weit erwarten, dass KI-Agenten die Sicherheitsmechanismen in ihrem Unternehmen innerhalb des nächsten Jahres überholen werden.
• In Deutschland geben nur 21 Prozent an, vollständige Transparenz über die in ihrer Umgebung aktiven Agenten zu haben – wobei die Studie davon ausgeht, dass selbst dieser wahrscheinlich zu hoch eingeschätzt wird. Die Konsequenz: Identitäten, die bereits Entscheidungen treffen, Aktionen ausführen und auf geschäftskritische Daten zugreifen, können nicht wirksam abgesichert werden.

Verschärft wird das Problem durch die unkontrollierte Ausbreitung von Identitäten. Non-Human Identities, die mit Agenten verknüpft sind, vermehren sich schneller, als Unternehmen sie erfassen oder steuern können. Die Forscher sprechen von einer „Shadow Workforce“. Diese Identitäten operieren häufig mit dauerhaftem Zugriff und minimaler Aufsicht – und schaffen so neue Angriffsvektoren für Missbrauch, Kompromittierung und Lateral Movement. Gleichzeitig steht das operative Versprechen von KI-Agenten auf dem Prüfstand. Die Studie zeigt weiter:

• Mehr als 70 Prozent der Befragten in Deutschland (Europaweit sind es 75 Prozent) berichten, dass Agenten mehr manuelle Überwachung erfordern, als sie an Effizienz einsparen.
• Die Mehrheit der Befragten – 94 Prozent in Deutschland gegenüber 87 Prozent EMEA-weit – gibt an, dass sie nicht in der Lage sind, Aktionen von Agenten rückgängig zu machen, ohne Systemstörungen zu verursachen.
• Recovery und Prävention entwickeln sich zu primären Schwachstellen. Mehr als acht von zehn Führungskräften in Deutschland (85 Prozent) äußern Bedenken, ob sie ihre Recovery-Ziele angesichts zunehmender agenten-getriebener Bedrohungen noch erreichen können.
• Die Bedrohungslage verschärft sich. Nahezu die Hälfte der Befragten geht davon aus, dass agentische Systeme im kommenden Jahr die Mehrheit der Angriffe auslösen werden – ein Hinweis auf einen grundlegenden Wandel in der Vorgehensweise von Angreifern. Autonome Systeme verkürzen Angriffszeiten, skalieren Attacken und verwischen die Grenze zwischen Insider-Risiko und externer Kompromittierung.

KI-Agenten sind schneller als der Mensch

„Die Einführung von KI läuft schneller als unsere Fähigkeit, sie zu kontrollieren. Unternehmen kämpfen, weil sie Systeme eingeführt haben, die sie nicht vollständig beobachten, steuern oder wiederherstellen können“, sagt Kavitha Mariappan, Chief Transformation Officer bei Rubrik. „Wir müssen aufhören darüber zu diskutieren, ob KI riskant ist, und uns der härteren Realität stellen: Wenn Entscheidungen zunehmend von Maschinen getroffen werden, besteht die zentrale Herausforderung für jede Führungskraft darin, operative Sicherheit in einer immer autonomeren Landschaft zu gewährleisten.“

Für Vorstände und Geschäftsführungen hat das unmittelbare Auswirkungen. Die KI-Strategie ist heute untrennbar von der Resilienz-Strategie. Unternehmen, die weiterhin Geschwindigkeit über Kontrollmechanismen stellen, riskieren Umgebungen, in denen Fehler weder eingedämmt noch rückgängig gemacht werden können.

„Identity Verification ist die grundlegende Voraussetzung, um die Automatisierungsvorteile von KI zu nutzen, ohne menschliche Engpässe zu schaffen“, erklärt Steven Ramirez, VP und Chief Information Security & Technology Officer bei Renown Health. „Verifizierung und Transparenz sind Grundvoraussetzungen für eine sichere agentische Implementierung.“

Die Studie von Rubrik Zero Labs, „The State of the Agent: Understanding Adoption, Risk, and Mitigation“, kombiniert globale Umfragedaten mit der technischen Analyse neu entstehender Angriffsvektoren auf Tool-, Cognitive- und Identity-Ebene von KI-Systemen. Die Untersuchung beschreibt einen bereits laufenden Paradigmenwechsel: Sicherheit bedeutet nicht länger nur, Angriffe zu verhindern, sondern Kontrolle in Systemen aufrechtzuerhalten, die nicht mehr auf menschliche Eingaben warten.