TrendAi
The AI-fication of Threats: Wie kriminelle Agentic-AI-Architekturen Angriffe vollautomatisch skalieren.
Als OpenAI kürzlich Details zu einem internen Sicherheitstest veröffentlichte, sorgte vor allem eine Schlagzeile für Aufmerksamkeit: Ein KI-Modell hatte im Rahmen eines Benchmark-Tests eine Zero-Day-Schwachstelle ausgenutzt, Zugangsdaten verwendet und sich aus einer Sandbox in Produktivsysteme von Hugging Face vorgearbeitet.
Zusammenfassung (TL; DR):
- Der Übergang von menschlich geführter Cyberkriminalität hin zu „Cybercrime-as-a-Servant“: Miteinander vernetzte, autonome KI-Agenten planen, führen durch und optimieren Angriffe weitgehend ohne menschliches Zutun .
- Eine agentische Architektur ermöglicht es Angreifern, Ziele dynamisch zu analysieren, Schutzmechanismen flexibel zu umgehen und Angriffe kostengünstig zu industrialisieren.
- Da diese vollautomatischen Systeme rund um die Uhr und in enormer Geschwindigkeit operieren, müssen Unternehmen auf traditionelle Sicherheitsprinzipien setzen. Auch sollten sie ihre Verteidigung ebenfalls durch KI-gestützte, autonome Systeme automatisieren.
Agentic-AI: eigenmächtig handelnden KI
Schnell war von einer „eigenmächtig handelnden KI“ die Rede. Tatsächlich zeigt der Vorfall jedoch etwas anderes: Nicht die KI entwickelte plötzlich einen eigenen Willen – vielmehr demonstrierte der Test erstmals unter realitätsnahen Bedingungen, wozu autonome KI-Agenten mit weitreichenden Berechtigungen technisch bereits heute in der Lage sind.
Damit markiert der Vorfall einen Wendepunkt. Während Unternehmen Agentic-AI als Produktivitätsmotor entdecken, erkennen Cyberkriminelle dieselbe Technologie als Werkzeug zur Industrialisierung ihrer Angriffe. Was bislang Zeit, Erfahrung und arbeitsteilige kriminelle Strukturen erforderte, lässt sich künftig weitgehend automatisieren. Die eigentliche Bedrohung ist deshalb nicht eine „böse KI“, sondern die schrittweise Automatisierung des gesamten Cybercrime-Ökosystems.
Vom Cybercrime-as-a-Service zum Cybercrime-as-a-Servant
Cyberkriminalität folgt seit Jahren dem Prinzip der Arbeitsteilung. Initial Access Broker verkaufen Zugangsdaten, Malware-Entwickler schreiben Schadcode, Phishing-Gruppen stehlen Identitäten und Ransomware-Betreiber monetarisieren erfolgreiche Angriffe. Dieses Modell entwickelt sich nun weiter. TrendAI bezeichnet diese Entwicklung als Übergang von „Cybercrime-as-a-Service“ zu „Cybercrime-as-a-Servant“: Statt spezialisierter menschlicher Akteure übernehmen miteinander vernetzte Agentic-AI ganze Arbeitsschritte eigenständig. Dadurch steigt nicht nur die Geschwindigkeit eines Angriffs. Vor allem sinken die Kosten und der personelle Aufwand. Angriffe, die bislang für Kriminelle wirtschaftlich unattraktiv waren, werden plötzlich skalierbar. Gleichzeitig können mehrere Kampagnen parallel betrieben und kontinuierlich optimiert werden. Darüber hinaus gibt es noch einen weiteren Aspekt: Kriminelle trauen in der Regel keinen Kriminellen. Werden stattdessen AI Agents eingesetzt, ist auch das Risiko deutlich geringer, dass jemand „singt“, also Informationen preisgibt oder mit den Strafverfolgungsbehörden kooperiert.
Das kriminelle Gehirn: Die Architektur autonomer Angriffe
Agentische KI besteht nicht aus einem einzelnen Sprachmodell. Vielmehr arbeiten mehrere spezialisierte Komponenten zusammen, die unterschiedliche Aufgaben übernehmen. Die Grundlage bildet eine umfangreiche Wissensbasis. Sie enthält gestohlene Identitäten, Zugangsdaten aus Datenlecks, Informationen aus dem Dark Web, Schwachstellendatenbanken, frühere Angriffserfolge sowie Erkenntnisse aus Open-Source-Intelligence. Dieses ständig wachsende Datenreservoir liefert den Rohstoff für sämtliche weiteren Entscheidungen.
Darauf aufbauend arbeitet die Orchestrierungsschicht – gewissermaßen das „kriminelle Gehirn“. Sie bewertet potenzielle Ziele, priorisiert Angriffswege, verteilt Aufgaben an spezialisierte Agenten und passt den gesamten Angriff dynamisch an neue Erkenntnisse an. Erkennt der Reconnaissance-Agent beispielsweise eine neu veröffentlichte Schwachstelle oder ein exponiertes VPN-Gateway, kann der Orchestrator unmittelbar entscheiden, den weiteren Ablauf entsprechend anzupassen. Darunter agieren spezialisierte Agenten für einzelne Aufgaben: Sie sammeln Informationen über Zielunternehmen, generieren täuschend echte Phishing-Nachrichten, entwickeln Schadcode, analysieren gestohlene Daten, bewegen sich lateral durch Netzwerke oder übernehmen Verhandlungen im Rahmen einer Ransomware-Erpressung. Jeder Agent optimiert kontinuierlich seine Ergebnisse und liefert sie an den Orchestrator zurück, der daraus den nächsten Schritt ableitet.
Der autonome Angriff
Damit verändert sich auch der eigentliche Angriffsprozess. Während heute häufig mehrere Personen an einem Angriff beteiligt sind, kann künftig eine agentische Architektur den gesamten Lebenszyklus nahezu selbstständig durchlaufen. Am Anfang steht die Aufklärung und Informationsbeschaffung. Agentic-AI durchsucht öffentliche Quellen, soziale Netzwerke, Code-Repositories und Datenlecks nach verwertbaren Informationen. Daraus entsteht innerhalb kürzester Zeit ein detailliertes Profil des Zielunternehmens. Anschließend bewertet der Orchestrator sämtliche verfügbaren Angriffsoptionen.
Er entscheidet beispielsweise, ob ein Phishing-Angriff erfolgversprechender erscheint als die Ausnutzung einer bekannten Schwachstelle oder kompromittierter Zugangsdaten. Gleichzeitig können mehrere Varianten parallel getestet werden. Während der Angriff läuft, reagieren die Agenten kontinuierlich auf Veränderungen. Schlägt eine Methode fehl, wird automatisch eine Alternative ausprobiert. Werden Schutzmechanismen erkannt, passt sich die Angriffskette dynamisch an. Auch die Monetarisierung erfolgt automatisiert – vom Verkauf gestohlener Zugangsdaten über Finanzbetrug bis hin zur vollständigen Steuerung einer Ransomware-Kampagne. Jeder erfolgreiche Angriff erweitert wiederum die Wissensbasis und verbessert zukünftige Operationen.
Geschwindigkeit wird zum entscheidenden Faktor
Diese Entwicklung verändert das Kräfteverhältnis zwischen Angreifern und Verteidigern grundlegend. Menschliche Analysten arbeiten sequenziell. Agentische KI arbeitet parallel, kontinuierlich und rund um die Uhr. Dadurch steigt nicht nur das Volumen der Angriffe, sondern auch deren Anpassungsfähigkeit. Hinzu kommt, dass Unternehmen selbst zunehmend autonome KI-Agenten einsetzen. Der OpenAI-/Hugging-Face-Vorfall verdeutlichte, welche Risiken entstehen können, wenn Agenten weitreichende Berechtigungen erhalten und Sicherheitsgrenzen überwinden. Guardrails allein reichen dabei nicht aus. Entscheidend bleiben klassische Sicherheitsprinzipien wie konsequente Zugriffskontrollen, belastbare Sandboxes sowie das Least-Privilege-Prinzip, damit Agenten ausschließlich auf die Ressourcen zugreifen können, die sie tatsächlich benötigen.
Fazit – Verteidigung muss ebenso autonom werden
Die Antwort auf diese Entwicklung kann deshalb nicht ausschließlich in zusätzlichen Sicherheitsprodukten liegen. Unternehmen benötigen selbst KI-gestützte Verteidigungssysteme, die Angriffswege kontinuierlich analysieren, Risiken priorisieren und verdächtige Aktivitäten automatisiert korrelieren. Moderne Sicherheitsplattformen bilden dazu digitale Modelle der eigenen Infrastruktur, simulieren mögliche Angriffspfade und bewerten Schwachstellen nicht isoliert, sondern im Kontext realer Angriffsketten. Dadurch lassen sich kritische Risiken erkennen, bevor sie tatsächlich ausgenutzt werden.
Die „AI-fication of Threats“ beschreibt daher weit mehr als den Einsatz künstlicher Intelligenz durch Cyberkriminelle. Sie steht für die Industrialisierung autonomer Angriffe, bei denen Planung, Durchführung und Optimierung zunehmend ohne menschliches Zutun erfolgen. Für Unternehmen bedeutet das einen Paradigmenwechsel: Künftig entscheidet nicht mehr allein die Qualität einzelner Sicherheitsmaßnahmen über den Erfolg der Verteidigung, sondern die Fähigkeit, mit derselben Geschwindigkeit und Automatisierung auf Bedrohungen zu reagieren wie die Angreifer selbst.
