ESET
Wenn KI eigenständig handelt: Die Risiken von Agentic AI – und wie sich Unternehmen schützen.
Agentische KI verspricht Produktivität und Automatisierung – und öffnet zugleich eine neue Angriffsfläche. Autonome Agenten verarbeiten sensible Daten, treffen eigene Entscheidungen und lassen sich manipulieren. Doch worin liegen die Risiken und warum wird das Endgerät wieder zum entscheidenden Schauplatz der Verteidigung?
Zusammenfassung (TL; DR):
- Agentic AI steigert die Produktivität, erhöhen jedoch durch eigenständige Aktionen und die Verarbeitung sensibler Daten das Sicherheitsrisiko, insbesondere durch manipulierte Eingaben (Prompt Injection) und Schatten-KI.
- Da diese Systeme direkt am Arbeitsplatz agieren, rückt das Endgerät als zentraler Verteidigungspunkt in den Fokus, um schädliche Inhalte in Echtzeit zu blockieren und Datenabfluss zu verhindern.
- Effektiver Schutz erfordert neben technologischen Endpoint-Lösungen auch klare Richtlinien sowie Maßnahmen zur Sicherung der digitalen Souveränität.
KI-Werkzeuge sind im Arbeitsalltag angekommen. Mitarbeiter lassen Texte zusammenfassen, Code schreiben oder Recherchen erledigen. Zunehmend übernehmen sogenannte Agentic AI ganze Aufgabenketten eigenständig. Statt nur zu antworten, führen diese Agenten Aktionen ohne ständige Rückfrage aus. Genau diese Autonomie macht sie produktiv, zugleich aber zu einem ernsten Sicherheitsrisiko. Denn was eigenständig handelt, kann auch eigenständig Schaden anrichten oder für fremde Zwecke missbraucht werden.
Autonomie als zweischneidiges Schwert
Der Reiz von Agentic AI liegt darin, dass ein System eine übergeordnete Aufgabe selbst in Teilschritte zerlegt, passende Werkzeuge auswählt und Ergebnisse weiterverarbeitet. Dieselbe Eigenschaft verschiebt jedoch die Kontrolle vom Menschen zur Maschine. Ein Agent, der Schnittstellen aufruft, Dateien öffnet oder Befehle ausführt, besitzt Handlungsmacht. Das bedeutet auch: Mit jeder zusätzlichen Berechtigung wächst der mögliche Schaden, wenn etwas schiefläuft oder der Agent gezielt getäuscht wird. Anders als ein klassisches Programm folgt ein Agent keinem festen Skript, sondern entscheidet situativ. Das macht sein Verhalten schwerer vorhersehbar und damit schwerer abzusichern.
Schatten-KI und der unbemerkte Datenabfluss
Das größte Risiko entsteht oft nicht durch ausgefeilte Angriffe, sondern in der alltäglichen Nutzung. Viele Mitarbeiter greifen ohne Wissen der IT auf öffentliche Cloud-Chatbots zu und füttern sie mit wertvollen Informationen. Diese „Schatten-KI“ entzieht sich jeder Kontrolle und kann sensible Informationen ungewollt nach außen tragen. Hinzu kommt, dass die Antworten solcher Systeme nicht immer vertrauenswürdig sind. Sie können fehlerhaft, manipuliert oder mit schädlichen Links und Skripten versehen sein. Wer den gesamten Kommunikationsfluss mit der KI nicht im Blick hat, übersieht genau die Stelle, an der Daten abfließen oder Schadinhalte ins Unternehmen gelangen.
Manipulierte Agenten und vergiftete Lieferketten
Mit der Verbreitung autonomer Agenten verschiebt sich auch die Angriffsfläche. Über manipulierte Eingaben, sogenannte Prompt Injection, lässt sich einem Agenten unterschieben, was er als Aufgabe versteht. Bösartige Anweisungen können in Dokumenten, Webseiten oder Logdaten versteckt sein, die er im Rahmen seiner Arbeit verarbeitet. Im schlimmsten Fall führt ein Werkzeug plötzlich Aktionen aus, die es nie ausführen sollte. Parallel dazu wächst das Risiko in der Lieferkette der KI selbst. Angreifer schleusen Schadcode in weit verbreitete Komponenten ein, wie es etwa bei trojanisierten Bestandteilen der populären Bibliothek LiteLLM beobachtet wurde. Auch autonome Agenten wie OpenClaw, die Aktionen mit nur geringer Aufsicht auf einem System ausführen können, erweitern die Liste möglicher Einfallstore.
Das Endgerät rückt zurück ins Zentrum der Verteidigung
Klassische Schutzkonzepte greifen hier zu kurz, denn die kritische Interaktion mit der KI findet direkt am Arbeitsplatz statt, nämlich im Browser und auf dem Endgerät. Genau dorthin verlagert agentische KI das Sicherheitsgeschehen zurück. Moderne Lösungen setzen deshalb so nah wie möglich an der Quelle an. IT-Sicherheitshersteller wie ESET aktualisieren ihre Technologien, um genau dieser Gefahr zu begegnen. So schützen ESET-Technologien Nutzer vor schadhaften Ergebnissen von KI-Diensten, indem sie Anfragen und Antworten in Echtzeit analysieren und gegebenenfalls warnen. So lassen sich schädliche Links und Skripte erkennen, Prompt-Injection-Versuche aufspüren und der Upload vertraulicher Daten in öffentliche KI-Systeme unterbinden.
Europäische Unternehmen verlassen sich zu weiten Teilen auf US-Anbieter
Laut einer Umfrage der Plattform LMArena setzen Nutzer vor allem auf US-amerikanische KI-Sprachmodelle: Die ersten drei Plätze nehmen Google, X (vormals Twitter) und Anthropic ein. Das Risiko einer solchen Abhängigkeit von US-Diensten zeigte sich im Juni 2026, als Anthropic sein neuestes Sprachmodell Claude Mythos 5 nach kürzester Zeit zurückzog. Als Grund gab das Unternehmen an, auf Weisung der US-Regierung gehandelt zu haben, die in dem neuen Modell eine Gefahr für die nationale Sicherheit sah.
In diesem Fall war nur die neueste Version des Sprachmodells betroffen. Privatnutzer und Unternehmen konnten immer noch die älteren Modelle verwenden. Fällt aber ein gesamtes Angebot weg, kann das kritische Folgen für Organisationen haben. Dies gilt insbesondere für Betriebe, die sich zu großen Teilen auf KI verlassen. Weil dieses Risiko bekannt ist, investieren IT-Sicherheitshersteller verstärkt in eigene KIs, um jederzeit das Heft in der Hand zu halten.
Fazit Agentic AI
Die Nutzung von Agentic AI wird aller Voraussicht nach zunehmen. Zu groß sind die Vorteile, die sie für Unternehmen bietet, insbesondere was Automatisierung und Effizienzsteigerung angeht. Doch der Gewinn an Produktivität geht mit einem Verlust an Kontrolle einher, wenn Sicherheit nicht von Anfang an mitgedacht wird. Unternehmen sollten den KI-Einsatz daher nicht verbieten, sondern sichtbar, steuerbar und nachvollziehbar machen: durch klare Richtlinien, durch Schutz direkt am Endgerät und durch Transparenz darüber, welche Daten ein Agent verarbeitet. Für Organisationen in Europa kommt die Frage der digitalen Souveränität hinzu. Denn Vertrauen entsteht nur, wenn nachvollziehbar bleibt, wie ein System arbeitet und wo Daten verbleiben.
Mit dem frei verfügbaren ESET AI Skills Checker lassen sich KI-Skills zudem schon vor dem Einsatz auf versteckte Anweisungen, Schadcode und riskantes Verhalten prüfen.
