KI-Modelle stoßen immer wieder auf Inhalte im Internet, auf die sie eigentlich keinen Zugriff haben sollten.
Aus einem Test wurde innerhalb von nur einer Stunde ein echter Sicherheitsverstoß. Nur so lange dauerte es, bis der im Rahmen einer simulierten Übung in einem öffentlichen Repository veröffentlichte Code 15 echte Systeme erreichte – darunter eines, das den Code automatisch ausführte und Zugangsdaten preisgab, auf die er eigentlich keinen Zugriff haben sollte.
Zusammenfassung (TL; DR):
- Ein Sicherheitstest entwickelte sich schnell zu einem echten Verstoß. Veröffentlichter Testcode erreichte innerhalb einer Stunde 15 reale Systeme. Ein System führte den Code automatisch aus. Es gab sensible Zugangsdaten unberechtigt preis.
- Der Vorfall basierte nicht auf einem Hackerangriff. Die Ursache waren schlecht isolierte Testumgebungen. Automatisierte KI-Agenten hatten darin uneingeschränkten Netzwerkzugang. Sie führten ihre Aufgaben genau wie programmiert aus.
- Laut einer Keeper-Studie fehlt oft die nötige Aufsicht. Für 44 Prozent der Firmen sind unkontrollierte KI-Zugriffe eine große Sicherheitslücke. Experten fordern nun strengere Kontrollen für Testumgebungen. Nötig sind zeitlich begrenzte Zugangsdaten und genaue Protokolle.
Lücken bei OpenAI und Anthropic
Dies ist bereits die zweite derartige Offenlegung durch einen KI-Pionier innerhalb weniger Tage. Bei keinem der beiden Vorfälle handelte es sich um eine umgangene Sicherheitsvorkehrung oder einen entdeckten Zero-Day-Exploit. In beiden Fällen lag der Grund in den Testumgebungen, die eigentlich isoliert sein sollten, es aber nicht waren. Sobald diese Systeme uneingeschränkten Netzwerkzugang hatten, verhielten sie sich genau wie vorgesehen: Sie lokalisierten ein Ziel und führten ihre Aufgabe aus. Das Paket befand sich in einem öffentlichen Repository und sah aus wie jeder andere Testcode, bis es in einer realen Infrastruktur ausgeführt wurde.
Grundsätzlich geht es hier um Testumgebungen und automatisierte Agenten, die als weniger risikoreich eingestuft werden. Jedes System mit dauerhaften Anmeldedaten und Netzwerkzugriff – ob ein Produktionsservice-Konto oder eine Testumgebung vor der Bereitstellung – erfordert dieselbe Disziplin wie ein menschlicher Benutzer mit erweiterten Rechten. Das bedeutet: beschränkter Zugriff, zeitlich begrenzte Anmeldedaten und eine ausreichend detaillierte Sitzungsprotokollierung, um im Nachhinein nachvollziehen zu können, was geschehen ist.
Mangel an Governance bei KI
Laut einer Studie von Keeper aus dem Jahr 2026 geben 44 Prozent der befragten Organisationen weltweit an, dass ein Mangel an Governance oder Aufsicht für KI-gesteuerten Zugriff und Automatisierung eine der größten Sicherheitslücken darstellt. 43 Prozent nennen speziell das Identitätsmanagement für KI-bezogene nicht-menschliche Identitäten. Zwei Vorfälle dieser Art innerhalb einer Woche zeigen, dass diese Lücken nicht hypothetisch sind, sondern jetzt geschlossen werden müssen.
