KI-Sicherheitsrisiken: Ein Weckruf von der Black Hat USA 2026

KI-Sicherheitsrisiken: Ein Weckruf von der Black Hat USA 2026.

Wenn die diesjährige Black Hat USA ihren Besuchern eines klar gemacht haben dürfte, dann dies: dass die Bedrohungen und Risiken des KI-Zeitalters nunmehr harte Realität, realer Alltag geworden sind.

Zusammenfassung (TL; DR):

• Die Black Hat USA 2026 verdeutlichte, dass KI-Bedrohungen real sind und der Erfolg von Angriffen primär von unsicheren architektonischen Frameworks sowie überzogenen Berechtigungen abhängt.
• Hauptrisikofaktoren bleiben identitätsbasierte Kompromittierungen, insbesondere bei Microsoft-Infrastrukturen, sowie unterschätzte Risiken in der Lieferkette.
• Unternehmen müssen daher eine ganzheitliche Strategie implementieren, die strenge Data-Governance, Zero-Trust für Identitäten und eine Echtzeit-Überwachung von Drittanbietern umfasst.

Ein Drittel aller Vorträge der Black Hat thematisierte KI-Risiken

KI-Technologien halten Einzug in die globale Bedrohungslandschaft – und dies mit wachsendem Erfolg, mit immer größerer Geschwindigkeit. So ist es kein Wunder, dass fast ein Drittel aller Vorträge der diesjährigen Black Hat Themen wie KI-Risiken, den Missbrauch von KI-Agenten und LLM-gestützte Cyberoffensiven zum Gegenstand hatten.

Eine zentrale Erkenntnis: Nicht die effektiv geschriebenen bösartigen Prompts der Angreifer – Stichwort: Prompt Injection Attacks – sondern die nach wie vor häufig zu unsicher konstruierten architektonischen Sicherheitsframeworks der Opfer entscheiden letztlich über den Erfolg oder Misserfolg eines Angriffs. Entscheidend sind die Zugangs- und Zugriffsberechtigungen, die ein KI-Agent erhält. Aber auch die Tools, die er aufrufen und nutzen, und die Aktivitäten, die er autonom in der Unternehmensumgebung zur Ausführung bringen darf, sind wichtig.

Kompromittierung der digitalen Identitäten:  Häufigst genutzte Einfallstor

Eine weitere Feststellung: die Kompromittierung der digitalen Identitäten bleibt das von Angreifern am häufigsten genutzte und von ihren Opfern am häufigsten unterschätzte Einfallstor für KI-gestützte Angriffe. Nach wie vor sind identitätsbasierte Kompromittierungen der primäre Angriffsvektor, wenn es darum geht, sich Zugang zu und Zugriff auf das Netzwerk eines Opfers zu verschaffen. Insbesondere Identitätsinfrastrukturen von Microsoft, etwa Entra ID und Active Directory, stehen im Fadenkreuz der Angreifer. Die Techniken, die die Cyberkriminellen dabei zum Einsatz bringen, reichen von gefälschten Authentifizierungstoken bis hin zu bösartigen OAuth-Zustimmungen.

Eine dritte Erkenntnis:  Zum einen müssen Unternehmen KI wirklich sicher einführen und durch die Belegschaft sicher nutzen lassen. Zum anderen kommen Unternehmen um die Implementierung und strikte Durchsetzung einer wohl durchdachten Data-Governance nicht herum. Nur über sie lässt sich eine hohe Datenqualität und die Compliance gewährleisten. Aber es lassen sich auch fehlerhafte KI-Ergebnisse, Verzerrungen und Datenschutzverstöße verhindern.

Risiko durch Drittanbieter, Lieferketten und Anbieter-Ökosysteme

Und schließlich: Viele Unternehmen unterschätzen nach wie vor das Risiko, das von Drittanbietern, von Lieferketten und von Anbieter-Ökosystemen, ausgeht.  Sicherheitsexperten fordern schon lange, dass Unternehmen sich hier nicht mehr allein auf statische Methoden, wie den jährlichen Versand von Compliance-Fragebögen an ihre Partner, Dienstleister und Zulieferer, verlassen. Stattdessen sollen sie sich daran machen, in Echtzeit die Cyberrisiken ihrer Drittanbieter aktiv zu prüfen und zu analysieren. Das hilft, ausgemachte Sicherheitslücken rasch zu schließen. Längst gibt es passende Third Party Risk Management (TPRM)-Lösungen am Markt, mit denen sich auch KI-Risiken schnell und unkompliziert aufdecken und minimieren lassen.

Fazit

Mein Fazit zur Black Hat USA 2026 lautet: Die Absicherung von KI und ihre sichere Nutzung haben aufgehört, ein theoretisches Zukunftsthema zu sein. Sie sind zu einer realen Notwendigkeit der Gegenwart geworden, der Unternehmen sich jetzt so rasch wie möglich stellen sollten. Die rasante Evolution autonomer KI-Agenten, gepaart mit den vielerorts nach wie vor herrschenden eklatanten Schwachstellen in den Bereichen Identitätsverwaltung und Sicherheitsrisiken von Drittanbietern, zwingt Unternehmen zur Implementierung einer neuen ganzheitlichen Strategie. Sie müssen das Prinzip Zero-Trust für menschliche wie Maschinen-Identitäten und ihre Daten-Governance strikt durchsetzen und ihre Drittanbieter aktiv in Echtzeit überwachen sowie bei der (KI-)Risikominimierung unterstützen. Nur so werden ihre Belegschaften KI wirklich sicher nutzen können.

Häufige Fragen (FAQ)