Security News #34

Hallo und herzlich willkommen zu Ihrer neuen Folge von Security News Podcast! Schön, dass Sie wieder dabei sind! Diesmal haben wir eine Sonderfolge rund um das Top-Thema KI und Cybersicherheit. Es geht um Erklärbare künstliche Intelligenz und die Chancen und Risiken für die Cybersicherheit, um eine Warnung vor Angriffen auf KI-Modelle, einen Benchmark, wie sich KI-Assistenten und -Agenten sicher mit Daten, Anwendungen und Online-Diensten verbinden lassen, und um den Schutz von Online-Identität und Zugriffstoken vor Missbrauch, auch mit Blick auf KI-Agenten.

Als Bonus-Track zu dieser Folge gibt es topaktuelle Interviews mit Security-Experten zum Themenfeld KI, KI-Agenten und IT-Sicherheit.

Jetzt reinhören, abonnieren und mit Sicherheit immer gut informiert sein, in weniger als zehn Minuten!

BSI-Whitepaper zu Erklärbarer KI (XAI)

Los geht es mit der sogenannten „Erklärbaren künstliche Intelligenz“: Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat das Whitepaper Erklärbare künstliche Intelligenz (XAI): Chancen und Risiken für die Cybersicherheit veröffentlicht. Das Dokument schafft eine Grundlage für die Bewertung des Einsatzes von erklärbarer künstlicher Intelligenz (engl. Explainable Artificial Intelligence, XAI) im Kontext der Cybersicherheit. Es unterstützt dabei, zielgerichtet potenzielle Einsatzmöglichkeiten und den daraus entstehenden Nutzen zu erkennen. Gleichzeitig spielt die Berücksichtigung bestehender Limitationen und möglicher Sicherheitsrisiken eine bedeutende Rolle. Die Autorinnen und Autoren betrachten verschiedene Bedrohungsszenarien und empfehlen geeignete Mitigationsmaßnahmen.

Zum Hintergrund: Entscheidungen von KI-Modellen sind aufgrund der Vielzahl an Parametern und der komplexen Berechnungsvorgänge häufig nur schwer nachvollziehbar. Diese Nachvollziehbarkeit von Entscheidungsprozessen und Modellvorhersagen ist jedoch gerade für belastbare und fundierte IT-Sicherheitsentscheidungen von zentraler Relevanz. Erklärbare künstliche Intelligenz wird oft als mögliche Lösung gehandelt. Inwiefern dies zutrifft, betrachtet das Whitepaper anhand verschiedener IT-sicherheitsrelevanten Anwendungsfälle, etwa in einem Network Intrusion Detection System und beim Reverse Engineering.

Mein Kommentar: Ein spannendes Whitepaper, denn der Einsatz erklärbarer künstlicher Intelligenz kann zu Vertrauenswürdigkeit und Akzeptanz KI-basierter Sicherheitssysteme beitragen.

Den Link zum Whitepaper gibt es in den Shownotes.

Kampagnen gegen KI-Modelle

Die Cybersecurity and Infrastructure Security Agency (CISA) hat in Zusammenarbeit mit der National Security Agency (NSA) und dem Federal Bureau of Investigation (FBI) eine gemeinsame Cybersicherheitswarnung veröffentlicht. Darin warnen sie vor chinesischen KI-Unternehmen, die gezielt US-amerikanische KI-Unternehmen angreifen, um durch sogenannte Knowledge-Destillation-Kampagnen systematisch an firmeneigene Modelle zu gelangen. Knowledge Distillation ist eine Technik des maschinellen Lernens, bei der ein weniger leistungsfähiges KI-Modell mithilfe der Ergebnisse eines größeren, leistungsfähigeren Modells trainiert wird. Obwohl es sich um eine legitime Trainingsmethode handelt, kann sie missbraucht werden, um sich die Fähigkeiten von Wettbewerbern schneller und kostengünstiger anzueignen, als wenn man sie auf legalem Wege entwickeln würde. Die in dieser Warnung beschriebenen bösartigen Kampagnen bilden den Kern der chinesischen KI-Entwicklungsstrategie, so CISA.

Weiterhin erklärt CISA: Vermutlich mit Wissen der chinesischen Regierung haben DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun und Z.AI seit mindestens Ende 2024 Milliarden von Token durch Millionen von Transaktionen/Anfragen von US-amerikanischen KI-Modellen, darunter Varianten von Claude, GPT, Gemini und Grok, abgeschöpft. Die von chinesischen KI-Unternehmen angewandten Abschöpfungstaktiken verstoßen gegen die Nutzungsbedingungen der US-Unternehmen und verkürzen die KI-Forschungs- und Entwicklungszeiten der chinesischen Unternehmen, wodurch der faire Wettbewerb untergraben wird.

Mein Kommentar: Diese Warnung zeigt, dass sich auch deutsche Unternehmen mehr Gedanken machen müssen, wie sie ihre trainierten KI-Modelle besser schützen.

Den Link zur Warnung gibt es in den Shownotes.

CIS MCP Server Benchmark

Ein neuer CIS Benchmark unterstützt Unternehmen dabei, KI-Assistenten und -Agenten sicher mit Daten, Anwendungen und Online-Diensten zu verbinden. Das Center for Internet Security (CIS) hat die Veröffentlichung des CIS MCP Server Benchmark v1.0.0 bekannt gegeben, eines im Konsens entwickelten Sets von Best Practices für die sichere Konfiguration von Model Context Protocol (MCP)-Servern, die es KI-Assistenten und -Agenten ermöglichen, sich mit Daten, Anwendungen und anderen digitalen Werkzeugen zu verbinden.

Da Unternehmen zunehmend KI-gestützte Assistenten und Agenten einsetzen, gewinnt die Sicherung der Systeme, die diese Verbindungen verwalten, immer mehr an Bedeutung. Der CIS MCP Server Benchmark bietet Unternehmen einen herstellerneutralen Standard, der ihnen hilft, sensible Daten zu schützen, den Zugriff auf Ressourcen zu kontrollieren und Sicherheitsrisiken zu reduzieren.

Der Benchmark wurde auf Basis der aktuellen MCP-Spezifikation entwickelt und berücksichtigt sowohl lokale als auch entfernte MCP-Implementierungen, einschließlich Gateway- und Proxy-Technologien, die üblicherweise zur Sicherung und Verwaltung von Verbindungen zwischen KI-Systemen und externen Ressourcen eingesetzt werden.

Mein Kommentar: Gerade die Verbindung zwischen KI-Systemen und Datenquellen und zwischen verschiedenen KI-Agenten ist oftmals eine offene Flanke der KI-Sicherheit.

Den Link zum Benchmark gibt es in den Shownotes.

Schutz von Online-Identität und Zugriffstoken vor Missbrauch

Zur nächsten Meldung: Eine neue Publikation des NIST mit dem Titel „ Schutz von Token vor Fälschung, Diebstahl und Missbrauch (NIST IR 8587)“ bietet Implementierungsrichtlinien zur Gewährleistung der Sicherheit von Token, die in digitalen Systemen weit verbreitet sind. Sie baut auf den jüngsten Aktualisierungen der Special Publication 800-53 , dem Katalog der Sicherheits- und Datenschutzwerkzeuge des NIST, auf, um die Sicherheit von Token und deren Verwaltung zu verbessern.

Das Dokument richtet sich zwar in erster Linie an Bundesbehörden und die Cloud-Service-Provider (CSPs) kann aber jeder Organisation helfen, die mit Identitätstoken und verwandten Formen der Identitätsbestätigung arbeitet.

Tokens werden in der digitalen Infrastruktur vielfältig eingesetzt und sind ein wichtiger Bestandteil von Zero-Trust-Architekturen . Ohne angemessenen Schutz können Angreifer Tokens jedoch missbrauchen, um in sensible Systeme einzudringen. Neue, übergeordnete Überlegungen zum Umgang mit KI und zur Migration zu Post-Quanten-Kryptographie-Standards ( PQC ) sind nun enthalten, die auch zur sicheren Nutzung von KI-Agenten beitragen können.

Mein Kommentar: Bei KI-Agenten ist die Sicherheit von Identitäten von elementarer Bedeutung, da sie zunehmend auch kritische Aufgaben übernehmen werden.

Den Link zur Publikation gibt es in den Shownotes.

– Diese Folge wird Ihnen präsentiert von Marktplatz IT-Sicherheit und der Kampagne #TheMissingPieces

Kein Unternehmen ist perfekt geschützt ist – die fehlenden Kettenglieder/ #TheMissingPieces verursachen immer eine oder gar mehrere Lücken in der ‚Abwehrkette IT-Sicherheit‘.

Der Ursprung der Kampagne #TheMissingPieces liegt in der Analogie zum Fußball: Je mehr Spieler in der Abwehrkette zum Einsatz kommen, desto breiter ist die Verteidigungslinie. Gibt es eine oder mehrere Lücken bietet das die ideale Chance für den Spielgegner erfolgsversprechend angreifen zu können. Auf die Anwenderunternehmen bezogen bedeutet dies, fehlende Kettenglieder/ #TheMissingPieces in der ‚Abwehrkette IT-Sicherheit‘ erhöhen das Risiko erfolgreich angegriffen werden zu können – oder positiv ausgedrückt, je mehr Kettenglieder in der ‚Abwehrkette IT-Sicherheit‘ zum Tragen kommen, desto höher ist die Wahrscheinlichkeit, dass ein Unternehmen gut geschützt ist.

Das erklärte Ziel des Marktplatzes ist es, maßgeblich zur Erhöhung der IT-Sicherheit von Anwenderunternehmen im deutschsprachigen Raum beizutragen.

Sie finden den Link zu dieser Kampagne von Marktplatz IT-Sicherheit sowie alle anderen Links zu dieser Folge in den Show-Notes zu diesem Podcast.

Das war es für heute.

Ich freue mich, wenn wir uns bald wieder hören und auf wichtigen Events sehen, besuchen Sie den Marktplatz IT-Sicherheit und abonnieren Sie diesen Podcast und die anderen Formate auf dem Marktplatz IT-Sicherheit! Hier werden Sie mit Sicherheit gut informiert! Das war Oliver Schonschek, der News-Analyst vom Marktplatz IT-Sicherheit