Das mag jetzt sehr nach Marketing klingen … aber ich denke, man muss sich die Frage stellen, ob man noch ohne KI-basierte Abwehr auskommt, wenn die Gegenseite es "gewissenlos" einsetzt. Die Antwort darauf ist aber keine reine Ja/Nein Antwort.

Ich denke wie Oliver schon geschrieben hat, muss sich die Reaktion im gesetzlichen Rahmen halten. Alles andere ist Risiko-"Appetit" und damit eigentlich eine Risk-Management bzw. GRC Frage. Wenn die KI einen Angriff auf einen Office-Endpoint erkennt, würden wahrscheinlich viele kein Problem damit haben, die KI entscheiden zu lassen, den Endpoint in Quarantäne zu stecken. Ist dieser Endpoint irgendwo auf dem Shopfloor (e.g. EWS/HMI) sieht die Sache schon anders aus.

Interessanterweise spiegeln uns unsere Kunden aber ein etwas anderes Bild. Die meisten wollen noch garnicht automatisiert entscheiden, sind aber froh, dass sie im Zweifelsfall den Grad der Automatisierung "beliebig" einstellen können. Also nicht nur "alles manuell" und "all-in KI". Was hingegen durchweg positiv aufgenommen wird, ist, dass bei Verdachtsfällen KI die "Ermittlungen" automatisch durchführen kann. D.h. der menschliche Analyst muss sich halt nicht mehr manuell durch Daten wühlen, sondern bekommt ein (in den meisten Fällen) ausreichend fertig geschnürtes Analysepaket, dass ihm die Entscheidung erlaubt.

Vertrauen darf nicht blind geschenkt werden, sondern muss auf harten Fakten basieren. Ein KI-Agent muss die nachweisbare Einhaltung von Sicherheitsstandards (z. B. Konformität mit dem Cyber Resilience Act) und strengen Datenschutzprüfungen (DSGVO) garantieren. Zudem sind ein lückenloses Monitoring und die kontinuierliche Validierung der KI-Ausgaben durch geschultes Personal mit hoher Datenkompetenz zwingend erforderlich.