Die unabhängige IT-Sicherheits-Plattform - Der Marktplatz IT-Sicherheit

powered by

Institut für Internet-Sicherheit
Suche
Close this search box.

Künstliche Intelligenz und IT-Sicherheit

Künstliche Intelligenz und IT-Sicherheit: Künstliche Intelligenz (KI) hat in den letzten Jahren sehr viele Innovationsschritte durchlaufen. Deutlich bessere Algorithmen und Modelle aber auch eine deutliche höhere Leistungsfähigkeit durch passende Hardware.

Aber der wichtigste Punkt, sind die Daten, die KI als Input braucht. Denn die grundsätzliche Idee bei KI ist, aus Daten Wissen abzuleiten. Dafür ist es wichtig, dass in den Daten relevante Informationen enthalten sind, aus denen Wissen extrahiert werden kann. Da immer mehr relevante Daten in der Digitalisierung produziert werden, ist KI ein zunehmend wichtiger Baustein für viele Bereichen – auch für die IT-Sicherheit.

„Angreifer nutzen KI“

So weit so gut – aber wir dürfen dabei nicht aus den Augen verlieren, dass Angreifer KI heute bereits sehr intensiv nutzen, um einfacher und erfolgreicher angreifen zu können.

Die Anwendungsbereiche sind vielfältig, zum Beispiel um Schwachstellen zu entdecken und IT-Sicherheitsmaßnahmen zu überwinden. Insbesondere hat ChatGPT nochmals neue Angriffsunterstützung für die Angreifer geliefert:

  • Bei Social Engineering, weil ChatGPT menschenähnlich antwortet und die Angreifer dadurch deutlich besser Phishing- und Fake-News-Angriffe durchführen können, auch perfekt in Sprachen, die Angreifer nicht beherrschen.
  • Aber auch die Fähigkeit ChatGPT als Programmierunterstützung zu nutzen, hilft den Angreifern etwa sogenannte Polymorphe Malware zu produzieren, die die Erkennungsraten von Anti-Malwarelösungen stark reduziert. Damit werden Malware-Angriffe erfolgreicher.
  • Und sehr vieles mehr ist mit den sogenannten Large Language Modellen möglich.

„KI für IT-Sicherheit“

Die Nutzung von KI für IT-Sicherheit schafft deutliche Mehrwerte für den Schutz von Unternehmen und Organisationen. Ein erstes wichtiges Themenfeld ist die Erhöhung der Erkennungsrate von Angriffen.

Es geht um das Erkennen von Angriffen über das Netzwerk und in den Endgeräten, Servern, IoT-Geräte und Cloudanwendungen. Dazu brauchen wir adaptive KI-Modelle, um auch neue Angriffsvektoren und Bedrohungen frühzeitig erkennen zu können.

Wichtig ist hier aber auch, dass wir die notwendigen sicherheitsrelevanten Daten aus den Netzwerken und IT-Systemen bekommen, damit die KI daraus nützliche Ergebnisse zur Verbesserung des Schutzniveaus erzielen kann. Weitere Bereiche aus der Erkennung sind beispielsweise das Erkennen von Malware, Spam, Fake-News und Deep-Fake.

Ein weiteres relevantes Themenfeld bei dem KI wichtig für mehr IT-Sicherheit ist, ist die Unterstützung / Entlastung von IT-Sicherheitsexperten – denn wir haben gerade über 100.000 offene Positionen im Bereich IT-Sicherheit.

Zwei Beispiele:

Das Analysieren von wichtigen sicherheitsrelevanten Ereignissen mit einer Priorisierung, um dem IT-Sicherheitsexperten zeitaufwendige Analysearbeit abzunehmen.

Ein KI-System analysiert die vielen hunderte oder tausende sicherheitsrelevanten Ereignisse von den IT-Systemen und zeigt dann auf, nach welchen Prioritäten diese vom IT-Sicherheitsexperten abgearbeitet werden müssen, um den höchsten Schutz in der aktuellen Situation für das Unternehmen zu erzielen.

Ein weiter wichtiger Bereich ist die (Teil-)Autonomie bei Reaktionen

Wenn ein Angriff oder eine besondere Bedrohung erkannt wird, können zum Beispiel sofort FW- und E-Mail-Regeln automatisch so reduziert werden, dass die wichtigen Prozesse für ein Unternehmen aufrechterhalten bleiben, aber die Angriffsfläche für die Angreifer deutlich reduziert wird, damit Schäden verhindert werden.

Es gibt aber auch noch weitere IT-Sicherheitsbereiche, bei denen KI – auch mit ChatGPT oder ChatGPT-ähnliche Lösungen – den IT-Sicherheitsexperten helfen kann wie zum Beispiel sichere Softwareentwicklung, IT-Forensik und Threat Intelligence.

„IT-Sicherheit für KI“

Elementar ist aber auch der Schutz von KI-Anwendungen in allen Bereichen, wo KI genutzt wird. Angreifer versuchen die Trainingsdaten und Inputdaten sowie Algorithmen und Modelle zu manipulieren, um falsche Ergebnisse von KI-Systemen zu provozieren.

Zum Beispiel im medizinischen Bereich, in der Produktion oder beim autonomen Fahren. Das kann katastrophale Folgen haben.

Daher müssen wir dafür sorgen, dass die Daten, Algorithmen und Modelle gegen Manipulationen mit der Hilfe von IT-Sicherheitsmaßnahmen geschützt sind.

Zusammenfassend lässt sich sagen, dass KI helfen wird uns deutlich besser zu schützen, aber wir müssen auch die KI in allen Bereichen schützen, damit die Ergebnisse nicht manipuliert werden können.

Autor