IT-Sicherheit und GenKI im Spannungsfeld

IT-Sicherheit und GenKI im Spannungsfeld

Eine im Auftrag von Check Point von der Enterprise Strategy Group von TechTarget (ESG) im November 2023 durchgeführte Umfrage unter 370 IT-Sicherheitsexperten in den USA zeigt den Wandel der Sicherheitsbranche durch generative KI (GenKI). IT-Sicherheit und GenKI : 92 Prozent der dort Befragten stimmen zu, dass maschinelles Lernen die Effektivität und Effizienz von IT-Sicherheitstechnologie verbessert hat.

Viele Unternehmen befassen sich bereits mit der Minderung von GenKI-Risiken. Die Befragten gaben an, dass ihre Unternehmen den Zugang zu entsprechenden Websites blockieren, sind aber besorgt über Datenverluste und fragen sich, ob Mitarbeiter schon auf GenKI-Anwendungen zugreifen und diese regelmäßig nutzen. CISOs müssen diese Themen daher dringend angehen, um zu wissen, wer solche Programme verwendet und wozu.

IT-Sicherheit und GenKI: Die wichtigsten Ergebnisse

Das Adoptionsparadoxon: Während 87 Prozent der Sicherheitsexperten das Potential der GenKI zur Verbesserung der IT-Sicherheit anerkennen, ist ein Gefühl der Vorsicht spürbar. Dies ist auf die Erkenntnis zurückzuführen, dass dieselben Technologien auch von Hackern genutzt werden können.

• Strategische Führung und Entwicklung von Richtlinien: 75 Prozent der Unternehmen beobachten nicht nur passiv, sondern entwickeln aktiv Governance-Richtlinien für den Einsatz der GenKI in der IT-Sicherheit. Dieser Ansatz deutet auf eine signifikante Verlagerung hin, die Technologie in die IT-Abwehr einzubetten und sicherzustellen, dass ihr Einsatz sowohl effektiv als auch verantwortungsvoll ist.
• Investitionen und Auswirkungen: Die Studie prognostiziert einen entscheidenden Trend: Bis Ende 2024 wird GenKI die Kaufentscheidungen von mehr als 60 Prozent der Unternehmen beeinflussen. Diese Zahlen spiegeln das wachsende Vertrauen in die Fähigkeit der KI wider, um Sicherheitsprozesse zu revolutionieren – von der Erkennung von Bedrohungen bis hin zur Reaktion auf Vorfälle.
• Operative Effizienz und Reaktion auf Bedrohungen: Eine der herausragenden Statistiken der Studie ist, dass 80 Prozent der befragten Fachleute davon ausgehen, dass GenKI die operative Effizienz deutlich verbessern wird. Darüber hinaus erwarten 65 Prozent, dass die Reaktionszeit auf Bedrohungen verbessert wird, was das Potential der Technologie unterstreicht, Sicherheitsprozesse nicht nur zu erweitern, sondern zu beschleunigen.
• Herausforderungen bei IT-Sicherheit und GenKI : Trotz des Optimismus wirft die Studie auch ein Licht auf die Bedenken. Rund 70 Prozent der Befragten wiesen auf die Herausforderung hin, die Technologie in bestehende Sicherheitsinfrastrukturen zu integrieren, während 60 Prozent die Risiken betonten, die mit potenziellen Verzerrungen und ethischen Bedenken verbunden sind.
• Die Umfrageteilnehmer sehen eine Reihe vielversprechender Anwendungsfälle, darunter die Verbesserung des Posture Managements, die Anleitung des Cybersecurity-Personals mit empfohlenen Maßnahmen, die Konsolidierung von Sicherheitstechnologien und die Schulung von Mitarbeitern. Sicherheitsexperten sparen zudem Zeit, indem sie GenKI nutzen, um zusammenfassende Berichte zu erstellen, wie Threat Intelligence Reports, Incident Response Reports oder Berichte zu den Gefahren. Außerdem beginnen die Teams, sich auf GenKI zu verlassen, um Bedrohungsdaten, die für ihr Unternehmen, ihre Branche und ihre Region relevant sind, schneller analysieren zu können. Sicherheitsexperten werden GenKI in naher Zukunft auch für Abfragen in Natural Language, zur Verbesserung selbst entwickelter Software und zur Erstellung von Erkennungsregeln nutzen.

Viele Unternehmen haben dafür zwar GenKI-Governance-Modelle entwickelt oder sind dabei, diese zu entwickeln, doch Sicherheitsexperten geben zu, dass in diesen Modellen zahlreiche Schwachstellen enthalten sind. Zu den wichtigsten dieser Lücken zählen für sie das Risikomanagement für Dritte (29 Prozent), die Data Leakage Prevention und das Rights Management (27 Prozent), die Einhaltung von Compliance (26 Prozent) und die Durchsetzung von Richtlinien für den Zugriff auf GenKI (26 Prozent). Anhand der Daten lässt sich feststellen, dass in den meisten Unternehmen eine Vielzahl diese und ähnliche Angriffspunkte zu finden sind. Die Behebung sollte eine Priorität für CISOs in diesem Jahr einnehmen.

Darüber hinaus haben Hacker und andere bösartige Akteure ebenfalls Zugang zu offenen GenKI-Anwendungen und verfügen über die technischen Möglichkeiten, eigene LLMs zu entwickeln. WormGPT und FraudGPT sind erste Beispiele für LLMs, die für Cyber-Kriminelle und Hacker entwickelt wurden. Mehr als drei Viertel der Befragten (76 Prozent) glauben daher, dass die Hacker LLMs nutzen und davon profitieren werden. Sie gehen sogar einen Schritt weiter und sehen die Angreifer im Vorteil.

Erschreckend ist, dass die meisten Sicherheitsexperten glauben, dass Cyber-Angreifer bereits an einer Stelle in der Angriffskette GenKI einsetzen und dass ihnen neue Technologien immer einen Vorteil verschaffen werden. Die neuen Möglichkeiten führen darüber hinaus zu einer Zunahme der Bedrohungen. Für ungeschulte Hacker wird es nach Ansicht der Befragten einfacher, um ausgefeite Angriffe zu entwickeln und anzuwenden. Die Sicherheitsexperten treibt außerdem die Sorge um immer bessere Deep Fakes und automatisierte Angriffsmethoden.

Mehr über die Studie erfahren Sie hier.