Studie zeigt fehlende Sicherheitsgrundlagen bei Einsatz von GenAI

Studie zeigt fehlende Sicherheitsgrundlagen bei Einsatz von GenAI.

Eine weltweite Studie von OpenText und Ponemon zeigt, dass robuste Sicherheitsgrundlagen der Schlüssel zur Skalierung von Enterprise AI sind.

Zusammenfassung (TL; DR):

• Unternehmen setzen verstärkt auf GenAI – doch Sicherheitsgrundlagen fehlen, zeigt Ponemon-Studie.
• Nur jedes fünfte Unternehmen erreicht einen hohen Reifegrad beim Einsatz von KI – also eine vollständige Nutzung im Bereich der Cybersicherheit, inklusive Risikobewertung.
• Weniger als die Hälfte (43 Prozent) verfolgt eine risikobasierte Strategie zur Steuerung von KI-Systemen.

OpenText hat den globalen Report „Managing Risks and Optimizing the Value of AI, GenAI & Agentic AI“ veröffentlicht, der gemeinsam mit dem Ponemon Institute erstellt wurde. Die Studie zeigt: Während mehr als die Hälfte der Unternehmen (52 Prozent) generative KI bereits vollständig oder teilweise einsetzt, halten Sicherheit und Governance damit nicht Schritt.

„Bei KI-Reife geht es nicht nur um die Einführung von Tools, sondern darum, sie verantwortungsbewusst einzusetzen“, sagt Muhi Majzoub, EVP, Product & Engineering bei OpenText. „Sicherheit und Governance sind die Grundlage, um echten Mehrwert aus KI zu ziehen. Wenn sie von Anfang an integriert sind, können Unternehmen transparenter arbeiten, Systeme kontinuierlich überwachen und den Ergebnissen vertrauen.“

Viele Unternehmen führen KI voreilig ein, ohne zuvor die notwendigen Sicherheitsgrundlagen und Governance zu schaffen. Nur jedes fünfte Unternehmen erreicht einen hohen Reifegrad beim Einsatz von KI – also eine vollständige Nutzung im Bereich der Cybersicherheit, inklusive Risikobewertung. Weniger als die Hälfte (43 Prozent) verfolgt eine risikobasierte Strategie zur Steuerung von KI-Systemen. Mit zunehmender Autonomie und Integration in kritische Geschäftsprozesse wird es entscheidend, diese Lücke zu schließen. Nur so lassen sich Vertrauen, Compliance und nachhaltiger Geschäftswert sicherstellen.

Sicherheitsgrundlagen und Governance hinken hinterher

Die Umfrage zeigt erhebliche Diskrepanzen zwischen dem Tempo der KI-Einführung und den Maßnahmen, die für eine sichere Nutzung erforderlich sind:

• 79 Prozent der Unternehmen haben noch keinen vollständigen KI-Reifegrad in der Cybersicherheit erreicht.
• Nur 41 Prozent verfügen über spezifische Datenschutzrichtlinien für KI.
• 62 Prozent sagen, dass es schwierig ist, Risiken durch Modellfehler und Verzerrungen zu minimieren.
• Weniger als die Hälfte (43 Prozent) verfolgt eine risikobasierte Governance für KI.

Weitere Herausforderungen

• 58 Prozent halten es für sehr schwierig, Risiken durch Eingaben (z. B. irreführende oder schädliche Antworten) zu reduzieren.
• 56 Prozent berichten von Problemen im Umgang mit Nutzerverhalten, etwa bei der unbeabsichtigten Verbreitung von Fehlinformationen.
• 59 Prozent sagen, dass KI die Einhaltung von Datenschutz- und Sicherheitsvorgaben erschwert – dennoch haben nur 41 Prozent entsprechende Richtlinien.

Fehlendes Vertrauen und geringe Nachvollziehbarkeit bremsen den Nutzen von KI

Viele Unternehmen setzen KI ein, um effizienter zu arbeiten – auch in der IT-Sicherheit. Doch mangelndes Vertrauen, eingeschränkte Zuverlässigkeit und fehlende Transparenz schränken den Nutzen ein.

• Schwächen bei der Bedrohungserkennung: Nur 51 Prozent halten KI für effektiv, um Anomalien oder neue Bedrohungen schneller zu erkennen; Weniger als die Hälfte (48 Prozent) hält KI für hilfreich bei der Analyse und Reduzierung manueller Arbeit, 62 Prozent haben große Schwierigkeiten, Modell- und Bias-Risiken zu kontrollieren; 45 Prozent nennen fehlerhafte Entscheidungsregeln als zentrales Problem, 40 Prozent unzureichende Datenqualität.
• Autonome KI noch nicht in Sicht: Nur 47 Prozent sagen, dass ihre KI-Systeme zuverlässig eigenständig lernen und sichere Entscheidungen treffen können; 51 Prozent halten menschliche Kontrolle weiterhin für notwendig, vor allem wegen der schnellen Anpassung von Angreifern.

„Die Gewinner der nächsten KI-Phase werden diejenigen sein, die Transparenz und Kontrolle von Anfang an integrieren“, sagt Majzoub. „Unternehmen brauchen sicheres Informationsmanagement als Basis – mit klaren Governance-Strukturen, Richtlinien und kontinuierlichem Monitoring. Ebenso wichtig ist es, KI von Beginn an mit den richtigen Daten, Sicherheitsmaßnahmen und Aufsicht zu kombinieren, damit Innovation verantwortungsvoll skalieren kann.“

Methodik der Studie: Das Ponemon Institute befragte unabhängig 1.878 IT- und IT-Sicherheitsexperten weltweit – in Nordamerika, Europa, Asien-Pazifik, Nahost, Afrika und Lateinamerika. Die Teilnehmer stammen aus unterschiedlichen Branchen, darunter Finanzdienstleistungen, Gesundheitswesen, Technologie, Energie und Industrie. Die Erhebung fand im November 2025 statt.