Risiken für KI-Systeme minimieren: Erste Hilfe für Unternehmen

Risiken für KI-Systeme minimieren: Das können Unternehmen selbst tun.

Der Sommer 2026 hat gezeigt, wie schwierig es derzeit ist, künstliche Intelligenz (KI) unter Kontrolle zu halten. Weder die großen Anbieter noch der Gesetzgeber haben bislang nachweislich zuverlässige Schutzmechanismen geschaffen. Unternehmen müssen daher proaktiv mit KI-Risiken umgehen und Standards etablieren, um diese zu minimieren.

Zusammenfassung (TL; DR):

• Angesichts unzureichender externer Sicherheitsstandards und verschobener Regulierungen wie des EU AI Act müssen Unternehmen KI-Risiken proaktiv durch eigene Governance-Strukturen minimieren.
• Der Fokus liegt dabei auf der Klärung von Datenherkunft, definierten Zugriffsrechten und festen Verantwortlichkeiten, um rechtliche und finanzielle Schäden abzuwenden.
• Ein hoher digitaler Reifegrad bildet die entscheidende Grundlage, um KI-Systeme sicher und rentabel zu implementieren.

KI-Systeme zunehmend unübersichtlich

Das Umfeld für die Entwicklung und Regulierung künstlicher Intelligenz ist unübersichtlich: Anthropic, Anbieter von KI-Modellen, warnte im Juni 2026 vor den Risiken der eigenen Technologie und forderte die großen KI-Labore dazu auf, sich gemeinsam auf eine langsamere Entwicklung zu verständigen, damit Gesellschaft und Sicherheitsforschung Schritt halten können.

Weder Anbieter noch Gesetzgeber sorgen derzeit für Sicherheit

Die dokumentierten Fälle, in denen KI-Modelle aus Testumgebungen ausbrechen oder Kontrollmechanismen umgehen, sind zahlreich: Die Forschungsorganisation METR hat bis Mai 2026 allein bei internen KI-Agenten großer Anbieter 44 solcher Vorfälle erfasst. Auch die EU hat zentrale Anforderungen des AI Act für Hochrisiko-KI-Systeme, die ursprünglich im August 2026 bindend sein sollten, bis Dezember 2027 verschoben, weil die eigenen Vorgaben der Entwicklung nicht genug Rechnung trugen.

Der Vorgang dürfte recht einmalig sein: Die Unternehmen, die KI-Modelle entwickeln, warnen selbst vor den Risiken ihrer eigenen Technologie. Und die Institution, die verbindliche Regeln schaffen soll, verschiebt deren Rechtswirksamkeit, weil Komplexität und Dynamik der Situation darin nicht ausreichend abgebildet sind. Für Unternehmen heißt das, dass sie sich derzeit nicht allein darauf verlassen können, dass Anbieter oder Gesetzgeber den Einsatz von KI „sicher machen“.

Verantwortung lässt sich nicht auslagern

Das stellt ein konkretes Geschäftsrisiko dar. Denn wenn Mitarbeiter KI-Tools nutzen, trägt letztlich das Unternehmen und nicht die einzelne Person die Verantwortung. Gelangen sensible Daten in öffentlich zugängliche KI-Tools, können daraus Verstöße gegen Datenschutzbestimmungen, Vertraulichkeitsvereinbarungen oder den Schutz von Geschäftsgeheimnissen resultieren. Schwerwiegende Verstöße gegen den AI Act oder die DSGVO ziehen womöglich massive Geldbußen nach sich.

Hinzu kommt das Risiko fehlerhafter Ergebnisse: Ein KI-System, das beispielsweise autonom einen Vertrag erstellt, dabei aber eine Haftungsklausel auslässt, oder ein Agent, der eigenständig auf Systeme Dritter zugreift, kann erheblichen finanziellen, rechtlichen und Reputationsschaden verursachen. Das konsequente Einhalten von Best Practices zur Minimierung von Daten-, Cyber- und KI-Risiken wird damit wichtiger denn je.

Drei Best Practices für Unternehmen

Solange externe Kontrollmechanismen noch in Arbeit sind, können Unternehmen Best Practices etablieren und einhalten, um Haftungsrisiken im Zusammenhang mit KI zu zumindest zu minimieren:

• Herkunft und Verwendung von Daten klären: Welche Informationen werden in welche KI-Systeme eingespeist? Werden sie zum Training öffentlich zugänglicher Modelle verwendet? Wer im Unternehmen weiß darüber Bescheid?
• Klar definierte Zugriffsrechte: KI-basierte Systeme sollten keinen unbeaufsichtigten Zugriff auf sensible Daten oder kritische Systeme haben.
• Klar zugewiesene Verantwortlichkeiten: Wer entscheidet im Unternehmen, welche KI-Systeme für welche Anwendungsfälle eingesetzt werden? Wer überwacht sie im laufenden Betrieb?

Diese Schutzmechanismen schaffen zwar kein Nullrisiko, aber sie sind dennoch wirksam, sofern sie kontinuierlich weiterentwickelt und aktualisiert werden, wenn sich Technologien, rechtliche Rahmenbedingungen, Anwendungsfälle und Risiken verändern. Verantwortungsvoller Einsatz von KI ist schon heute mehr als eine Compliance-Frage, der zunehmend zu einer zentralen Managementaufgabe wird, die auf Führungsebene anzusiedeln ist. Nicht, weil die Gesetzgebung das so verlangt, sondern weil bereits heute operative und finanzielle Schäden entstehen können, wenn KI ohne angemessene Kontrollen eingesetzt wird.

Sicherer KI-Einsatz braucht digitale Grundlagen

Unternehmen können die Einführung von KI nicht aufschieben, bis alle technischen und rechtlichen Risiken und Fragen geklärt sind. Die Fähigkeit, KI profitabel einzusetzen, ist längst zum Wettbewerbsfaktor geworden – Voraussetzung dafür ist eine hohe digitale Reife. Laut der aktuellen Europe Digital Health Study 2026 bezeichnen sich nur 2 Prozent der befragten deutschen Unternehmen als vollständig digitalisiert, während 21 Prozent angeben, zu 80 Prozent oder mehr digitalisiert zu sein. Unternehmen müssen KI-Systeme und entsprechende Governance also nicht nur einführen, während sich die technologischen und rechtlichen Rahmenbedingungen noch entwickeln, sondern auch, während ihre eigene Digitalisierung noch nicht abgeschlossen ist.

Der digitale Reifegrad ist allerdings entscheidend für den wirtschaftlichen Einsatz von KI: Laut der Studie erzielen 97 Prozent der Unternehmen mit hoher digitaler Reife bereits messbare Erträge aus dem Einsatz von KI, verglichen mit nur 45 Prozent der Unternehmen mit niedriger digitaler Reife. Vor der Einführung von KI sollten Unternehmen daher nicht nur die Einhaltung von Best Practices zur Voraussetzung für den Einsatz machen, sondern auch die digitalen Grundlagen für den jeweiligen Anwendungsfall prüfen und gegebenenfalls stärken.

Häufige Fragen (FAQ)