Citizen Hackers: Die Gefahr aus den eigenen Reihen

Citizen Hackers: Die Gefahr aus den eigenen Reihen.

Man könnte von KI auch als vom großen Gleichmacher sprechen, denn sie verwandelt einfache Mitarbeitende in Citizen Developers, die eigene Anwendungen erstellen. Andererseits ist sie aber auch eine existenzielle Gefahr für die Cybersicherheit von Unternehmen. Letzteres müsste aber gar nicht sein.

Zusammenfassung (TL; DR):

• Künstliche Intelligenz verwandelt zunehmend technologiefremde Mitarbeiter in „Citizen Developer“, die dank Tools wie ChatGPT und Claude Code eigene Anwendungen schreiben, dabei jedoch unbewusst gravierende Lücken in die IT-Sicherheit reißen.
• Da viele Anwender die Kontrolle über die von der KI generierte Code-Basis verlieren, avancieren sie im Unternehmensalltag unfreiwillig zu „Citizen Hackers“.
• Um zu verhindern, dass sensible Unternehmensdaten abfließen oder unautorisierte Freigaben das System gefährden, müssen Betriebe den gesamten KI-gestützten Software-Entwicklungszyklus proaktiv mit spezialisierten Sicherheitsplattformen absichern.

 Unverhofft zum Citizen Hacker

Künstliche Intelligenz setzt konsequent fort, was Low-Code- und No-Code-Plattformen bereits vor Jahren begonnen haben: sie verwandelt technologiefremde Mitarbeitende in Entwickler und hilft Codern beim Coden. Doch mit großer Macht kommt, wie es Spider-Man so eindringlich formulierte, große Verantwortung. Die allerdings wird viel zu oft nicht wahrgenommen, entweder aus Ignoranz oder aus Unwissen. Die gravierenden Folgen sehen wir zunehmend im Geschäftsbetrieb. Entwickler bauen heute in Rekordzeit Anwendungen und sind effizienter denn je. Allerdings klaffen immer größere Wissenslücken auf. Das geht teilweise so weit, dass sie bei einem Problem die KI fragen müssen, wo der Fehler liegen könnte, da sie die Kontrolle über ihre eigene Code-Basis verloren haben.

Noch drastischer gestaltet sich die Situation im Bereich Citizen Developers, die immer mehr zu Citizen Hackers avancieren. Durch Tools wie Claude Code oder ChatGPT sind sie auch außerhalb des strengen, regulatorischen Korsetts einer Low-Code- oder No-Code-Plattform in der Lage, eigene Anwendungen bis hin zu KI-Agenten zu erstellen. Welches Schadenspotenzial dieser „Schönen Neuen Technologiewelt“ innewohnt, zeigt das Beispiel eines US-amerikanischen Versicherers. Dort wollte ein KI-Agent nach einer einfachen Anweisung, so heißt es, sämtliche Änderungen am Code direkt und ohne Umschweife auf die Produktivumgebung deployen. Das zeigt einmal mehr als deutlich, dass niemand durch KI einfach so zum Entwickler oder Admin transformiert wird.

KI sicher in der Programmierung einsetzen

Was Unternehmen nun brauchen ist ein spezieller Schutz, der nicht nur Entwicklern, sondern auch Citizen Developern die Möglichkeit bietet, KI sicher für die Programmierung einzusetzen. Ein solcher Schutz muss bei der Nutzung von Claude Code und Co. unautorisierte Verbindungen proaktiv verhindern, insbesondere wenn sie vertrauliche Unternehmensdaten gefährden oder unbeabsichtigt Lücken in die Cyberabwehr reißen würden. Denn eines ist sicher: KI wird auch in Zukunft die Softwareentwicklung grundlegend verändern. Es ist daher höchste Zeit, dass Unternehmen sich dieser neuen Realität stellen und sich entsprechend absichern, damit Mitarbeitende nicht den Cyberkriminellen in die Karten spielen.

Häufige Fragen (FAQ)