Warnung vor Dark Gemini
Als ChatGPT Ende 2022 geöffnet und damit der Weltöffentlichkeit vorgestellt wurde, dauerte es nicht lang, bis die ersten Meldungen über den Missbrauch des GenKI-Tools die Runde machten. Ein Jahr später wurden die ersten KI-Werkzeuge geleaked, die von Cyberkriminellen genutzt werden könnten, nämlich FraudGPT, WormGPT und Co. Was passiert mit Warnung vor Dark Gemini?
Allesamt Programme, die sich nicht nach ethischen Gesichtspunkten richten, sondern die Möglichkeit haben, auf entsprechende Anfragen auch bösartige Hinweise zu geben. Mit der Vorstellung neuer Large Language Models (LLM) sind dann auch entsprechende unethische Modelle nur eine Frage der Zeit. Ähnlich verlief es bei der Vorstellung von Google’s Gemini, denn seit April machen Nachrichten von Dark Gemini die Runde. Wie Dark Reading schreibt, hat der KI-gesteuerte bösartige Front-End-Dienst wahrscheinlich die an legitime LLMs gesendeten Aufforderungen geändert, um die Beschränkungen für das Schreiben von bösartigen Programmen und die Geolokalisierung von Personen auf Fotos zu umgehen.
Marco Eggerling, Global CISO bei Check Point Software kommentiert: „Man darf den Erfolg der Macher hinter Dark Gemini nicht unterschätzen und die Bedrohung, die davon ausgeht. Zwar ist das Programm, wie einige Sicherheitsforscher meinten, tatsächlich nicht der große Wurf, aber es zeigt, wieviel mit wenig Aufwand möglich ist. Ein kleiner Front-End-Dienst reicht also aus, um Sicherheitsrichtlinien teilweise zu brechen, die einen kriminellen Gebrauch von Large Language Modells (LLM), wie ChatGPT und Google Gemini, verhindern sollen. Skaliert man das hoch und denkt an große Hacker-Banden mit ihren Fähigkeiten und ihrer Kapazität, dann wird einem bewusst, was dieser auf den ersten Blick unbedeutend wirkende Hacker-Chat-Bot aus dem Dark Web wirklich für KI-Software bedeutet. Umso wichtiger ist es nun, dass einerseits über die Gesetzgebung und andererseits über die Anpassung der IT-Abwehr sowohl den Chancen der KI-Nutzung zur Arbeitserleichterung, Prozess-Optimierung und Verstärkung der IT-Sicherheit, als auch den Bedrohungen durch KI-Missbrauch Rechnung getragen wird.“
