KI im Cybercrime: Zwischen Faszination und Existenzangst

KI im Cybercrime: Zwischen Faszination und Existenzangst.

Sophos, Unternehmen für Sicherheitslösungen zur Abwehr von Cyberangriffen, veröffentlicht neue Erkenntnisse der Sophos Counter Threat Unit (CTU). Die Experten analysierten in einer aktuellen Untersuchung, dass Cyberkriminelle der künstlichen Intelligenz (KI) nach wie vor ambivalent gegenüberstehen. In Untergrund-Foren und Darknet-Marktplätzen wird KI nicht nur zunehmend als potenzieller Game-Changer thematisiert, sondern auch als potenzieller Killer für kriminelle Geschäftsmodelle.

Zusammenfassung (TL; DR):

• Cyberkriminelle nutzen generative KI zunehmend für hochgradig personalisierte Phishing-Angriffe und automatisierte Hacking-Tools.
• Gleichzeitig zeigen sie Skepsis bezüglich der langfristigen Auswirkungen auf ihre eigenen Geschäftsmodelle.
• Angesichts dieser Bedrohungslage empfiehlt Sophos Unternehmen, ihre Cyber-Hygiene zu stärken und Echtzeit-Monitoring zu implementiere. Außerdem sollte man Mitarbeiter gezielt gegen KI-gestützte Betrugsversuche schulen.

Betrug auf Autopilot: Wie KI Social Engineering revolutioniert

Ein zentraler Trend ist nach wie vor der Einsatz generativer künstlicher Intelligenz für Social Engineering und Betrug. Bedrohungsakteure nutzen große Sprachmodelle (LLMs), um Phishing-E-Mails, SMS oder Chat-Nachrichten in Echtzeit zu personalisieren, Sprachbarrieren zu überwinden und sogar realistische Sprachbots für Vishing-Angriffe (Voice-Phishing) zu erstellen. Ein Bedrohungsakteur beispielsweise wirbt mit einem KI-gestützten Telegram-Bot. Dieser kann Tonfall, Sprechrhythmus und Gesprächsverlauf natürlicher Personen imitieren, um Opfer in betrügerische Dialoge zu verwickeln. Noch einen Schritt weiter geht ein Dienst namens „AI OnlyFans Models“, der mithilfe von Künstlicher Intelligenz fiktive, aber glaubwürdige Profile für Romance-Scams generiert – inklusive synthetischer Bilder und individuell angepasster Konversationen. Solche Tools ermöglichen es Cyberkriminellen, ihre Angriffe skalierbarer, konsistenter und schwerer erkennbar zu gestalten.

Wenn Algorithmen die Angriffe übernehmen

Doch Künstliche Intelligenz ist nicht nur ein Tool für  Täuschung, sondern auch für technische Angriffe. Forenbewerben zunehmend KI-gestützte Malware- und Hacking-Tools. Deren Fähigkeiten sind oft noch nicht validiert, deuten aber bereits jetzt eine neue Qualität der Bedrohung an. Beispiele dafür sind:

• Leak Bazaar, eine Plattform für den Handel mit gestohlenen Unternehmensdaten, nutzt angeblich maschinelles Lernen. Damit will es große Datenmengen automatisch analysieren, irrelevante Inhalte herausfiltern und gezielt wertvolle Informationen  extrahieren. Dieser Service soll die Monetarisierung von Datendiebstahl beschleunigen.
• Apex AI gilt als Allzweck-Tool für „Carding, Hacking und Malware-Erstellung“ und soll unter anderem automatisch Schadcode generieren, Logs analysieren und Ausweichtechniken gegen Sicherheitssoftware optimieren.
• Metatron, ein KI-Assistent für Penetrationstests, nutzt Sprachmodelle, um Schwachstellen zu identifizieren, Exploits vorzuschlagen und sogar Gegenmaßnahmen zu empfehlen. Dieses Tool, das eigentlich für legitime Sicherheitsanalysen gedacht war, nun aber in kriminellen Kreisen diskutiert wird.

Viele dieser Tools basieren auf legitimen KI-Diensten wie ChatGPT, Claude oder Grok, deren API-Schlüssel in Untergrund-Foren gehandelt werden. Da kommerzielle KI-Angebote oft mit Sicherheitsvorkehrungen ausgestattet sind, experimentieren Cyberkriminelle mit „Jailbreaking“-Techniken, um diese Einschränkungen zu umgehen.

Skepsis in der Szene: Wird KI Cyberkriminelle überflüssig machen?

Gleichzeitig zeigt sich in der Szene eine gespaltene Haltung gegenüber KI. Neben der Begeisterung und Neugier existiert auch Skepsis: Viele fürchten, dass traditionelle Dienstleistungen wie Malware-Programmierung oder Social Engineering künftig überflüssig sind. In Foren diskutieren Kriminelle, ob KI langfristig „Arbeitsplätze“ in der Cybercrime-Branche vernichtet.

Die Analyse der Sophos-Forscher zeigt, dass Künstliche Intelligenz bereits heute von Cyberkriminellen genutzt wird – wenn auch oft noch in experimenteller Form. Die Kombination aus Automatisierung, Skalierbarkeit und Anpassungsfähigkeit macht KI zu einem zunehmend mächtigen Werkzeug für Angreifer, das bestehende Bedrohungen verschärft und neue Angriffsszenarien ermöglicht. Gleichzeitig deutet die Skepsis in der Szene darauf hin, dass nicht alle Akteure sofort auf KI setzen werden – was Unternehmen etwas Zeit gibt, sich noch besser vorzubereiten.

Was Unternehmen jetzt tun sollten

Organisationen sollten jetzt handeln, um sich gegen KI-gestützte Angriffe zu wappnen. Die Sophos CTU empfiehlt:

• Strikte Cyber-Hygiene: Regelmäßige Updates, Multi-Faktor-Authentifizierung (MFA) und der Einsatz von Passkeys reduzieren das Risiko, Opfer von automatisierten Angriffen zu werden.
• Monitoring und Anomalie-Erkennung: Da Künstliche Intelligenz die Angriffe schneller und unvorhersehbarer machen kann, ist eine Echtzeit-Überwachung der IT-Infrastruktur entscheidend.
• Aufklärung und Schulungen: Mitarbeiter müssen für neue Betrugsmethoden (z. B. KI-generierte Phishing-Mails oder Deepfake-Voice-Calls) sensibilisiert werden.