LLM-Jacking: Warnung vor neuen Cyberangriffsmethoden
Das Sysdig Threat Research Team (TRT, Webseite) warnt vor einer alarmierenden Zunahme sogenannter “LLM-Jacking”-Angriffe. Dabei verschaffen sich Cyberkriminelle mit gestohlenen Cloud-Login-Daten illegal Zugang zu Large Language Models (LLMs).
Seit der Entdeckung des LLM-Jackings durch das Sysdig TRT haben die Angriffe stark zugenommen. Angreifer verwenden gestohlene Anmeldeinformationen, um Zugang zu teuren KI-Modellen zu erhalten und diese für eigene Zwecke zu nutzen. Dies kann die Opfer enorme Summen kosten, da moderne LLMs wie beispielsweise Claude 3 Opus bis zu 100.000 US-Dollar pro Tag an Nutzungsgebühren verursachen können.
LLM-Jacking: Kreativität der Cyberkriminellen wächst
Mit der fortschreitenden Entwicklung von LLMs und der steigenden Popularität dieser Modelle wächst auch die Kreativität der Cyberkrimineller, die zu immer raffinierteren Methoden greifen. Die Zahl der LLM-Jacking-Angriffe hat in den letzten Monaten einen besorgniserregenden Höhepunkt erreicht. Im Juli 2024 wurden innerhalb weniger Tage über 85.000 Bedrock-API-Anfragen von Angreifern registriert, die in kurzer Zeit enorme Mengen an Rechenressourcen verbrauchten. Diese Angriffe sind ein deutliches Zeichen für die zunehmende Professionalität der Angreifer, die moderne KI-Technologien zur Optimierung ihrer Aktivitäten einsetzen. Die Angreifer nutzen gestohlene Anmeldeinformationen, um über Cloud-Dienste auf LLMs zuzugreifen, was zu einem erheblichen Anstieg der Kosten für die betroffenen Unternehmen führt.
Missbrauch dieser KI-Modelle durch gesperrte Nutzer
Besonders besorgniserregend ist der Missbrauch dieser KI-Modelle beispielsweise durch gesperrte Nutzer oder Institutionen in sanktionierten Ländern. Diese erwerben illegalen Zugang zu den Modellen auf dem Schwarzmarkt und umgehen so die bestehenden Sanktionen.
Die Bedrohung durch LLM-Jacking wird durch die Möglichkeit verschärft, dass Angreifer firmeneigene LLMs manipulieren und für ihre Zwecke missbrauchen können. Sysdig empfiehlt betroffenen Unternehmen daher, verstärkte Sicherheitsvorkehrungen zu treffen. Dazu gehören die Absicherung von Zugangsdaten und die Umsetzung von Sicherheitsrichtlinien wie dem Least-Privilege-Prinzip.
Unternehmen müssen daher ihre Cloud-Sicherheitssysteme kontinuierlich überwachen und auf verdächtige Aktivitäten achten, um der wachsenden Bedrohung durch LLM-Jacking einen Schritt voraus zu sein.
