Verschlüsselt, aber nicht vertraulich: Wenn KI im Chat mitliest

Verschlüsselt, aber nicht vertraulich: Wenn KI im Chat mitliest.

Wer sichere Messenger mit End-2-End-Encryption (E2EE) nutzt, ist sicher gegen Spionage und Abhörmaßnahmen? Vielleicht, vielleicht auch nicht, wie das aktuelle ChatGPT-Plug-in für Apples iMessage zeigt. Unternehmen, bei denen Mitarbeiter auch private Smartphones mit nicht zertifizierten Apps für Business-Aufgaben nutzen, gehen ab jetzt ein hohes Risiko ein.

Zusammenfassung (TL; DR):

• Ein neues ChatGPT-Plugin für Apples iMessage hebelt die Ende-zu-Ende-Verschlüsselung aus.
• Es leitet alle Chat-Inhalte unbemerkt zur Verarbeitung in die OpenAI-Cloud weiter.
• Dies führt zu einem massiven Vertrauensbruch und erheblichen Datenschutzrisiken für Unternehmen.

Praktisch, aber gefährlich in der KI

Es wirkt auf ersten Blick praktisch: Nutzer können auf dem Mac ein ChatGPT-Plug-in installieren, das alle iMessage-Nachrichten mitliest, zusammenfasst, beantworten kann und anderweitig unterstützt. Damit das klappt, schiebt das Plug-in die Inhalte in die KI-Cloud von OpenAI, die die Inhalte verarbeitet, speichert, wahrscheinlich zum Training nutzt. Damit sind deren Inhalte nicht mehr sicher vor staatlichen Zugriffen beispielsweise aus den USA.

Keiner erfährt davon…

Was auf den ersten Blick vielleicht nicht klar ist: Damit ist die Ende-zu-Ende-Verschlüsslung komplett ausgehebelt. Alle bisher vertraulichen Informationen fließen in großer Zahl ab. Schlimmer noch: Alle Kommunikationspartner, die sich darauf verlassen haben, dass iMessage Nachrichten so stark verschlüsselt, dass nicht mal Apple sie mitlesen kann, erfahren davon nichts. Wer jetzt etwas über iMessage verschickt, kann nicht mehr sicher sein, dass es nur das Gegenüber erfährt. Es ist nicht klar ist, ob der jeweilige Empfänger oder irgendein Empfänger einer Gruppe das KI-Plug-in nutzt. Das ist ein maximaler Vertrauensbruch, ohne dass man die Verschlüsselung technisch gesehen geknackt hat.

Shadow-IT in der Kommunikation ist weit verbreitet

Und das macht klar, wie gefährlich der Einsatz von nicht freigegebenen Tools, die nur für den privaten Einsatz gedacht sind, für Unternehmen ist: Die aktuelle Studie State of Secure Collaboration 2026 von Wire zeigt, dass 48 Prozent aller befragten Firmen Tools zur Kommunikation nutzen, die nicht auf maximale Sicherheit ausgelegt sind und die nicht die eigene IT verwaltet.

Unter Zeitdruck oder bei Ausfall bestehender Systeme weichen Mitarbeitende schnell auf firmenfremde bzw. nicht freigegebene Tools und Kanäle aus. das tun sie, weil sie sie als sicher einschätzen und über eine moderne Verschlüsselung verfügen. Das allein ist schon problematisch genug, weil dann nicht mehr nachvollziehbar ist, wer an Gesprächen teilgenommen hat und wohin Informationen geflossen sind.

Shadow-IT und KI

Wird diese Form von Shadow-IT dann aber ‒ ohne dass die Mitarbeitenden davon wissen ‒ zusätzlich von einer externen KI verarbeitet, ergibt das eine besonders riskante Kombination. Denn sie wähnen sich auf der sicheren Seite; dennoch fließt jegliche Information ab, niemand bekommt es mit und hat auch keine Chance, das Problem auch nur zu erahnen.

Die Kombination aus nicht kontrollierten Kommunikationskanälen und externer KI-Verarbeitung stellt daher eine neue Qualität dar, da sie der vollautomatischen Auswertung aller Chats auf einem Rechner Tür und Tor öffnet. Prinzipiell kann das sehr viele Personen betreffen, die darüber nicht informiert sind. Für Unternehmen ist eine solche KI-Verarbeitung in nicht kontrollierten Kommunikationskanälen auch deshalb ein Problem, weil die Inhalte dann nicht nur theoretisch in Verarbeitung sind, sondern tatsächlich vollständig Richtung KI-Cloud abfließen.

Verstoß gegen die DSGVO

Genau genommen verstößt das Plug-in von OpenAI damit auch gegen die DSGVO, weil es mit an Sicherheit grenzender Wahrscheinlichkeit personenbezogene Daten verarbeitet. Das geschieht, ohne das diese dafür eine Rechtsgrundlage oder Einwilligung haben. Aber das steht auf einem anderen Blatt.

KI und Kommunikation müssen gemeinsam gedacht werden

Die Frage, die sich jetzt Unternehmen stellen sollten, ist: Wie lässt sich das verhindern und wie soll man als Unternehmen damit umgehen? Das Beispiel zeigt, dass es besonders wichtig ist, nur Kommunikationstools im Unternehmen zu verwenden, die der eigenen Kontrolle unterliegen und State-of-the-Art End-to-End verschlüsseln. Auch sollten sich keine Inhalte unbemerkt von externen KI-Systemen verarbeiten lassen.

Der Einsatz von KI und die Verwendung von Kommunikationstools dürfen Verantwortliche in Zukunft nicht mehr getrennt betrachten. Sensible Daten sollten nur über die Kanäle transportiert werden, die freigegeben und kontrollierbar sind.

Was ist sicher, was nicht?

Denn ab jetzt muss davon ausgegangen werden, dass bei nicht freigegebenen Kommunikationskanälen auf der anderen Seite eine KI Inhalte auswertet und verknüpft und die Inhalte nicht mehr sicher sind. Dafür sollten Mitarbeitende entsprechend gebrieft und sensibilisiert werden, damit sie auch in schwierigen Situationen nur auf vorgegebene Kommunikationsmittel zurückgreifen, die die notwendige Sicherheit und Vertraulichkeit garantieren können.

Häufige Fragen (FAQ)