BMBF-Forschungsprojekt gegen Cybermobbing und Hatespeech
Das Bundesministerium für Bildung und Forschung (BMBF) fördert seit dem 1. August 2023 das für drei Jahre ausgelegte Konsortialprojekt „Entwicklung von Strategien und Werkzeugen zur medienübergreifenden Meldung, Erkennung und Behandlung von Cybermobbing und Hassbotschaften in Ermittlungs- und Strafverfolgungsbehörden“ (CYLENCE) mit 1,6 Millionen Euro. Neben Virtimo sind die Technische Universität Darmstadt, die Universität Potsdam und die Universität Paderborn als Forschungspartner beteiligt.
Ziel: Unterstützung von Ermittlungs- und Strafverfolgungsbehörden
Ziel des interdisziplinären Projekts BMBF-Forschungsprojekt ist es, Ermittlungs- und Strafverfolgungsbehörden (ESBs) und zugehörige Meldestellen durch neue Strategien und Technologien bei der Erkennung, Meldung und Behandlung von Cybermobbing und Hassbotschaften zu unterstützen. Es entstehen Strategien und Werkzeuge, die einerseits unter Zuhilfenahme von künstlicher Intelligenz die Erfassung und Auswertung öffentlicher Daten durch ESBs ermöglichen, andererseits die Meldung von Cybermissbrauch durch neuartige Kanäle für die Bevölkerung unterstützen. „Umfragen aus den letzten Jahren zeigen, dass die Betroffenheit durch Cybermobbing und Hassbotschaften in Deutschland kontinuierlich gestiegen ist – sowohl im beruflichen als auch privaten Umfeld.“, erklärt Prof. Christian Reuter, Professor an der TU Darmstadt und Koordinator des Projekts.
Aufgrund der unübersichtlichen Informationslage im Internet ist die Auswertung und Behandlung von Vorfällen eine große Herausforderung. Abhilfe schafft die Plattform CYLENCE unter anderem durch die Einbindung von Künstlicher Intelligenz. „Mit der Automatisierung aufwendiger Bearbeitungsprozesse wird der geplante Demonstrator Behörden und Meldestellen befähigen, Cybermissbrauch effizient aus öffentlichen Medien zu extrahieren, Meldungen von Betroffenen aus unterschiedlichen Kanälen zu bündeln und diese unter Nutzung von KI-Methoden zu analysieren“, konkretisiert Christoph Fuchß, Vorstand Virtimo, die die technische Entwicklung der Plattform verantwortet.
BMBF-Forschungsprojekt: Konsortium aus verschiedenen Partnern
Beteiligt ist ein Konsortium aus Forschungs-, Entwicklungs- und Anwendungspartnern, das seine Kompetenzen bereits im Rahmen des Forschungsprojekts „Entwicklung von Strategien und Technologien zur Analyse und Kommunikation der Sicherheitslage im Cyberraum“ (CYWARN) gebündelt hat. Mit dem Fokus auf IT-Sicherheit unterstützt die Plattform CYWARN dabei, Cybergefahren frühzeitig zu erkennen und zentralisiert an betroffene Organisationen zu kommunizieren. Nach Abschluss der Projektphase im März 2024 soll die Plattform diversen Behörden testweise bereitgestellt werden.
