Die unabhängige IT-Sicherheits-Plattform - Der Marktplatz IT-Sicherheit

Sie haben einen IT-Notfall?

AI Act – erstes demokratische Regelwerk für Künstliche Intelligenz (KI)

AI Act –  demokratische Regelwerk für Künstliche Intelligenz (KI)

Nach langen Verhandlungen haben sich die Unterhändler des EU-Parlaments, des Ministerrats und der Kommission letzte Woche auf die endgültige Fassung des AI Act geeinigt. Das weltweit erste umfassende demokratische Regelwerk für Künstliche Intelligenz (KI) steht nun fest und somit dürfte das Gesetz noch vor den Europawahlen im kommenden Juni verabschiedet werden.

An verschiedenen Stellen gab es jedoch weit auseinanderliegende Positionen. So mussten in einigen Punkten – zum Beispiel bei der Definition von KI – Kompromisse eingegangen werden. Von daher sind Schlupflöcher enthalten, insbesondere in Bezug auf biometrische Videoüberwachung und Predictive Policing. Das Parlament hatte im Vorfeld das Verbot biometrischer Massenüberwachung durch automatisierte Gesichtserkennung gefordert. Die Mitgliedsstaaten der EU hingegen wollten dies von Anfang an durchsetzen. Daneben gab es weitere Positionen die strittig waren, unter anderem die Transparenzpflicht, Emotionserkennung oder verbotene Praktiken, wie etwa der Einsatz manipulativer Techniken.

AI Act – Streitpunkt über Regelung der so genannten Basismodelle

Ein weiterer relevanter Streitpunkt betraf die Regelung der so genannten Basismodelle wie GPT, Gemini, LaMDA oder LLaMA. Diese Modelle werden auf der Grundlage großer Datensätze trainiert und sind adaptiv verwendbar für eine Vielzahl unterschiedlicher Aufgaben. Gemäß der getroffenen Vereinbarung sind die wichtigsten Akteure im Bereich der künstlichen Intelligenz verpflichtet, mögliche Risiken für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit zu prüfen und gegebenenfalls unter Einbeziehung unabhängiger Experten zu mindern. Insgesamt wurde bei der Regelung bezüglich General Purpose AI Modellen (GPAI) auch der schnellen Entwicklung Rechnung getragen, indem die Kommission die Möglichkeit erhält, Anforderungen gemäß dem technischen Fortschritt zu justieren.

Im Grundsatz stellt das Abkommen einen Wendepunkt in der Regulierung von KI dar, der mit weitreichenden Auswirkungen für Entwickler, Unternehmen und Endnutzer verbunden sein wird. Als positiv hervorzuheben ist in diesem Kontext, dass Ausnahmeregelungen für freie und Open-Source-Software geschaffen wurden. Dies unterstreicht einerseits die Bedeutung von Forschung und Offenheit der neuen Technologie, aber auch die Notwendigkeit von Transparenz sowie die Wahrung der Urheberrechte andererseits. Jedoch maßgeblich für die weitere Entwicklung und den Einsatz von KI-Technologien wird definitiv die Definition von KI sein sowie die spezifischen Regelungen für Large Language Models wie ChatGPT.

Möglicherweise werden die, aufgrund der vorgegebenen Governance-Strukturen sowie der verbotenen Praktiken, definierten Grenzen bezüglich Entwicklung und Nutzung der KI zu manch kontroversen Diskussionen führen. Insgesamt halte ich hier einen Diskurs – insbesondere zu den ethischen Aspekten – für zielführend im Rahmen einer verantwortungsvollen Technologiepolitik, um die Vertrauenswürdigkeit in europäische KI zu stärken.

Autoren

Weitere Inhalte zum Thema

Nichts mehr verpassen?

Newsletter IT-Sicherheit
Marktplatz IT-Sicherheit