AI-Act (EU-Gesetz zur künstlichen Intelligenz)
AI-Act (EU-Gesetz zur künstlichen Intelligenz)
Die Verordnung (EU) 2024/1689, auch bekannt als AI Act, wurde am 13. Juni 2024 vom Europäischen Parlament und dem Rat verabschiedet und stellt den weltweit ersten umfassenden Rechtsrahmen für künstliche Intelligenz (KI) dar. Ziel ist es, die Entwicklung und Nutzung von KI in der Europäischen Union einheitlich zu regulieren, um sowohl die Innovationskraft Europas zu stärken als auch den Schutz der Grundrechte, der Gesundheit, der Sicherheit und der demokratischen Werte sicherzustellen.
Der AI Act basiert auf einem risikobasierten Ansatz, der KI-Systeme nach dem Grad ihres Risikos in vier Hauptkategorien einteilt: verbotene Systeme, Hochrisiko-Systeme, Systeme mit Transparenzpflicht und Systeme mit minimalem Risiko.
Verbotene KI-Systeme sind Technologien, deren Einsatz als unvereinbar mit den Grundwerten der EU betrachtet wird. Hierzu gehören insbesondere Systeme zur sozialen Bewertung (Social Scoring) durch Behörden oder Unternehmen, biometrische Fernidentifikationssysteme in Echtzeit in öffentlichen Räumen zu Strafverfolgungszwecken (außer in eng begrenzten Ausnahmefällen), sowie KI-Systeme zur verdeckten Beeinflussung von Verhalten, etwa durch unterschwellige Reize. Diese Systeme gefährden die Autonomie, Entscheidungsfreiheit und Privatsphäre der Bürgerinnen und Bürger und dürfen weder in Verkehr gebracht noch verwendet werden.
Hochrisiko-KI-Systeme sind in Bereichen wie der kritischen Infrastruktur, Bildung, Beschäftigung, Strafverfolgung, Migration, Justiz und Gesundheitsversorgung besonders sensibel. Für diese Systeme gelten strenge Anforderungen: Hersteller und Anbieter müssen ein effektives Risikomanagement betreiben, technische Dokumentationen bereitstellen, eine menschliche Aufsicht ermöglichen und die Qualität der verwendeten Daten sicherstellen. Zudem müssen sie Konformitätsprüfungen durchlaufen und kontinuierlich überwachen, ob das System im Betrieb sicher bleibt. Ziel ist es, potenzielle Schäden frühzeitig zu erkennen und zu vermeiden.
Systeme mit Transparenzpflichten, wie etwa Chatbots oder Deepfakes, unterliegen besonderen Informationspflichten. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren, und sie müssen verstehen können, wie Entscheidungen zustande kommen. Dies soll Manipulation verhindern und die Nachvollziehbarkeit von KI-gestützten Prozessen erhöhen.
Ein weiterer wichtiger Aspekt ist der Schutz von Grundrechten. Die Verordnung verweist mehrfach auf die Charta der Grundrechte der EU, auf Datenschutz-Grundverordnung (DSGVO) und auf andere einschlägige Rechtsakte. Besonders sensibel sind Anwendungen wie biometrische Identifikation, Emotionserkennung und automatisiertes Profiling. Diese Anwendungen dürfen nur unter strengen Auflagen eingesetzt werden. Die Datenschutzbehörden der Mitgliedstaaten spielen eine zentrale Rolle bei der Überwachung und Durchsetzung der Regeln.
Der Anwendungsbereich des AI Acts ist weit gefasst. Er gilt für alle Anbieter und Betreiber von KI-Systemen, die ihre Systeme in der EU in Verkehr bringen oder verwenden – unabhängig davon, ob sie ihren Sitz in der EU oder im Ausland haben. Damit soll verhindert werden, dass ausländische Anbieter durch die Nutzung von KI-Systemen ohne Einhaltung europäischer Standards Wettbewerbsvorteile erlangen.
Einige Bereiche sind vom Anwendungsbereich der Verordnung ausgenommen. Dazu zählen militärische und sicherheitsbezogene Anwendungen, sowie Forschung und Entwicklung, sofern das jeweilige KI-System nicht in den Markt eingeführt oder betrieben wird. Auch bestimmte wissenschaftliche KI-Projekte sind ausgenommen, solange sie nicht produktiv genutzt werden. Dies soll sicherstellen, dass Innovation nicht durch übermäßige Regulierung behindert wird.
Die Verordnung betont die Bedeutung von KI-Kompetenz, sowohl bei Entwicklern als auch bei Anwendern und Bürgerinnen und Bürgern. Deshalb sollen Aufklärung, Bildung und freiwillige Verhaltenskodizes gefördert werden, um ein breites Verständnis für die Funktionsweise und Auswirkungen von KI-Systemen zu schaffen. Die Kommission wird durch ein KI-Gremium unterstützt, das unter anderem Empfehlungen ausspricht und die Umsetzung der Verordnung begleitet.
Insgesamt ist der AI Act ein Meilenstein in der Technologiepolitik der EU. Er stellt sicher, dass KI im Einklang mit europäischen Werten genutzt wird und schafft klare, rechtlich verbindliche Rahmenbedingungen. Die Verordnung soll nicht nur Risiken minimieren, sondern auch die europäische Industrie stärken, Vertrauen in KI fördern und Europa als globalen Vorreiter für ethisch verantwortungsvolle und vertrauenswürdige KI positionieren.
Marktplatz IT-Sicherheit: weitere Angebote
