Der EU AI Act im Fokus
EU-Kommission veröffentlicht Leitlinien zu verbotenen KI-Praktiken
Die Europäische Kommission hat offizielle Leitlinien zur Umsetzung der im EU AI Act festgelegten Verbote für bestimmte KI-Praktiken veröffentlicht. Ziel der Leitlinien ist es, Unternehmen, Behörden und andere Akteure in der EU dabei zu unterstützen, die neuen Regelungen einheitlich und rechtskonform anzuwenden.
Hintergrund des AI-Acts
Der EU AI Act (Verordnung (EU) 2024/1689) ist ein Regelwerk zur Regulierung von Künstlicher Intelligenz, das einen risikobasierten Ansatz verfolgt. Während viele KI-Systeme weiterhin frei genutzt werden dürfen, unterliegen hochriskante Anwendungen strengen Auflagen, während einige Technologien mit inakzeptablem Risiko gemäß Artikel 5 der Verordnung vollständig verboten sind. Diese Verbote sind nun am 2. Februar 2025 in Kraft getreten.
Bedeutung der neuen Leitlinien
Die 140-seitigen Leitlinien, die von der Europäischen Kommission veröffentlicht wurden, enthalten ausführliche Erläuterungen zu den verbotenen Praktiken. Das Gesetz bietet wichtige Orientierung für Unternehmen, die sich auf die neuen Vorschriften einstellen müssen.
Die Kommission hebt hervor, dass die Verbote und ihre Umsetzung für die Wahrung der europäischen Grundrechte essenziell sind. Besonders die Unterscheidung zwischen verbotenen und hochriskanten KI-Systemen stellt für Unternehmen eine Herausforderung dar, die durch die Leitlinien entschärft werden soll.
Während die Leitlinien nicht rechtsverbindlich sind, bieten sie die Interpretation der EU-Kommission zu verbotenen KI-Praktiken und sollen für eine einheitliche Umsetzung des AI-Acts in allen Mitgliedsstaaten sorgen. Die endgültige rechtliche Interpretation bleibt jedoch den Gerichten vorbehalten.
Was ist verboten?
Zu den verbotenen Praktiken gehören laut EU AI Act unter anderem:
- Manipulative oder täuschende KI-Systeme, die unbewusst das Verhalten von Nutzern beeinflussen
- Social Scoring durch Behörden, das Bürger auf Basis ihres Verhaltens bewertet
- Massenhafte biometrische Überwachung, insbesondere in Echtzeit
- Emotionserkennung in Arbeits- oder Bildungseinrichtungen, um Gefühle von Personen auszuwerten
- KI-gestützte Kriminalitätsprognosen, die das potenzielle Risiko einer Straftat basierend auf Profiling oder persönlichen Eigenschaften vorhersagen
- Der Einsatz von KI zur Erstellung sogenannter „Dark Patterns“, die Nutzer zu bestimmten Handlungen verleiten oder manipulieren
- Chatbots mit unterschwelliger Manipulation, die Personen dazu bringen, schädliche finanzielle Entscheidungen zu treffen
Auswirkungen auf Unternehmen und Behörden
Da die Verbote sofort gelten, müssen Unternehmen ihre KI-Produkte und -Dienstleistungen überprüfen und anpassen. Auch Behörden, die KI-Systeme einsetzen, müssen sicherstellen, dass sie keine verbotenen Technologien verwenden. Während die Leitlinien nicht rechtsverbindlich sind, dienen sie als Maßstab für die Durchsetzung durch die Aufsichtsbehörden.
Die Kommission betont, dass Verstöße gegen den EU AI Act mit empfindlichen Strafen geahndet werden können – bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes eines Unternehmens.
Die nächste Stufe der EU AI-Act-Verpflichtungen, die sich auf Allzweck-KI-Modelle konzentriert, wird im August 2025 wirksam. Bis August 2026 müssen alle Bestimmungen des AI-Acts vollständig umgesetzt sein.
Fazit
Mit der Veröffentlichung der Leitlinien schafft die EU mehr Rechtssicherheit für Unternehmen und öffentliche Stellen. Da die Umsetzung des AI-Acts bis August 2026 vollständig erfolgen muss, sollten sich alle betroffenen Akteure frühzeitig darauf vorbereiten, um Strafen und Geschäftsrisiken zu vermeiden. Die Leitlinien sind ein zentraler Bestandteil dieses Übergangs und bieten eine wichtige Orientierungshilfe für die gesamte Branche.