Compliance Solutions

ai act, artificial intelligence act

EU-Parlament einigt sich auf den "Artificial Intelligence Act"

Als erste internationale Institution hat das Europäische Parlament sich auf eine Gesetzesinitiative geeinigt, die KI maßgeblich regulieren und kontrollieren soll, den “Artificial Intelligence Act”.

Ein vorläufiger Kompromiss des EU-Parlaments über den sogenannten “Artificial Intelligence Act” soll gewährleisten, dass künstliche Intelligenz (KI) in Europa sicher ist, Grundrechte und Demokratie achtet und gleichzeitig Unternehmen wachsen und expandieren lässt. Das Regelwerk hat das Ziel, Grundrechte, Demokratie, Rechtsstaatlichkeit und Umweltnachhaltigkeit vor risikoreicher KI zu schützen. Gleichzeitig soll Innovation gefördert und Europa zu einem führenden Akteur in diesem Bereich gemacht werden. Der “Artificial Intelligence Act” legt klare Pflichten für KI-Systeme basierend auf ihrem potenziellen Risiko und Auswirkungsgrad fest.

Kritik kam in Deutschland von Wirtschaft und FDP, mit der Sorge, dass der Gesetzesvorschlag zu streng in seinen Forderungen sei. Innovation und Wachstum in der Wirtschaft könnten dadurch behindert werden. Vergleichbare Kritik gab es auch aus anderen europäischen Ländern. Die Regierung in Frankreich drängte ebenfalls auf wirtschaftsfreundlichere Lösungen.

Hauptelemente der Regelung

  • Regeln für hochwirksame allgemeine KI-Modelle, die in Zukunft systemisches Risiko verursachen können, sowie für Hochrisiko-KI-Systeme
  • Ein überarbeitetes Governance-System mit einigen Durchsetzungsbefugnissen auf EU-Ebene
  • Erweiterung der Verbotsliste, aber mit der Möglichkeit, dass Strafverfolgungsbehörden in öffentlichen Räumen unter sehr speziellen Umständen biometrische Identifikation einsetzen dürfen
  • Besserer Schutz von Rechten durch die Verpflichtung für Betreiber von Hochrisiko-KI-Systemen, vor deren Einsatz eine Bewertung der Auswirkungen auf die Grundrechte durchzuführen ist

Verbotene Anwendungen

Laut dem AI-Act stehen gewisse Handlungen von unregulierter KI im direkten Konflikt mit EU-Werten und Gesetzen. Deshalb sollen diese Handlungen explizit verboten werden, um die Rechte der Bürger und die Demokratie zu schützen.

  • Kategorisierungssysteme, die sensible Merkmale wie politische, religiöse oder philosophische Überzeugungen sowie sexuelle Orientierung oder Rasse verwenden, werden verboten
  • Das ungezielte Sammeln von Gesichtsbildern zur Erstellung von Gesichtserkennungsdatenbanken
  • Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen
  • Soziales Scoring von Personen, basierend auf sozialem Verhalten oder persönlichen Eigenschaften
  • KI-Systeme, die menschliches Verhalten manipulieren, um den freien Willen zu umgehen und Entscheidungen zu manipulieren
  • KI, die menschliche Sensibilitäten (aufgrund ihres Alters, Behinderungen, ihrer sozialen oder wirtschaftlichen Situation) ausnutzt

Ausnahmen für Strafverfolgungsbehörden

Es wurden Schutzmaßnahmen und eng begrenzte Ausnahmen für den Einsatz von Identifikationssystemen in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken vereinbart. Diese unterliegen jedoch einer vorherigen richterlichen Genehmigung und sind auf genau definierte Vergehen, wie vermutete Terroranschläge oder der Suche nach Schwerstverbrechern beschränkt.

Pflichten für Hochrisiko-Systeme

Für als hochriskant eingestufte KI-Systeme wurden klare Verpflichtungen vereinbart. Dazu gehören eine obligatorische Bewertung der Auswirkungen auf Grundrechte, die auch für den Versicherungs- und Bankensektor gilt. KI-Systeme, die zur Beeinflussung des Wahlausgangs und des Wählerverhaltens eingesetzt werden, gelten ebenfalls als hochriskant. Bürger haben das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen über Entscheidungen zu erhalten, die auf Hochrisiko-KI-Systemen basieren, die ihre Rechte beeinträchtigen.

Schutzmaßnahmen für allgemeine KI-Systeme

Allgemeine KI-Systeme und die darauf basierenden Modelle müssen genaue Transparenzanforderungen erfüllen. Dazu gehört die Erstellung technischer Dokumentation, die Einhaltung des EU-Urheberrechts und die Verbreitung detaillierter Zusammenfassungen über die für das Training verwendeten Inhalte.

Sanktionen und Inkrafttreten

Abhängig von der Art des Verstoßes und der Größe des Unternehmens kann Nichteinhaltung der Regeln zu Bußgeldern in Höhe von 1,5-7% des weltweiten Unternehmensumsatzes führen. Mit der Zustimmung des EU-Parlaments haben die Mitgliedstaaten nun zwei Jahre Zeit, schrittweise alle verbotenen Systeme außer Betrieb zu nehmen. 2026 sollen dementsprechend alle Punkte des AI-Acts umgesetzt sein.

Neue Governance-Architektur

Es wurde sich zudem auf die Einrichtung eines KI-Büros innerhalb der Kommission zur Überwachung der fortschrittlichsten KI-Modelle geeinigt. Ein KI-Board, das aus Vertretern der Mitgliedstaaten besteht, bleibt als Koordinationsplattform und Beratungsgremium für die Kommission bestehen.

AI Act, Artificial Intelligence Act

Bedeutung für Unternehmen

Unternehmen, die KI nutzen, müssen sich auf neue Risiken in Sachen Regelverstöße gefasst machen. Die meisten Compliance-Programme sind bisher nicht für die Herausforderungen von KI-Systemen ausgelegt. Für den AI-Act müssen Unternehmen ihre Programme mit Blick auf das Alignment-Problem überarbeiten, um Regelverstöße der KI zu erkennen und zu verhindern. Dies erfordert spezielle Schulungsprogramme für Mitarbeiter, um sie über die Compliance-Herausforderungen durch KI zu informieren. Eine Möglichkeit zur Überwachung von KI-basiertem Verhalten könnte die Verwendung von Überwachungs-KI-Systemen sein, die Anomalien und gesetzeswidriges Verhalten erkennen und automatisch Alarme auslösen können.

Falls Sie hierzu Fragen haben, steht Ihnen Compliance Solutions gerne mit ihrer langjährigen Expertise zur Seite.

Fazit

Der „Artificial Intelligence Act“ der EU ist eine bedeutende Gesetzesinitiative, die darauf abzielt, Künstliche Intelligenz (KI) umfassend zu regulieren und sicherzustellen, dass sie sicher ist, die Grundrechte und die Demokratie achtet, während sie gleichzeitig das Wachstum und die Expansion von Unternehmen unterstützt. Durch die Festlegung von Pflichten für KI-Systeme basierend auf ihrem Risiko und Auswirkungsgrad, zielt die Gesetzgebung darauf ab, Risiken zu minimieren und Innovationen zu fördern, um Europa zu einem führenden Akteur im Bereich der KI zu machen. Die vorgeschlagenen Maßnahmen umfassen strenge Regeln für Hochrisiko- und allgemeine KI-Systeme, eine überarbeitete Governance-Struktur und spezifische Verbote gegen missbräuchliche Praktiken, wobei bestimmte Ausnahmen für Strafverfolgungsbehörden unter eng definierten Bedingungen gewährt werden. Für Unternehmen ergibt sich ein neuer Risikokomplex, der Auswirkungen auf die Compliance-Abteilungen haben wird, um die Kompetenzen aufzubauen das KI Alignment-Problem in den Griff zu bekommen. Jetzt liegt es an den Mitgliedstaaten den AI-Act gewissenhaft umzusetzen und angemessene Sanktionen gegen Nichteinhaltung einzuführen.

AI Act, Artificial Intelligence Act