EU-Parlament beschließt weltweit erstes Regelwerk für KI

Die EU geht neue Wege, indem sie das weltweit erste Gesetz zur Regulierung Künstlicher Intelligenz (KI) beschließt. Nachdem Unterhändler von Europaparlament und EU-Staaten bereits im Dezember eine Einigung erzielten, stimmte das Parlament gestern mehrheitlich für dieses viel diskutierte Gesetz. Das Ziel der Regulierung ist es, dass KI-Systeme transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Zusätzlich soll die Überwachung der Technologie von Menschen und nicht durch andere Programme erfolgen. Neben dem Schwerpunkt auf Überwachung und Gesichtserkennung nimmt das Gesetz auch KI-generierte gefälschte Bilder und Audiodateien ins Visier. Es verfolgt das Ziel des Schutzes, während es gleichzeitig die wirtschaftlichen Chancen durch KI fördern möchte.

Gesichtserkennung in Grenzen erlaubt

Was für das Entsperren von Smartphones nützlich erscheinen mag, kann im öffentlichen Raum oder im Internet eher beunruhigend sein: die Gesichtserkennung. Während in China mittels dieser Technologie Social Scoring betrieben wird, begrenzt der AI Act der EU die Anwendung dieser Technik. Systeme, die Menschen aufgrund ihrer Hautfarbe, Religion oder sexuellen Orientierung kategorisieren, sind grundsätzlich verboten. Auch das ungezielte Auslesen von Bildern aus dem Internet oder von Überwachungskameras wird untersagt sein.

Wenn die Polizei schwere Straftaten wie Menschenhandel oder Anschläge aufklären oder verhindern möchte, kann die Gesichtserkennung im öffentlichen Raum unter strengen Auflagen erlaubt sein.

Ebenfalls verboten sein soll die Emotionserkennung am Arbeitsplatz. Diese Technologie ermöglicht es Unternehmen beispielsweise, die Emotionen von Mitarbeitern oder Bewerbern in Einstellungsprozessen zu erkennen und zu bewerten.

Je größer das Risiko, desto strenger die Regeln

Das Gesetz folgt dabei einer einfachen Regel: Je risikoreicher der Einsatz einer KI ist, desto stärker soll sie reguliert werden. Dafür sollen Systeme in verschiedene Risikogruppen eingeteilt werden. Je riskoreicher die Gruppe, desto höher die Anforderungen. 

Aber: Wie sollen Gesetze Schritt mit der Technik halten? „Wir sollten auch nicht glauben, dass unsere Arbeit jetzt endet mit diesem Gesetz. Nein, ich glaube, sie beginnt erst. Wir müssen nämlich – anders als bei anderen Gesetzen – schneller Anpassungen an Probleme und Entwicklungen finden“, gibt Christdemokrat Axel Voss laut der Tagesschau zum Gesetz zu bedenken.

Bezüglich der Regulierung kommt Kritik von der FDP: „Aber es bleiben Bürokratie und Unklarheiten, die für BigTech-Unternehmen leichter zu stemmen sind als für KMU. Da wird wichtig, dass die Kommission in der Umsetzung Klarheit schafft“, heißt es von der FDP-Abgeordnete Svenja Hahn. Die Grünen hingegen hätten sich mehr Regulierung gewünscht. Von Sergey Lagodinsky heißt es: „Dieses Gesetz ist schwächer als wir im Parlament wollten. Aber es ist viel besser, als gar keine Regulierung zu haben, als Zustände wie im Wilden Westen bei KI.“

Auch dem Verbraucherzentrale Bundesverband geht das Gesetz nicht weit genug: „Doch die Regeln im AI Act geben Verbraucher:innen leider keinen ausreichenden Schutz. Bundesregierung und Bundestag müssen die wenigen Spielräume bei der nationalen Umsetzung des AI Acts nutzen und zumindest die KI-gesteuerte Gesichtserkennung im öffentlichen Raum auch für private Akteure untersagen. Der deutsche Gesetzgeber muss sicherstellen, dass es effiziente Aufsichtsstrukturen gibt und Aufsichtsbehörden ausreichend mit Personal und Know-how ausgestattet sind. Bei der Kontrolle von KI-Systemen und dem Durchsetzen der Regeln müssen Verbraucherinteressen höchste Priorität bekommen“, heißt es von Ramona Pop, Vorständin des vzbv. 

Spielregeln für ChatGPT und Co.

Auch ChatGPT und Co. werden von der KI-Verordnung betroffen sein. So müssen sich Anbieter:innen solcher Programme zur Einhaltung des EU-Urheberrechts verpflichten. Auch die Frage nach der Kennzeichnung KI-generierter Inhalte wird geklärt: künstliche oder manipulierte Bilder, Audio- oder Videoinhalte („Deepfakes“) müssen eindeutig als solche gekennzeichnet werden. 

So geht es weiter

Über das Gesetz müssen nun noch die Mitgliedstaaten abstimmen. Das soll Ende April geschehen. Danach gibt es eine Übergangsfrist von zwei Jahren. Verbotene Systeme müssen schrittweise außer Betrieb genommen werden. Dabei werden die Regulierungen laut Trending Topics stufenweise umgesetzt: Zwei Jahre nach dem Inkrafttreten, also Mitte 2926, ist der AI Act vollständig anwendbar. Bereits Ende 2024 sollen aber bestimmte Anwendungen verboten werden. Allgemeine Vorschriften gelten nach einem Jahr, also Mitte 2025. Hochriskosysteme müssen sich nach 36 Monaten, also ab Mitte 2027, an die neuen Regeln halten.

Welche Sanktionen bei Verstößen drohen, müssen zudem die Mitgliedstaaten auf nationaler Ebene festlegen.

Update: Rat gibt endgültig grünes Licht

Der Rat der Europäischen Union hat das bahnbrechendes Gesetz zur Harmonisierung der Vorschriften für künstliche Intelligenz am 21.05.2024 gebilligt. Als „bedeutenden Meilenstein für die Europäische Union“ bezeichnet Mathieu Michel, belgischer Staatssekretär für Digitalisierung, Verwaltungsvereinfachung, Datenschutz und Bauverordnung, den weltweit ersten AI-Act.

Nach der Unterzeichnung durch die Präsidenten des Europäischen Parlaments und des Rates wird der Gesetzgebungsakt in den kommenden Tagen im Amtsblatt der EU veröffentlicht und tritt zwanzig Tage nach dieser Veröffentlichung in Kraft. Die neue Verordnung gilt mit einigen Ausnahmen für bestimmte Bestimmungen zwei Jahre nach ihrem Inkrafttreten.

Artikelbild: http://www.depositphotos.com