KI-Gesetz: Zustimmung im EU-Parlament bröckelt

Die Einigung zwischen den führenden Fraktionen im Europäischen Parlament über die KI-Verordnung ist gescheitert, was die Tür für Änderungsanträge für beide Seiten des Ganges öffnet.

Das KI-Gesetz ist ein wegweisendes Gesetz zur Regulierung der künstlichen Intelligenz auf der Grundlage ihres Schadenspotenzials. Das Europäische Parlament wird voraussichtlich am 14. Juni über den Gesetzesvorschlag abstimmen, da die Frist für die Einreichung von Änderungsanträgen am Mittwoch (7. Juni) ablief.

Ende April einigten sich die vier großen politischen Parteien darauf, keine alternativen Änderungsanträge einzureichen, mit der teilweisen Ausnahme der Europäischen Volkspartei (EVP), der eine gewisse Flexibilität in der Frage zur biometrischen Fernidentifizierung eingeräumt wurde.

Laut Ansichten vieler Abgeordneter hat die EVP diese Abmachung jedoch gebrochen.

„Die EVP hat die Vereinbarung gebrochen. Dafür müssen sie die Verantwortung übernehmen. Die Vereinbarung lautete, keine Gruppenänderungsanträge einzureichen“, sagte ein Abgeordneter des Europäischen Parlaments und fügte hinzu, dass nun „alles möglich“ sei, da die anderen Fraktionen nun beschließen könnten, andere Änderungsanträge zu unterstützen.

Ein Abgeordneter der Mitte-Rechts-Fraktion bezeichnete die Anschuldigung als „Fake News“ und argumentierte: „Wir haben es im Protokoll stehen, dass der EVP im Plenum Flexibilität in Bezug auf RBI [biometrische Fernidentifizierung] gewährt wurde. Es lag immer an unserer Fraktion, zu entscheiden, wie wir es machen.

Biometrische Fernidentifizierung

Die Frage der biometrischen Fernidentifizierung im öffentlichen Raum war ein heißes Thema in den parlamentarischen Diskussionen, da die Abgeordneten zwischen dem Bedarf an Sicherheit und dem Risiko einer Massenüberwachung hin- und hergerissen waren.

Der Kompromiss bestand darin, den Einsatz dieser Technologie in Echtzeit zu verbieten, sie aber im Nachhinein zur Untersuchung schwerer Straftaten nach Genehmigung durch eine Justizbehörde zuzulassen.

Der Europaabgeordnete Jeroen Lenaers koordinierte die Änderungsanträge der EVP und kehrte im Wesentlichen zum ursprünglichen Text zurück, der den Echtzeiteinsatz dieser Systeme in drei Ausnahmefällen erlaubte: um eine vermisste Person zu finden, einen Terroranschlag zu verhindern oder den mutmaßlichen Täter eines schweren Verbrechens zu finden.

Der Text legt fest, dass es sich dabei um besondere Fälle handelt, die eine vorherige Genehmigung einer Justizbehörde oder einer unabhängigen Verwaltungsbehörde erfordern und für die Schutzmaßnahmen im Hinblick auf die Notwendigkeit und Verhältnismäßigkeit gelten.

Im Gegensatz dazu hat die Linke einen Änderungsantrag eingebracht, der ein vollständiges Verbot der biometrischen Fernidentifikationstechnologie vorsieht. Dieser Vorschlag könnte bei den Fraktionen, die sich von der EVP benachteiligt fühlen, Unterstützung finden.

Verbotene Vorgehensweisen

Die KI-Richtlinie verbietet Anwendungen, die ein unzumutbares Risiko für die Gesellschaft darstellen. Auf Anregung von Abgeordneten der Linken wurde diese Liste erweitert und umfasst nun auch prädiktive Polizeiarbeit und Emotionserkennung.

Einzelne Abgeordnete brachten einige Änderungsanträge ein, die Teil der politischen Einigung waren und die Liste der verbotenen KI-Anwendungen noch erweitern würden.

Eine parteiübergreifende Koalition aus dem Piraten-Europaabgeordneten Patrick Breyer, der Sozialdemokratin Birgit Sippel und der Liberalen Karen Melchior brachte einen Änderungsantrag ein, der es KI-Systemen verbietet, das Verhalten von Menschen in öffentlich zugänglichen Räumen zu erkennen, zu überwachen und zu analysieren.

„Verhaltensanalyse ist eine Form der Massenüberwachung öffentlicher Räume, die Behörden automatisch auf „abnormales Verhalten“ aufmerksam machen würde. Solche Praktiken erziehen zu konformen Verhalten“, heißt es in der Begründung.

Sippel hat zusammen mit der Europaabgeordneten Sylvie Guillaume zwei separate Änderungsanträge eingereicht, die es verbieten, mit Hilfe von KI ein Profil von Migranten zu erstellen oder zu bewerten, ob sie eine Bedrohung darstellen könnten.

Linke Abgeordnete unterstützen beide Änderungsanträge und haben auch vorgeschlagen, jedes System zu verbieten, das zur Erkennung der Anwesenheit einer Person an Arbeitsplätzen, in Bildungseinrichtungen und bei der Grenzüberwachung eingesetzt werden könnte.

Hochriskante Systeme

Zwei Fraktionen, die die Einigung nicht unterstützten, waren die Linke und die Europäischen Konservativen und Reformisten, die 16 beziehungsweise 9 Änderungsanträge einreichten.

Die wichtigsten Änderungsanträge beziehen sich auf die Einstufung von KI-Systemen als Systeme mit einem hohen Risiko, Schäden zu verursachen, da die Entwickler in diesen Fällen strengere Verpflichtungen in den Bereichen Risikomanagement, Datenverwaltung und technische Dokumentation erfüllen müssen.

Im ursprünglichen Text würden KI-Systeme, die unter eine Liste von kritischen Bereichen oder Anwendungsszenarien fallen, automatisch als hochriskant eingestuft werden. Dieser Automatismus wurde als Kompromiss mit Mitte-Rechts gestrichen, aber die Linken versuchen nun, ihn wieder einzuführen.

Der Kompromisstext hat diese Liste der risikoreichen Bereiche und Anwendungsfälle erheblich verfeinert und erweitert, einschließlich der Empfehlungssysteme, die von sozialen Medienplattformen verwendet werden, die im Rahmen des Gesetzes über digitale Dienste (DSA) als systemrelevant eingestuft werden.

Ein Änderungsantrag der konservativen Fraktion würde diese Kategorie nur auf die Plattformen beschränken, die das DSA nicht einhalten, mit der Begründung, „dass es keinen Grund gebe, Verpflichtungen zu verdoppeln.“

Generative KI

Für Basismodelle, insbesondere für generative KI wie ChatGPT, haben sich die Abgeordneten darauf geeinigt, spezifische Verpflichtungen einzuführen, darunter die Forderung, eine ausreichend detaillierte Zusammenfassung der Trainingsdaten zu veröffentlichen, die dem Urheberrecht unterliegen.

Die konservativen Abgeordneten schlagen vor, einen Vorbehalt einzuführen, wonach eine solche Zusammenfassung keine Daten enthalten darf, die durch Urheberrechte geschützt sind oder ein Geschäftsgeheimnis darstellen.

[Bearbeitet von Nathalie Weatherald]