KI-Gesetz: EU-Parlament schlägt Änderungen vor

Die Abgeordnete des Europäischen Parlaments trafen sich zu einer „Marathon“-Verhandlungssitzung über das KI-Gesetz, das künstliche Intelligenz stärker regulieren will, um etwaigen Risiken vorab entgegenzutreten. Es wurde zwar keine allgemeine politische Einigung erzielt, aber die Abgeordneten wurden in einigen Bereichen sehr deutlich.

Das Feedback der Abgeordneten spiegelt sich auch in den Änderungsanträgen wider, die die für das Gesetz zuständigen Mitberichterstatter des Europäischen Parlaments Brando Benifei und Dragoș Tudorache am vergangenen Freitag (24. Februar) vorgestellt hatten und die EURACTIV vorliegen.

Verbotene Praxen

Das KI-Gesetz verbietet bestimmte Anwendungen der künstlichen Intelligenz, die ein zu großes Risiko darstellen. Zu dieser politisch sensiblen Kategorie gehört das Social Scoring, ein in Teilen Chinas weit verbreitetes System zur Bevölkerungskontrolle. Das Verbot von Social Scoring wurde auf private Einrichtungen ausgeweitet.

Anmerkungen am Rande des Dokuments lassen erwarten, dass die Verbote der biometrischen Kategorisierung und der unterschwelligen Techniken in der Präambel des Textes näher ausgeführt werden, insbesondere im Fall psychologischer Manipulationen, um den Zusammenhang mit der Werbung zu präzisieren.

Governance und Einhaltung

Auch die Rolle des sogenannten KI-Büros wurde erheblich verkleinert. Das Büro hätte die Durchsetzung der Verordnung als zentrale Instanz leiten sollen. Möglicherweise geht die Verkleinerung auf Bedenken über mangelnde Ressourcen zurück. Das KI-Büro wird gemeinsame Ermittlungen unterstützen.

In den extremsten Fällen, in denen ein nicht konformes KI-System zu erheblichen Risiken auf nationaler Ebene führt, wird es jedoch die Aufgabe der Kommission sein, die beteiligten Behörden zu konsultieren und im Falle von Meinungsverschiedenheiten eine verbindliche Entscheidung zu erlassen.

Wenn die KI-Anwendung jedoch ein ernsthaftes Risiko darstellt, obwohl sie dem EU-Regelwerk folgt, würde diese Rolle vom KI-Amt übernommen. Diese Unstimmigkeit ist wahrscheinlich das Ergebnis politischer Verhandlungen.

Das KI-Büro hat die Aufgabe, Fachwissen zu sammeln und bewährte Praktiken unter den Mitgliedstaaten der EU auszutauschen. Dies erfolgt unter anderem durch die Einrichtung eines europäischen Expertenpools. Dabei handelt es sich um eine Idee, die aus dem Bereich des Datenschutzes stammt und die bereits in den Text des Rates aufgenommen wurde.

Die europäischen Abgeordneten schlagen außerdem vor, die Möglichkeit zu schaffen, bei Verstößen gegen die KI-Verordnung repräsentative Klagen zu erheben.

Hochriskante Verpflichtungen

Bei der Prüfung von KI-Systemen mit hohem Risiko müssen nun der beabsichtigte Zweck und mögliche vorhersehbare Missbrauchszwecke berücksichtigt werden. Die Kategorien, die bei der Risikobewertung besonders berücksichtigt werden sollten, wurden auf gefährdete Gruppen und Kinder beschränkt.

Die Bestimmung, welche von KI-Entwicklern die Überprüfung der rechtsmäßigen Beschaffung ihrer zur Entwicklung benötigten Datensätze verlangte, wurde gestrichen. Diese Bestimmung hätte sich auf große Sprachmodelle wie ChatGPT ausgewirkt, die durch das Auslesen großer Mengen von Daten aus dem Internet trainiert werden.

Eine Notiz am Rande des Textes besagt jedoch, dass die Präambel des Textes festlegt, dass diese Datenerhebungsprozesse mit Geschäftsgeheimnissen, geistigem Eigentum und Datenschutzbestimmungen in Einklang stehen müssen. Der Verweis auf die Rechte des geistigen Eigentums scheint auf den Schutz der Kreativindustrie abzuzielen, deren Kunstwerke in die generative KI einfließen.

Die Verweise auf die Grundsätze der Datenminimierung und des Datenschutzes durch Design und Voreinstellungen wurden aus den Data Governance-Anforderungen entfernt. Die vorzulegende technische Dokumentation wurde leicht vereinfacht.

Anwendungsbereich

Das Dokument stellt zudem klar, dass Open-Source-KI-Modelle im Regelfall nicht in den Anwendungsbereich der Verordnung fallen. Eine Ausnahme bilden der Fall, in dem Open-Source-KI-Modelle als Teil eines größeren Hochrisikosystems, einer verbotenen Praxis oder eines Systems, das sogenannte Deep-Fakes produziert, in Verkehr gebracht oder in Betrieb genommen.

Folgenabschätzung in Bezug auf die Grundrechte

Der Vorschlag der Mitberichterstatter, eine Folgenabschätzung in Bezug auf die Grundrechte für KI-Nutzungen einzuführen, die in Hochrisikobereiche fallen, wurde beibehalten. Die Mindestanforderungen wurden jedoch leicht reduziert und eine Ausnahmeregelung für Systeme, die kritische Infrastrukturen verwalten, wurde hinzugefügt.

Anerkennung der Konformitätsbewertung

KI-Lösungen, insbesondere solche, die ein erhebliches Risiko mit sich bringen, müssen ein Konformitätsbewertungsverfahren durchlaufen. Die Abgeordneten fordern, dass die Kommission Abkommen zur gegenseitigen Anerkennung mit anderen Ländern mit vergleichbaren Konformitätsbewertungsniveaus abschließt.

Sicherheitskomponente

Die KI-Systeme, die als Sicherheitskomponenten von Produkten fungieren, die unter die EU-Gesetzgebung fallen, wie beispielsweise Spielzeug und Industriemaschinen, gelten als hochgradig schadensgefährdet. Die Definition von Sicherheitsbauteilen wurde geändert, um sie auf die Vermeidung von Risiken für die Gesundheit und Sicherheit von Personen zu beschränken.

Technische Standards

Die federführenden Abgeordneten wollen, dass die Kommission gemeinsame Spezifikationen für die Anforderungen an Hochrisikosysteme im Zusammenhang mit dem Schutz der Grundrechte herausgibt. Diese gemeinsamen Spezifikationen sollen aufgehoben werden, sobald sie in den entsprechenden technischen Standards enthalten sind.

[Bearbeitet von Alice Taylor]