EU-Rat nähert sich gemeinsamem Standpunkt zum KI-Gesetz

Die tschechische EU-Ratspräsidentschaft hat am Mittwoch (19. Oktober) einen neuen Kompromiss zum KI-Gesetz in Umlauf gebracht, der die Grundlage für eine Einigung im nächsten Monat bilden soll.

Das KI-Gesetz ist eine wichtige Rechtsvorschrift, mit der der Sektor auf der Grundlage seiner potenziellen Risiken reguliert werden soll.

Die tschechische Ratspräsidentschaft hat dem Dossier Priorität eingeräumt und strebt eine generelle Einigung auf einer Ministertagung am 6. Dezember an.

Der neue Kompromiss, der vierte insgesamt, wird am kommenden Dienstag (25. Oktober) in der Arbeitsgruppe Telekommunikation des EU-Rates erörtert.

Wenn keine größeren Probleme auftauchen, könnten die EU-Botschafter bis Mitte November grünes Licht für den Text geben.

Geltungsbereich

Was den Anwendungsbereich betrifft, so stellt der neue Text klar, dass die Ausnahmeregelung für Militär, Verteidigung und nationale Sicherheit auch für jegliche Nutzung von KI-Systemen gilt, nicht nur für das Inverkehrbringen.

Eine weitere Ausnahmeregelung wurde für Personen hinzugefügt, die KI für nicht-gewerbliche Zwecke nutzen. Diese würden mit Ausnahme der Transparenzverpflichtungen nicht in den Anwendungsbereich der KI-Verordnung fallen.

Biometrische Erfassung

Im Zusammenhang mit dem umstrittenen Thema der biometrischen Identifizierungssysteme, einer Software, die Menschen anhand ihres Gesichts oder anderer Merkmale erkennen kann, wurde der Begriff „remote“ wieder aufgenommen.

Letztes Jahr hatte die slowenische Präsidentschaft dieses Adjektiv gestrichen, da es als verwirrend empfunden wurde.

Seitdem befürchten die Mitgliedstaaten jedoch, dass auch Fingerabdrücke in den Anwendungsbereich fallen könnten.

Daher umfasst die Definition des Begriffs „remote“ nun zwei Bedingungen: Das System muss aus der Ferne verwendet werden, und die Identifizierung muss ohne aktive Beteiligung der Person erfolgen.

Allzweck-KI

Bei KI-Systemen für allgemeine Zwecke handelt es sich um Modelle, die an verschiedene Aufgaben angepasst werden können. Daher wurde die Anwendung der neuen KI-Vorschriften auf sie als problematisch angesehen.

Die Lösung der tschechischen Ratspräsidentschaft bestand darin, die Kommission zu beauftragen, die Verpflichtungen in einem Durchführungsrechtsakt zu präzisieren.

Dieser Ansatz wurde weitgehend beibehalten, was die Unterstützung der EU-Staaten bestätigt. Gleichzeitig stellt der Text nun klar, dass KI-Anbieter mit allgemeinem Verwendungszweck weiterhin an regulatorischen Sandkästen teilnehmen und sich auf Verhaltenskodizes bewerben können, noch bevor die Kommission ihre gezielten Vorschriften erlässt.

Hochrisiko-KI-Systeme

Eine neue Transparenzverpflichtung wurde hinzugefügt, mit der die Anbieter von Systemen, die erheblichen Schaden anrichten können, aufgefordert werden, die erwarteten Ergebnisse in die Gebrauchsanweisung aufzunehmen, sofern dies angemessen ist.

Für die von den Anbietern von Hochrisiko-KI-Systemen einzuführenden Systeme für das Qualitätsmanagement wurde eine neue Formulierung eingeführt, um sie an ähnliche Systeme anzugleichen, die in sektoralen Rechtsvorschriften vorgeschrieben sind.

Systeme zur Kontrolle der Umweltverschmutzung wurden aus der Liste der risikoreichen Anwendungsfälle gestrichen, während Systeme zur Risikoberechnung und Preisgestaltung für Versicherungen hinzugefügt wurden, außer wenn es sich bei dem Anbieter um ein KMU handelt.

Strafverfolgung

In früheren Kompromissen hat der EU-Rat bereits darauf hingewirkt, den Spielraum für die Strafverfolgung erheblich einzuschränken.

Der neue Text dehnt die Ausnahme auf das Vier-Augen-Prinzip aus, wonach mindestens zwei Personen eine Entscheidung eines Hochrisikosystems überprüfen müssen.

Darüber hinaus wurden Behörden, die Hochrisiko-Systeme in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrolle sowie kritische Infrastrukturen einsetzen, von der Registrierung in der EU-Datenbank befreit.

Für den Einsatz von Hochrisiko-Systemen in diesen Bereichen können die Mitgliedstaaten beschließen, Polizei- oder Justizbehörden als Marktüberwachungsbehörden einzusetzen.

Der Text legt nun fest, dass solche Aktivitäten der Marktüberwachung die Unabhängigkeit der Gerichte nicht beeinträchtigen dürfen.

Innovation

Ein weiterer wichtiger Teil der Diskussion im EU-Rat betraf regulatorische Sandkästen. Dabei handelt es sich um kontrollierte Umgebungen, in denen Unternehmen unter Aufsicht einer Aufsichtsbehörde experimentieren können.

Zu den Zielen der Sandkästen wurde das evidenzbasierte regulatorische Lernen hinzugefügt, da die Ergebnisse als Grundlage für sekundäre Rechtsvorschriften und Durchsetzungsmaßnahmen dienen könnten.

Die Aufsichtsbehörde ist nun verpflichtet, einen „Abschlussbericht“ mit den wichtigsten Ergebnissen vorzulegen, der veröffentlicht werden sollte, wenn alle Parteien zustimmen.

Gleichzeitig wurde die Formulierung geändert, um den nationalen Behörden mehr Flexibilität bei der Einrichtung der KI-Sandkästen zu geben.

Governance

Nach der neuen Formulierung soll der KI-Ausschuss, der sich aus Vertretern der Mitgliedstaaten zusammensetzt, die Marktüberwachung unterstützen, „insbesondere im Hinblick auf das Auftreten von Systemrisiken, die von KI-Systemen ausgehen können“.

In einem früheren Kompromiss hatte der Ratsvorsitz die Möglichkeit eingeführt, einen Expertenpool zur Unterstützung des KI-Ausschusses einzurichten, nach dem Vorbild des Europäischen Datenschutzausschusses. Der Expertenpool ist nun zur Pflicht geworden.

Transparenzverpflichtungen

Die Transparenzverpflichtungen für bestimmte KI-Anwendungen wie Deep Fakes wurden dahingehend geändert, dass „das Recht auf Kunstfreiheit nicht beeinträchtigt wird, insbesondere wenn der Inhalt Teil eines offensichtlich kreativen, satirischen, künstlerischen oder fiktionalen Werks oder Programms ist.“

Sanktionen

Die Liste der Verstöße, die mit Geldbußen in Höhe von bis zu 20 Millionen Euro oder vier Prozent des Jahresumsatzes geahndet werden können, wurde um den Verstoß gegen die Transparenzpflichten und die Anforderungen an die Allgemeingültigkeit von KI erweitert.

Es wurden weitere Punkte hinzugefügt, die bei der Berechnung der Sanktion zu berücksichtigen sind. Dazu gehören der vorsätzliche oder fahrlässige Charakter des Verstoßes, Versuche zur Schadensminimierung und die Frage, ob ähnliche Verstöße bereits sanktioniert wurden.

Gemeinsame Spezifikationen

Die Definition und der Ansatz der gemeinsamen Spezifikationen wurden an die Maschinenrichtlinie der EU angeglichen.

Insbesondere sollen die gemeinsamen Spezifikationen aufgehoben werden, sobald harmonisierte Normen verabschiedet sind.

[Bearbeitet von Alice Taylor]