EU delegiert Erstellung des KI-Verhaltenskodexes an unabhängige Experten

Die EU-Kommission hat 13 unabhängige, unbezahlte Experten mit der Ausarbeitung des Verhaltenskodexes für generative künstliche Intelligenz (GPAI) beauftragt. Die endgültige Entscheidung über dieses zentrale Regulierungsinstrument bleibt jedoch in ihrer Hand.

Der Verhaltenskodex (CoP) für künstliche Intelligenz mit allgemeinem Verwendungszweck (GPAI) wird darlegen, wie Anbieter das EU-KI-Gesetz einhalten können. Erwartet wird, dass er das umfassendste offiziell anerkannte Dokument seiner Art wird und möglicherweise weltweit Einfluss auf bewährte Verfahren nimmt.

Die Bedeutung des Kodexes zeigt sich am Engagement der Interessengruppen: Die EU-Kommission erhielt „fast 430“ schriftliche Beiträge und gewährte „fast 1.000“ Interessengruppen Zugang zur Teilnahme am Entwurfsprozess.

Nun hat die Kommission 13 akademischen Vorsitzenden und stellvertretenden Vorsitzenden beauftragt, den ersten Entwurf des Verhaltenskodex unabhängig voneinander zu erstellen, wie drei von ihnen Euractiv mitteilten.

„Ich kann mich nicht daran erinnern, jemals ein solches Verfahren gesehen zu haben“, sagte Pierre Larouche, Rechtsprofessor an der Université de Montréal und wissenschaftlicher Mitarbeiter am Think-Thank Centre for Regulation in Europe (CERRE), gegenüber Euractiv.

Üblicherweise vergibt die Kommission solche Großprojekte an Beratungsunternehmen und bezieht gelegentlich Akademiker in beratender Funktion ein, erklärt Larouche.

Bei dem Verhaltenskodex sind die Rollen jedoch vertauscht. Die Vorsitzenden schreiben den Entwurf und beauftragen Berater, die bei der Logistik und einfachen Forschungsaufgaben helfen. Das Büro für künstliche Intelligenz der Kommission leistet währenddessen rechtliche Unterstützung, sagten mehrere mit dem Prozess vertraute Personen.

Die Vorsitzenden, die unbezahlt arbeiten und gleichzeitig Vollzeitstellen anderswo innehaben, hatten ab dem 30. September etwa einen Monat Zeit, um einen Entwurf zu erstellen, der die zahlreichen eingegangenen Meinungen berücksichtigt.

Da der Entwurf bereits an die Kommission übergeben wurde, beabsichtigt das KI-Büro, ihn „Mitte November“ zu veröffentlichen, sagte ein Kommissionsbeamter. Mehrere Personen, die mit dem Prozess vertraut sind, rechnen jedoch damit, dass die Veröffentlichung bereits diese Woche geschieht.

„Das KI-Büro hat einen Auftragnehmer ausgewählt, der bei logistischen und administrativen Aufgaben wie der Konsolidierung von Beiträgen und der Koordinierung der Einbindung von Interessengruppen unterstützt, um ein zeitnahes und effektives Ergebnis des CoP-Prozesses zu gewährleisten“, erzählt der Beamte.

In der weiteren Vorgehensweise werden die Vorsitzenden sowohl die Anbieter-Workshops als auch die 1.000 Personen umfassende Plenarsitzung leiten, die in Arbeitsgruppen unterteilt ist, um neue Entwürfe zu erarbeiten.

Außerdem wurden sie mit der Aufgabe betraut, „Beiträge zusammenzufassen“ und „iterative Diskussionen zu leiten“. Die Kommission informierte die Beteiligten im Vorfeld nicht darüber, dass sie bei der Entwicklung des Kodex ein solch hohes Maß an Autonomie und Verantwortung haben würden.

„Alle Experten verfolgen neben ihrer Rolle andere Projekte in ihrem Fachgebiet, ohne dass Interessenkonflikte entstehen“, sagte der Kommissionsbeamte. In der Interessensbekundung, Vorsitzender zu werden, hieß es eindeutig, dass „Vorsitzende und stellvertretende Vorsitzende für die Wahrnehmung ihrer Rolle und Aufgaben nicht bezahlt werden“.

Die Kommission gab an, dass sie „eine gute Handvoll“ in der technischen Sicherheitseinheit des KI-Büros hat, wobei „25 Technologiespezialisten“ Anfang Herbst hinzukommen werden. Das britische KI-Sicherheitsinstitut zählt mehr als 30 technische Mitarbeiter und „wächst rasant“, wobei auf seiner Website mindestens 18 technische Stellen aufgeführt sind.

Transparenz und Interessenkonflikte

„Der Prozess des GPAI-Verfahrenskodex war für Menschenrechtsgruppen sehr enttäuschend“, schrieb Blue Tiyavorabun, Politikberater beim zivilgesellschaftlichen Netzwerk EDRi, in einer E-Mail an Euractiv.

Trotz der Bemühungen der Kommission, die Beiträge der Interessengruppen einzubeziehen, herrscht weiterhin Unzufriedenheit.

„Da der Prozess so überstürzt, nicht transparent und von der Industrie vereinnahmt ist, ist es schwer, ihn als sinnvolle Multi-Stakeholder-Konsultation zu den Standards zu betrachten, die die EU für GPAI-Modelle festlegt“, fügte Tiyavorabun hinzu.

Renate Schroeder, Direktorin der Europäischen Journalistenvereinigung, sagte Euractiv nach der ersten Plenarsitzung, sie befürchte, dass der Fokus der Kommission auf die „Wettbewerbsfähigkeit“ die Verpflichtungen verwässern würde.

Die Industrie wiederum befürchtet, dass der Kodex „über das KI-Gesetz hinausgeht“, insbesondere in Bezug auf Urheberrechtsfragen, Prüfungen durch Dritte und die Identitätsprüfung neuer Kunden, wie die Computer and Communications Industry Association (CCIA) in einem Briefing nach einer Diskussionsrunde mitteilte.

Zu den Teilnehmern der Diskussionsrunde gehörten Vertreter des französischen Wirtschaftsministeriums, von NVIDIA, OpenAI, der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD), der Ständigen Vertretungen Italiens und Spaniens sowie der US-Mission bei der EU.

Die Interessenvertretung CCIA sagt, dass die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) befürchten, nicht genug Einfluss zu haben, weil sie nur ein kleiner Teil der Verhaltenskodex-Vollversammlung sind. Schroeder befürchte, dass die Anbieter durch die Workshops zu viel Einfluss haben würden.

Auf beiden Seiten herrscht auch Unbehagen über den Einfluss der Vorsitzenden. Die Industrie befürchtet, dass sie zu akademisch geprägt sind und starke Ansichten zu KI-Risiken vertreten.

Bedingte Kontrolle

Die Vorsitzenden haben im Verhaltenskodex nicht das letzte Wort, sondern die Kommission.

Gemäß dem KI-Gesetz sollten das Büro und der Ausschuss für künstliche Intelligenz, in dem die Mitgliedstaaten vertreten sind, „überwachen“ und „bewerten“, ob die Ziele des Gesetzes erreicht werden. Es ist Aufgabe der Kommission, die finale Version zu genehmigen.

Die Auslagerung der Ausarbeitung „ist eine Möglichkeit für die Kommission, sich strategisch so aufzustellen, dass sie [später] entscheiden kann, die Arbeit der Vorsitzenden zu ändern“, sagte Larouche.

Indem die Kommission alle Beteiligten einbezieht, vermeidet sie die Herausforderung, einen technischen Kompromissentwurf selbst zu erstellen, und entzieht sich dem direkten Einfluss von Lobbyisten. Die Verantwortung liegt letztlich beim KI-Büro und dem KI-Vorstand, so der Experte.

Sollte der Entwurf auf Kritik stoßen, kann die Kommission den Vorsitzenden die Schuld zuweisen. Für den Fall, dass der Entwurf positiv aufgenommen wird, kann die Glaubwürdigkeit der Experten ihn weiter legitimieren. Im Endeffekt spart sich die Kommission viel Arbeit und Risiko, indem sie nicht für die Ausarbeitung des Entwurfs verantwortlich ist.

[Bearbeitet von Eliza Gkritsi/Martina Monti/Jeremias Lin]