Anbieter von KI-Modellen sollen eigene Verhaltensregeln entwerfen

Die Europäische Kommission plant, den Anbietern von ChatGPT-ähnlichen Modellen der künstlichen Intelligenz (KI) zu gestatten, Verhaltenskodexe zu verfassen. Diese sollen kurz- bis mittelfristig deren Einhaltung des europäischen KI-Gesetzes bestimmen. Die Zivilgesellschaft soll hierbei eine beratende Rolle spielen.

Organisationen der Zivilgesellschaft haben sich in den letzten Monaten gefragt, ob sie in die Verhaltensregeln für allgemeine KI-Modelle (GPAI) einbezogen werden.

In der Zwischenzeit wurde Euractiv darauf aufmerksam gemacht, dass die Europäische Kommission nach Beratungsfirmen sucht, um diese Regeln zu entwerfen.

Die Verhaltenskodexe sind ein entscheidender Teil des KI-Gesetzes, zumindest kurz- bis mittelfristig.

GPAI-Anbieter wie OpenAI oder Microsoft können die Regeln nutzen, um die Einhaltung ihrer Verpflichtungen gegenüber dem KI-Gesetz nachzuweisen, bis harmonisierte Standards geschaffen sind. Die Kommission kann dem Kodex durch einen Durchführungsrechtsakt allgemeine Gültigkeit innerhalb der EU verleihen.

„Wenn der Entwurfsprozess für die KI-Verhaltenskodexe für allgemeine Zwecke nicht von einer Vielzahl von Interessengruppen, einschließlich der Zivilgesellschaft, Akademikern und unabhängigen Experten, getragen wird, könnte dies einen von der Industrie geleiteten Prozess bedeuten; im Wesentlichen schreibt Big Tech seine eigenen Regeln“, sagte eine Quelle aus der Zivilgesellschaft, gegenüber Euractiv.

Im KI-Gesetz selbst war die Beteiligung von Anbietern, der Zivilgesellschaft und der Wissenschaft an der Ausarbeitung von Verhaltensregeln für allgemeine KI-Modelle zweideutig, da es heißt, dass sie sich beteiligen „können“.

Es stellt sich heraus, dass die Anbieter der Modelle diejenigen sein werden, die die Kodexe in erster Linie entwerfen, wobei andere Interessenvertreter durch Konsultationen teilnehmen werden, so die Informationen, die Euractiv zur Verfügung gestellt wurden.

Wie diese Konsultation ablaufen wird, ist noch nicht bekannt. Es könnte sich um einen oder mehrere Aufrufe zur Abgabe von Stellungnahmen handeln oder darum, als Beobachter in den Raum eingeladen zu werden.

Mehrere Quellen, die mit der Angelegenheit vertraut sind, sagten Euractiv, dass einige Organisationen eine Präsentation in einem Workshop der Kommission im Juni als Hinweis darauf verstanden haben, dass sich die Situation entwickelt und dass die Kommission nun möglicherweise offener für die Einbeziehung der Zivilgesellschaft ist.

Ein Sprecher der Kommission teilte Euractiv mit, dass „ein Aufruf zur Interessenbekundung, der bald veröffentlicht werden soll, die spezifischen Wege umreißen wird, auf denen diese Interessenvertreter in die Entwicklung der Kodizes einbezogen werden“.

„Der Prozess der Ausarbeitung des Verhaltenskodexes wird von einer Vielzahl von Interessengruppen, einschließlich der Zivilgesellschaft, unterstützt werden“, sagte der Sprecher der Kommission, lehnte es jedoch ab, Einzelheiten darüber zu nennen, wie dies erreicht werden soll.

Wenn die Anbieter die ansonsten freiwilligen Leitlinien nicht unterzeichnen, müssen sie unabhängig nachweisen, dass sie das fast 500 Seiten lange Gesetz einhalten.

Der Entwurfsprozess

Die Generaldirektion der Kommission für Kommunikationsnetze, Inhalte und Technologie (DG CNECT) führte einen Mini-Wettbewerb unter einem bestehenden Rahmenvertrag durch, der im Juni endete, wie Euractiv berichtete.

Der Prozess und die Ausarbeitung der Kodizes wird an ein externes Unternehmen ausgelagert. Dieses muss herausfinden, wer Teil des Prozesses sein wird, ein Arbeitsprogramm ausarbeiten und durchführen, Arbeitsgruppen mit wöchentlichen Treffen einrichten und die Verhaltensregeln innerhalb von neun Monaten ausarbeiten.

Daher hat die Kommission einen ehrgeizigen Zeitplan für die Arbeit der Beratungsfirmen festgelegt.

Alle Konsultationen mit Interessengruppen, Tagesordnungen und Methoden müssen vom neu eingerichteten KI-Büro der Kommission genehmigt werden.

Das Amt für künstliche Intelligenz wird die Ausarbeitung überwachen, sich aber nicht zu sehr einmischen, außer um die endgültigen Kodexe zu genehmigen, so die von Euractiv bestätigten Informationen. Der KI-Ausschuss, der sich aus Experten aus den Mitgliedstaaten zusammensetzt, wird eine ähnliche Rolle wie die Kommission spielen, indem er sich nicht zu sehr in den Entwurfsprozess einmischt.

Das beauftragte Unternehmen wird auch den besten Weg für die Kommission aufzeigen, um GPAI-Risiken, einschließlich systemischer Risiken, zu bewerten.

Die Umsetzung des KI-Gesetzes wurde um einige Wochen verschoben, wobei das Gesetz voraussichtlich Anfang August in Kraft treten wird. Es wird zwei Jahre später vollständig umgesetzt, während die Verhaltensregeln sollen neun Monate nach dem Inkrafttreten ausgearbeitet werden.

Die Beauftragung des Beratungsunternehmens für die Ausarbeitung der Kodexe erfolgt auf der Grundlage eines Rahmenvertrags. Dies sind „mehrjährige Vereinbarungen, die die grundlegenden Bedingungen“ für einen später zu vergebenden Auftrag festlegen, erklärte Professor Albert Sanchez-Graells, der an der Universität Bristol EU-Vergabeverfahren lehrt, gegenüber Euractiv.

Die Unternehmen nehmen an einer öffentlichen Ausschreibung teil und werden für allgemeine Aufgaben wie die „Unterstützung der Kommissionsdienststellen bei der Durchführung von Audits“ vorausgewählt. Wenn eine spezifische Aufgabe innerhalb des Rahmenvertrags ansteht, kann die Kommission eine Mini-Ausschreibung unter den vorausgewählten Unternehmen durchführen.

Rätselhafte Beteiligung

Ein solcher von der Industrie geführter Prozess „birgt die Gefahr einer untreuen Umsetzung des KI-Gesetzes, die die Sicherheit und die Grundrechte der EU-Bürger nicht ausreichend schützen würde“, so ein Interessenvertreter, der um Anonymität bat.

Ende April brachten diese Interessenvertreter ihre Bedenken gegenüber der Kommission in einem weiteren Workshop zum Ausdruck. Personen, die an dem Treffen teilnahmen, berichteten dies gegenüber Euractiv.

Die Kommission stellte ihnen gegenüber klar, dass sie keine treibende Kraft bei der Ausarbeitung des Entwurfs sein würden. Daraufhin schickten einige dieser Organisationen Briefe, um ihre Unzufriedenheit auszudrücken, aber die meisten haben noch keine vollständige Antwort erhalten, so Personen, die mit der Angelegenheit vertraut sind, gegenüber Euractiv.

Die EU-Kommission ist bereits wegen ihrer Handhabung der Umsetzung des KI-Gesetzes in die Kritik geraten. Die Ernennung des Berichterstatters des Dossiers zum KI-Büro ohne öffentliche Stellenausschreibung oder Erklärung, über die zuerst von Contexte und dann von Euractiv berichtet wurde, hat für Aufsehen gesorgt.

Eine Gruppe von mehr als 30 Organisationen der Zivilgesellschaft, darunter der führende Verbraucherverband BEUC, hat Zweifel an der Unabhängigkeit der mit der Durchsetzung des Gesetzes beauftragten nationalen Behörden geäußert. In einem offenen Brief vom 26. Juni forderten sie die Kommission auf, diese Aufgaben zu klären.

Drei Mitglieder des Europaparlaments, die bei der Europawahl im Juni wiedergewählt wurden, haben im April Fragen an die Kommission über das Verfahren zur Besetzung des Amtes gestellt. Eine offizielle Antwort haben sie bisher nicht erhalten.

[Bearbeitet von Alice Taylor/Zoran Radosavljevic/Kjeld Neubert]