Erster Entwurf der Allzweck-KI-Richtlinien enthält strikte Risikominderung

Der erste Entwurf des Verfahrenskodex für Anbieter von Allzweck-KI wurde am Donnerstag (14. November) veröffentlicht. Darin werden Prüfungen durch Dritte und umfassende Risikominderungspläne für Modelle, die systemische Risiken darstellen, vorgeschrieben.

Der Verfahrenskodex beschreibt Praktiken, die Anbieter von Allzweck-Künstlicher-Intelligenz (General Purpose Artificial Intelligence, GPAI) befolgen können, um die vagen Anforderungen des EU-KI-Gesetzes automatisch zu erfüllen. Darüber hinaus könnte der Kodex, der das detaillierteste rechtlich abgesicherte Dokument seiner Art sein wird, globale Standards für Allzweck-KI wie ChatGPT beeinflussen.

Die Europäische Kommission hatte im September angekündigt, dass der Entwurf um den 3. November herum veröffentlicht werden sollte. Sie beauftragte 13 unabhängige Experten mit der Ausarbeitung des Entwurfs, wobei Interessenvertreter nun im Rahmen der sogenannten Plenarversammlung oder in schriftlicher Form Beiträge leisten können.

Anbieter von Allzweck-KI-Modellen mit systemischen Risiken, die diesen ersten Entwurf unterzeichnen, müssen einen umfassenden „Sicherheitsrahmen“ (Safety and Security Framework, SSF) entwickeln, teilen und befolgen. Dieser dient der Bewertung und Minderung von Risiken, und umfasst auch Bewertungen durch Dritte. Generell versuchen die Autoren jedoch, kleinere Modelle und kleine und mittelständische Unternehmen von den anspruchsvollen Anforderungen auszunehmen.

„Die Unterzeichner verpflichten sich, eine aussagekräftige, unabhängige Expertenbewertung der Risiken und Risikominderung von Allzweck-KI-Modellen mit systemischen Risiken während ihres gesamten Lebenszyklus zu ermöglichen“, hieß es in dem Entwurf.

Der im Entwurf des Verfahrenskodex vorgesehene Sicherheitsrahemn ähnelt dem „Sicherheitsprotokoll“ (Safety and Security Protocol, SSP) des blockierten umstrittenen KI-Gesetzentwurfs in Kalifornien, den der Vorsitzende Yoshua Bengio lautstark unterstützte.

Alle Allzweck-KI-Modelle müssen Informationen über das Design, Trainingsdaten, die akzeptable Nutzung, Testergebnisse, verwendete Rechenressourcen, Maßnahmen zur Einhaltung des Urheberrechts und Bewertungen des Energieverbrauchs weitergeben.

Sowohl vorgelagerte als auch nachgelagerte Allzweck-KI-Anbieter sind verpflichtet, eine „angemessene“ Sorgfaltspflicht in Bezug auf das Urheberrecht zu erfüllen. Kleine und mittelständische Unternehmen sind jedoch von einigen Anforderungen ausgenommen.

Der Entwurf enthält in vielen Bereichen noch keine Details. Im gesamten Text sind noch „offene Fragen“ gekennzeichnet.

Die Industrie hat bereits früher Bedenken hinsichtlich des Urheberrechts, der Prüfungen durch Dritte und der Anforderungen an die Kundenidentifizierung für den Verfahrenskodex geäußert.

Der erste Entwurf sieht Bewertungen durch Dritte vor, bei denen externe Experten oder Unternehmen die Fähigkeiten und Risiken der Modelle bewerten sollen. Dies wird voraussichtlich ein umstrittener Teil des Kodex sein.

Keine Zeit für Beteiligung?

Interessenvertreter müssen den Entwurf schnell analysieren, da die Fristen kurz sind.

Sie haben zwei Möglichkeiten, ihre Beiträge einzureichen: schriftliche Antworten bis zum 28. November oder Meinungsäußerungen in den für nächste Woche angesetzten Arbeitsgruppensitzungen.

Die Kommission teilte den Zeitplan für die Sitzungen und die zu erörternden Fragen in E-Mails am Montag (11. November) mit, die von Euractiv eingesehen werden konnten.

In den E-Mails teilte die Kommission mit, dass die Teilnehmer bis Donnerstagmittag Fragen an die Vorsitzenden einreichen und ihr Interesse an einer Wortmeldung bekunden sollten, bevor sie Zugang zum Entwurf des Verfahrenskodex erhielten.

Am Donnerstag verlängerte die Kommission die Frist bis um 9 Uhr am Freitag. Damit haben die Teilnehmer ab dem Zeitpunkt, an dem sie den Entwurf gesehen haben, 21 Stunden Zeit, um Fragen einzureichen und eine Redezeit zu beantragen.

Tatsächlich haben die Interessenvertreter nur eine Handvoll Arbeitstage Zeit, um sich auf die Arbeitsgruppendiskussionen vorzubereiten, die von Montag bis Donnerstag in der kommenden Woche stattfinden. Die offizielle Frist für die Einreichung von Fragen und die Berücksichtigung als Redner ist bereits abgelaufen.

Drei Beteiligte erklärten gegenüber Euractiv, dass sie nicht das Gefühl hätten, dass der Prozess es ihnen ermögliche, sinnvolle Beiträge zu leisten.

Zu jeder Arbeitsgruppensitzung „wird eine ausgewogene Gruppe von Interessenvertretern aus interessierten Teilnehmern eingeladen, mündliche Beiträge zu leisten“, hieß es von der Kommission.

Dies bezieht sich auf einen 25-minütigen Zeitrahmen mit vorab ausgewählten Rednern. Eine beteiligte Person gab an, dass sie aufgrund der kurzen Redezeit und des Risikos, später nicht ausgewählt zu werden, kein Interesse an einer Rede bekunden würde.

„Alle Teilnehmer erhalten die Möglichkeit, ihre Ansichten auf interaktive Weise zu äußern“, erklärte die Kommission. Dies scheint sich auf eine 30-minütige Fragerunde zu beziehen, an der im Prinzip alle der fast 1.000 Interessenvertreter teilnehmen können.

„Am Freitag, dem 22. November, werden die Vorsitzenden der Plenarversammlung die wichtigsten Erkenntnisse aus den Diskussionen vorstellen“, teilte die Kommission mit.

[Bearbeitet von Eliza Gkritsi/Rajnish Singh]