Großbritannien: Künstliche Intelligenz könnte menschlicher Kontrolle entgleiten

Das Vereinigte Königreich fürchtet, dass Künstliche Intelligenz der menschlichen Kontrolle entgleiten könnte. Zudem würde die Technologie auch andere Risiken bergen, und könnte etwa für die Herstellung von Biowaffen eingesetzt werden.

Das Vereinigte Königreich veranstaltet am 1. und 2. November einen Sicherheitsgipfel für künstliche Intelligenz. Das Treffen, welches das erste seiner Art ist, ist Teil des Vorstoßes des britischen Premierministers Rishi Sunak, das Vereinigte Königreich in den Mittelpunkt des globalen Technologiewettbewerbs zu stellen und sich einen Platz in der internationalen KI-Governance zu sichern.

Anfang dieser Woche veröffentlichte die britische Regierung das Programm des Gipfels, das sich stark auf KI-Grenzmodelle konzentriert. Dabei handelt es sich um ein Konzept, das von den wichtigsten in diesem Bereich tätigen Technologieunternehmen stammt, um hochleistungsfähige Modelle zu definieren, die an eine Vielzahl von Aufgaben angepasst werden können.

Während noch nicht klar ist, wer von Seiten der EU teilnehmen wird, haben die nationalen Vertreter, die in der Arbeitsgruppe Telekommunikation, einem technischen Gremium des EU-Rates, versammelt sind, am Montag (16. Oktober) einen ersten Entwurf des Kommuniqués erhalten, das am Ende des Gipfels angenommen werden soll.

In dieser zweiten Fassung des Entwurfs der Schlussfolgerungen, die Euractiv vorliegen, werden Chancen und Risiken der KI erwähnt. Dabei wird insbesondere auf die Gefahr von KI-Modellen hingewiesen, die so komplex sind, dass sie zu eigenständigen Akteuren werden und sich von der menschlichen Aufsicht emanzipieren könnten.

„Die bedeutendsten dieser Risiken ergeben sich aus einem potenziellen absichtlichen Missbrauch oder Kontrollproblemen, bei denen KI-Systeme versuchen könnten, ihren eigenen Einfluss zu erhöhen und die menschliche Kontrolle zu verringern, und diese Probleme sind zum Teil darauf zurückzuführen, dass diese Fähigkeiten nicht vollständig verstanden werden“, heißt es in dem Text.

Der Wortlaut bestätigt einen Bericht des Guardian, in dem auf Bedenken der Downing Street verwiesen wird, dass leistungsstarke KI-Modelle zur Entwicklung von Biowaffen eingesetzt werden oder sich vollständig der menschlichen Kontrolle entziehen könnten.

Das Kommuniqué weist insbesondere darauf hin, dass solche Risiken Bereiche wie Cybersicherheit und Biotechnologie betreffen und zu absichtlichen oder unbeabsichtigten Schäden führen könnten, die ein katastrophales Ausmaß erreichen könnten.

„In Anbetracht der raschen und unsicheren Entwicklung der KI und im Zusammenhang mit der Beschleunigung der Investitionen in die Technologie bekräftigen wir, dass es besonders dringend ist, unser Verständnis dieser potenziellen Risiken und der Maßnahmen zu ihrer Bewältigung zu vertiefen“, heißt es in dem Dokument weiter.

In dem Entwurf der Schlussfolgerungen verpflichten sich die Unterzeichner, internationale Maßnahmen zur Bewältigung von KI-Risiken zu ergreifen und mit allen relevanten Akteuren zusammenzuarbeiten, um die Sicherheit von KI zu gewährleisten. Gleichzeitig wird auf die Verantwortung der Entwickler von Grenzmodellen hingewiesen, transparent und verantwortungsbewusst zu handeln, um die Risiken zu mindern.

Das Dokument ruft die Länder auch dazu auf, bei gemeinsamen Bewertungsmaßstäben für die Bewertung der KI-Sicherheit zusammenzuarbeiten und ein gemeinsames, evidenzbasiertes Verständnis der potenziellen KI-Risiken zu entwickeln. Dazu soll insbesondere ein internationales wissenschaftliches Netzwerk zur Erforschung der Sicherheit von KI-Grenzmodellen eingerichtet werden.

Auf EU-Ebene steht man kurz davor, den Regulierungsansatz für diese aufkommende Technologie im Rahmen des KI-Gesetzes abzuschließen, wobei die Diskussion über den Umgang mit den leistungsstärksten Modellen noch offen ist.

[Bearbeitet von Nathalie Weatherald]