Deepfakes: NGOs warnen vor Untätigkeit der Bundesregierung

Menschenrechtsorganisationen warnten am Dienstag (17. Oktober) vor der Gefahr von Deepfakes und Face Swap Apps und forderten die Bundesregierung auf, dagegen stärker vorzugehen. Das zuständige Ministerium für Digitales und Verkehr zeigte sich bislang bedeckt, betonte jedoch, sich der Sache annehmen zu wollen.

Die NGO HateAid organisierte am Dienstag zusammen mit der Bürgerbewegung Campact eine öffentlichwirksame Aktion vor dem Digitalministerium in Berlin, um vor den Gefahren von Face Swap Apps zu warnen.

“In der Digitalstrategie verspricht die Bundesregierung, Grundrechte auch im digitalen Raum konsequent zu schützen. Doch die Sicherheit und Selbstbestimmung von Millionen Bürgerinnen und Bürgern stehen auf dem Spiel,” heißt es von Seiten der Organisation.

Face-Swap-Apps verwenden sowohl KI-basierte „Deepfake“-Systeme als auch Nicht-KI-Prozesse zum Austauschen von Gesichtern in Videos, erklärte Dominic Lees, Experte für KI und Film und außerordentlicher Professor an der University of Reading.

“Eine der größten Herausforderungen ist ihre Verwendung für geschlechtsspezifische Übergriffe auf Frauen – der nicht einvernehmliche Austausch von Frauengesichtern in Pornovideos,” so Lees gegenüber Euractiv.

Eine weitere Bedrohung stellen Deepfakes auch für den demokratischen Online-Diskurs dar, denn viele Nachrichten, die heute auf tragbaren Bildschirmen konsumiert werden, ”sind minderwertige Videomanipulationen von politischen Reden, eine einfache Form der Störung der politischen Kommunikation,” fügte Lees hinzu.

“Face Swap Apps sind damit zu einem Instrument geworden, mit dem Frauen gezielt eingeschüchtert und mundtot gemacht werden,” heißt es von HateAid.

Eine Petition gegen die Verwendung von Face-Swaps erreichte fast 76.000 Unterzeichner in Deutschland. Zwar blieb die Petition vom Bundesministerium für Digitales und Verkehr (BMDV) unbeantwortet, dem Thema wolle man sich aber in Zukunft trotzdem annehmen.

“Wir nehmen das Anliegen von HateAid ernst. Neue Technologien und Apps dürfen nicht missbraucht werden, um anderen Menschen Schaden zuzufügen. Deshalb setzt sich die Bundesregierung auf verschiedenen Ebenen gegen digitale Gewalt ein und unterstützt dabei auch wichtige Organisationen wie HateAid,” äußerte ein Sprecher des Bundesministeriums für Digitales und Verkehr gegenüber Euractiv.

Background

Gesichter sind durch das Recht am eigenen Bild, die Privatsphäre und den Schutz personenbezogener Daten geschützt. Diese Grundrechte können verletzt werden, wenn Face-Swap-Apps ohne die Zustimmung der Betroffenen verwendet oder an den Bildern von deren Gesichtern trainiert wurden.

“Für die meisten Verwendungen von Gesichtern, auch für Deepfakes oder Faceswapping, ist eine Einwilligung erforderlich, selbst wenn der Gesichtstausch nicht zu Betrugs-, sondern zu Spiel- oder Unterhaltungszwecken erfolgt,” erklärte Mathilde Pavis, Professorin für Recht an der University of Reading und Expertin für geistiges Eigentum, Daten und Ethik.

Schutzmaßnahmen gegen digitale Gewalt

Die staatliche Politik sollte die verschiedenen Verwendungszwecke von Face Swaps abgrenzen, so der KI-Experte Lees.

“Eine Regulierung ist erforderlich, um die Öffentlichkeit vor Face Swaps zu schützen, die in böswilliger oder betrügerischer Absicht erstellt werden, darf aber nicht in ihre Verwendung für legitime Zwecke wie Satire und Pastiche eingreifen,” äußerte Lees gegenüber Euractiv.

Laut dem BMDV beziehen sich Vorschriften vorwiegend auf die Inhalte, die mit sogenannten Face Swap Apps verbreitet werden, aber nicht die Face Swap App selbst. Weder in Deutschland noch auf EU Ebene sei ein Verbot der Technologie vorgesehen.

“Soweit die Apps jedoch aktiv eine missbräuchliche Nutzung für Nacktaufnahmen bewerben, unterstützt das BMDV den Appell von HateAid an die Betreiber der App-Stores, ein solches Verhalten in ihren Stores zu verbieten. Bei Zuwiderhandlungen müssen diese Apps von den Store-Anbietern aus den Stores entfernt werden,” fügte der Sprecher des BMDV hinzu.

Das Digitalministerium plane zusammen mit der Bundesnetzagentur “eine starke, zentrale Plattform-Aufsicht” zusätzlich zum Gesetz über digitale Dienste (Digital-Services Act) aufzubauen.

Das Bundesministerium der Justiz, welches für strafrechtliche Änderungen im Zusammenhang mit digitaler Gewalt zuständig ist, äußerte gegenüber Euractiv, dass derzeit keine Änderungen des Strafrechts mit Blick auf die Face Swap Apps geplant sei.

Den Schutz gegen digitale Gewalt regelt das geplante Gesetz gegen digitale Gewalt, welches die private Rechtsdurchsetzung stärken soll. Dabei soll es Opfern von digitaler Gewalt, wie etwa Online-Morddrohungen, ermöglicht werden, innerhalb weniger Tage den Täter zu identifizieren oder zumindest eine Datenspeicherung vorzunehmen. Durch richterliche Anordnungen, soll auch ermöglicht werden, Accounts der Täter sperren zu lassen.

“Dies sieht allerdings keine strafrechtlichen Änderungen vor, sondern Änderungen insbesondere des Zivilrechts,” fügte Sprecher des Bundesministeriums der Justiz gegenüber Euractiv hinzu.

EU-Ebene

Auf EU-Ebene verpflichtet der Digital-Services Act (DSA) große Plattformen gegen illegale Inhalte, Desinformation und auch Deepfakes vorzugehen. Dabei sind die Anbieter von sehr großen Online-Plattformen (VLOPs) zu Risikominderungsmaßnahmen verpflichtet, worunter auch die Kennzeichnung von Deepfakes fällt.

Bei einem Verstoß gegen die Löschung der eindeutig strafbaren Inhalte kann die Europäische Kommission unter anderem Geldbußen in Höhe von bis zu sechs Prozent des Vorjahresumsatzes verhängen.

“Der DSA wird ergänzt durch den Verhaltenskodex zur Bekämpfung von Desinformation,” so der Sprecher des Digitalministeriums, welches seit dem 25. August auf nationaler Ebene für den DSA zuständig ist.

Ziel dieses Kodex ist es, gegen manipulatives Verhalten vorzugehen, das zur Verbreitung von Desinformationen eingesetzt wird, wie zum Beispiel gefälschte Konten, Bot-gesteuerte Verstärkung, Identitätsdiebstahl und bösartige Deepfakes.

Um Herausforderungen besser entgegentreten zu können, fördert der Kodex auch die Zusammenarbeit zwischen den Unterzeichnern. Ein Verstoß gegen den Verhaltenskodex kann auch von der Europäischen Kommission sanktioniert werden.

“Der wichtigste Punkt bei Face Swaps ist die Offenlegung,” hob Lees hervor.

So müssen klare Informationen auf dem Bildschirm erscheinen, die den Betrachter darüber informieren, dass KI zur Gesichtsumwandlung verwendet wurde.

“Es müssen sichere Systeme zur „Wasserzeichen“-Verbindung von Videos entwickelt werden, die es dem Betrachter ermöglichen, die Metadaten schnell zu überprüfen und den Ursprung und die Manipulationen eines Videos, das er gerade sieht, zu verstehen,” erläuterte Lees gegenüber Euractiv.

(Bearbeitet von Oliver Noyan)