So wird Technologie gegen Frauen eingesetzt

Die großenBesitzer digitaler Plattformen geben vor, die Stärkung von Frauen und die Förderung der Frauenrechte zu unterstützen. Aber es ist kaum ein Jahr her, dass die CEOs der großen Tech-Unternehmen sich gegenseitig überboten, um US-Präsident Donald Trump mit einer Kehrtwende in Sachen Diversitätsinitiativen zu gefallen. So schlug Mark Zuckerberg von Meta vor, dass die Unternehmenskultur mehr „männliche Energie” brauche.

Es überrascht daher wenig, dass Online-Toxizität und Frauenfeindlichkeit im Mittelpunkt der jüngsten Tech-Skandale stehen. Elon Musks Grok-KI-Tool wurde häufig dazu verwendet, Frauen und Mädchen digital zu entkleiden; die Ray-Ban-KI-Brille von Meta hat Frauen ohne deren Einwilligung in unbekleideter Form aufgenommen.

Beide Beispiele unterstreichen, dass digitale Tools und Online-Räume für Frauen nach wie vor unsicher sind. Dies geschah zudem trotz des Ziels der EU, digitale Regeln zum Schutz von Frauen zu schaffen.

Sexualisierte oder pornografische fotorealistische Bilder

Der jüngste Bericht der Europäischen Kommission zur Gleichstellung der Geschlechter hat deutlich gemacht, dass Frauen unverhältnismäßig stark von geschlechtsspezifischer Gewalt im Internet betroffen sind , darunter Belästigung, Stalking, Doxing (Veröffentlichung persönlicher Informationen), die Erstellung und Weitergabe nicht einvernehmlicher intimer Bilder sowie KI-Deepfakes, darunter sexualisierte oder pornografische fotorealistische Bilder. 

In der Strategie der Kommission zur Gleichstellung der Geschlechter 2026–2030 heißt es, dass 98 % aller Online-Deepfakes pornografischer Natur sind und 99 % davon Frauen zeigen.

Online-Plattformen werden in der EU durch das Gesetz über digitale Dienste (DSA) reguliert, das darauf abzielt, Tech-Giganten für die Inhaltskontrolle auf ihren Plattformen verantwortlich zu machen. Dazu gehört angeblich auch, sicherzustellen, dass ihre Algorithmen, KI-Tools und viralen Deepfakes Frauen nicht schaden.

Snapchat-Schönheitsfilter und Instagram-Algorithmus

Aber Tech-Unternehmen haben in der Vergangenheit immer wieder Tools entwickelt, die Online-Räume für Frauen unsicher machen. Der DSA hat daran nichts geändert. Vor Grok gab es KI-Avatar-Generatoren, die auf Knopfdruck unerwartet sexualisierte Porträts von Frauen erzeugten. Die Schönheitsfilter von Snapchat wandten hyperfeminine Standards an, die Körperdysmorphie fördern. Der Instagram-Algorithmus verstärkt Selfies in Badebekleidung.

Im Vorfeld des Internationalen Frauentags erklärte die EU-Kommissarin für Technologie, Henna Virkkunen, gegenüber Euractiv, dass „digitale Räume sichere Räume sein müssen”. Sie räumte jedoch ein, dass geschlechtsspezifische Gewalt und Cybergewalt im Internet weiterhin „eine wachsende Bedrohung” darstellen.

Während die Kommissarin betonte, dass die Gleichstellung und der Schutz der Geschlechter sowohl online als auch offline „keine Option” seien, sieht die Realität für Frauen in der EU online ganz anders aus als in Virkkunens Rhetorik.

„Haltet den Mund”

Unter Berufung auf aktuelle Beispiele wie die Smart-Brille von Meta argumentierte die Grünen-Abgeordnete Alexandra Geese, dass „Big Tech sich gegen Frauen gewandt hat”. Sie sagte, dass die Botschaft, die Big Tech an Frauen sendet, klar sei: „Haltet euch aus der politischen Debatte heraus. Haltet den Mund.”

Magdalena Maier, Forscherin bei CDT Europe (einer digitalen zivilgesellschaftlichen Organisation), erklärte gegenüber Euractiv, dass der Rechtsrahmen der EU „eine solide Grundlage” für den Umgang mit KI-generierten Deepfakes ohne Einwilligung biete. Sie wies jedoch auf „erhebliche Lücken” bei der Bekämpfung der „Erstellung solcher Inhalte” hin und fügte hinzu, dass die Durchsetzung weiterhin ein Problem darstelle. 

Unterdessen schreitet die technologische „Innovation“ voran. KI-gestützte Smart-Brillen werden immer verbreiteter, da sie zunehmend so unauffällig sind, dass sie als normale Brillen durchgehen.

In den sozialen Medien begannen „Pick-up-Artists“ schnell, sie zu nutzen, um ihre Inhalte aufzuwerten. Die BBC sprach mit zwei Frauen über ihre Erfahrungen, als sie in der Öffentlichkeit von einem Mann mit Brille angesprochen wurden. Dieser verbreitete später Videos ihrer Interaktionen, die heimlich mit einer eingebauten Kamera aufgenommen worden waren, in den sozialen Medien, wo Tausende von Internetnutzern auch abfällige und sexuell eindeutige Kommentare gepostet hatten.

Frauen zu Sexobjekten  machen

Geese erklärte gegenüber Euractiv, dass solche Tools Männern die „technische Möglichkeit geben, Frauen zu Sexobjekten zu machen … anstatt zu Menschen mit gleichen Rechten”.

Smartbrille von Meta Lab. (Foto: Myung J. Chun/Los Angeles Times via Getty Images)

Meta, eines der führenden Technologieunternehmen, das Smartbrillen vermarktet, behauptet, dass eine LED-Leuchte am Rahmen des Geräts deutlich anzeigt, wenn es aufzeichnet.

Eine aktuelle Untersuchung schwedischer Medien ergab jedoch, dass die Brillen von Meta Personen ohne deren Wissen oder Zustimmung aufzeichneten. Die Geräte sendeten das Filmmaterial an einen Drittanbieter in Kenia. Ein Mitarbeiter berichtete Journalisten, dass er Personen in intimen Situationen gesehen habe, und nannte als Beispiel eine Frau, die sich in einem Schlafzimmer umzog, in dem die Brille zurückgelassen worden war.

Grok entkleidet Frauen 

Anfang dieses Jahres sorgte Elon Musks umstrittenes KI-Tool Grok, das in seine Social-Media-Plattform X integriert ist, für einen weltweiten Skandal, nachdem es den Dienst mit sexualisierten Bildern von Frauen und Kindern überschwemmt hatte.

Die Kommission reagierte mit der Einleitung einer DSA-Untersuchung gegen Grok im Zusammenhang mit der Verbreitung pornografischer Bilder über X. Virkkunen betonte, dass„Deepfakes , die nicht einvernehmlich aufgenommene intime Bilder verwenden, illegal sind ”. Die Untersuchung wird sich damit befassen, wie Grok die Risiken im Zusammenhang mit der Verbreitung „manipulierter sexuell eindeutiger Bilder“ mindert.

Grok ist jedoch nur das neueste einer Reihe von KI-Tools, die Nudifizierung durchführen, wobei viele KI-Apps ausdrücklich für den Zweck entwickelt wurden, Frauen digital zu entkleiden. X bezeichnete die Nudifizierungsfunktion als „Spicy Mode“, um den digitalen Missbrauch zu normalisieren.

Solche Tools sind nach wie vor ein aktuelles Thema für EU-Gesetzgeber, wobei mehrere Europaabgeordnete hoffen, ein mögliches Verbot in ein anderes EU-Regelwerk, den AI Act, aufzunehmen, der derzeit die Nudifizierung durch KI nicht verbietet.

Die DSA sollte jedoch ein Frontline-Tool sein, um die Verbreitung nicht einvernehmlicher intimer Bilder zu bekämpfen, unabhängig davon, ob sie durch KI generiert wurden oder nicht, sagte Marie Seck, Forscherin bei CDT Europe.

Das Regelwerk der EU zur Online-Governance enthalte bereits „klare Verpflichtungen“ für Online-Plattformen, wenn deren „Schnittstelle fehlerhaft ist“, sagte sie und wies darauf hin, dass diese Regeln die Einführung schädlicher Funktionen wie Grok von vornherein hätten verhindern müssen.

Was wird die EU tun? 

Virkkunen erklärte gegenüber Euractiv, dass ihre Abteilung die Gespräche mit Technologieunternehmen „intensiviert”, um die „Zusammenarbeit und Einhaltung” im Rahmen der DSA zu stärken.

Die Kommission werde in Kürze Leitlinien für Plattformen zu sogenannten Trusted Flaggers herausgeben – geprüfte unabhängige Organisationen, deren Meldungen über illegale Inhalte vorrangig behandelt werden müssen –, mit dem Ziel, deren „Fähigkeit” zum Melden geschlechtsspezifischer Cybergewalt im Internet auszubauen, sagte sie weiter.

Im Fall der KI-Brille von Meta erklärte die irische Datenschutzbehörde, die für die Einhaltung der EU-Datenschutz-Grundverordnung durch den Technologieriesenzuständig ist , gegenüber Euractiv, dass sie die Frage der Kenntnis der Umstehenden über die Aufzeichnung als vorrangiges Thema für Wearables betrachte.

Die irische Datenschutzbehörde hat jedoch noch keine formelle Untersuchung angekündigt, obwohl sie seit September 2021 mit Meta in Bezug auf dessen Smart-Brille in Kontakt steht.

(nl, ow)