Neue EU-Agentur soll Schutz von Privatsphäre bei Vorgehen gegen Online-Kindesmissbrauch sicherstellen

Zum umstrittenen Gesetzentwurf zur Bekämpfung von sexuellem Kindesmissbrauch im Netz liegt ein neuer Kompromissvorschlag vor. Demnach soll die Einrichtung einer EU-Agentur Anbieter bei der Beseitigung von missbräuchlichen Inhalten unterstützen und gleichzeitig die Privatsphäre von regulären Internetnutzern schützen.

Mit der EU-Verordnung soll ein System zur Aufdeckung und Meldung von Material von sexuellem Kindesmissbrauch im Netz geschaffen werden.

Sie war jedoch kritisiert worden, weil sie es Justizbehörden ermöglichen könnte, die Untersuchung privater Nachrichten auf Plattformen wie WhatsApp oder Gmail zu verlangen. Diese sind derzeit durch End-to-End-Verschlüsselungen geschützt.

Der neue Entwurf ist auf den 14. Juni datiert und liegt Euractiv vor. Er enthält Beispiele für Darstellungen, welche zukünftig im Einflussbereich von Behörden zur Aufdeckung von Material über sexuellen Kindesmissbrauch liegen sollen, wie Euractiv berichtete.

Der Vorschlag wurde von der belgischen EU-Ratspräsidentschaft an den Ausschuss der Ständigen Vertreter (COREPER) geschickt, dem die 27 EU-Botschafter der Mitgliedstaaten angehören. Dies könnte bedeuten, dass das Dossier, das seit Monaten im Gesetzgebungsverfahren feststeckt, endlich abgeschlossen werden könnte.

Wie Euractiv berichtete, ging die belgische Ratspräsidentschaft während der Sitzung des Rates für Justiz und Inneres in der vergangenen Woche auf die Bedenken der Delegationen bezüglich des Gesetzentwurfs ein.

Die Belgier streben eine Einigung im Ausschuss der Ständigen Vertreter an. Innenkommissarin Ylva Johansson geht davon aus, dass die Triloge, die interinstitutionellen Verhandlungen zu dem Gesetz, nach dem Sommer beginnen werden.

Der vorherige Entwurf schloss bereits Audiokommunikation vom Anwendungsbereich aus, umfasste aber visuelle Inhalte.

In der neuesten Fassung wird auch die Textkommunikation ausgeschlossen und klargestellt, dass die Anordnung zur Aufdeckung nur für visuelle Inhalte gilt, von Bildern und Videokomponenten bis hin zu GIFs und Stickern.

In dem Dokument heißt es, dass problematisches Material so weit wie möglich nur durch visuelle Komponenten identifiziert werden sollte.

Die Rolle der EU-Agentur beim Datenschutz

Die wichtigste Neuerung ist, dass der Entwurf die Verantwortung für End-to-End-Verschlüsselungen (E2EE) an eine neue EU-Agentur und die Europäische Kommission übergibt. Die Verordnung soll dadurch Cybersicherheitsmaßnahmen, einschließlich der E2EE, nicht schwächen, heißt es in dem Entwurf.

End-to-End-Verschlüsselungen stellen sicher, dass nur der Absender und der Empfänger eine Nachricht lesen können. Dadurch bleibt die Nachricht auch vor dem Anbieter der Plattform, wie beispielsweise WhatsApp oder Signal, geheim.

Um diese aufrechtzuerhalten, müssen Technologien zur Erkennung von Darstellungen von sexuellem Kindesmissbrauch in Diensten mit End-to-End-Verschlüsselung von der EU-Agentur zertifiziert und getestet werden.

Die EU-Kommission muss anschließend zustimmen, bevor sie „die Technologien, die zur Ausführung der Anordnungen zur Aufdeckung verwendet werden können“, genehmigt.

Die EU-Agentur soll Plattformanbietern auch helfen, die Kosten der anonymisierten Datenanalyse zur Erkennung von Missbrauchsmaterial abzuschätzen. Die Anbieter müssen Mechanismen zur elterlichen Kontrolle implementieren, Meldungen von potenzielles sexuellem Kindesmissbrauch bearbeiten und statistische Daten für die Bewertung bereitstellen.

Anbieter können bei der EU-Agentur technische Unterstützung für datenschutzgerechte Altersüberprüfungsmaßnahmen beantragen. Die Kosten für Kleinst-, kleine und mittelständische Unternehmen werden von der Agentur übernommen. Die Kommission kann delegierte Rechtsakte zur Kostenteilung erlassen.

Streichung aus Suchergebnissen und Sperrung

Der neue Entwurf verpflichtet Online-Suchmaschinen, Websites, die problematisches Material enthalten, aus den Suchergebnissen zu streichen.

Die zuständige Behörde oder das Gericht eines Mitgliedstaates kann Online-Diensteanbietern die Streichung von Websites aus Suchergebnissen und deren Sperrung auferlegen. Diese Unternehmen müssen dann Nutzer über die Gründe für die Streichung informieren, damit sie ihr Recht auf Entschädigung wahrnehmen können.

Zuständige Behörden sind die nationalen Justizbehörden. Die Mitgliedstaaten, die eine gerichtliche Genehmigung verlangen, müssen die Kommission informieren und auf dem Laufenden halten.

Die Anbieter müssen ausstellenden zudem Behörden unverzüglich mitteilen, wenn sie nicht in der Lage sind, die Vorschriften einzuhalten. Auch müssen sie die Maßnahmen melden, die sie ergriffen haben, um den Zugang zu Missbrauchsmaterial zu sperren, und sie müssen regelmäßig über die Wirksamkeit dieser Maßnahmen informieren.

Risikobewertung

Laut dem neuen Entwurf müssen Risikobewertungen bei Dienstleistungen mit geringem Risiko mindestens einmal alle drei Jahre, bei Dienstleistungen mit mittlerem Risiko mindestens einmal alle zwei Jahre und bei Dienstleistungen mit hohem Risiko mindestens einmal jährlich aktualisiert werden. Dies soll eine qualitative und vergleichbare Bewertung gewährleisten.

Die Koordinierungsbehörde kategorisiert die Dienste nach Risikostufen und kann auf der Grundlage der Berichte, die die Anbieter der Behörde vorlegen, die EU-Agentur um Unterstützung bitten.

Die Kommission kann zusätzliche Rechtsakte erlassen, um die Methodik und die Kriterien für die Risikokategorisierung festzulegen.

Die Koordinierungsbehörden, die für die Umsetzung des Gesetzes in den einzelnen Staaten zuständig sind, können von anderen Mitgliedstaaten und Dienstleistern mit niedrigem bis mittlerem Risiko Aktualisierungen verlangen. Die Bewertungen sollten die Risiken für bestimmte Dienstkomponenten oder Nutzergruppen aufzeigen, um Material über sexuellen Kindesmissbrauch wirksam zu bekämpfen.

Anbieter von Hosting- oder interpersonellen Kommunikationsdiensten müssen identifizierte Risiken von Material über sexuellen Kindesmissbrauch mindern und sich dabei auf bestimmte Teile oder Nutzer konzentrieren.

Sie sollten den Nutzern zugängliche Instrumente zur Meldung von Material über sexuellen Kindesmissbrauch sowie Informationen über Hotlines zur Verfügung stellen. Bei der statistischen Datenerhebung sollten die Risiken bewertet werden. Dabei soll sichergestellt werden, dass keine personenbezogenen Daten erfasst werden.

[Bearbeitet von Eliza Gkritsi/Zoran Radosavljevic]