Keine Uploadfilter-Pflicht: EU einigt sich auf Gesetz gegen terroristische Inhalte im Netz

Die EU hat sich heute auf ein Gesetz verständigt, das die Verbreitung terroristischer Inhalte im Internet unterbinden soll. Im Blick hat die Verordnung vor allem Online-Dienste, auf denen Nutzer:innen eigene Inhalte hinterlassen können. Für alle europaweit tätigen Plattformen gelten demnächst schärfere Regeln für ihre Inhaltemoderation bei terroristischem Material. Ausnahmen sollen jedoch sicherstellen, dass weder das Recht auf freie Meinungsäußerung eingeschränkt wird noch kleine Blogs mit Kommentarfunktion in den Ruin getrieben werden.

Die in den Verhandlungen hart umkämpften Uploadfilter, die sich sowohl EU-Kommission wie auch die EU-Länder gewünscht hatten, haben es nicht in den Gesetzestext der „Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte“ geschafft. „Eine Pflicht zum Einsatz von Uploadfiltern ist jetzt eindeutig ausgeschlossen“, bestätigt der Pirat Patrick Breyer, der als Schattenberichterstatter der Grünen-Fraktion an den Verhandlungen mitwirkte.

Dem EU-Parlament ist es gelungen, an seiner Position festzuhalten und die „proaktiven Maßnahmen“ des Kommissionsentwurfs in „spezifische Maßnahmen“ zu verwandeln. Diese müssen nicht notwendigerweise automatisierter Natur sein, sondern lediglich „angemessen“. Erreichen lässt sich das etwa mit ausreichend großen Moderationsteams, heißt es im fertigen Gesetzestext.

„Das ist ein großer Erfolg der Zivilgesellschaft und des Parlaments“, sagt Breyer gegenüber netzpolitik.org. „Allerdings wird der freiwillige Einsatz weiterhin erlaubt sein, und die EU wird weiterhin Druck auf Anbieter machen, die fehleranfälligen Uploadfilter einzusetzen“.

Kurze Löschfrist

Künftig müssen Anbieter deutlich schneller auf nun verbindliche Entfernungsanordnungen reagieren als zuvor, einschlägiges Material muss binnen einer Stunde von der jeweiligen Plattform verschwinden. Das Gesetz sieht jedoch Ausnahmen für kleine und nichtkommerzielle Plattformen vor, die ebenfalls das Parlament in den Text hineinverhandelt hat.

Löschanordnungen sind zudem grenzüberschreitend möglich, eine administrative Behörde, etwa aus Ungarn, kann also das Entfernen von Inhalten in anderen EU-Ländern verlangen. Hat eine Plattform ihren europäischen Sitz in einem Land wie Irland, was bei vielen großen internationalen Plattformen wie Facebook der Fall ist, muss die jeweilige Behörde die Anordnung nicht ausdrücklich absegnen. Allerdings kann ein Land einer solchen Anordnung widersprechen.

Für den Verhandlungsführer des EU-Parlaments, den polnischen Abgeordneten Patryk Jaki, ist damit eine gute Balance erreicht worden. „Zudem ist ein präziser Anfechtungsweg für betroffene Parteien eingerichtet worden“, sagt der Abgeordnete zu netzpolitik.org.

Kritischer sieht das der Pirat Breyer: „Dass Victor Orban künftig in Deutschland direkt Internetseiten löschen lassen kann, öffnet politisch motivierter Internetzensur Tür und Tor“. Schließlich konnte sich das Parlament nicht mit der Forderung durchsetzen, dass Behörden, die solche Entfernungsanordnungen verschicken, von der Regierung unabhängig sein müssen. „Es fehlt ein Richtervorbehalt für Löschanordnungen“, bedauert Breyer.

Ausnahmen für Diensteanbieter und bestimmte Inhalte

Grundsätzlich müssen Diensteanbieter künftig eine Reihe an Vorkehrungen treffen, um möglichen Sanktionen auszuweichen. So muss in ihren Nutzungsbedingungen ausdrücklich die Verbreitung terroristischer Inhalte verboten sein, sie müssen einen gesetzlichen Vertreter benennen und dafür sorgen, dass sie etwaigen Entfernungsanordnungen fristgerecht nachkommen. Über die genauen Geldstrafen entscheiden die einzelnen EU-Länder selbst, bei „systematischen oder anhaltenden“ Verstößen können sich diese auf bis zu vier Prozent des Jahresumsatzes belaufen.

Auch hier gibt es einen Verhandlungserfolg des Parlaments zu vermelden. Anbieter, die aus technischen oder betrieblichen Gründen einer Löschanordnung nicht innerhalb einer Stunde nachkommen können, etwa private Webseitenbetreiber zur Nachtzeit, sollen nicht von Geldstrafen betroffen sein, berichtet Breyer von der Einigung.

Trotz dieser Erfolge bleibt Skepsis angebracht, sagt die sozialdemokratische Abgeordnete Pera Kammerevert. „So werden journalistische oder künstlerische Inhalte genauso wie polemische oder satirische Meinungsäußerungen ausdrücklich vom Anwendungsbereich ausgenommen“, sagt Kammerevert – auch das ist auf das Parlament zurückzuführen.

Dennoch dürfe der Staat auch ohne triftige Anhaltspunkte anlasslos prüfen, ob Inhalte tatsächlich diesen Zwecken dienen oder diese nur als Vorwand missbraucht werden, um terroristische Inhalte zu verbreiten, so Kammerevert weiter. „Insoweit nimmt die Verordnung, die unmittelbar geltendes Recht in den Mitgliedstaaten ist, durchaus einen erheblichen Eingriff in kommunikative Grundrechte vor“.

Bei der Begriffsdefinition von „Terrorismus“ orientiert sich die Verordnung an der 2017 verabschiedeten Anti-Terror-Richtlinie. Die steht unter Kritik, weil sie zahlreiche Gummiparagraphen enthält und bestimmte Protestformen kriminalisieren könnte.

Maßnahmenpaket gegen Terror

Die Grundlage für die EU-Verordnung wurde bereits vor gut fünf Jahren gelegt. Unter dem Eindruck terroristischer Anschläge in Frankreich und Belgien rief die Kommission das EU Internet Forum ins Leben, um Druck auf Plattformbetreiber auszuüben. Damals nutzte der sogenannte Islamische Staat relativ ungestört Online-Dienste wie soziale Medien oder Textschnipselplattformen, um seine Propagandanachrichten in alle Welt zu verbreiten.

Im EU Internet Forum sitzen neben den Plattformen auch Vertreter von EU-Ländern, der Kommission und der Polizeibehörde Europol. Gemeinsam entwickelten sie dort Maßnahmen zur Eindämmung terroristischer Inhalte, nach dem live ins Internet übertragenen rechtsextremen Anschlag von Christchurch etwa das EU-Krisenprotokoll. Künftig soll das Forum auch Leitlinien für den Umgang mit öffentlich zugänglichen, extremistischen Internetinhalten ausarbeiten. Parallel dazu durchforstet seit 2015 eine eigene Europol-Abteilung, die EU Internet Referral Unit, das Netz nach einschlägigen, aber auch migrationsbezogenen Inhalten und verschickt Löschersuche an Diensteanbieter.

Zwar konnten die Maßnahmen die Internetpräsenz islamistischer Extremisten zurückdrängen, aus Sicht der EU-Kommission und von EU-Ländern wie dem Vereinigten Königreich, Frankreich und Deutschland aber nicht ausreichend genug. Zunächst versuchte es die Brüsseler Behörde mit weitergehenden „freiwilligen“ Auflagen für Online-Dienste, später folgte jedoch der heute in veränderter Form abgesegnete Verordnungsentwurf.

Aktionsplan gegen Terrorismus

Unterdessen präsentierte die Kommission gestern eine umfangreiche EU-Agenda für Terrorismusbekämpfung, der unter anderem das Mandat der Polizeibehörde Europol stärken soll. Demnach soll Europol stärker mit privaten Unternehmen, beispielsweise Internetplattformen, zusammenarbeiten können. Solche Unternehmen sollen künftig Hinweise auf mutmaßlich terroristische Aktivitäten auf ihren Diensten direkt an Europol weiterleiten.

Dazu sollen auch personenbezogene Daten von Nutzer:innen gehören, die Europol mit Hilfe von Big-Data-Anwendungen analysieren will. Ausgeweitet werden soll auch Forschung zu „intelligenter Videoüberwachung“, die Agenda nennt hierbei Gesichtserkennung sowie Künstliche Intelligenz, die „verdächtiges Verhalten“ oder stehen gelassene Koffer erkennen und melden soll.

Für Aufregung sorgten zudem nicht abreißende Bemühungen der Kommission, verschlüsselte Kommunikation aufzubrechen. Gestern ausdrücklich danach befragt, wollte die Innenkommissarin Ylva Johansson Hintertüren keine klare Absage erteilen. Es handle sich um „keine Ja- oder Nein-Frage“, antwortete Johansson auf eine Frage von netzpolitik.org. Man müsse in diesen Bereich hineingehen und „eine Balance finden“, sagte die als Hardlinerin bekannte Schwedin.

Das Thema Terrorismus bleibt also weiterhin ganz oben auf der Agenda der Europäischen Union – und ist oft genug verbunden mit Einschränkungen von Grundrechten. Was die Verbreitung terroristischer Inhalte auf Online-Diensten betrifft, soll dies zwar künftig effizienter auch grenzüberschreitend wahrgenommen werden können, sagt die Sozialdemokratin Kammerevert. „Dennoch wird das Parlament mit Argusaugen darüber wachen müssen, ob tatsächlich kommunikative Grundfreiheiten der Bürgerinnen und Bürger bei der Umsetzung der Verordnung uneingeschränkt bewahrt bleiben.“