Keine Uploadfilter-PflichtEU einigt sich auf Gesetz gegen terroristische Inhalte im Netz

Ein neues EU-Gesetz soll dafür sorgen, dass sich terroristische Propaganda im Internet nicht mehr verbreitet. Das EU-Parlament konnte sich in den Verhandlungen mit Kommission und den EU-Ländern durchsetzen und entscheidende Verbesserungen an der Verordnung erwirken.

Ein kürzlich in Wien verübter Terroranschlag trug wohl auch zum raschen Abschluss der Verhandlungen rund um eine Verordnung gegen terroristische Inhalte im Netz bei. Vereinfachte Pixabay Lizenz Sonja Czeschka

Die EU hat sich heute auf ein Gesetz verständigt, das die Verbreitung terroristischer Inhalte im Internet unterbinden soll. Im Blick hat die Verordnung vor allem Online-Dienste, auf denen Nutzer:innen eigene Inhalte hinterlassen können. Für alle europaweit tätigen Plattformen gelten demnächst schärfere Regeln für ihre Inhaltemoderation bei terroristischem Material. Ausnahmen sollen jedoch sicherstellen, dass weder das Recht auf freie Meinungsäußerung eingeschränkt wird noch kleine Blogs mit Kommentarfunktion in den Ruin getrieben werden.

Die in den Verhandlungen hart umkämpften Uploadfilter, die sich sowohl EU-Kommission wie auch die EU-Länder gewünscht hatten, haben es nicht in den Gesetzestext der „Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte“ geschafft. „Eine Pflicht zum Einsatz von Uploadfiltern ist jetzt eindeutig ausgeschlossen“, bestätigt der Pirat Patrick Breyer, der als Schattenberichterstatter der Grünen-Fraktion an den Verhandlungen mitwirkte.

Dem EU-Parlament ist es gelungen, an seiner Position festzuhalten und die „proaktiven Maßnahmen“ des Kommissionsentwurfs in „spezifische Maßnahmen“ zu verwandeln. Diese müssen nicht notwendigerweise automatisierter Natur sein, sondern lediglich „angemessen“. Erreichen lässt sich das etwa mit ausreichend großen Moderationsteams, heißt es im fertigen Gesetzestext.

„Das ist ein großer Erfolg der Zivilgesellschaft und des Parlaments“, sagt Breyer gegenüber netzpolitik.org. „Allerdings wird der freiwillige Einsatz weiterhin erlaubt sein, und die EU wird weiterhin Druck auf Anbieter machen, die fehleranfälligen Uploadfilter einzusetzen“.

Kurze Löschfrist

Künftig müssen Anbieter deutlich schneller auf nun verbindliche Entfernungsanordnungen reagieren als zuvor, einschlägiges Material muss binnen einer Stunde von der jeweiligen Plattform verschwinden. Das Gesetz sieht jedoch Ausnahmen für kleine und nichtkommerzielle Plattformen vor, die ebenfalls das Parlament in den Text hineinverhandelt hat.

Löschanordnungen sind zudem grenzüberschreitend möglich, eine administrative Behörde, etwa aus Ungarn, kann also das Entfernen von Inhalten in anderen EU-Ländern verlangen. Hat eine Plattform ihren europäischen Sitz in einem Land wie Irland, was bei vielen großen internationalen Plattformen wie Facebook der Fall ist, muss die jeweilige Behörde die Anordnung nicht ausdrücklich absegnen. Allerdings kann ein Land einer solchen Anordnung widersprechen.

Für den Verhandlungsführer des EU-Parlaments, den polnischen Abgeordneten Patryk Jaki, ist damit eine gute Balance erreicht worden. „Zudem ist ein präziser Anfechtungsweg für betroffene Parteien eingerichtet worden“, sagt der Abgeordnete zu netzpolitik.org.

Kritischer sieht das der Pirat Breyer: „Dass Victor Orban künftig in Deutschland direkt Internetseiten löschen lassen kann, öffnet politisch motivierter Internetzensur Tür und Tor“. Schließlich konnte sich das Parlament nicht mit der Forderung durchsetzen, dass Behörden, die solche Entfernungsanordnungen verschicken, von der Regierung unabhängig sein müssen. „Es fehlt ein Richtervorbehalt für Löschanordnungen“, bedauert Breyer.

Ausnahmen für Diensteanbieter und bestimmte Inhalte

Grundsätzlich müssen Diensteanbieter künftig eine Reihe an Vorkehrungen treffen, um möglichen Sanktionen auszuweichen. So muss in ihren Nutzungsbedingungen ausdrücklich die Verbreitung terroristischer Inhalte verboten sein, sie müssen einen gesetzlichen Vertreter benennen und dafür sorgen, dass sie etwaigen Entfernungsanordnungen fristgerecht nachkommen. Über die genauen Geldstrafen entscheiden die einzelnen EU-Länder selbst, bei „systematischen oder anhaltenden“ Verstößen können sich diese auf bis zu vier Prozent des Jahresumsatzes belaufen.

Auch hier gibt es einen Verhandlungserfolg des Parlaments zu vermelden. Anbieter, die aus technischen oder betrieblichen Gründen einer Löschanordnung nicht innerhalb einer Stunde nachkommen können, etwa private Webseitenbetreiber zur Nachtzeit, sollen nicht von Geldstrafen betroffen sein, berichtet Breyer von der Einigung.

Trotz dieser Erfolge bleibt Skepsis angebracht, sagt die sozialdemokratische Abgeordnete Pera Kammerevert. „So werden journalistische oder künstlerische Inhalte genauso wie polemische oder satirische Meinungsäußerungen ausdrücklich vom Anwendungsbereich ausgenommen“, sagt Kammerevert – auch das ist auf das Parlament zurückzuführen.

Dennoch dürfe der Staat auch ohne triftige Anhaltspunkte anlasslos prüfen, ob Inhalte tatsächlich diesen Zwecken dienen oder diese nur als Vorwand missbraucht werden, um terroristische Inhalte zu verbreiten, so Kammerevert weiter. „Insoweit nimmt die Verordnung, die unmittelbar geltendes Recht in den Mitgliedstaaten ist, durchaus einen erheblichen Eingriff in kommunikative Grundrechte vor“.

Bei der Begriffsdefinition von „Terrorismus“ orientiert sich die Verordnung an der 2017 verabschiedeten Anti-Terror-Richtlinie. Die steht unter Kritik, weil sie zahlreiche Gummiparagraphen enthält und bestimmte Protestformen kriminalisieren könnte.

Maßnahmenpaket gegen Terror

Die Grundlage für die EU-Verordnung wurde bereits vor gut fünf Jahren gelegt. Unter dem Eindruck terroristischer Anschläge in Frankreich und Belgien rief die Kommission das EU Internet Forum ins Leben, um Druck auf Plattformbetreiber auszuüben. Damals nutzte der sogenannte Islamische Staat relativ ungestört Online-Dienste wie soziale Medien oder Textschnipselplattformen, um seine Propagandanachrichten in alle Welt zu verbreiten.

Im EU Internet Forum sitzen neben den Plattformen auch Vertreter von EU-Ländern, der Kommission und der Polizeibehörde Europol. Gemeinsam entwickelten sie dort Maßnahmen zur Eindämmung terroristischer Inhalte, nach dem live ins Internet übertragenen rechtsextremen Anschlag von Christchurch etwa das EU-Krisenprotokoll. Künftig soll das Forum auch Leitlinien für den Umgang mit öffentlich zugänglichen, extremistischen Internetinhalten ausarbeiten. Parallel dazu durchforstet seit 2015 eine eigene Europol-Abteilung, die EU Internet Referral Unit, das Netz nach einschlägigen, aber auch migrationsbezogenen Inhalten und verschickt Löschersuche an Diensteanbieter.

Zwar konnten die Maßnahmen die Internetpräsenz islamistischer Extremisten zurückdrängen, aus Sicht der EU-Kommission und von EU-Ländern wie dem Vereinigten Königreich, Frankreich und Deutschland aber nicht ausreichend genug. Zunächst versuchte es die Brüsseler Behörde mit weitergehenden „freiwilligen“ Auflagen für Online-Dienste, später folgte jedoch der heute in veränderter Form abgesegnete Verordnungsentwurf.

Aktionsplan gegen Terrorismus

Unterdessen präsentierte die Kommission gestern eine umfangreiche EU-Agenda für Terrorismusbekämpfung, der unter anderem das Mandat der Polizeibehörde Europol stärken soll. Demnach soll Europol stärker mit privaten Unternehmen, beispielsweise Internetplattformen, zusammenarbeiten können. Solche Unternehmen sollen künftig Hinweise auf mutmaßlich terroristische Aktivitäten auf ihren Diensten direkt an Europol weiterleiten.

Dazu sollen auch personenbezogene Daten von Nutzer:innen gehören, die Europol mit Hilfe von Big-Data-Anwendungen analysieren will. Ausgeweitet werden soll auch Forschung zu „intelligenter Videoüberwachung“, die Agenda nennt hierbei Gesichtserkennung sowie Künstliche Intelligenz, die „verdächtiges Verhalten“ oder stehen gelassene Koffer erkennen und melden soll.

Für Aufregung sorgten zudem nicht abreißende Bemühungen der Kommission, verschlüsselte Kommunikation aufzubrechen. Gestern ausdrücklich danach befragt, wollte die Innenkommissarin Ylva Johansson Hintertüren keine klare Absage erteilen. Es handle sich um „keine Ja- oder Nein-Frage“, antwortete Johansson auf eine Frage von netzpolitik.org. Man müsse in diesen Bereich hineingehen und „eine Balance finden“, sagte die als Hardlinerin bekannte Schwedin.

Das Thema Terrorismus bleibt also weiterhin ganz oben auf der Agenda der Europäischen Union – und ist oft genug verbunden mit Einschränkungen von Grundrechten. Was die Verbreitung terroristischer Inhalte auf Online-Diensten betrifft, soll dies zwar künftig effizienter auch grenzüberschreitend wahrgenommen werden können, sagt die Sozialdemokratin Kammerevert. „Dennoch wird das Parlament mit Argusaugen darüber wachen müssen, ob tatsächlich kommunikative Grundfreiheiten der Bürgerinnen und Bürger bei der Umsetzung der Verordnung uneingeschränkt bewahrt bleiben.“

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

4 Ergänzungen

  1. „Schließlich konnte sich das Parlament nicht mit der Forderung durchsetzen, dass Behörden, die solche Entfernungsanordnungen verschicken, von der Regierung unabhängig sein müssen. „Es fehlt ein Richtervorbehalt für Löschanordnungen“, bedauert Breyer.“

    Vielleicht könnten die Piraten da ja mal vor dem EUgH klagen um so zu versuchen das die Maßnahmen durch Hinzufügen eines Richtervorbehaltes erweitert werden um somit einen besseren Schutz vor Willkür zu gewährleisten ?

    Auf jeden Fall erstmal Danke an alle beteiligen aktiven dank deren beharrlicher Sacharbeit zumindest das größte Unheil noch verhindert werden konnte.

  2. Grenzüberschreitende Löschanforderung mit einer Reaktionsfrist von einer Stunde.

    (+) Präziser Anfechtungsweg
    (?) Präziser, kryptographisch abgesicherter, automatisch auswertbarer :), Anforderungsweg?

    Läuft das sonst per FAX?

    (-) DOS durch Rechtspartei Nr. 12 aus Land Y, hier wäre Rate Limiting angebracht u.ä., also mindestens temporärer Ausschluss von Behörden, die viele Quatschanfragen, oder auch nur abzulehnende Anfragen in so und so Zeit schicken.

    Wir kommen mit der Gesetzgebung an die Grenze zwischen Analog und Digital, an der wir abstrakt gesehen eine Firewall benötigen, und die Gesetzgebung sollte allmählich mal an so eine Art Aufwandshygiene denken, oder „mal wieder“.

    1. Die Behördenplatform in der Mitte wäre der Knackpunkt. Damit hätte der Staat eine Möglichkeit a priori einzugreifen, und z.B. mal ne Zeit lang alles aus Land X zu Thema Y in die Warteschleife zu schieben oder zu blockieren. Abgesehen von der Frage, ob die dann eine signierte Mail schicken, ob sich alle „Anbieter“ dort registrieren müssen usw.

      Thema 2:
      Ohne Richtervorbehalt wird es schwierig, diese Anforderungen in eine Prüfung der Rechtsstaatlichkeit einfließen zu lassen. Das ist wieder die Gegenrichtung zu propagierten Zielen. Allerdings in konsistenter Bewegungsrichtung: Aufweichung, Auslieferung, kein Monitoring.

      Weitsicht, verzahnte Architektur mit Plan? Externe Agenda first?

      1. Wobei bei Thema 2 auch ein Behördenanfrageteil in der Mitte durchaus eine Evaluierung erlaubt, allerdings der Rückschluss auf den Rechtsstaat schwierig wird, weil die Anfragen einfach alle von Behörde B123 Zimmer 12 kommen.

        Auch hier hätte gibt die Kanalisierung durch ein Behördenteil in der Mitte die Möglichkeit, z.B. der Regierung auf asugehender Seite, Anforderungen eigenständig zu prüfen.

        Mit so einem Teil wäre es also vielleicht konstruktiv gesehen nicht notwendigerweise komplett kaputt. Was dann an welcher Stelle tatsächlich umgesetzt wird, ist dann die nächste Frage. Und immanent natürlich nicht nur was es gibt, sondern wie z.B. ein Dienstanbieter Reschtssicherheit genießt. Das klassische Beispiel, die unsignierte Email von der Agrarbehörde Schlotzeniens and den Müslidienst: „Terrorpropaganda sofort weg damit, buy viagra [LINK]: Piratenmüsli mit schlotzenischen Morcheln [Behördendisclaimer]“

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.