TerrorpropagandaEU-Gesetz gegen Terrorinhalte im Netz beschlossen

Ein EU-Gesetz, das terroristische Inhalte aus dem Netz entfernen soll, ist nun beschlossen und tritt in einem Jahr in Kraft. Die für Donnerstag geplante Abstimmung im Plenum entfällt aufgrund eines Versehens. Zivilgesellschaftliche Organisationen warnen vor einem Präzedenzfall in der Regulierung von Internetinhalten.

Terrorist Content Online EU-Verordnung
Eine EU-Verordnung, die teroristische Inhalte aus dem Netz bekommen soll, könnte womöglich die Falschen treffen, warnen zivilgesellschaftliche Organisationen. Gemeinfrei-ähnlich freigegeben durch unsplash.com Warren Wong

Die EU-Verordnung gegen terroristische Inhalte im Netz ist sang- und klanglos beschlossen worden. Demnach müssen Betreiber von Online-Diensten solche Inhalte künftig binnen einer Stunde löschen, wenn sie eine behördliche Anordnung erhalten.

Mit einer Mehrheit von 52 zu 14 Stimmen hat der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) bereits vergangene Woche das Ergebnis der sogenannten Trilog-Verhandlungen abgesegnet. Eine ursprünglich für Donnerstag geplante Abstimmung im Plenum des Parlaments findet nicht statt. In Kraft treten die Regeln in einem Jahr.

Um das Gesetz war lange gestritten worden. Im Nachgang terroristischer Anschläge in Frankreich und Belgien sowie einschlägiger Propagandaarbeit des sogenannten Islamischen Staats Schritt für Schritt auf den Weg gebracht, soll es mutmaßlich terroristische Inhalte aus dem Internet fegen.

Als Kerninstrument dienen hierbei Entfernungsanordnungen. Zuständige Behörden der Mitgliedstaaten können damit Online-Dienste verpflichten, terroristische Inhalte europaweit zu entfernen oder den Zugang zu sperren. Die Anbieter haben dazu bloß eine Stunde Zeit, was eine virale Ausbreitung solcher Inhalte verhindern soll.

Anti-Terror-Richtlinie gibt Richtung vor

Als terroristische Inhalte gelten Materialien, die zu Straftaten aus der Anti-Terror-Richtlinie anstiften, etwa „schwerwiegende Zerstörungen an einer Regierungseinrichtung oder einer öffentlichen Einrichtung, einem Verkehrsmittel, einer Infrastruktur einschließlich eines Informatiksystems“. Darunter fällt auch das Kapern von Luft- und Wasserfahrzeugen oder von anderen öffentlichen Verkehrsmitteln oder das Verbreiten von Bombenbau-Anleitungen.

Zum Schutz der Meinungsfreiheit sind Inhalte, die für Bildungs-, Presse-, Forschungszwecke oder künstlerische Zwecke öffentlich verbreitet werden, vom Gesetz ausgenommen, genauso wie die „Formulierung polemischer oder kontroverser Ansichten in der öffentlichen Debatte“.

Betreiber von Diensten können zudem Entfernungsanordnungen auf ihre Rechtmäßigkeit prüfen lassen. Sofern keine Ermittlungen laufen, müssen Betreiber die Nutzer:innen benachrichtigen, wenn sie ihre Inhalte entfernt haben. In diesem Fall stehen ebenfalls Einspruchsmöglichkeiten zur Verfügung.

Grundsätzlich gelten die Auflagen für alle in Europa tätigen Online-Dienste, auf denen Nutzer:innen Inhalte hinterlassen können. Dazu zählen Dienste wie soziale Netzwerke oder Websites mit Kommentarfunktion. Die Anbieter müssen Kontaktstellen oder eine Vertretung benennen, um die Löschanordnungen umsetzen zu können. Beim ersten Mal haben sie dazu zwölf Stunden Zeit.

Kommen Anbieter den Auflagen nicht ausreichend nach, drohen ihnen Geldstrafen. Bei systematischen oder ständigen Verstößen können diese bis zu vier Prozent des Jahresumsatzes ausmachen. Bei der Bemessung der Strafe soll berücksichtigt werden, ob fahrlässig oder vorsätzlich gehandelt wurde und wie groß das Unternehmen ist. Das soll kleine und mittlere Dienste davor schützen, in den Ruin getrieben zu werden.

Entschärftes Gesetz mit Problemen

Der ursprünglich von der EU-Kommission vorgestellte Gesetzentwurf war deutlich aggressiver. So sah er unter anderem den Einsatz von Uploadfiltern vor, um terroristische Inhalte automatisiert auszusieben. Neben den verbindlichen Entfernungsanordnungen war zudem die gesetzliche Verankerung von einfachen „Meldungen“ vorgesehen, um Ermittlungsbehörden die Arbeit leichter zu machen.

Diese Giftzähne hatte das EU-Parlament in den Trilog-Verhandlungen entfernt, was gemeinhin als Erfolg gilt. Dennoch sieht etwa der Piratenabgeordnete Patrick Breyer, der für die Grünen-Fraktion entscheidend am fertigen Gesetz mitgewirkt hatte, die „ultraschnellen grenzüberschreitenden Löschanordnungen ohne Richtervorbehalt“ als eine Bedrohung der Meinungs- und Pressefreiheit im Netz.

Die EU-Länder können selbst entscheiden, welche Behörde sie mit dem Verschicken von Anordnungen betrauen. Das können auch administrative Einrichtungen sein, auf welche die jeweilige Regierung gegebenenfalls beliebigen Druck ausüben kann. Vor allem Ungarn und Polen, die im vergangenen Jahrzehnt den Rechtsstaat und die Demokratie abgebaut haben und gegen die inzwischen Vertragsverletzungsverfahren laufen, könnten dabei gefährlich werden, so Breyer.

„Dass Viktor Orbán künftig in Deutschland direkt Internetseiten löschen lassen kann, öffnet politisch motivierter Internetzensur Tür und Tor – zumal der Terrorismusbegriff bedenklich weit und missbrauchsanfällig ist“, sagt Breyer. Anti-Terror-Gesetze würden immer wieder für ganz andere Zwecke eingesetzt, etwa gegen die katalanische Unabhängigkeitsbewegung und spanische Musiker, gegen soziale Proteste in Frankreich, gegen Klimaschützer oder Einwanderer, so Breyer. „Die Meinungsfreiheit in Europa wird so auf den kleinsten gemeinsamen Nenner harmonisiert“. In der entscheidenden LIBE-Abstimmung hat Breyer deshalb gegen das Gesetz gestimmt und hätte dies auch in der Plenarabstimmung getan.

Showdown fällt aus

Diese abschließende Abstimmung sollte eigentlich zum symbolischen Showdown werden. Im Vorfeld hatte ein breites Bündnis aus 78 zivilgesellschaftlichen Organisationen, darunter der Chaos Computer Club, Wikimedia Deutschland und Amnesty International, die Abgeordneten dazu aufgerufen, gegen das Gesetz zu votieren.

Die mangelnde unabhängige Aufsicht durch Richter:innen, grenzüberschreitende Löschanordnungen sowie der Anreiz für Diensteanbieter, aufgrund der kurzen Löschfrist vermehrt auf Uploadfilter zu setzen, seien eine Gefahr für die Grundrechte in der EU und würden einen „gefährlichen Präzedenzfall für die Regulierung von Internetinhalten weltweit darstellen“, schrieb das Bündnis in einem offenen Brief.

Da die Gegner:innen des Gesetzesvorschlags jedoch nicht rechtzeitig eine Plenarabstimmung beantragten, wird nun nichts daraus – selbst wenn der Ausgang der Abstimmung nie im Zweifel stand. Die überwältigende Mehrheit, die im LIBE-Ausschuss für das Gesetz stimmte, hätte sich wohl auch im Plenum widergespiegelt. Dafür hatten vor allem Christdemokraten, Sozialdemokraten, Liberale und Vertreter:innen von Rechts-Außen-Parteien gestimmt, linke und grüne Abgeordnete hatten dagegen votiert.

Die sozialdemokratische EU-Abgeordnete Birgit Sippel befürwortet das Gesetz, hätte sich aber „stärkere Eingriffsmöglichkeiten der Mitgliedstaaten gewünscht, um gegen einzelne Löschforderungen Einspruch erheben zu können“. Der in den „harten Verhandlungen“ erzielte Kompromiss sei daher nicht perfekt. „Umso wichtiger ist die kritische Begleitung der Umsetzung der Verordnung, auch hinsichtlich der Beachtung der zugrunde liegenden Definition terroristischer Straftaten“, sagt Sippel.

Dass dieses womöglich wegweisende Gesetz nun doch nicht mehr im EU-Parlament behandelt wird, sei „schockierend und enttäuschend“, sagt Chloé Berthélémy von der europäischen Digital-NGO European Digital Rights (EDRi), die den offenen Brief mitgezeichnet hatte. „Europäische Bürger:innen sind beraubt worden, weil sie nicht wissen, ob ihr:e Abgeordnete:r für oder gegen neue staatliche und privatisierte Zensurmittel gestimmt hätte“, sagt Berthélémy.

Update, 14:45: Abschnitt zu Einspruchsmöglichkeiten ausgebaut und Zitat von Birgit Sippel hinzugefügt.

10 Ergänzungen

  1. „schockierend und enttäuschend“ trifft es gut. Die gut gemeinten Regeln könnten massiv nach hinten losgehen. Besonders in einem Europa, in dem politischer Extremismus innerhalb des demokratischen Systems zunimmt. Mehr oder weniger extreme Parteien finden sich (u.A) in Frankreich, Italien, Ungarn, Polen, Niederlande, Deutschland.

    Mit einem weiteren Aspekt, mit der Diskrepanz, was illegal, aber möglicherweise (?) notwendig ist und den zweifelhaften Reaktionen auch der Politik, Gesellschaft beschäftigt sich dieser isländische Film: https://de.wikipedia.org/wiki/Gegen_den_Strom_(2018)

    (ich will den Film nicht auf das eine Thema reduzieren. So oder so sehenswert)

    1. Das NetzDG wurde auch schon gerne von autoritären Staaten als Steilvorlage für eigene Gesetzgebung zur Zensur und Unterdrückung angenommen.
      Wenn man sich jetzt mal anschaut, was in Erdogans Türkei inzwischen alles unter den Sammelbegriff des „Terrorismus“ fällt will man gar nicht darüber nachdenken was damit bald alles aus dem Netz gefiltert werden wird – vielleicht nicht bei uns, aber im Rest der Welt.
      (Aber so weit muss man gar nicht schauen, wenn sich noch erinnert wer vor 20 Jahren in Europa noch alles als Terroristen zählte, z.B. Greenpeace)

  2. Also ganz konkret: welche Möglichkeiten gibt es denn, einer Aufforderung zum Löschen eines bestimmten Inhaltes zu wiedersprechen, wenn man der Meinung wäre, es sei nicht gerechtfertigt?
    Was konkret kann ich als einfacher Webseitenbetreiber tun, wenn denn eine Löschaufforderung zB aus Ungarn kommt, weil ich die dortigen Verhältnisse kritisere ohne Extremes zu formulieren?

    1. Danke, ich habe noch einen Hinweis auf die Einspruchsmöglichkeit für Diensteanbieter in den Artikel hinzugefügt.

      Eine Enfernungsanordnung muss grundsätzlich die Rechtsbehelfe mit genauen Infos enthalten, wie man sich zur Wehr setzen kann. U.a. steht in Artikel 3 (8):

      Kann der Hostingdiensteanbieter der Entfernungsanordnung nicht nachkommen, weil diese offensichtliche Fehler oder unzureichende Informationen enthält, um die Anordnung auszuführen, so teilt er dies der zuständigen Behörde, die die Entfernungsanordnung erlassen hat, unverzüglich mit und ersucht unter Verwendung des Formulars in Anhang III um die notwendige Klarstellung.

      Man kann die Anordnung aber auch von der Behörde des Sitzlandes überpüfen lassen (Artikel 4 (4)):

      Hostingdiensteanbieter und Inhalteanbieter sind berechtigt, innerhalb von 48 Stunden nach Erhalt einer Entfernungsanordnung oder der Informationen gemäß Artikel 11 Absatz 2 einen begründeten Antrag bei der zuständigen Behörde des Mitgliedstaats, in dem der Hostingdiensteanbieter seine Hauptniederlassung hat oder in dem der gesetzliche Vertreter ansässig oder niedergelassen ist, zu stellen, um die Entfernungsanordnung gemäß Absatz 3 Unterabsatz 1 des vorliegenden Artikels überprüfen zu lassen.

      Der Artikel 9 stellt klar, dass Hostingdiensteanbieter (und Inhalteanbieter) ein Recht auf einen wirksamen Rechtsbehelf haben:

      Dies schließt das Recht ein, die Entfernungsanordnung vor den Gerichten des Mitgliedstaats der zuständigen Behörde anzufechten, die die Entfernungsanordnung erlassen hat, sowie das Recht, die Entscheidung gemäß Artikel 4 Absatz 4 oder Artikel 5 Absatz 4, 6 oder 7 vor den Gerichten des Mitgliedstaats der zuständigen Behörde anzufechten, die die Entscheidung getroffen hat.

      1. Die Aktivisten unter den Anbietern bleiben also (ehrliche) Anbieter :).

        Wer wird denn bei den ganzen Löschaufforderungen der Agrarbehörde Plumpsbrätschistans jede einzelne begründet bei der eigenen Behörde einreichen, plus Klage möglichst noch – übrigens per FAX?

      2. „Der Artikel 9 stellt klar, dass Hostingdiensteanbieter (und Inhalteanbieter) ein Recht auf einen wirksamen Rechtsbehelf haben:
        Dies schließt das Recht ein, die Entfernungsanordnung vor den Gerichten des Mitgliedstaats der zuständigen Behörde anzufechten, die die Entfernungsanordnung erlassen hat, sowie das Recht, die Entscheidung gemäß Artikel 4 Absatz 4 oder Artikel 5 Absatz 4, 6 oder 7 vor den Gerichten des Mitgliedstaats der zuständigen Behörde anzufechten, die die Entscheidung getroffen hat.“

        Was würde denn eigentlich passieren, wenn die Entfernungsanordnung angefochten wird und dann vom Gericht im einen Land (z.B. Ungarn) aufrecht gehalten wird, im anderen Land (z.B. Niederlande) aber vom Gericht abgewiesen wird?

  3. Ich kann gar nicht mehr sagen, dass ich schockiert bin. Die EU hat sich zu einer Überwachungs- und Zensur-Union entwickelt, statt uns Bürger vor den Übergriffen der Mitgliedsstaaten zu schützen.

    Es geht alles in die völlig falsche Richtung. Und aufgrund der sehr komplexen Entscheidungsfindung innerhalb der EU ist eine spätere Abschaffung dieses Wahnsinns praktisch nicht möglich.

    Frust und Ratlosigkeit.

    1. Die Mitgliedstaaten sind die EU und umgekehrt, leicht verkürzt. Ohne EU-Parlament wäre die Verordnung sicher härter ausgefallen – die EU-Länder, darunter Frankreich und Deutschland, hätten viel mehr gewollt. Deutschland ist dann in der letzten Trilog-Runde auch nur deswegen umgefallen, weil man zumindest irgendwas als Erfolg im Rahmen der Ratspräsidentschaft mitnehmen wollte :)

  4. Bloede Frage: Wieso wird eine Abstimmung ueber eine Verordnung im Parlament anberaumt, waehrend einer Pandemie, wenn sie anscheinend unnoetig ist? Oder andersrum: Warum kann die einfach abgesagt werden, und die Verordnung tritt trotzdem in Kraft? Das macht sehr stark den Eindruck von simulierter Demokratie.

    1. Ganz verstehe ich die Frage nicht. Die Abstimmung ist nicht abgesagt worden, sondern das Dossier ist aufgrund der neuen Legislaturperiode von der ersten in die zweite Lesung gerutscht. Ohne eigens beantragte Abstimmung reicht dann die Empfehlung des federführenden Ausschusses, in diesem Fall des LIBE.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.