EU-Parlamentsausschuss: Keine Uploadfilter gegen Terror, aber kurze Löschfrist

Mit Uploadfiltern und kurzen Löschfristen wollen EU-Kommission und Mitgliedstaaten die Ausbreitung von mutmaßlich terroristischen Inhalten im Internet eindämmen. Den Gesetzentwurf hat nun das EU-Parlament an entscheidenden Stellen entschärft. Ein großer Wermutstropfen bleibt jedoch.

Der Hauptverhandler des EU-Parlaments, der Brite Daniel Dalton, bei der heutigen Abstimmung. (Screenshot)

Der federführende Ausschuss im EU-Parlament hat sich heute für teils verhältnismäßige Spielregeln im Kampf gegen mutmaßlich terroristische Inhalte im Internet ausgesprochen und einem Verordnungsentwurf der EU-Kommission einige Giftzähne gezogen.

Keine verpflichtenden Uploadfilter, keine scheinbar unverbindlichen Aufforderungen zum Löschen unliebsamer Inhalte und keine grenzüberschreitenden Entfernungsanordnungen, einigten sich die Abgeordneten im Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE).

Als Wermutstropfen bleibt jedoch grundsätzlich eine bloß einstündige Löschfrist im EU-Verordnungsentwurf erhalten. Innerhalb dieser müssten alle in Europa tätigen Online-Dienste, selbst kleine Blogs mit Kommentarfunktion, solche Inhalte sperren oder löschen, die ihnen zuständige Behörden melden. Das dürfte insbesondere kleinere oder nicht-kommerzielle Anbieter vor kaum bewältigbare Hürden stellen und durch die Hintertür zu automatisierter Inhalteerkennung führen – im schlimmsten Fall also doch zu Uploadfiltern, selbst wenn diese nicht angeordnet werden dürfen.

Konservative wollten Uploadfilter

Dem im LIBE ausverhandelten Kompromiss haben sich 35 Abgeordnete angeschlossen, mit einer Gegenstimme und acht Enthaltungen. Die angenommenen Änderungen gehen größtenteils auf sozialdemokratische, liberale, grüne und linke Abgeordnete zurück. Als größte Bremserin hat sich die Europäische Volkspartei (EVP) erwiesen, die Artikel 5 und 6 beibehalten wollte.

Im Vorschlag der Kommission enthält ersterer Artikel die sogenannten „Meldungen“ (Referrals), mit denen Ermittlungsbehörden wie Europol vordergründig „freiwillige“ Löschaufforderungen an die Betreiber richten könnten. Artikel 6 wiederum regelt die „proaktiven Maßnahmen“. Diese sollen ein „erneutes Hochladen von Inhalten, die zuvor entfernt oder gesperrt wurden, weil sie als terroristische Inhalte erachtet werden“ verhindern und zudem dazu dienen, schon im Vorfeld „terroristische Inhalte zu erkennen, zu ermitteln und unverzüglich zu entfernen oder zu sperren“.

Der heute beschlossene Kompromiss streicht den Artikel 5 ersatzlos, während der Artikel 6 signifikante Änderungen erfahren hat. Statt „proaktiver Maßnahmen“ können Betreiber auf „spezifische“ zurückgreifen, also etwa auf gezielte menschliche Eingriffe. Erhält eine Plattform eine „substanzielle Anzahl“ von Entfernungsanordnungen, darf eine Behörde zwar zusätzliche Maßnahmen anordnen. Diese dürfen jedoch keine allgemeinen Überwachungsverpflichtungen enthalten oder die Diensteanbieter zum Einsatz „automatisierter Werkzeuge“ verpflichten.

„Verleumdungskampagne“ gegen Parlamentarier

Vor der Abstimmung übte der federführende EU-Abgeordnete, der konservative Brite Daniel Dalton aus der europaskeptischen EKR-Fraktion, scharfe Kritik an der EU-Kommission. Die Behörde hatte starken Druck auf die Parlamentarier ausgeübt, um die Verordnung noch in dieser Legislaturperiode unter Dach und Fach zu bringen. Dabei habe sie, wie auch schon bei der höchst umstrittenen EU-Urheberrechtsreform, eine „krasse Verleumdungskampagne“ gestartet, sagte Dalton.

So habe die Kommission Gerüchte gestreut, dass alle, die etwas am ursprünglichen Vorschlag ändern wollten, nur Zeit schinden würden oder gar Handlanger von Google und Big Tech wären. Dabei sei der Verordnungsentwurf erst im Januar beim Parlament angekommen, seitdem habe man mit Hochdruck an dem „höchst komplexen Gesetzesvorhaben“ gearbeitet. „Niemand ist in der Tasche von Big Tech“, sagte Dalton. „Respektiert die Arbeit des Parlaments“, richtete Dalton der Kommission aus.

Die linke Abgeordnete Cornelia Ernst zeigte sich gegenüber netzpolitik.org erleichtert, dass alle Kompromisse gehalten haben. „Damit sind die schärfsten Spitzen des Vorschlags einigermaßen entschärft worden“, sagte Ernst. Allerdings gebe es einige Punkte, die nicht akzeptabel seien und in die falsche Richtung gingen. „Als terroristischer Inhalt kann jetzt sogar das Darstellen einer Terrorattacke gezählt werden“, so Ernst. Selbst mit klaren Ausnahmen für Journalismus, Bildung und Forschung sei klar, dass Konflikte entstehen würden, wo legale Inhalte aufhörten und illegale anfingen. Und die „Löschfrist von einer Stunde ist und bleibt ein Problem für alle kleinen Anbieter“, sagte Ernst.

„Erhebliche Bedrohung für die Meinungsfreiheit“

Auch Elisabeth Niekrenz von der Digital-NGO Digitale Gesellschaft sieht Verbesserungen im Vergleich zum Kommissionsentwurf. Doch „nach wie vor stellt die geplante Verordnung aber eine erhebliche Bedrohung für die Meinungsfreiheit dar und sollte insgesamt verhindert werden“, sagte Niekrenz zu netzpolitik.org. Der Terrorismus-Begriff sei schon des Öfteren genutzt worden, um politische Opposition klein zu halten: „Zum Beispiel stand Nelson Mandela bis 2008 auf US-Terrorlisten“, so Niekrenz.

Dass verpflichtende Entfernungsanordnungen dem Parlament nach nicht mehr grenzüberschreitend verschickt werden können, sei zwar ebenfalls eine Verbesserung, aber weiterhin problematisch. „Behörden in Polen oder Ungarn, also in Ländern, in denen die Gewährleistung eines rechtsstaatlichen Verfahrens zweifelhaft ist, können etwa alle Inhalte auf Plattformen, die in anderen Staaten ansässig sind, für ihr Landesgebiet unterdrücken“, sagte Niekrenz.

Von der Freiwilligkeit zum Zwang

Zurück geht der Gesetzentwurf auf immer enger gezogene Daumenschrauben, die die EU-Kommission den Plattformbetreibern angelegt hatte. Zunächst sollten große Anbieter wie Facebook, Twitter & Co. auf „freiwillige Maßnahmen“ setzen, um terroristische Inhalte von ihren Diensten zu fegen.

Auf Drängen der Mitgliedstaaten, insbesondere der Innenminister von Deutschland, Frankreich und Großbritannien, hat die Kommission schließlich im September ihren Verordnungsentwurf vorgelegt. Dem Vorschlag hatten sich die Mitgliedstaaten kurz darauf weitgehend angeschlossen.

Der ursprüngliche Vorschlag war von Beginn an unter starke Kritik geraten. Unter anderem hatten sich mehrere UN-Sonderberichterstatter, unabhängige Wissenschaftler, die Internet-Wirtschaft, die Agentur der Europäischen Union für Grundrechte und die zivilgesellschaftliche NGOs wie EDRi, Access Now und die EFF gegen die Verordnung in der von der Kommission vorgeschlagenen Form ausgesprochen.

Erteilung des Verhandlungsmandats steht noch aus

Der heute beschlossene LIBE-Bericht stellt, etwas unüblich, lediglich die Position des Parlaments respektive des federführenden Ausschusses klar, erteilt dem Parlament jedoch kein Verhandlungsmandat. Dieses ist notwendig, bevor die Trilog-Verhandlungen mit der Kommission und den Mitgliedstaaten beginnen können. Voraussichtlich nächste Woche wird das Plenum über den Bericht beraten, möglicherweise werden dann auch Änderungsanträge zur Abstimmung vorgelegt.

Die Chef-Verhandlerin für die konservative EVP-Fraktion, die Französin Rachida Dati, hat jedenfalls angekündigt, weiterhin für Uploadfilter und für die in der sozialdemokratischen Parlamentsgruppe umstrittene einstündige Löschfrist kämpfen zu wollen: „Wir werden nicht aufhören, uns in Zukunft für solche Mechanismen einzusetzen“.

6 Ergänzungen
  1. So oder so, damit man weniger haftet, wird man lieber mehr sperren oder löschen. Große Konzerne werden ihre KNN so trainieren, dass man die verdächtigen Kommentare nicht mal zulässt. Zur Sicherheit wird mehr gesperrt.

    Besser so, als sonst nach 61 Minuten dafür zu haften.

    Und die kleinen Anbieter… wer denkt schon an sie?

    Und sonst gibt es viele theoretischen Fragen. Wie checkt man überhaupt, ob Kommentar tatsächlich um 16:21:03 gespeichert wurde? Wenn ich sehe, dass ich hafte, dann kann man die Zeit anpassen, dass man unter eine Stunde landet. Oder muss man alle Logs speichern, damit man eigene Unschuld beweisen kann? (Hallo DSGVO :)

      1. Das ist im Zweifel noch schlimmer :).

        Jetzt müssen sie Ellenlange Sperraufforderungen in Adobe-only Pergamentpapier oder was noch alles durchforsten, und falschgeschriebene URLs zuordnen. Bin gespannt auf die ersten Urteile zu „Randfällen“.

        Die Zeit des Postens ist von Anfang an klar, die Zeit der Löschaufforderung nicht.

  2. Was bleibt vom Internet noch über?

    Meinungsäußerungen sind für den Staat auf die Person zurückverfolgbar, wg. Telefonnummernangabe beim Posten- Dies ist gerade in der Gesetzgebung in Österreich. Sicherlich auch bald in Deutschland, denn sonst würden die deutschsprachigen Österreicher einfach deutsche Foren nutzen.

    Foren per Tor sind fast verboten, weil dort illegale Geschäfte angebahnt werden könnten, so die offizielle Begründung.

    Foren müssen innerhalb einer Stunde etwas entfernen, das die Obrigkeit als „Terrorpropaganda“ definiert, also z.B. eine Rede von Nelson Mandela (früher) oder von Öcalan (heute).

    Die Justiz ist in der Mangel der Politik: Erst wird das „Zentrum für politische Schönheit“ verfolgt, anscheinend auf Geheiß der AfD. Dann, als das nicht mehr opportun ist, verfolgt die Gerichtsleitung den zuständigen Staatsanwalt. Beides zeigt, dass die Gerichte nicht mehr unabhängig, sondern politisch sind.
    In diesem Umfeld ist Vertrauen in die Unangreifbarkeit der eigenen Meinungsäußerung durch den Staat schwierig. Ich persönlich würde es naiv nennen, wenn die eigene Meinung nicht der des Staates entspricht, z.B. man sich ein anderes „System“ wünscht, und darüber diskutiert.

    Letztendlich ist so Kapitalismus-Gegnerschaft als Meinungsäußerung gefährlich. Wenn man nicht heute mit Konsequenzenn rechnen muss, dann morgen, wenn die AfD in Sachsen, Sachsen-Anhalt oder im Bund an der Regierung beteiligt ist.

    Diese Einschücherung ist das Ziel der AfD, behaupte ich. Warum sonst sollte die AfD aus ihren Fenstern sonst die Schüler bei der Klimademo filmen, gut schtbar für alle Kinder und jugendlichen Schüler:
    Das selbe Prinzip wenden sie auch bei ihren Demos an, indem sie die Gegendemonstranten konsequent filmen.

    Die CDU (oder EVP im Europaparlament) macht die Gesetzte, die auch die AfD will.

    Ohne freie Meinungsäußerung ist das Internet aber nutzlos. Es ist dann nur das individuell zurückverfolgbare Fernsehen. Ein Massenmedium, dessen Unabhängigkeit wir jeden Tag auf das neue bestaunen dürfen, s. Claus Kleber und seine unwahre Kriegs-Schock-Meldung am Anfang des Heute-Journals.
    Resultat: Staats-Internet

  3. „einstündige Löschfrist“, angeordnet von irgendeiner Behörde, die EU-Kommissions-„Behörde hatte starken Druck auf die Parlamentarier “ ausgeübt …..*WTF* das hört sich wie China an.

    Ich habe zweimal hinschauen müssen, um mich zu vergewissern, dass da
    “ EU-Verordnungsentwurf“ steht und nicht „China“.
    Eigentlich wollte ich jetzt beschreiben, welches gefährliche Potenzial die oben beschriebene Entwicklung faktisch hat und wie noch viel undemokratischer das noch werden kann/könnte.

    Aber, ich würde mich nur noch mehr aufregen, was Nerven kostet und das sind mir solche Leute, die diese Form von Zensur vertreten nicht wert. In den Medien ist bei diesem Thema Grabesstille.
    Nur soviel, es gibt keine Garantie, das es hier so freiheitlich wie bisher bleibt. Das Grundgesetz besteht, wenn es keiner mehr wirklich vertritt, nur aus Papier.

  4. Zum Thema 1-stündige Löschfrist: Hat sich die folgende Nachricht schon zu Euch rumgesprochen?
    https://www.techdirt.com/articles/20190410/14580641973/eu-tells-internet-archive-that-much-site-is-terrorist-content.shtml
    Europol verlangt, dass das „Internet-Archive“ über 500 archivierte Webseiten offline nimmt, darunter das ganze archivierte Gutenberg-Archiv u.v.m. Ansonsten drohe die Blockade.

    Solche Mißbrauchsfälle müssen bekannter werden, gerade kurz vor wichtigen EU-Abstimmungen und der EU-Wahl.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.