Löschbefehle und Uploadfilter

Umstrittene EU-Verhandlungen vor dem Abschluss

Internetanbieter kommen polizeilichen Aufforderungen zur Entfernung von Inhalten in großem Umfang freiwillig nach, trotzdem sollen sie mit einem Gesetzesvorschlag zur Kooperation gezwungen werden. Eine Einigung könnte noch unter deutscher Ratspräsidentschaft erfolgen.

Scrabblesteine, die "Order" und "Chaos" zeigen
Google & Co löschen 90 Prozent aller Inhalte, die von Polizeien beanstandet werden. Aus Löschbitten sollen aber Löschbefehle werden. Gemeinfrei-ähnlich freigegeben durch unsplash.com Brett Jordan

Die Verhandlungen um eine EU-Verordnung gegen die Verbreitung terroristischer Online-Inhalte könnten in den nächsten Wochen erfolgreich beendet werden. Nach den jüngsten Anschlägen in Frankreich und Wien haben das Parlament und die Mitgliedstaaten der Europäischen Union in wesentlichen Punkten Zugeständnisse gemacht. Dies geht aus einem Entwurf vom 9. November hervor, den die britische Bürgerrechtsorganisation Statewatch zu den Trilog-Verhandlungen, an denen auch die Kommission beteiligt ist, online gestellt hat.

Mit dem vor zwei Jahren von der Kommission vorgelegten Gesetzesvorschlag drängt die EU auf „verschärfte Maßnahmen“ zur Bekämpfung terroristischer Internetinhalte. Ein ganzes Kapitel des Entwurfs widmet sich Maßnahmen, die das Hochladen und Teilen von Texten, Bildern, Tonaufnahmen und Videos „wirksam eindämmen“ sollten, darunter eine Frist von einer Stunde zwischen Anordnung und Umsetzung sowie technische Mittel gegen das erneute Hochladen. KritikerInnen hatten hierunter die Einführung von Uploadfiltern auch für kleine Anbieter verstanden.

Berichtspflicht zu „spezifischen Maßnahmen“

Die im Rat zusammengeschlossenen Mitgliedstaaten wollen nun auf verpflichtende „proaktive Maßnahmen“ bei den Internetdienstleistern verzichten. Dies war eine der Hauptforderungen des Parlamentes gewesen. Die Formulierung soll nun in „spezifische Maßnahmen“ geändert werden. Zwar werden „automatisierte Werkzeuge“ zur Erkennung inkriminierter Inhalte weiterhin erwähnt, ihrer möglichen Einführung wird aber ein „gegebenenfalls“ vorangestellt.

Jedoch sollen die Dienstleister Bericht ablegen, welche „spezifischen Maßnahmen“ sie anwenden. Eine zuständige Behörde im Sitzstaat soll dann beurteilen, ob diese wirksam und verhältnismäßig sind. Sofern Uploadfilter genutzt werden, sollen die entfernten Inhalte in jedem Fall menschlicher Überprüfung unterliegen. Die Firmen sollen außerdem Zahlen zu ergangenen Entfernungsanordnung und deren Umsetzung veröffentlichen, diese werden dann ins Verhältnis zu den NutzerInnen der Plattform gesetzt. Es bleibt also weiterhin möglich, dass die Anbieter zu mehr Kontrolle ihrer Inhalte gezwungen werden.

Einig wurden sich Rat und Parlament auch zur Definition „terroristischer Inhalte“, deren Umfang mit dem „Verherrlichen terroristischer Aktivitäten“ sogar erweitert wurde. Umfasst sind außerdem Postings, die eine Herstellung von Sprengstoffen, Schusswaffen „oder anderen Waffen“ darstellen. Der Absatz enthält zudem die nicht näher eingegrenzte Formulierung „andere Methoden und Techniken“.

Zustimmung durch Verschweigen?

Weiterhin strittig bleiben grenzüberschreitende Entfernungsanordnungen, wonach eine Behörde eines Anordnungsstaates in einem anderen Mitgliedstaat löschen lassen dürfte. Anfang November haben die Mitgliedstaaten unter deutschem Vorsitz einen Kompromissvorschlag beraten, zu dem sich das Parlament nun verhalten soll. Demnach müssten die Internetdienstleister einer Aufforderung zur Entfernung innerhalb einer Stunde nachkommen, den Inhalt aber zunächst nur sperren. Der Mitgliedstaat, in dessen Hoheitsgebiet der Anbieter seinen Sitz hat, soll anschließend 24 Stunden Zeit haben, der Anordnung zuzustimmen.

Auf eine endgültige Lösung zur Bestätigung durch den Sitzstaat konnten sich die Mitgliedstaaten aber nicht einigen. Denn viele Regierungen befürworten das Prinzip „Schweigen heißt Zustimmung“, während andere eine aktive Bestätigung verlangen. Denn gerade kleine Länder haben kaum Kapazitäten, um solche Prüfungen in einem Tag vorzunehmen, als Sitzstaat der Europavertretung von Facebook würde dies vor allem Irland betreffen. Vermutlich ist die Verschweige-Regelung auch nicht mit EU-Verträgen vereinbar.

Vorschlag zur Ausweitung

Die Mitgliedstaaten sind gehalten, zuständige Behörden zu benennen die eine Entfernungsanordnung ausstellen dürfen. Diese sollen auf einem Internetportal hinterlegt und den Anbietern vor Ergehen einer Anordnung einmalig mitgeteilt werden, hierfür könnte das Projekt „SIRIUS“ von Europol genutzt werden. Nur in Notfällen darf ein Löschbefehl auch ohne vorherige Rechtsbelehrung erfolgen, etwa bei der unmittelbaren Bedrohung des Lebens oder der körperlichen Unversehrtheit einer Person. Die Firmen sollen ihrerseits angeben, welche Stelle zur Entgegennahme einer Anordnung bestimmt wird.

Während die zweijährigen Verhandlungen für eine Verordnung gegen die Verbreitung terroristischer Internetinhalte also möglicherweise kurz vor dem Abschluss stehen, überrascht der EU-Antiterrorismuskoordinator Gilles de Kerchove mit einem Vorschlag, sie auszuweiten. Demnach spielen auch Gaming-Plattformen „eine immer wichtigere Rolle im Zusammenhang mit Radikalisierung“. Kerchove fordert die EU-Verantwortlichen deshalb auf, die Anbieter zur Kooperation zu bewegen.

Freiwillige Maßnahmen und Krisenprotokoll

Es ist unklar, wozu eine Verordnung gegen Terrorismuspropaganda tatsächlich gebraucht wird. 2015 haben sich die Kommission, Europol und zahlreiche große und kleine Internetanbieter im „EU-Internetforum“ zusammengeschlossen und freiwillige Maßnahmen ergriffen. Viele Firmen beteiligen sich an einer Hash-Datenbank, in der bereits entferntes Material für einen Abgleich hinterlegt ist. Vor einem Jahr hat das „EU-Internetforum“ ein Krisenprotokoll gegen das Echtzeit-Streaming von Anschlägen verabschiedet.

Schon jetzt versenden die Polizeien der Mitgliedstaaten und auch Europol Aufforderungen, terroristische (und auch migrationsbezogene) Inhalte zu löschen. Die sind zwar nicht verbindlich, werden aber von den Plattformen zu rund 90 Prozent erfüllt. Europol hat hierzu eine „Meldestelle für Internetinhalte“ und eine Internetplattform eingerichtet, wo die Ersuchen gesammelt und gebündelt werden. So kann ein Mitgliedstaat erkennen, ob ein Inhalt bereits zur Entfernung gemeldet wurde oder online bleiben soll, damit Geheimdienste dessen Aktivitäten beobachten können. Nach Verabschiedung der Verordnung würde diese Europol-Plattform beibehalten, aus einer Löschbitte wird dann allerdings ein Löschbefehl.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

2 Ergänzungen
  1. Und wie wird bei weitflächigem Ge- bzw. Mißbrauch vorgegangen?

    Gibt es überhaupt ein Konzept zur Detektion und Reaktion bzw. z.B. Ausschluss bestimmter Anfrager?

    Einerseits wäre eine kürzere Frist besser, um z.B. Nachrichtenvermeidung zu verhindern, andererseits profitieren bestimmte Player im Zweifel von einer Sperrung eines ganzen Themas, und der Dienstanbieter kann kürzere und vielleicht auch schon diese Frist gar nicht leisten.

    1. Die Kraputkische Polizeioberbehörde erklagt sich also Zugriff am EUGH? Die Kraputkische Regierung sieht keinen legislativen Handlungsbedarf?

      Vermutlich könnte Land X mit Begründung ablehnen, wenn z.B. Schutzgüter abgewogen werden müssen o.ä., aber ist Land X überhaupt so beteiligt? Wer verklagt dann den Anbieter wo…

      Also LG Hamburg, … OG… OVG… BVG… EUGH?

      Wer will da Anbieter werden?

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.