Überwachung

Uploadfilter: Europol und BKA schaffen Tatsachen

Die EU-Verordnung zur Entfernung „terroristischer Online-Inhalte“ soll eigentlich erst im Herbst beschlossen werden. Doch mit sechs Millionen Euro finanziert die EU-Kommission bereits deren technische Umsetzung.

Mit Entfernungsanordnungen wollen Strafverfolgungsbehörden Videos, Bilder, Textdateien oder ganze Webseiten aus dem Internet löschen. Noch sperrt sich das Parlament gegen „automatisierte Werkzeuge“ AKA Uploadfilter. Gemeinfrei-ähnlich freigegeben durch unsplash.com Ludovic Toinel

 

Vergangenen Herbst hat die EU-Kommission ihren Vorschlag für eine Verordnung zur „Verhinderung der Verbreitung terroristischer Online-Inhalte“ vorgelegt. Das Regelwerk sollte eigentlich im Eilverfahren noch vor der EU-Wahl nächste Woche abgestimmt werden. Doch die Zeit reichte nicht mehr für die abschließenden Verhandlungen zwischen Rat, Parlament und Kommission. Sie sollen nun im Herbst stattfinden, nachdem das neue Parlament seine Arbeit aufgenommen hat.

Mit der Verordnung würden Dienstleister im Internet nach Willen von Kommission und Rat gezwungen, „terroristische“ Dateien schnellstmöglich zu entfernen. Hierzu sollen die Strafverfolgungsbehörden Anordnungen erlassen, denen innerhalb einer Stunde entsprochen werden muss. Betroffen sind Videos, Bilder, Textdateien oder ganze Webseiten. Die Firmen sollen außerdem „proaktive Maßnahmen“ setzen, um das erneute Hochladen bereits entfernter Dateien zu verhindern oder solche Inhalte schon im Vorfeld selbst zu erkennen. Bei diesen „automatisierten Werkzeugen“ handelt es sich um Uploadfilter.

Parlament gegen Filterpflicht

Der Rat der EU-Staaten hatte Anfang Dezember den Vorschlag der EU-Kommission weitgehend unterstützt und entsprechend seine Verhandlungsposition festgelegt. Erst in seiner letzten Sitzungswoche Mitte April legte das Parlament in erster Lesung seinen Standpunkt fest. Die Abgeordneten sprachen sich zwar für kurze Löschfristen aus, allerdings sollten die Firmen nicht zur Installation von Uploadfiltern gezwungen werden.

Die Entfernungsanordnungen dürften laut dem EU-Parlament auch nicht grenzüberschreitend ausgesprochen werden. Im Klartext bedeutet das, dass eine deutsche Behörde zwar einheimische Internetanbieter zur Entfernung von Inhalten zwingen kann, jedoch nicht in einem anderen EU-Mitgliedstaat. Hierzu sollen nach dem Willen der Abgeordneten die dort zuständigen polizeilichen Strafverfolgungsbehörden angeschrieben werden. Diese wären dann für die Überprüfung und Entfernung zuständig.

Sechs Millionen für technische Infrastruktur

Doch während die Maßnahmen noch debattiert werden, ist die EU-Polizeiagentur Europol längst dabei, die technische Infrastruktur für grenzüberschreitende Entfernungsanordnungen zu errichten. Unter dem Kürzel „PERCI“ entsteht in Den Haag ein Informationssystem für die Koordination von Ersuchen aus den Mitgliedstaaten, für das Europol im aktuellen Haushalt sechs Millionen Euro veranschlagt. An diese Plattform würden auch die Internetanbieter angeschlossen, nachdem sie eine solche Aufforderung erhalten haben.

Den Plänen zufolge sollen sämtliche Anordnungen, die im Rahmen der noch zu beschließenden Verordnung ausgesprochen werden, über „PERCI“ verwaltet werden. Die Plattform überprüft auch, ob und wann die Dateien entfernt wurden. Das System protokolliert dabei die Reaktionsgeschwindigkeit der Firmen. Kommen Firmen den Ersuchen nur mit Verzögerung nach, sollen sie zur Einleitung von weiteren Maßnahmen gezwungen werden. Damit würde eine weitere Forderung der geplanten Verordnung umgesetzt.

Kommission forscht an Suchmaschine

Schließlich soll „PERCI“ auch melden, wenn ein anderer Mitgliedstaat bereits eine Entfernungsanordnung für die selbe Datei erlassen hat oder auch wünscht, dass eine Webseite zur polizeilichen oder geheimdienstlichen Beobachtung online bleibt. Im Verordnungsvorschlag wird dies als „Deconfliction“ beschrieben.

In „PERCI“ werden nur Inhalte verwaltet, die den Behörden oder den Internetfirmen bekannt geworden sind. Um selbst entsprechende Dateien zu finden, finanziert die EU-Kommission Forschungen für eine Suchmaschine für kriminelle Internetinhalte. Deutsche TeilnehmerInnen sind das Cybercrime Research Institute in Köln und die Hochschule für den öffentlichen Dienst in Bayern, die Deutsche Hochschule der Polizei ist beratend mit an Bord.

Meldestelle auch beim BKA

Insgesamt hat die „Meldestelle für Internetinhalte“ bei  Europol bereits in rund 100.000 Fällen Internetinhalte zur Entfernung gemeldet. Als Satelliten entstehen auch in jedem EU-Mitgliedstaat entsprechende Kontaktstellen für die Europol-Abteilung. Eine „nationale Meldestelle für Internetinhalte“ des Bundeskriminalamtes (BKA) hat seit Oktober vergangenen Jahres bereits 6.000 Meldungen über den Europol-Kanal verschickt.

Derzeit können die Internetfirmen noch frei entscheiden, wie sie den Meldungen nachkommen. Wie die geplanten Entfernungsanordnungen werden diese zentral bei Europol verwaltet. Das BKA nimmt an einem Pilotprojekt teil, in dem bei Europol eine Plattform zur Verwaltung der Meldungen getestet wird. Diese „Internet Referral Management Application“ (IRMa) wird nach einem Beschluss der Verordnung zur Entfernung „terroristischer Online-Inhalte“ vermutlich für (dann verpflichtende) Anordnungen genutzt.

Neues Parlament soll Vorbehalte aufgeben

Nach der EU-Wahl soll die Verordnung unter der ab Juli amtierenden finnischen EU-Ratspräsidentschaft möglichst rasch endgültig verabschiedet werden. Vermutlich im Herbst werden die Trilog-Verhandlungen zur Diskussion der Standpunkte von Rat und Parlament beginnen.

Es ist davon auszugehen, dass sich die Zusammensetzung des Parlamentes deutlich nach rechts verschiebt. Davon profitieren die Regierungen der Mitgliedstaaten und die Kommission, die darauf hoffen können, dass die neuen Abgeordneten die Vorbehalte des alten Parlamentes aufgeben und für die Verschärfungen der Verordnung stimmen.

4 Ergänzungen
  1. „Schließlich soll „PERCI“ auch melden, wenn ein anderer Mitgliedstaat (…) auch wünscht, dass eine Webseite zur polizeilichen oder geheimdienstlichen Beobachtung online bleibt. “

    Das ist ein ja interessanter Ansatz. Zum Einen darum, dass über die Datenbank mindestens für Anbieter damit leicht nachzuvollziehen wäre, für was sich Polizei so im Besonderen interessiert. Zum Anderen muss hierin nicht die Aufforderung zum offenen Rechtsbruch über Landesgrenzen hinaus gesehen werden? Schwer vorzustellen, wie sich Gerichte bei Klagen dritter da verhalten würden.

    1. Ich vermute, dass das nur die Terrorpropagandasparte betreffen soll, die betrifft dann vor allem Ermittlungsbehörden – wenn keine einen Löschantrag stellt, passiert auch nichts.

      Oder darf jeder das Entfernen „terroristischer“ Inhalte erklagen, dann geht es bald rund.

    2. Ironie? Klar für mich, aber unsere Regierungs- und Sicherheitsvertreter (Vertreter = Verkäufer) der Sicherheitswirtschaft, sehen darin eine Möglichkeit der Kommerziellen Einflussnahme!

      Ich finde den Ansatz „alle Sicherheitsdefinitionen aus einer Hand“ geliefert zu bekommen, als Profitabel, für unsere Sicherheit!
      Alle Terroristen und deren Aktionen werden Zentral überwacht und Anschläge geplant/durchgeführt, falls die Bevölkerung die neuen Gesetzes/Grundgesetzänderungen im Namen der Verdienste um die Sicherheit, nicht gut heißt!
      Für die Optimierung dieser Zentralen Aktionsplanung, sind Uploadfilter ein unverzichtbares Element, um die Reaktionen der Bevölkerung vor und nach den zentral geplanten Aktionen des Terrorismus auszuwerten, um z.B. „Härten“ in der Bevölkerung zu vermeiden!

      Warum einen Anschlag blutig enden lassen, wenn ein medienwirksames Verhinderungsszenario völlig ausreichend ist?
      Gut, bei der Implementierung von Notstandsgesetzen in die Alltagsgesetzgebung, mussten Frankreichs Sicherheitskoordinatoren, mit einer härteren Aktionsplanung vorgehen, damit die Bevölkerung Frankreichs der Implementierung wohlwollender gegenüber stand.

  2. Die daran arbeitenden werden erst zufrieden sein, wenn aus dem Internet eine staatlich zertifizierte Fussgängerzone mit ‚Sicherheitskonzept‘ wie beim Fusion-Festival
    https://netzpolitik.org/2019/fusion-festival-polizei-gibt-sensible-dokumente-ungeschwaerzt-rechtem-gewalttaeter-an-polizeihochschule/
    https://netzpolitik.org/2019/fusion-festival-polizeipraesident-bereitet-offenbar-einsatz-mit-1000-polizisten-vor/

    geworden ist. Eigentlich so wie früher, als es das Internet noch nicht gab.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.