Zahlen für 2021BKA meldete 14.000 Internetinhalte zur Entfernung an Europol

Zur Zeit können Anbieter entscheiden, ob sie polizeiliche Löschanregungen im Bereich des „islamistischen Terrorismus“ freiwillig befolgen. Ab dem 7. Juni werden daraus Entfernungsanordnungen, die von nationalen Behörden oder Europol über eine neue Plattform direkt an die Firmen gerichtet werden können.

Ein Laptop mit schwarzem Bildschirm, auf der Tastatur liegen zwei Hände.
Bislang löscht Europol nur Inhalte zu „islamistischem Terrorismus“ und „illegaler Migration“, nun soll auch Rechtsextremismus verstärkt verfolgt werden. Gemeinfrei-ähnlich freigegeben durch unsplash.com Simon Hattinga

Mit der Meldestelle für Internetinhalte (EU IRU) verfügt Europol seit 2015 über eine Plattform für die Verfolgung von Postings, die Polizeibehörden als „terroristisch“ oder „gewaltbereit extremistisch“ einstufen. Sie gehört zum Zentrum zur Terrorismusbekämpfung bei Europol in Den Haag. Bislang handelt es sich bei den Meldungen der EU IRU um sogenannte Referrals, also Löschanregungen, die an die entsprechenden Anbieter weitergereicht werden.

Die Firmen entscheiden selbst, wie sie die Meldungen behandeln, in der Vergangenheit wurden die beanstandeten Inhalte jedoch meist sofort entfernt. Neben Anbietern wie Google, Meta oder Apple arbeitet auch Telegram mit der Meldestelle bei Europol zusammen und nimmt etwa seit 2019 an gemeinsamen „Aktionstagen“ im Internet teil.

14.450 Meldungen aus Deutschland

Für die Mitarbeit bei Europol haben die EU-Mitgliedstaaten jeweils eigene Meldestellen eingerichtet, in Deutschland ist diese beim Bundeskriminalamt (BKA) angesiedelt. In der Antwort auf eine Schriftliche Frage des Abgeordneten Alexander Ulrich hat das Bundesinnenministerium nun aktuelle Zahlen mitgeteilt.

Demnach hat die IRU beim BKA im vergangenen Jahr Meldungen zu 14.450 „Links mit jihadistischer Propaganda“ an Europol geschickt. Ob pro Link auch jeweils eine Meldung generiert wird, lässt die Antwort offen. 2019 hatte das BKA 7.832 Links zur Entfernung gemeldet.

Die Polizeiagentur hat die aus Deutschland übermittelten Links anschließend über die „Internet Referral Management Application“ (IRMA) an die jeweiligen Provider gemeldet. Mit der Anwendung will Europol mehrfache Meldungen aus verschiedenen Ländern feststellen und doppelte Benachrichtungen an die Provider verhindern. Polizeien und Geheimdienste können über IRMA zudem darum bitten, Inhalte auf bestimmten Webseiten online zu lassen, um diese zu beobachten.

Aus IRMA wird PERCI

Mit der am 7. Juni 2021 in Kraft getretenen EU-Verordnung zur Bekämpfung der Verbreitung terroristischer Online-Inhalte („Terrorist Content Online VO“ – TCO-VO) werden die Löschbitten zu Entfernungsanordnungen, denen die Provider innerhalb einer Stunde verpflichtend Folge leisten müssen. Die Verordnung ist derzeit – wie der Name nahelegt – auf Terrorismus beschränkt.

Wie bei EU-Verordnungen üblich müssen die Mitgliedstaaten diese in einer festgelegten Frist umsetzen. Die TCO-VO tritt am 7. Juni in Kraft, bis dahin müssen die nationalen Meldestellen an das neue Meldesystem angeschlossen sein.

Mit der Umsetzung der Verordnung schaltet Europol die bestehende IRMA-Plattform ab und ersetzt sie durch die Anwendung PERCI, die von den nationalen Strafverfolgungsbehörden direkt angesteuert werden kann. Neben den Entfernungsanordnungen in einem standardisierten Format werden darüber auch wie gewohnt „Löschanregungen“ zu anderen Kriminalitätsphänomenen als „Terrorismus“ verteilt.

Freiwillige Meldung „proaktiv gelöschter Inhalte“

Im Mai 2022 soll PERCI endgültig einsatzbereit sein. Die Anbieter müssen dann vermerken, wann und in welchem Umfang sie Anordnungen Folge geleistet haben. Die Strafverfolgungsbehörden können dies in Echtzeit verfolgen. Außerdem dient die Anwendung zur „freiwilligen Meldung proaktiv gelöschter Inhalte“ durch die Firmen. Die Behörden können diese Hinweise anschließend für Ermittlungen nutzen.

Bei PERCI handelt es sich zudem um eine Vergleichsdatei zur „automatischen Erkennung und Verhinderung des erneuten Hochladens bekannter Inhalte“. Laut einem Planungsdokument will die Polizeiagentur damit vor allem „Start-ups und kleinere Unternehmen“ vor „terroristischem Missbrauch“ ihrer Plattformen schützen.

Allerdings ist nicht bekannt, nach welchem Verfahren die Firmen entsprechende Abfragen vornehmen können und ob es sich bei PERCI auch um eine Hashwert-Datei handelt, wie sie das Globale Internetforum zur Terrorismusbekämpfung für die Umsetzung von Uploadfiltern im Rahmen der TCO-VO betreibt. Bilder, Videos oder Textdateien werden in PERCI nicht gespeichert, diese legt Europol in einer eigens dafür errichteten Datei „Check The Web“ ab.

Schleppende Verfolgung von Rechtsextremismus

Seit einigen Jahren verfolgt Europol auch das Phänomen „illegale Migration“. 2020 wurden 2.518 Inhalte untersucht, „die von Menschenhändlern genutzt werden, um Migranten und Flüchtlingen Schleusungsdienste anzubieten“, schreibt die Agentur in ihrem Jahresbericht. Für deren Ermittlung und Verfolgung ist das Europäische Zentrum für die Schleusung von Migranten bei Europol zuständig. Ob sie Inhalte nach einer Meldung durch die EU IRU entfernen, entscheiden die Provider weiter selbst.

Nur schleppend geht die EU-Meldestelle indes gegen gewalttätige rechtsextremistische Online-Propaganda vor – obwohl die EU-Innenminister:innen vor über zwei Jahren eine entsprechende Aufforderung an Europol gerichtet hatten. Im letzten Frühjahr richtete die EU IRU einen ersten Aktionstag zu Rechtsextremismus aus.

Zu den Aufgaben der EU IRU gehört unter anderem die Suche nach technischen Lösungen zur verbesserten Erkennung von inkriminierten Inhalten. Über das Programm Horizont 2020 finanziert die EU-Kommission die Forschungsprojekte INFINITY und AIDA mit Beteiligung der EU IRU. Bei zehn weiteren, ähnlichen Projekten hat die Meldestelle als Beraterin fungiert. Unter Einsatz „Künstlicher Intelligenz“ sollen die Strafverfolgungsbehörden mit den Instrumenten in die Lage versetzt werden, auch große Mengen an Inhalten zu verarbeiten und mit anderen Einträgen in Beziehung zu setzen.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

0 Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.