Löschen auf Zuruf: Polizeibehörden delegieren, Plattformen radieren

Dieser Artikel von Chloé Berthélémy erschien im englischen Original unter dem Titel „All Cops Are Blind? Context in terrorist content online“ bei European Digital Rights (EDRi). Chloé ist Teil des Policy-Teams im Brüsseler Büro von EDRi, einem Netzwerk von Digital-Rights-Organisationen. Sie trägt zur Öffentlichkeitsarbeit und politischen Arbeit der Organisation bei, insbesondere in Fragen der Strafverfolgung und Überwachung. Weitere ihrer Beiträge zu Digital-Rights-Themen gibt es auf edri.org. Jonathan hat den Artikel aus dem Englischen übersetzt.

Der Kampf um die Kontrolle von Inhalten und Geräten im Netz beschäftigt europäische Entscheidungsträger:innen schon seit der Entstehung der Internets. Doch gerade in letzter Zeit nimmt die Debatte zusätzlich Fahrt auf.

Ohne Hinzunahme eines wissenschaftlichen Diskurses der einzelnen Faktoren von Gewalt und Radikalisierung führt das aktuelle Paradigma im Bereich der Terrorbekämpfung zu vermehrtem Einsatz voreiliger Strategien zur Löschung schädlicher Online-Inhalte – und zwar ohne die nötigen Sicherheitsvorkehrungen. Problematisch ist dabei vor allem die Rolle privater Plattformen: Sie agieren wie eine Art Online-Polizei und beschränken gleichzeitig die Kontrolle durch Strafverfolgungsbehörden.

Innerhalb europäischer Polizeibehörden wurden Internet-Meldestellen mit dem Ziel ins Leben gerufen, Online-Inhalte zu entfernen, die illegal sein könnten oder auch nicht. Inhalte, die möglicherweise gegen die privaten Nutzungsbedingungen der Unternehmen verstoßen, werden von diesen Meldestellen bei der entsprechenden Plattform zusammen mit einer freiwilligen Löschanfrage gemeldet – genau so, wie auch andere Nutzer:innen Inhalte markieren würden. Der Unterschied ist nur, dass Strafverfolgungsbehörden sich so gegen die Ausübung ihrer Untersuchungsbefugnisse entscheiden und dadurch den privaten Unternehmen den Job überlassen.

In ihrem Vorschlag einer Verordnung zur Verhinderung der Verbreitung terroristischer Inhalte im Internet erwartet die EU-Kommission von „zuständigen Behörden“ (gemeint sind zum Beispiel die Internet Referral Unit (IRU) von Europol oder entsprechende nationale Meldestellen) sogar, dass sie den Plattformen mutmaßlich schädliche Inhalte melden. In der Folge wird durch die Betreiber:innen dann auf Grundlage ihrer privaten Geschäfts- und Nutzungsbedingungen und nicht notwendigerweise in Einklang mit geltendem Recht gelöscht. Für herkömmliche Nutzer:innen ist es dann schwer, sich gegen eine gegebenenfalls unrechtmäßige Löschung ihrer an sich legalen Inhalte zur Wehr zu setzen.

Wenn es schon zu Einschränkungen von Grundrechten kommt, dann sollte die Entscheidung unabhängigen Gerichten vorbehalten bleiben. Zur Prüfung der Rechtswidrigkeit von Online-Inhalten ist juristisches Fachwissen unabdingbar, um Verletzungen der Meinungsfreiheit zu verhindern. Jedoch fehlt den von der Kommission vorgesehenen „Meldungen“ jegliche rechtliche Überprüfung. Sensible Entscheidungen über die Rechtmäßigkeit treffen Plattformen unter beträchtlichem Druck von Polizeibehörden. Zusätzlich zu den schweren Bedenken, die mit diesem Mechanismus der Privatisierung von Rechtsdurchsetzung und Rechtsstaatlichkeit einhergehen, kommen Zweifel auf, ob Polizeibehörden selbst überhaupt in der Lage sind, die Rechtswidrigkeit von Inhalten im Netz korrekt festzustellen.

Meldestellen scheitern an der Prüfung eines Online-Magazins, das den IS parodiert

Da den Löschanfragen von Polizist:innen um das vierfache öfter stattgegeben wird als den Anfragen sonstiger Nutzer:innen, sollte die Rolle von Polizeibehörden in der Debatte rund um die Regulierung von Online-Inhalten in Frage gestellt werden. Schließlich haben sie weder die Pflicht noch die nötige Expertise, den rechtlichen Rahmen und die Grenzen der Meinungsfreiheit korrekt einzuschätzen und tatsächlich illegale Inhalte von bloß unangenehmen zu unterscheiden.

Ein Beispiel sind die Löschanfragen der belgischen und der französischen Internetmeldestellen an das Internet Archive. Dieses archiviert Webinhalte und baut so eine digitale Bibliothek von Webseiten und digitalen Veröffentlichungen auf, um diese dann der Öffentlichkeit auf unabhängigem Wege zugänglich zu machen. 2017 wurde das Internet Archive von den Meldestellen dazu aufgefordert, die digitale Kopie einer Parodie des Online-Magazins des IS zu löschen, das unter dem Namen „Rumiyah“ bekannt ist. Während die belgischen Behörden ihre Anfrage einfach damit begründeten, dass die Parodie IS-Propaganda verbreite, stufte die französische Behörde für Cyberkriminalität OCLCTIC den Inhalt als Terrorismus und Aufrufen zu Gewalt und somit als strafrechtlich relevanten Verstoß ein.

Beim simplen Lesen der als illegal markierten Seiten fällt jedoch auf, dass das Magazin lediglich vom Niedergang der internationalen Terrororganisation berichtet und Beispiele gescheiterter Militäraktionen bringt, bei denen sich Suizid-Bomber versehentlich selbst in die Luft sprengten. Es fällt schwer zu argumentieren, dass dieses Material IS-Propaganda enthält oder zu Terrorismus aufruft.

Abkürzung oder Umweg?

Unter den von der französischen Polizei gemeldeten Links findet sich einer, der auf tatsächliche IS-Propaganda verweist, allerdings passwortgeschützt ist. Die französischen Behörden merkten zusätzlich an, dass der Hosting-Anbieter – das Internet Archive – von diesem Zeitpunkt an Kenntnis von dieser umstrittenen Tatsache gehabt haben musste. Dabei bezogen sie sich auf das sogenannte Providerprivileg aus der E-Commerce-Richtlinie. Dieses stellt Anbieter zwar grundsätzlich von der Haftung frei, verpflichtet sie aber, Inhalte „unverzüglich“ zu löschen, sobald sie Kenntnis von deren Rechtswidrigkeit erlangen. Da die EU-Kommission nicht klargestellt hat, ob eine Meldung von Inhalten auch die „tatsächliche Kenntnis“ über deren Rechtswidrigkeit impliziert, bleibt das Internet Archive darüber im Unklaren, ob eine Verweigerung der Löschanfrage Sanktionen nach sich zieht. Entweder ist ein bestimmter Online-Inhalt rechtswidrig – dann sollte die Löschanfrage gerichtlich angeordnet sein – oder er ist es eben nicht.

Die Meldungen nach Artikel 5 der Verordnung stellen also eine Art Abkürzung für nationale Ermittlungsbehörden dar, um Inhalte schnell von Plattformen entfernen zu lassen – indem sie die Plattformbetreiber:innen unter Druck setzen, und zwar unabhängig davon, ob Inhalte nun illegal sind oder nicht: eine einfache Alternative zur Beschaffung eines richterlichen Beschlusses. Die Änderungsanträge des Ausschusses für Binnenmarkt und Verbraucherschutz (IMCO) des EU-Parlaments zur Verordnung über terroristische Online-Inhalte schlagen eine Streichung dieses Mechanismus vor. Hoffentlich berücksichtigt dies auch der federführende Ausschuss für bürgerliche Freiheiten (LIBE) in seinem finalen Parlamentsbericht.