Öffentlichkeit

EU-Kommission will Terrorismus mit Upload-Filtern und automatischen Systemen bekämpfen

Proaktive Maßnahmen wie automatische Erkennung von „terroristischen Inhalten“, kurze Löschfristen und hohe Strafen: Mit ihrem aggressiven Gesetzentwurf will die EU-Kommission die Ausbreitung von Terrorpropaganda im Internet unterbinden. Doch damit gefährdet sie freie Meinungsäußerung, kleine Blogs und die europäische Digitalwirtschaft.

Der Vorschlag der EU-Kommission, mit dem sie Terrorismus aus dem Internet fegen will, richtet sich gegen die meisten Diensteanbieter im Netz. Gemeinfrei-ähnlich freigegeben durch unsplash.com Samuel Zeller

Über ein Jahr lang hatte die EU-Kommission den Plattformbetreibern damit gedroht. Heute hat die Brüsseler Behörde schließlich ihren Gesetzentwurf vorgelegt, der Plattformen aller Art – auch simple Webseiten, die eine Kommentarfunktion zur Verfügung stellen – zum Einsatz einer Zensurinfrastruktur verpflichtet. Also auch uns. Und viele Webseiten von Abgeordneten. Die EU-Verordnung richtet sich gegen „terroristische Inhalte“, die innerhalb einer Stunde gelöscht oder proaktiv erkannt werden müssen. Geschieht dies nicht schnell genug, drohen empfindliche Strafen von bis zu vier Prozent des weltweiten jährlichen Umsatzes.


Netzpolitik.org ist unabhängig, werbefrei und fast vollständig durch unsere Leserinnen und Leser finanziert.

Die Kommission begründet diesen Schritt mit der Gefahr, die von terroristischer Propaganda im Internet ausgehe. Zudem hätten die bisherigen freiwilligen Maßnahmen nicht den gewünschten Erfolg gebracht. „Wir haben zwar im Rahmen der freiwilligen Zusammenarbeit bereits Fortschritte bei der Entfernung terroristischer Online-Inhalte erzielt, jedoch reicht das nicht aus“, sagte Julian King, Kommissar für die Sicherheitsunion. „Wir müssen verhindern, dass diese Inhalte überhaupt hochgeladen werden, und wenn es doch so weit kommt, muss dafür gesorgt werden, dass sie so schnell wie möglich entfernt werden, bevor sie ernsthaften Schaden anrichten.“

Gesetz umfasst viele Anbieter im Netz

Bislang richteten sich die Bemühungen der Kommission in erster Linie gegen große Plattformen wie soziale Netzwerke, beispielsweise Facebook. Künftig will sie aber Diensteanbieter praktisch jeglicher Art erfassen, die in Europa tätig sind, unabhängig von ihrer Größe oder ihrem Standort: „Beispiele hierfür sind Plattformen sozialer Medien, Videostreamingdienste, Video-, Bild- und Audio-Sharing-Dienste, File-Sharing- und andere Cloud-Dienste sowie Websites, auf denen die Nutzer Kommentare oder Rezensionen abgeben können“, führt die Kommission in einem Factsheet aus.

So sollen Betreiber künftig proaktiv und mit Hilfe automatisierter Werkzeuge dafür sorgen, dass solche Inhalte erst gar nicht in Internet auftauchen. Ein solches Werkzeug wäre etwa eine gemeinsam von Facebook, Microsoft, Twitter und YouTube errichtete Datenbank, die seit über einem Jahr im Einsatz ist. Darin speichern die Plattformen digitale Fingerabdrücke einmal als „terroristisch“ erkannter Inhalte. Einmal dort abgelegt, unterbinden die Upload-Filter ein erneutes Hochladen. Auf Druck der Kommission haben sich mittlerweile immer mehr Plattformen an diese Datenbank angeschlossen. Einen Zwang dazu gibt es zwar vordergründig nicht. Aber laut dem Verordnungsentwurf können nationale Behörden verfügen, dass Plattformbetreiber nur „unzureichende“ proaktive Maßnahmen ergriffen hätten, und sie dazu zwingen, zusätzliche Mittel einzusetzen.

Finden „terroristische Inhalte“ an den Upload-Filtern vorbei ihren Weg ins Netz, dann sind Betreiber dazu verpflichtet, innerhalb einer Stunde auf eine Meldung zu reagieren und inkriminierte Inhalte zu entfernen. Dazu sieht die Kommission nicht näher definierte „nationale Behörden“ oder etwa Europol vor, die sich an eine einzurichtende Kontaktstelle bei den Betreibern wenden können. Bei dieser verpflichtenden Entfernungsanordnung kann es sich um eine „administrative oder gerichtliche Entscheidung“ aus dem Mitgliedstaat handeln. Rechtsstaatlichkeit soll eine Einspruchsmöglichkeit der Plattformen gewährleisten. Umgekehrt muss jeder in Europa tätige Diensteanbieter eine Kontaktstelle benennen, um innerhalb des vorgeschriebenen Zeitfensters handeln zu können.

Nutzer, deren Inhalte gelöscht wurden, müssen darüber benachrichtigt werden. Eine Begründung für die Löschung gibt es auf Nachfrage. Ausnahmen sind für Fälle vorgesehen, wenn Ermittlungen eingeleitet werden. Jährliche Transparenzberichte sollen Klarheit schaffen, wieviel gelöscht wurde.

Unmöglicher Spagat

Bei alledem versucht die Kommission, den Spagat zu schaffen zwischen einer offensichtlichen Überwachungspflicht, ohne auf einer Überwachungspflicht zu bestehen. Eine solche Pflicht untersagen einschlägige Urteile des Europäischen Gerichtshofes sowie die E-Commerce-Richtlinie, die Hostprovider zudem von einer Haftung freistellt. Handeln müssen Plattform- oder Webseitenbetreiber für illegale Inhalte erst dann, wenn sie auf solche aufmerksam gemacht wurden. Sollten aber Behörden künftig feststellen, dass ein bestimmter Betreiber keine ausreichenden proaktiven Maßnahmen umgesetzt hat, können sie diesen zu „angemessenen, effektiven und proportionalen proaktiven“ Schritten verpflichten. „Im Prinzip“, heißt es im Entwurf, sollte das nicht auf eine generelle Überwachungspflicht hinauslaufen.

Freilich lassen sich jedoch kaum proaktive Maßnahmen umsetzen, ohne sämtliche Inhalte bereits vor dem Hochladen zu überprüfen. „Das führt zu einer Privatisierung der Strafverfolgung, macht die kleinen Unternehmen kaputt oder macht sie abhängig von den großen Unternehmen“, sagt Elke Steven von der Digital-NGO Digitale Gesellschaft. Zudem würde es sich um einen schwerwiegenden Eingriff in die Meinungsfreiheit handeln. Maßnahmen wie Upload-Filter „laborieren an den vermeintlichen Symptomen herum und tragen nichts zur Bekämpfung der Ursachen bei“, sagt Steven.

Terrordefinition schwammig

Unter „terroristische Inhalte“ oder „Straftaten“ fallen die in der Anti-Terrorismus-Richtlinie definierten Tatbestände sowie etwa Postings, die solche Akte „glorifizieren“ oder dazu „anstiften“. Diese Gummiparagraphen haben bereits bei der Verabschiedung der Richtlinie im Vorjahr für heftige Kritik gesorgt, da beispielsweise auch Aktivismus unter Terrorverdacht gestellt werden kann. Im schlimmsten Fall könnten, wenn in Europa der Gang in die „illiberale Demokratie“ weiter anhalten sollte, antifaschistische Protestformen kurzerhand zu „Terrorismus“ erklärt und im Netz unterbunden werden. Oder ein Verfassungsschutz-Chef deklariert willkürlich einen bestimmten Inhalt, etwa ein Video, als „Terrorismus“, meldet es an die Plattformen und lässt es bis auf Weiteres aus dem Netz verschwinden.

Diese „fehlende Unabhängigkeit der Zensurbehörden“, die Sperrungen „terroristischer Informationen“ anordnen können, kritisiert Patrick Breyer, Spitzenkandidat der Piratenpartei zur Europawahl 2019. „Damit kann unsere Meinungs- und Informationsfreiheit beispielsweise in die Hand des ungarischen Innenministeriums oder eines örtlichen Polizeibeamten in Rumänien gelegt werden, was inakzeptabel ist“, sagt Breyer. Die Entfernung von Inhalten anzuordnen müsse einer unabhängigen Behörde wie einem Gericht, einem Beauftragten von Meinungsfreiheit oder einem Bürgeranwalt vorbehalten bleiben, fordert der Bürgerrechtler.

Die französische Digital-NGO La Quadrature du Net befürchtet, dass der Kommissionsvorschlag bestehende Machtverhältnisse im Netz nur vertiefen würde. „Sollte dieses Gesetz angenommen werden, würden die Quasi-Monopole des Internets (Google, Amazon, Facebook, Apple, Microsoft, Twitter …) festgeschrieben als Schlüssel-Akteure für die Sicherheitspolitik der Mitgliedstaaten und bestärkt in ihrer ohnehin bereits dominanten Position – jeder andere Diensteanbieter könnte von einer Schließung bedroht sein, inklusive dezentralisierter Dienste, die unsere Freiheiten schützen“, schreiben die Aktivisten in einer Stellungnahme.

„Acht Monate vor den EU-Parlamentswahlen legt die Kommission – zum wiederholten Male – einen neuen Gesetzentwurf vor, der minimal Rücksicht nimmt auf Effektivität oder für Grundrechte“, sagt Maryant Fernández Pérez von der digitalen Grundrechte-NGO European Digital Rights (EDRi). Dies macht jedoch deutlich, dass eine tatsächliche Verabschiedung dieses Vorschlags noch in den Sternen steht. Zwar haben die Innenminister gewichtiger Mitgliedstaaten, zuletzt die von Deutschland und Frankreich, Druck auf die Kommission ausgeübt. Dennoch müssten sowohl die Mitgliedstaaten als auch das EU-Parlament zustimmen. Angesichts der Brisanz des Verordnungsentwurfs ist kaum mit einer schnellen Einigung zu rechnen.

„Reine Symbolpolitik“

Zudem regt sich nicht nur aus der Zivilgesellschaft Widerstand, sondern auch aus der Digitalwirtschaft. Diese fürchtet eine Aushöhlung des Providerprivilegs und der E-Commerce-Richtlinie, die ein Grundpfeiler für die europäische Digitalwirtschaft ist. So bezeichnet der deutsche Verband der Internetwirtschaft eco die starren Löschfristen als „reine Symbolpolitik“. Nach bestehender Rechtslage müssen rechtswidrige Inhalte schon heute unverzüglich gelöscht werden, sobald Plattform-Betreiber Kenntnis davon erlangen, heißt es in einer eco-Pressemitteilung. Anstatt neue Gesetze zu schaffen, sei eine konsequente Strafverfolgung der Schlüssel, um nachhaltig Straftaten im Internet zu bekämpfen. „Wir brauchen mehr Staatsanwälte und Richter, damit der Staat seinem Strafverfolgungsauftrag gerecht werden kann“, sagt eco-Geschäftsführer Oliver Süme. „Das kann nicht zunehmend auf die private Hand abgewälzt werden, insbesondere nicht bei Terrorismus.“

Große Anbieter erklärten gegenüber netzpolitik.org, dass terroristische Inhalte keinen Platz auf ihren Plattformen hätten. „Darum haben wir viel in Menschen, Technologie und Zusammenarbeit mit anderen IT-Unternehmen in diese Bemühungen investiert“, sagte ein Youtube-Sprecher. Man begrüße den Fokus der EU-Kommission und werde weiterhin eng mit ihr, den Mitgliedstaaten und Ermittlungsbehörden in diesem Bereich zusammenarbeiten. Eine Facebook-Sprecherin sagte, das Unternehmen teile das Ziel der Kommission: „Wir haben signifikante Fortschritte beim Finden und Entfernen von terroristischer Propaganda erzielt, sowohl in der Schnelligkeit als auch im Umfang“, sagte eine Sprecherin. „Aber wir wissen, dass wir mehr tun können.“

Update: Stellungnahmen von Patrick Breyer, La Quadrature du Net, Youtube und Facebook hinzugefügt.

Irrtümlicherweise haben wir den Entwurf ursprünglich als Richtlinie bezeichnet. Es handelt sich jedoch um eine EU-Verordnung, die nach einer etwaigen Verabschiedung unmittelbar in europäisches Recht übergehen würde.

Weitersagen und Unterstützen. Danke!
8 Kommentare
  1. Gibt es eigentlich irgendeine unabhängige Überprüfung was als terroristischer Inhalt gilt und was nicht, oder ist es eine endgültige Entscheidung wenn etwas in diese Datenbank kommt?

    1. Nur dann, wenn sich jemand zur Wehr setzt. Siehe Artikel 7:

      Hosting service providers shall preserve terrorist content [for six months] which has been removed or disabled as a result of a removal order, a referral or as a result of proactive measures pursuant to Articles 4, 5 and 6 and related data removed as a consequence of the removal of the terrorist content and which is necessary for:

      (a) proceedings of administrative or judicial review,

  2. Das liest sich ja, als hätten die total Lust dazu, eine Überwachungs- und Zensurstruktur aufzubauen, die nicht nur dazu geeignet ist, sondern dafür geschaffen wird, ein (wie immer nur) zeitweise stabiles, im Ansatz totalitäres System anzurichten.

    Wie beschrieben. Bei der momentanen politischen Lage in Europa würde dieses Gesetz, in seiner wahrscheinlichen Auswirkung, nur dazu dienen pro-demokratische Bewegungen, ergo den Sozialen Staat, Menschen- und Freiheitsrechte zu behindern, und den kapitalistischen Kleptokraten, den nationalistischen Menschenhassern Platz zu verschaffen ihre vollkommene Verblendung, angesichts dessen, dass wir weit wichtigeres auf dieser Erde zu tun hätten als sie schon wieder abzuwehren zu müssen, ungestörter verbreiten zu können.
    Falls noch jemand in dem Parlament sitzt, dem oder der bei der Vorstellung nicht die Freudentränen laufen, die katastrophal beschleunigte und verstärkte Fortsetzung dessen (die Sozialen Verhältnisse), was wir an unerträglichem längst angehen müssten, muss der Vorschlag in Bausch und Bogen scheitern.

  3. Die Herrschenden fürchten das Internet, deshalb mussten sie dafür sorgen, dass es von Monopolen beherrscht werden kann. Dann kann man es regulieren und unliebsame Meinungen, Selbstorganisation etc. im Keim ersticken. Ich denke, China zeigt schon einen Blick in die Zukunft. Was die EU gerade tut, ist nur der Anfang.
    Vielleicht gibts das schon, aber ich weiß nix davon:
    Einen Hidden Service im TOR Netzwerk, auf dem ein unzensierbares Forum läuft und man sich über ALLES unterhalten kann.
    Mit dem Hidden Service ist das ganze nicht einfach ortbar, und somit ist die Durchsetzung der Zensurgesetze unmöglich.

    1. Das betrifft die „EU“, nicht den „Rest der Welt“. So genügt es einem Tor Browser zu sagen, dass man aus keinem EU-Land kommt. Alle EU-Exit points verbieten.

  4. Wasss? Bis kürzlich war sich Herr Voss nicht zu schade zu behaupten, es gibt keine Zensur, keine Filter, keine Sperren, keine sülzegleichen Gummiparagraphen?
    Und jetzt soll das mit großen Druck, von den üblichen Verdächtigen, allen reingedrückt werden.
    Bravissimo, wenn die Unwahrheit sagen im (halbdemokratischen)
    EU-Parlament nun zur Normalität gehört….. . Ich bin gespannt, was da noch so …aufplopt.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.