Im Kampf gegen online verbreitete Terrorpropaganda hat die EU-Kommission bislang auf Zuckerbrot und Peitsche gesetzt: Mit mehr oder weniger sanftem Druck brachte sie die vier großen Plattformbetreiber Facebook, Youtube, Twitter und Microsoft dazu, in Eigenregie Uploadfilter einzurichten, um „terroristische“ oder „extremistische“ Inhalte von ihren Plattformen zu entfernen und deren erneutes Hochladen zu verhindern. An diese Datenbank sollen sich nun mehrere weitere, kleinere Anbieter anschließen, kündigte die EU-Justizkommissarin Věra Jourová am Dienstag in Brüssel bei einem Gespräch mit Journalisten an. Um welche Anbieter es sich genau handelt, soll in den kommenden Tagen bekannt gegeben werden.
Zurückzuführen sind diese Maßnahmen zu einem guten Teil auf das 2015 entstandene „EU Internet Forum“, in dem sich große Plattformbetreiber, Behörden wie Europol und Vertreter der Kommission sowie von EU-Mitgliedstaaten versammeln. Ziel des auf Initiative der Kommission eingerichteten Arbeitskreises ist es, Methoden zu entwickeln, um „illegale Hassrede“ schnell und dauerhaft aus dem Internet zu verbannen. Verständigt hat sich die Runde unter anderem auf einen auf Selbstregulierung abzielenden Verhaltenscodex („Code of Conduct“), genauso wie die EU-Kommission rechtlich nicht bindende Empfehlungen und Orientierungshilfen für Plattformbetreiber bereitstellt. Im Gegenzug verzichtete die Kommission bislang auf gesetzliche Maßnahmen und Sanktionen für die Anbieter.
Schneller und mehr löschen
Doch zunehmend dreht die Kommission die Daumenschrauben enger. Einerseits will sie Betreiber etwa dazu anhalten, solche Inhalte noch schneller als zuvor zu erkennen und sie innerhalb einer Stunde zu löschen. Andererseits hält sie immer mehr Plattformen dazu an, sich an der Datenbank zu beteiligen, in der die digitalen Fingerabdrücke der inkriminierten Inhalte abgelegt sind. Landet ein solcher „Hash“ einmal in der Datenbank, ist ein erneutes Hochladen der jeweiligen Datei nicht mehr möglich.
Neben den großen Vier beteiligen sich seit Kurzem auch Google+ und Instagram am Befüttern und Abfragen des automatisierten Systems. Bekannt wurde außerdem, dass im Dezember erstmals die Anbieter Justpaste.it, Snap, WordPress und Yellow an einem Treffen des EU Internet Forum teilgenommen haben. Sie könnten zu den Plattformen zählen, die demnächst ebenfalls Inhalte vorfiltern.
Gesetzliche Regelung rückt näher
Und schließlich rückt die Kommission immer mehr davon ab, die Maßnahmen auf Selbstregulierung und „Freiwilligkeit“ basieren zu lassen. Es sei „sehr wahrscheinlich“, sagte Jourova, dass es demnächst zu einer konkreten legislativen Initiative kommen werde, die Plattformen verbindlich zum Einsatz des automatischen Systems verpflichtet. Zumindest wird es wahrscheinlich eine „Empfehlung“ geben, deren Entwurf die digitale Bürgerrechtsorganisation EDRi letzte Woche veröffentlicht hat.
Falls es aber tatsächlich zu einer rechtlich bindenden, gesetzlichen Regelung kommen sollte, stellte die tschechische Kommissarin klar, werde diese zunächst nur für „eindeutige“ terroristische Inhalte gelten, beispielsweise im Fall von Enthauptungsvideos. „Für den Rest, also Hassrede, Urheberrechtsverletzungen, Verbraucherschutz und so weiter, wollen wir weiterhin den Selbstregulierungsansatz beibehalten“, erklärte Jourová. „Dabei werden wir den IT-Sektor dazu drängen, proaktiver zu handeln und möglichst verantwortungsbewusst auf Beschwerden und Eingaben von Außen zu reagieren.“ Im Blick hat die Kommissarin allerdings in erster Linie sogenannte „Trusted Flagger“, die den Plattformen zuarbeiten und entsprechende Inhalte melden.
Wenn zu viel verschwindet
Der Gefahr von Overblocking, wenn Plattformen im Zweifel zu viel als zu wenig löschen, will Jourova mit einer Klagemöglichkeit für Nutzer im jeweiligen Mitgliedstaat begegnen. Zudem fordert der Verhaltenscodex einfache Beschwerdeformulare für Nutzer, deren Inhalte womöglich ungerechtfertigt entfernt wurden – oder im Falle einer laut der jeweiligen Plattform gerechtfertigten Löschung aufgeklärt werden, warum das geschehen ist.
Dass dies aber noch nicht so recht klappt, illustrierte die Tschechin mit einer Anekdote aus ihrem ehemals kommunistischen Heimatland: Unlängst habe sie dort ein älterer Bürger angesprochen, der auf Facebook den guten alten Zeiten nachgetrauert habe. Die Plattform habe sein Posting jedoch gelöscht. Dabei hätte er aber keinesfalls zu Gewalt oder Terrorismus aufgerufen, versicherte ihr der Mann.
„Das ist exakt das, was [die Plattformen] nicht tun dürfen“, betonte Jourová. „Das ist Ihre Meinung, die ich nicht teile“, habe sie dem Mann entgegnet. „Aber ich werde mein Bestes tun, um Ihr Recht zu schützen, solche Dinge zu schreiben.“ Sie werde nun bei Facebook nachhaken und fragen, warum dieses Posting entfernt wurde – Ausgang ungewiss.
Erster Schritt Terrorismus, zweiter Urheberrecht
Nicht minder problematisch ist die Etablierung von europaweit greifenden Upload-Filtern. Das Muster ist bekannt: Zunächst kommen solche Instrumente im Kampf gegen zweifelsfrei abstoßende illegale Inhalte wie Kinderpornographie oder Terrorismus zum Einsatz. Die Kommission macht aber keinen Hehl daraus, diese Zensurinfrastruktur sowohl auf damit nicht zusammenhängende Felder wie Urheberrechtsverletzungen auszuweiten als auch möglichst viele Plattformen dazu zu drängen, sich daran anzuschließen.
Auf Druck der EU-Kommission schaffen hier private Unternehmen Tatsachen, die anderorts, etwa im EU-Parlament, heftig umstritten sind. Selbst wenn die Upload-Filter, die sogar der schwarz-schwarz-rote Koalitionsvertrag als „unverhältnismäßig“ ablehnt, es nicht in die Urheberrechtsreform schaffen sollten, dann können sich Rechteinhaber sicher sein, dass das Internet ihren Stempel und nicht den der Nutzer tragen wird.
Privatisierte Vorab-Zensur
Mit dieser Initiative greift die EU-Kommission jedoch potenziell tiefer in das Grundrecht auf freie Meinungsäußerung ein, als es etwa beim deutschen Netzwerkdurchsetzungsgesetz der Fall ist. Dieses verpflichtet zwar Plattformbetreiber ab einer bestimmten Größe dazu, gemeldete illegale Inhalte zügig zu entfernen, zwingt sie aber nicht zu einer automatisierten Vorab-Zensur. Auch die mittlerweile in Deutschland eingeführten Netzsperren zielen darauf ab, unerwünschte Inhalte aus dem Internet zu entfernen. Immerhin setzen diese aber eine gerichtliche Anordnung voraus und lassen sich zudem leicht umgehen.
Mit ihrer Initiative mag die EU-Kommission ein hehres Ziel verfolgen und damit teilweise erfolgreich sein. Es ist aber kein Zufall, dass Bürgerrechtsorganisationen wie EDRi oder Access Now unter lautem Protest aus dem EU Internet Forum ausgestiegen sind – auch wenn die Kommission beteuert, mit zivilgesellschaftlichen Organisationen zusammenzuarbeiten oder gelegentlich Fortschrittsberichte veröffentlicht. Denn solange weiterhin intransparente Plattformen privatisierte Rechtsdurchsetzung im Schnelldurchlauf betreiben (müssen), könnte der Kollateralschaden weitaus größer ausfallen, als der erste Blick vermuten lässt.
Ich sehe es kommen:
„Der Islam ist eine Religion des Friedens und es ist niemals jemand durch Kommunismus oder Sozialismus zu Schaden gekommen. Ihr glaubt mir nicht? Aber es gibt doch keine Gegenbeweise. Wir haben keinerlei Aufzeichnungen über dieses „Jihad“ oder „Gulag“ von dem diese Nazi-Verschwörungstheoretiker immer faseln. Nun ab zurück ins Joycamp mit euch.“
Als „Trusted Flagger“ können die Beteiligten als „vertrauenswürdige Hinweisgeber“ Internetinhalte über einen kurzen Weg zur Entfernung melden. Ihre Meldungen sind laut Google zu 90% korrekt. Wie viele Beteiligte das Programm“Trusted Flagger“ hat, ist unklar. Im vergangenen Jahr schrieb Google, man wolle die 63 Organisationen (da sind wohl Behörden mitgezählt) um 50 weitere „Experten-NGO’s“ ergänzen.
Die Presseabteilung von Google hat mir nach 2 Monaten und ein paar Erinnerungen geschrieben, welche Nichtregierungsorganisationen sich aus Deutschland am Programm beteiligen. Nicht alle wollen, dass dies bekannt wird; kein Problem haben damit FSM, jugendschutz.net, eco Beschwerdestelle, Amadeu Antonio Stiftung und Nummer gegen Kummer. Seitens der Behörden sind dies beispielsweise die Landeskriminalämter Baden-Württemberg, Niedersachsen, Sachsen und Sachsen-Anhalt. Das wiederum kam erst auf eine bohrende Nachfrage beim BMI heraus (vermutlich gehört auch die „Meldestelle für Internetinhalte“ bei Europol dazu).
Das Internet wird gezielt kaputt gemacht. Gott sei Dank durfte ich viele Jahre hindurch noch ein freies Internet erleben und genießen. Mittlerweile ist es nur noch ein Mittel zum Zweck und muss eher als Gefahr für die eigene Freiheit angesehen werden. Schade, es war schön mit dir, freies Internet. Aber du bist leider Geschichte.
Und ja, ich fühle mich langsam immer mehr, wie in einer neuen Variante der DDR oder vergleichbarem Staat. Einiges ist natürlich anders, die Tabus sind andere, die drohenden Repressalien ebenso. Schließlich schreiben wir 2018 und nicht 1983. Die Schere im Kopf ist aber wieder da. Man überlegt sich wieder, was man wo sagt, wonach man besser nicht fragt usw. Das sind für mich eindeutige Anzeichen einer unfreien Gesellschaft und repressiver Staatsmacht. Und nein, ich beziehe das nicht nur auf Deutschland alleine. Es gibt auch schon die ersten Foren, auf denen vergleichbare Beiträge, wie dieser, spurlos gelöscht werden, wie es mir vor einiger Zeit auf golem passiert ist. Mal sehen, wie lange Netzpolitik sich noch traut, solche Beiträge zu veröffentlichen. Alleine, dass man an so etwas überhaupt denken muss, sollte eigentlich für alle ein Alarmsignal erster Güte sein. Leider ist die breite Masse jedoch von Konsum und vermeintlicher Bequemlichkeit total eingelullt. Hinzu kommt eine von verschiedenen Seiten geschürte kollektive Angst vor Allem und Jedem.
Enthauptungsvideos? Mord und Totschlag verbannen aus den Medien!?
Wäre ich voll für! Endlich schluss mit der Gewaltverherrlichung in Fernseh und Kinofilmen. Dieser Terrorismus muss enden!
*schade, ich glaub ich hab was mißverstanden *schnüff
Schön das jetzt auch das Internet strenger Zensur und Kontrolle unterworfen wird. Bei brutalen Gewaltvideos ist habe ich sogar Verständnis dafür, aber was die Copyright Diktatur angeht ist das absolut unverständlich. Selbst in Satire Sendungen wie Extra wird immer wieder auf Fotomanipulation zurück gegriffen und das soll man jetzt alles nicht mehr sehen dürfen weil da zum Beispiel ein entfremdetes Bild von Angela Merkel mit auftaucht oder auf Star Wars angespielt wird? Was ist mit dem Recht auf Satire und Kunst? Es gibt das Recht auf Bildzitat oder auch satirische Auseinandersetzung mit Inhalten (da dort der Sinn ist etwas zu kritiseren), da ist es ausdrücklich erlaubt auch auf fremdes Bildmaterial oder daran angelehntes zurückzugreifen. Und was ist jetzt mit Fan Fiction, auch verboten? Werden jetzt auch alle Bilder restriktiv zensiert die auch nur iegendwie an Star Wars, Star Trek usw. erinnern? Wer darf dann eigentlich noch Satire machen, braucht man dafür dann spezielle Lizenzen die sich natülich nicht jeder leisten können wird? Das geht zu weit! Dieser Diktatur des Kapitals musss einhalt geboten werden! Es kann nicht sein das aufgrund übertriebenster Copyrightbestimmungen die freie Meinungsäußerung (auch plumpe oder dummlsutige Sachen gehören dazu!)zerstört wird. Das Internet der Zukunft wird wahrscheinlich eine rund um die Uhr Werbeveranstaltung der Großkonzerne ohne jeglichen persönlichen Inhalt. Ich denke da können wir alle gut und gerne drauf verzichten. Das ist das Geld nicht wert was man monatlich für den Anschluss berappen muss. Dann halt lieber wieder analog, da kann man auch sicher sein das die Anspielungen und Gags die man produziert hat auch morgen noch existieren. Soetwas ist absolut inakzeptabel!
Gummiparagraphen und -Gesetze sind weich und formbar – und sollen auch so sein. Diese Lektion sollte man gerade bei der völlig undemokratischen und grundsätzlich immer befangenen EU-Kommission gleich als erstes begriffen haben.
Wieso sollten Upload Filter innerhalb der EU der europäischen Markt stärken? Das Internet kennt keine Landesgrenzen, dann werden einfach Hoster ausserhalb der EU für solche Angebote genutzt. Illegale Angebote wird es immer geben, aber man minimiert den echten (nicht vermuteten, denn nicht jeder Download ist ein verlorener Verkauf) Schaden in dem man die Angebote an die Bedürfnisse anpasst. Hierzu hätte die EU eins zu tun: Urheberrecht in der ganzen EU harmonisieren, damit US Konzerne nur mit einer Stelle verhandeln müssen um die ganze EU bedienen zu können. Das würde helfen! Aber der europäische Flickenteppich Urheberrecht ist ein riesen Hindernis um zeitnah die Angebote an die schnell wechselnden Bedürfnisse der Kundschaft anpassen zu können. Jahre für Verhandlungen sind so etwas von gestern. Aber logisch irgendwelche Zwischenhändler sehen ihre Felle davon schwimmen.