Kommentar: Verpflichtende Uploadfilter können Bestandteil einer Zensurinfrastruktur werden

Das Bundesjustizministerium schlägt vor, dass Plattformen verhindern müssen, wenn rechtswidrige Inhalte wieder gepostet werden. Die damit verbundenen Uploadfilter haben Auswirkungen auf Meinungsfreiheit und können als Zensurinfrastruktur missbraucht werden.

Foto: CC-BY-NC 4.0 netzpolitik.org

Bundesjustizminister Heiko Maas hat heute in Berlin den Entwurf eines Netzwerkdurchsetzungsgesetzes vorgestellt. Dieser ist noch nicht mit den anderen Ministerien abgesprochen, so dass noch Änderungen zu erwarten sind, bis das Gesetz im Bundeskabinett von der Bundesregierung beschlossen und dem Bundestag übermittelt wird.

Plattformen wie Facebook und Youtube sind zu groß und dominant für die Meinungsbildung von Teilen der Gesellschaft geworden. Und wir sollten nicht weiter akzeptieren, dass dort wie bislang nur nach den Regeln der Unternehmen gespielt wird. Die Politik hat hier lange geschlafen und sich nicht an eine Regulierung getraut, die auch anders ausfallen müsste als die Instrumente, die wir bisher kannten. Denn Plattformen wie Facebook und Youtube stehen in der Mitte zwischen Internet-Zugangs-Anbietern und Medienunternehmen. So passt weder das eine Instrument richtig (Telekommunikationsgesetz), noch das andere (Telemediengesetz). Denn soziale Netzwerke sind nicht einfach nur Provider, die es Menschen ermöglichen, Inhalte zu teilen. Durch ihre Algorithmen greifen sie auch aktiv kuratierend und steuernd ein. Trotzdem kann man sie nicht wie klassische Medien zu regulieren, weil dort nicht Journalisten schreiben, sondern dort alle Bürger Inhalte schreiben und teilen. Diese sind nicht mit einem Verantwortlichen der Plattform abgesprochen ist, der seinen Kopf dafür hinhalten muss.

Der Gesetzentwurf versucht es jetzt trotzdem mit dem Telemediengesetz, auch wenn die Bundesebene hierfür ungeeignet ist und wir bessere Regeln auf EU-Ebene bräuchten. Es finden sich durchaus sinnvolle Ansätze im Gesetzentwurf, beispielsweise die Verpflichtung zu mehr Transparenz. Es darf nicht sein, dass diese marktbeherrschenden Unternehmen verschweigen, wieviele Mitarbeiter dort in einer so wichtigen Frage wie der Meinungsfreiheit tätig sind und ein Riesengeheimnis um die Löschpraktiken machen. Und auch Schadensersatzforderungen können diese Unternehmen motivieren, etwas mehr Geld aus den Werbemilliarden in den Support zu investieren statt sich weiter bei vielen legitimen Anliegen einfach tot zu stellen.

Plattformen sollen verpflichtet werden, Uploadfilter einzurichten

Aber ein Teil der vorgeschlagenen Regeln geht zu weit. Seit Längerem thematisieren wir hier die drohende Gefahr durch sogenannte Uploadfilter, die man auch Zensurfilter nennen könnte. Und diese haben sich auch in diesen Gesetzesvorschlag verirrt:

6. sämtliche auf den Plattformen befindlichen Kopien des rechtswidrigen Inhalts ebenfalls unverzüglich entfernt oder sperrt und
7. wirksame Maßnahmen gegen die erneute Speicherung des rechtswidrigen Inhalts trifft.

Der Vorschlag wirft Fragen auf: Werden Bilder und Postings erst nach einem Gerichtsbeschluss in die Zensurdatenbank aufgenommen oder entscheidet das der Facebook-Supportmitarbeiter bei Arvato auf Zuruf? Wird das Bundesamt für Justiz auch die Uploadfilter-Datenbanken kontrollieren, also jenes Amt, das als Schiedsstelle für Beschwerden eingeplant ist? Wie soll der Zensurfilter eigentlich unterscheiden, in welchem Kontext ein Bild nicht mehr gezeigt werden darf? Ob das Merkel-Flüchtling-Selfie gerade als Verleumdung oder im Rahmen der Berichterstattung über Fake News verwendet wird?

Die Plattformen haben leider selbst eine rote Linie überschritten

Die Plattformen können sich nicht einmal gegen diesen Punkt des Gesetzentwurfes wehren, weil sie bereits im intransparenten EU Internet Forum auf europäischer Ebene zugesagt haben, freiwillig Uploadfilter zu installieren und nicht genau definierte Terrorismuspropaganda automatisiert zu löschen und zu sperren. Die Plattformen haben dabei selbst eine rote Linie überschritten, indem sie sich darauf eingelassen haben.

Was erstmal sinnvoll klingt, hat Auswirkungen auf die Meinungsfreiheit. Mit demselben Mechanismus wird in China verhindert, dass über Demokratie diskutiert werden kann. Zudem gilt: Wenn etwas erstmal installiert ist, diskutieren wir nur noch über die Ausweitung.

Wenn das Bundesjustizministerium dabei bleibt, muss es die Frage beantworten: Wie können wir verhindern, dass uns das auf die Füße fällt und wir das nicht mehr demokratisch und rechtsstaatlich kontrollieren können?

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

4 Ergänzungen

  1. Haben Sie eine Lösung für betroffene Opfer von CyberCrowdmobbing durch Stalker, Extremisten usw.? Kritik sollte auch einen Lösungsvorschlag enthalten, wie man es denn besser machen kann.

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.