NetzwerkdurchsetzungsgesetzStudie zeigt Schwächen bei Gesetz gegen Hassrede auf

Das Gesetz gegen Online-Hetze habe nur geringe praktische Relevanz, berge aber dennoch Gefahr, dass legitime Meinungsäußerung aus sozialen Netzwerken verschwindet. Zu diesem Ergebnis kommt eine Studie zum NetzDG. Die Untersuchung zeigt vor allem, dass wir zu wenig Einblick in die großen Online-Dienste haben.

NetzDG
Eine Studie bezweifelt, ob das Netzwerkdurchsetzungsgesetz gegen Hass im Netz wirkt. Gemeinfrei-ähnlich freigegeben durch unsplash.comAndre Hunter

Es ist ein paradoxes Ergebnis: Zum einen soll das Netzwerkdurchsetzungsgesetz (NetzDG) in der Praxis kaum relevant sein, zum anderen aber zu sogenanntem „Overblocking“ führen, also legitime Meinungsäußerung von großen sozialen Netzwerken wie Facebook, Twitter und Youtube fegen.

Zu diesem Schluss kommt eine Studie, die das NetzDG in der praktischen Anwendung untersucht hat. Die heute veröffentlichte Teilevaluation unter der Leitung des Juristen und Medienwissenschaftlers Marc Liesching hat dazu umfassendes Datenmaterial ausgewertet, das wir an dieser Stelleerstmalsveröffentlichen.

Allgemein verfügbar waren bislang nur die NetzDG-Transparenzberichte der sozialen Netzwerke selbst. Die NetzDG-Monitoring-Berichte jedoch, auf die sich der überwiegend positive Evaluierungsbericht des Bundesjustizministeriums aus dem Vorjahr stützt, mussten die Studienautor:innen erst mit Hilfe des Informationsfreiheitsgesetzes loseisen.

„Im Zweifel löschen“

Das Ende 2017 in Kraft getretene NetzDG richtet sich gegen illegale Hassrede in großen sozialen Medien. Betroffene Online-Dienste müssen ihnen gemeldete, einschlägige Inhalte binnen einer Woche, „offensichtlich rechtswidrige“ innerhalb von 24 Stunden löschen, sonst drohen ihnen Geldstrafen.

Dieser Ansatz führe dazu, dass die Betreiber lieber zu viel als zu wenig löschen würden, lautet die Kritik. Marc Liesching sieht die Theorie bestätigt: „Die Studienbefunde lassen aus unserer Sicht wenig Raum, Overblocking weiterhin als ‚bloße Spekulation‘ zu bagatellisieren.“ Zudem hätten die sozialen Netzwerke zum Teil selbst in der Befragung eingeräumt, dass sie aufgrund des NetzDG im Zweifel mehr löschten, um Bußgelder zu vermeiden.

Dies wirke sich vor allem indirekt aus, so die Studie. Die engen Löschfristen und hohen Bußgelddrohungen würden dazu führen, dass die sozialen Netzwerke auf ihre eigenen AGB ausweichen. Anstatt beanstandete Inhalte nach dem NetzDG zu prüfen, moderieren die Anbieter überwiegend nach ihren eigenen Gemeinschaftsstandards, die sie dem NetzDG vorschalten.

Ausweichmanöver der Online-Dienste

Dieser Effekt lässt sich tatsächlich beobachten. Besonders Facebook hat sich in den vergangenen Jahren bemüht, Nutzer:innen auf die eigenen Beschwerdewege zu lenken. Meldeoptionen nach dem NetzDG sind nur schwer auffindbar. So sind im zweiten Halbjahr 2020 bei dem Anbieter nur 4.211 solcher Beschwerden eingegangen, bei Twitter waren es über 800.000.

Solche Ausweichmanöver haben einen weiteren Effekt: Löscht ein Online-Dienst Inhalte nach den eigenen Regeln, dann taucht das nicht in den gesetzlich vorgeschriebenen NetzDG-Transparenzberichten auf. Eine wirklich belastbare Evaluation des Gesetzes wird dadurch zusätzlich erschwert, zumal die sonstigen Transparenzberichte der Unternehmen meist nur globale Löschzahlen aufführen und somit einen direkten Vergleich verhindern.

Hinzu kommt, dass die großen Anbieter die allermeisten Löschentscheidungen inzwischen automatisiert fällen, noch bevor eine etwaige Nutzer:innenbeschwerde eintrifft. Nach eigenen Angaben hat etwa Youtube im vierten Quartal 2020 weltweit knapp neun Millionen Videos entfernt, rund 94 Prozent davon mit Hilfe automatisierter Erkennung.

„Gegenüber den hohen Zahlen festzustellender Inhaltsentfernungen aufgrund überwiegend proaktiver Erkennung und AGB-Prüfung sind die nach dem NetzDG-Meldeverfahren erfolgten und in den Halbjahreszahlen ausgewiesenen Entfernungen vergleichsweise gering“, konstatiert die Studie.

NetzDG-Novelle hilft – vielleicht

Dieses Problem würde auch eine derzeit im Bundestag liegende NetzDG-Novelle nur stellenweise lösen. Diese sieht etwa Erweiterungen der Berichtspflichten und Partikularregeln für anerkannte Selbstkontrolleinrichtungen vor, die teils weiterhin nur NetzDG-Meldungen betreffen sollen.

Ein im ursprünglichen Entwurf des Bundesjustizministeriums vorhandenes und in der Studie kritisiertes Schlupfloch wollen die Abgeordneten aber schließen: Das Gegenvorstellungs- und Wiederherstellungsverfahren, das zunächst nur für NetzDG-Beschwerden vorgesehen war, soll künftig auch für privat getroffene Löschentscheidungen der Anbieter gelten.

Die vorgesehenen Bußgelder zeigten bisher keine Wirkung, die Ahndungspraxis sei laut der Studie „nicht existent“. Zwar wurden in den letzten drei Jahren rund 1.500 solcher Verfahren gegen Anbieter eingeleitet, abgeschlossen ist davon aber noch keines.

Ob etwa Facebook jemals das Bußgeld von zwei Millionen Euro bezahlen muss, welches das Bundesamt für Justiz (BfJ) dem Unternehmen vor zwei Jahren auferlegt hat, bleibt vorläufig offen. „Das Verfahren ist noch nicht abgeschlossen“, teilte uns jüngst ein BfJ-Sprecher mit. Soweit sein soll es „im Laufe des nächsten Quartals“.

Rechtliche Basis wacklig

Die Zurückhaltung deutscher Behörden könnte auch damit zu tun haben, dass viele Juristen an der Vereinbarkeit des NetzDG mit EU-Recht zweifeln. So schreibt die e-Commerce-Richtline das sogenannte Herkunftslandprinzip fest. Demnach können internationale Online-Dienste, die in Europa meist ihren Sitz in Irland haben, nicht nach den gesetzlichen Vorgaben des NetzDG verpflichtet werden.

Endgültig klären könnte diesen Streit nur der Europäische Gerichtshof, durchgefochten wurde ein einschlägiges Verfahren jedoch noch nicht. „Einzelne der großen Sozialen Netzwerke halten das NetzDG daher nicht für rechtsverbindlich, sondern setzen es aktuell nur ‚freiwillig‘ um“, heißt es in der Studie. Diese Rechtsunsicherheit gelte auch für die Durchführung von Bußgeldverfahren gegen Anbieter im Ausland.

Auf EU-Ebene läuft derzeit eine groß angelegte Reform des Regelwerks, ihren Gesetzentwurf für digitale Dienste (Digital Services Act) hat die EU-Kommission Ende letzten Jahres vorgestellt – auch als Reaktion auf nationale Alleingänge wie das NetzDG.

Das bislang geltende Herkunftslandprinzip lässt Brüssel jedoch unangetastet. Wie aus Kommentaren der Bundesregierung zu dem Entwurf hervorgeht, sorgt sie sich um ihre eigenen Ansätze zur Internet-Regulierung. Sie will im fertigen EU-Gesetz eindeutig klargestellt haben, dass „nationale Regelungen in Hinblick auf die Bekämpfung von Hassrede“ erlaubt bleiben.

Bessere Evaluation ausständig

„Angesichts der geringen praktischen Relevanz des NetzDG erscheint es notwendig, die Verfassungskonformität des Gesetzes hinsichtlich seiner Geeignetheit, Erforderlichkeit und Angemessenheit genau zu prüfen“, sagt Liesching. „Die Evaluation im Auftrag der Bundesregierung hat dies bisher nicht geleistet.“

Erneut offenbart die Teilstudie, dass es weiterhin an empirischem Material mangelt, um ausreichend Licht in die Blackboxen der großen Online-Dienste zu bringen. So ist es selbst auf nationaler Ebene nicht möglich, Moderationsentscheidungen zu vergleichen, die aufgrund privater Gemeinschaftsstandards oder gesetzlich vorgeschriebener Regeln erfolgt sind.

Auf die Frage, warum etwa Facebook keine nationalen Transparenzberichte veröffentlicht, reagierte eine Unternehmenssprecherin ausweichend. „Wir arbeiten daran, zukünftig noch mehr Informationen aufzubereiten und unterziehen unsere Metriken einer unabhängigen, externen Prüfung“, heißt es lediglich.

Das könnte sich mit dem geplanten Digital Services Act der EU schlagartig bessern – sofern keine Schlupflöcher offen bleiben. Trotz aller Kritik kann man dem NetzDG zumindest attestieren, dabei mitgeholfen zu haben, sie aufzuzeigen.

Eine Ergänzung

  1. Wann findet mal jemand Stärken? Die neuzeitliche IT-Gesetzgebung bettelt ja geradezu darum…

    Bis dahin stirbt, was Gesellschaft ausmacht. Naja, in gewisser Weise machen Facebook und co. auch die Gesellschaft aus, wie eine Lampe.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.