EuGH-Urteil zu Facebook: Der freien Meinungsäußerung droht Schiffbruch

Nach einem Urteil des Europäischen Gerichtshofes muss Facebook ein hetzerisches Post gegen die österreichische Ex-Politikerin Eva Glawischnig entfernen. Der Ruf nach strengem Vorgehen gegen Hass im Netz ist nachvollziehbar, doch das Urteil wirft einige schwierige Fragen auf. Ein Kommentar.

Ein Schiffbruch nach dem französischen Maler Eugène Isabey Gemeinfrei Art Institute Chicago

Der Europäische Gerichtshof (EuGH) urteilte gestern über die Entfernung eines Facebook-Posts. Das klingt banal, ist es aber bei Weitem nicht. Das EU-Gericht mischt sich mit seinem Urteil im Fall Eva Glawischnig gegen Facebook in den globalen Streit um Moderation von Inhalten im Netz ein – eine Debatte, die drastische Folgen für die freie Meinungsäußerung haben könnte. Die Richter:innen in Luxemburg förderten in ihrem Urteil zutage, dass der richtige und rechtskonforme Umgang mit Inhalten eine Rechtslücke darstellt.

Worum es geht: Die österreichische Ex-Grünen-Chefin war in einem öffentlichen Post auf Facebook als „miese Volksverräterin“ beschimpft worden, nachdem sie aus der Politik zu einem Glücksspielkonzern wechselte. Ein österreichisches Gericht forderte Facebook zur Entfernung des Posts auf. Da der Konzern sich weigerte, landete die Sache vor dem EuGH.

Das EU-Gericht urteilte nun, Facebook müsse den Post weltweit entfernen, statt ihn etwa nur in Österreich oder im EU-Raum unsichtbar zu machen. Österreichisches Recht gegen Ehrenbeleidigung muss auf der ganzen Welt umgesetzt werden.

Die Anordnung gilt laut dem EU-Gericht auch für andere, die anstößige Inhalte wortgleich weiterverbreiten, etwa per Share-Button. Der EuGH urteilte auch, dass nichts die österreichische Justiz daran hindere, die Entfernung sinngleicher Äußerungen anzuordnen.

Filter verstehen keine Spitzfindigkeiten

Das Gericht setzt mit seinem Urteil einen nachvollziehbaren Schritt hin zur Entfernung eines hetzerischen Kommentars. Doch an diesem Punkt wird es kompliziert. Denn was ist eine sinngleiche Äußerung? Und wie weit muss Facebook gehen, sie zu verhindern?

Das Gericht erinnert daran, dass Urteile Facebook keine Pflicht zur Überwachung aller Inhalte auferlegen dürfe. Und Facebook müsse keine inhaltliche Tiefenanalyse von Texten vornehmen, um sie zu entfernen. Im Urteil heißt es:

Unterschiede in der Formulierung dieses sinngleichen Inhalts im Vergleich zu dem für rechtswidrig erklärten Inhalt dürfen jedenfalls nicht so geartet sein, dass sie den Hosting-Anbieter zwingen, eine autonome Beurteilung dieses Inhalts vorzunehmen.

Facebook soll also sinngleiche Äußerungen entfernen, ohne ihren Inhalt zu beurteilen. Der Betreiber eines Dienstes könne ja zum Entfernen solcher Inhalte auf „automatisierte Techniken und Mittel zur Nachforschung zurückgreifen“, also etwa Content-Filter.

Nun wissen alle, die schon mal mit Sprachassistenten, Uploadfiltern oder mit anderen durch maschinelles Lernen geschulten Systemen zu tun hatten, dass solche Technologie keinesfalls in der Lage ist, zuverlässig „sinngleiche“ Inhalte zu erkennen. Damit haben schon Menschen Schwierigkeiten, denn oft ist es eine Auslegungsfrage.

Das Urteilt spricht davon, dass Plattformen Inhalte mit „EDV-gestützten Hilfsmitteln“ durchsuchen könnten. Eine aktive, nicht-automatisierte Filterung sei nicht nötig. Das heißt also, die Plattformen sollen gar nicht erst versuchen, quasi von Hand zu sichten, sondern die Entscheidung, was falsch und was richtig ist an Maschinen abschieben. Das birgt große Gefahr für die freie Meinungsäußerung.

Der Ruf nach Entfernung sinngleicher Inhalte eröffnet zudem ein sprachliches Problem: Eine „miese Volksverräterin“ ist von der Tonlage gehässig und bösartig, doch lassen sich mitunter Formulierungen finden, die sinngleich sind, ohne notwendigerweise ehrenrührig zu sein. Was, wenn das Post Glawischnig als „üble Überläuferin“ beschimpft hätte?

Die Frage nach „sinngleichen“ Äußerungen offenbart den problematischen Kern des Urteils: Wer darüber entscheidet, was sinngleich ist und was nicht, der schwingt sich zum Gericht über die Meinungsfreiheit auf.

Facebook reguliert die Meinungsfreiheit

Diese Aufgabe delegieren wir bereits zu einem erschreckenden Maße an Facebook. Facebook und andere soziale Netzwerke moderieren jeden Tag Millionen an Posts, Videos und sonstiger Inhalte. Die Netzwerke haben sich dafür eigene Regelbücher zurecht gelegt, im Fall von Facebook handelt es sich um die „Gemeinschaftsstandards“.

Der Konzern schiebt damit die gesetzlichen Rahmenbedingungen, welche Inhalte illegal und welche bloß unerwünscht sind, völlig beiseite. Fast alle Löschungen von Inhalten trifft Facebook auf Basis seiner eigenen Regeln. Facebook verbannte etwa weltweit jede Form sexueller Anbahnung von seiner Plattform – ein ungeahnter Eingriff in die Freiheit aller Nutzer:innen.

In der Praxis lagert Facebook die Moderationsarbeit zudem an unterbezahlte Hilfskräfte aus, die in den Philippinen und auch in Deutschland Moderations-Akkordarbeit leisten. Für diese wichtige Arbeit gibt es so gut wie keine Kontrolle von außen.

Einige Moderationsentscheidungen sind so schwierig und umstritten, dass Facebook sogar ein eigenes „Höchstgericht“ geschaffen hat, an das es besonders heikle Fälle auslagern kann. Das beunruhigt Jurist:innen, denn mit seinem „Gericht“ verleiht Facebook seiner de-facto-Rolle, über freie Rede im Netz zu entscheiden, ein Stück mehr Legitimität.

Staaten versuchten sich zuletzt immer wieder an Gesetzen gegen Hass im Netz. Deutschland schuf das NetzDG, dass unter hohen Strafandrohungen die rasche Löschung „rechtswidriger Inhalte“ vorschreibt. Frankreich zog in diesem Sommer nach. Doch beide Gesetze liefern kaum Hinweise, wie Diensteanbieter im Netz ihre Inhalte richtig moderieren sollen. Die Gesetze tun wenig dafür, legitime Meinungen vor ungerechtfertigter Löschung zu schützen.

Der EuGH spricht die Rechtslücke selbst an. Im Urteil heißt es dazu:

Bestehende und sich entwickelnde Unterschiede in den Rechtsvorschriften und der Rechtsprechung der Mitgliedstaaten hinsichtlich der Verantwortlichkeit von Diensteanbietern, die als Vermittler handeln, behindern das reibungslose Funktionieren des Binnenmarktes, indem sie insbesondere die Entwicklung grenzüberschreitender Dienste erschweren und Wettbewerbsverzerrungen verursachen.

Neues EU-Gesetz soll Abhilfe schaffen

Die neue EU-Kommission unter der designierten Präsidentin Ursula von der Leyen könnte Abhilfe schaffen. Die Kommission möchte einen „Digital Services Act“ schaffen, der Plattformen umfassend regulieren soll. Laut einem geleakten Arbeitspapier soll er auch Regeln für die Inhalte-Moderation schaffen. Bisher verlässt sich die Kommission im Kampf gegen Hetze auf einen freiwilligen Verhaltenskodex für die Plattformen.

Das neue Gesetz müssten mehrere Probleme lösen, die sich durch Inhalte-Moderation auf den Plattformen stellen. Es ist ein heikles Manöver, denn der Schutz vor Hass und Hetze darf nicht das Recht auf freie Meinungsäußerung und die Pressefreiheit aushebeln.

Ein EU-Gesetz sollte zum einen sicherstellen, dass die Entscheidungen auf transparente Art getroffen werden und es eine Art gesellschaftlicher Kontrolle über den Prozess gibt. Facebook darf nicht alleiniger Richter für die Meinungsfreiheit sein.

Wie diese Kontrolle sich genau herstellen lässt, ist noch offen. Gedanken gemacht hat sich zuletzt die Grünen-Abgeordnete Alexandra Geese in einem Gastbeitrag für das Handelsblatt. „Der ‚Digital Services Act‘ ist die Chance, europaweit angemessene Beschwerdemechanismen, ordnungsgemäße Verfahren und Rechtsbehelfe einzuführen“, schreibt Geese. Sie bringt etwa die Schaffung unabhängiger Presseräte für heikle Moderationsentscheidungen ins Spiel.

Die Inhaltemoderation sollte nicht an automatisierte Entscheidungssysteme und Filter ausgelagert werden. Facebook-Chef Mark Zuckerberg hat im Vorjahr bei seiner Anhörung im US-Kongress immer wieder die Absicht geäußert, längerfristig alle Moderationsentscheidungen an KI-System auszulagern. Doch besonders die sensible Abwägung in Einzelfällen, ob ein Kommentar oder ein Bild eine Form der freien Meinungsäußerung ist, sollte nicht von Filtern, sondern von Menschen getroffen werden.

Menschliche Moderatoren sollten gut ausgebildet und ausreichend gezahlt werden – das ist von hochprofitablen Konzernen durchaus zu erwarten. Moderationszentren mit Sweatshop-Bedingungen, wie sie Hans Block in der Dokumentation „The Cleaners“ zeigt, sind bizarre Auswüchse eines globalen Konzerns, den scheinbar niemand zur Verantwortung ziehen will.

Am Schluss bleibt ein Kernproblem des heutigen Internets: Facebook, Youtube und andere Plattformen sind kein öffentlicher Raum, sondern gehören den digitalen Großgrundbesitzern des privatisierten Internets. Diese Plattformen spielen als Eigentümer wohl immer eine entscheidende Rolle darin, über Fragen der Netzfreiheit zu entscheiden, solange Milliarden an Nutzer:innen von ihnen abhängig sind.

Die großen, marktdominanten Plattformen können nicht als privat betrachtet werden, solange wichtige Teile der öffentlichen Debatte sich dort abspielen. Nicht zuletzt deshalb tat Facebook zuletzt kund, dass es hetzerische Kommentare von Politiker:innen nicht von seiner Plattform entfernen werden. Wie mit dem öffentlichen Charakter privater Infrastruktur umgegangen werden soll, dafür gibt es allerdings noch keine tragfähigen Konzepte.

Solange wir darauf keine Antwort finden, sei es durch technische Lösungen wie Interoperabilität von Online-Diensten oder sogar neue wirtschaftliche Modelle und kollektive Plattformen, müssen wir weiter gegen die Interessen von Konzernen und die Begehrlichkeiten von autoritären Staaten mühselig um Meinungsfreiheit und gesellschaftliche Mitbestimmung im Internet ringen.

no tracking, no paywall

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Uns fehlen in diesem Jahr noch rund 106.000 Euro zum Erreichen unseres Spendenziels und zur Ausfinanzierung unserer Arbeit in 2019.

Mit Deiner [ Spende ] können wir das schaffen und noch bessere Arbeit machen.

8 Ergänzungen
  1. Zu „Solange wir darauf keine Antwort finden (…) müssen wir weiter gegen die Interessen von Konzernen (…) mühselig um Meinungsfreiheit und gesellschaftliche Mitbestimmung im Internet ringen.“
    die Ergänzung: „…und hin und wieder auch an die Opfer denken, denen diese Anstrengungen ja eigentlich gelten sollen und sie vielleicht hin und wieder auch in Kommentaren dazu erwähnen…“. So unerwähnt erscheinen sie als lästiger, aber scheinbar nicht sehr beachtenswerter Kollateralschaden, obwohl ihnen – oft genug gezielt und absichtsvoll – die Wahrnehmung ihrer Meinungsfreiheit unbezahlbar teuer (weil unerträglich belastend und schmerzhaft) gemacht wird.

    Eine monoperspektische Verengung auf Free Speech-Ansprüche kann auf diese Weise irgendwann mal in der Gesellschaft als egoistisch gesehen werden und plötzlich keine Akzeptanz mehr finden – was dann auch verheerend wäre. Manchmal erinnert es leider ein bisschen an die Waffendiskussion in den USA bei der Abwehr von Verbesserungsvorschlägen, solange sie nicht 110-prozentig perfekt sind (FB darf keine Inhalte einschränken, der Staat darf es nicht, das „Oversight Board“ ist auch nicht recht usw. usf.).
    Aber wer so was sagt, steht natürlich schnell als Befürworter des Totschlagarguments „Zensur“ da :-(

    1. „Free speech“ heißt nicht beliebig frei. Leider ist es mit Zensur schnell zu, da ein vorschnell erstelltes „Regelwerk“ eben auch sehr schnell ermöglicht alles mögliche andere zu verbieten. Deswegen erfordert das Thema viel Genauigkeit, nicht weil hier zwanghafte Pedantencamper ihr Zelt aufgeschlagen haben.

      Bei automatischem Filten, das z.B. um Straftaten erweitert werden soll, ist rein technisch gesehen eine Zensurmöglichkeit gegeben. Greift der Staat nach der „Konfiguration“… es wurden Informationsfreiheitsanfragen wegen des Urheberrechts abgelehnt, wie wird es mit staatlich befüllten Filtern?

    2. Ich finde das einen berechtigte Einwand. Und natürlich ist es nicht einzusehen, dass jemand hetzerische Kommentare erdulden muss. Dennoch oder vielleicht sogar deswegen erwarte ich mir eine Form von gesellschaftlicher Kontrolle darüber, wie Moderation auf den Plattformen stattfindet. Das Oversight Board ist nicht grundsätzlich falsch als Ansatz, aber es ist doch wieder etwas, dass die Firma zu ihrem Vorteil kontrollieren kann.

      1. Hier würde eine wirksame Meldepolitik helfen. Foren zu Software/Spielen haben i.d.Regel genügend Moderatoren, um auf gemeldete Beiträge einzugehen. Die großen Plattformen mit hohem Automatisierungsgrad können das nicht. Wie durch ein Wunder interessiert es die Politik nicht, fachlicher Rat existiert nicht.

  2. Zunächst einmal brauchen wir das klare Bekenntnis der Politik, dass Facebook & Co. heute zentrale Organisatoren der öffentlichen Debatte sind. Sie haben die Bedeutung, die früher große Fernsehanbieter und (im regionalen Raum) Tageszeitungen hatten. Solange dieses positive Bekenntnis fehlt, besteht die Gefahr, dass eine – an sich positive – Regulierung der großen Plattformen zu einem revanchistischem Unternehmen wird. Gerade auf EU-Ebene werden die großen (US-)Anbieter ja als beliebtes Feindbild genutzt.

  3. Vielleicht sollte auch darüber nachgedacht werden, warum es über Facebook so einfach ist, dass die, die beleidigen und zündeln, eine so große Aufmerksamkeit bekommen. Facebooks Geschäftsmodell ist darauf ausgelegt, dass Menschen im Netz aktiv sind und damit spuren hinterlassen. Diese Spuren in Form von Daten bescheren Facebook den ökonomischen Vorteil. Und mit Hass und Pöbeleien bleiben Menschen nun mal länger im Netz. Gepaart mit der Reichweite haben es Schreihälse einfach, Gehör zu finden. Eine Idee wäre Facebooks Macht zu zerschlagen. Insgesamt sollte eine Debatte geführt werden, ob die Aufmerksamkeitsökonomie nicht insgesamt das Problem ist.

  4. Herr Fanta, zur Ihrer Einleitung sei einleitend festgehalten, dass die Causa Glawischnig nichts mit „Hass im Netz“ zu tun hat, sondern mit dem altehrwürdigen Rechtsschutz gegen Ehrabschneidung (Stwt: Ehrenbeleidigung, Kreditschädigung). Zumindest lässt der Urteilstext zu EuGH C-18/18 keine weitergehenden Schlussfolgerungen zu.

    Das ist insofern ein erwähnenswerter Unterschied, als Hass eine völlig subjektive Privatsache ist, dessen Auslösungsmomente nicht wirklich normiert und gemessen werden können. Ein und dieselbe Botschaft kann bei einem Empfänger Genugtuung, bei anderen aber Sorge, Furcht oder sogar Hass auslösen. Jeder Verbrechensbericht ist geeignet, (verständlichen) Hass auszulösen.

    Herabwürdigungen und Beschimpfungen waren bisher immer nur gegenüber Privatpersonen oder privilegierten Gruppen tabu, nicht aber gegenüber Personen von öffentlichem Interesse (mehr oder minder: bei Schauspielern wiegt zB die Privatsphäre schwerer). Zu einer Person des öffentlichen Interesses macht sich auch, wer ein Social Media Account mit hunderten Followern oder mehr betreibt. Man kann sich nicht einer breiten Öffentlichkeit solcherart präsentieren und erwarten, dass das Publikum nur Blumen streut – es sei denn, man versteht sich als „entitled“, als Angehöriger einer Nomenklatura.

    Auch wenn ganz generell die Beschimpfung von Politikern dem sozialen Frieden abträglich ist (die Anhänger werden mitbeschimpft), sei angemerkt, dass die einen taxfrei Politiker oder überhaupt jeden Furz als „Naaaahzi“ und damit nach allgemeinem Verständnis schlechthin als massenmörderisch verunglimpfen können, wohingegen die anderen den Anspruch erheben, als Mimose Berücksichtigung zu finden. Dass bei Frau Glawischnig der Wertungsexzess wieder strenger gehandhabt werden können sollte (vgl OGH Rechtssatz RS0082182 zu 6Ob 1040/95), nur weil sie, nachdem sie jahrzehntelang vom Bürger in ihrer Rolle als Politikerin erhalten worden ist, Parteifunktionen kurz davor zurücklegt hat, erschiene mir auch mehr als hinterfragenswert (ich kenne allerdings die Details des Falles nicht).

    Pikant ist am Fall Glawischnig zudem, dass hier erstmals von der ehemaligen Repräsentantin einer Ideologie, die sich einer universalen Menschlichkeit verschrieben hat (nach Art von: No borders, no wall …), dem Begriff des „Volksverräters“ Gewicht beigemessen wird (obwohl man nicht zugleich die Interessen der gesamten Menschheit als auch die einer Untergruppe davon, mit ihren jeweils spezifischen/konkurrierenden Interessen, vertreten kann). Der Begriff „Volksverräter“ wird üblicherweise mit dem Totalitarismus des NS oder Stalinismus konnotiert, und bisher hat „dank“ sozialistischer Agitation nur der Komplementärbegriff der „Volksverhetzung“, samt Ableitungen davon, Eingang in das westliche Rechtsverständnis gefunden.

    Ich will hier nicht Gehässigkeiten das Wort reden, denn diese sollten sich selbst richten, sofern sie an Stelle von Argumenten zum Einsatz kommen. In den Sozialen Medien moderner Prägung geht es allerdings weniger um Argumente schlechthin, sondern eher um den zwischenmenschlichen Austausch.

    Wer wirklich für Redefreiheit im Netz ist, der möge bedenken, dass aus den obig angeführten Gründen mit Regelungen gegen „Hasspostings“ nur dasjenige vor „Erregung“ geschützt ist, was als Emotionalisierung den Interessen der dominierenden Gewalten in die Quere kommt.

    Es drängt sich, wie bereits von Ihnen angedeutet, auf, dass dieses EuGH-Urteil dem digitalisierten Überwachsungsstaat und damit der Repression durch KI a la VR China Vorschub leistet, und außerdem den Diskurs auf kleineren Plattformen abwürgt, und das alles wegen fehlgeleiteter Prämissen zum Thema „schutzwürdiger Interessen an der Aufrechterhaltung der öffentlichen Ruhe und Ordnung“, oder zum Thema Persönlichkeitsrechte.

    Ich setze meine Hoffnungen jedenfalls auf Plattformen außerhalb des Machtbereiches dieser „Union“.

Ergänzung an tuxi Ergänzung abbrechen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.