Julia Angwin und Hannes Grassegger haben für ProPublica einen detaillierten Blick in Facebooks Löschkataloge geworfen und sind der Entstehung des Regelwerks nachgegangen. Die gezeigten Folien im Artikel sind denen vom Süddeutschen Magazin im Dezember 2016 veröffentlichten inhaltlich sehr ähnlich. Zusammen mit den vom Guardian veröffentlichten „Facebook Files“ ergeben sie mittlerweile ein recht genaues Bild, was bei Facebook gelöscht wird und was nicht. Gleichzeitig zeigt der Artikel, dass die Regeln immer komplexer werden, immer mehr Ausnahmen erhalten und oftmals auch nicht-intendierte Auswirkungen haben.
Grundsätzlich gilt: Bei Facebook gibt es bestimmte geschützte Kategorien wie Geschlecht, Religionszugehörigkeit, nationale Herkunft, geschlechtliche Identität, Rasse (Race), Ethnizität, sexuelle Orientierung sowie Behinderung oder Krankheit. Nimmt man nun eine dieser geschützten Kategorien und verbindet sie mit einem Angriff, zum Beispiel einen Aufruf zu Gewalt, ist dies laut Facebook Hate Speech. Und wird gelöscht.
Werden Teilmengen (Subsets) der geschützten Kategorien wie „Französische Kinder“ oder „Lesbische Bäckerinnen“ Ziel von Angriffen, dann greift Facebooks Hate-Speech-Regel nicht. Die geschützte Kategorie bleibt nur geschützt, wenn sie mit einer geschützten Kategorie verknüpft wird. Das führt zu der skurrilen Situation, dass „Schwarze Kinder“ bei Facebook schlechter geschützt sind als „Weiße Männer“. Das belegt eine Folie, die ProPublica veröffentlicht hat (siehe Aufmacherbild oben).
Die Idee dahinter ist, dass alle gleich vor Hate Speech geschützt sind und Facebook sich ein konsistentes Regelwerk geben will, nach der die Moderatoren weltweit gleich entscheiden können. In der Realität können durch die Regeln allerdings benachteiligte Gruppen schlechter geschützt sein. Das kritisiert auch Juraprofessorin Danielle Citron gegenüber ProPublica. Der Ansatz von Facebook schütze Menschen, die es am wenigsten brauchen und nicht diejenigen, die es wirklich nötig hätten. Facebook-Managerin Monika Bickert erklärt dies damit, dass die Regeln global gelten sollen und Menschen überall auf der Welt verschiedene Ansichten hätten, was zum Teilen in Ordnung wäre.
ProPublica verweist im Artikel auf andere interessante Beispiele: Ein US-Senator, der zur Tötung „radikalisierter Moslems“ aufruft, bleibt unzensiert. Eine „Black Lives Matter“-Aktivistin, die allen weißen Menschen Rassismus vorwirft, wird gelöscht. Gleichzeitig hat zum Beispiel Donald Trumps Kampagne, muslimische Einwanderung zu verbieten, gegen die vorliegenden Richtlinien von Facebook (Protected Category + Calling for Exclusion) verstoßen. Als dies Facebooks Mitarbeiter durchsetzen wollten, wehrte sich Mark Zuckerberg persönlich gegen die Löschung.
Löschregeln werden komplexer
Facebook Löschregularien wurden mit der Zeit immer komplexer. Im Jahr 2008 sollen sie nur eine Seite umfasst haben, berichtet ProPublica. Im Jahr 2013 umfasste das Regelwerk schon 15.000 Wörter, es ist heute die Grundlage der Löschpraxis des Unternehmens. Auf der anderen Seite verlässt sich Facebook aber auch auf Informationen des US-Außenministeriums, etwa wenn es darum geht zu definieren, wer eine Terror-Organisation ist. Dann wieder gibt es geheime Listen, welches so genannte „Hate Organisations“ sind, die gebannt werden.
Mit wachsendem Umfang des Regelwerks stiegen auch die Ausnahmen an. Ein bekanntes Beispiel ist die ikonografische Fotografie des Napalm-Mädchens, das wegen Nacktheit von Facebook gelöscht wurde – und nach Protesten von Chefredakteuren und Ministerpräsidenten zu den Ausnahmen hinzugefügt wurde.
Diese Art der Ausnahmen kritisiert Kate Klonick, die sich mit Zensur bei Technologiefirmen beschäftigt, gegenüber ProPublica. Die Beispiele zeigten, dass Prominente, Staatschefs und wichtige Leute überproportional die Regeln von Facebook verändern könnten.
Zum komplexen Löschkatalog von Facebook werden sich nach Verabschiedung des Netzwerkdurchsetzungsgesetzes auch noch „offensichtlich rechtswidrige Inhalte“ gesellen, über die das soziale Netzwerk richten werden muss, wenn es denn keine Bußgelder kassieren will.
Auszug aus dem Löschkatalog (geschützte Kategorien):
