Facebooks Löschregeln: „Asylanten raus“ ist erlaubt, „Muslime raus“ ist verboten

Auszüge aus Facebooks geheimen Löschregeln sind öffentlich geworden. Es fällt auf: Der Zensur- und Moderationsleitfaden des Unternehmens ist kompliziert und manchmal schwer nachzuvollziehen – wir geben einen Überblick.

Symbolbild Facebook. Foto: CC-BY 2.0 Janitor

fb-loeschregeln001

Dem Magazin der Süddeutschen Zeitung (SZ) ist es gelungen, erstmals ein detailliertes Bild zu zeichnen, wie die Moderation bei Facebook funktioniert. Schon vor einigen Wochen waren einige Details bei Mobilegeeks beschrieben worden, welche die SZ-Reportage nun bestätigt.

Wer als Commercial Content Moderator bei einem Unternehmen wie Arvato angestellt ist und für Facebook moderieren soll, der bekommt ein Regelwerk vorgelegt, wie er zu zensieren hat. Teile des Regelwerks hat die SZ nun veröffentlicht. Wir haben Facebooks interne Löschregeln mal aus der Klickstrecke bei der Süddeutschen befreit – und geben hier den Überblick.

fb-loeschregeln002

Laut den Recherchen der SZ gibt es bestimmte geschützte Kategorien wie Geschlecht, Religionszugehörigkeit, nationale Herkunft, geschlechtliche Identität, Rasse (Race), Ethnizität, sexuelle Orientierung sowie Behinderung oder Krankheit. Nimmt man nun eine dieser Kategorien und verbindet sie mit einem Angriff, ist dies laut Facebook Hate Speech. Dabei ist wichtig: Die Religion oder das Land darf man beleidigen, nicht jedoch die Anhänger einer Religion oder die Bürger eines Landes.

Daraus ergibt sich zum Beispiel, dass „Scheiß Christen!“ verboten, aber „Alle Taxifahrer sind Arschlöcher“ erlaubt ist. Oder dass „Deutsche sind Abschaum“ gelöscht wird, aber „Deutschland ist Abschaum“ erlaubt ist.

fb-loeschregeln003

Die geschützten Kategorien lassen sich zudem verknüpfen. Verknüpft man zwei geschützte Kategorien (PC), bleiben sie geschützte Kategorien. Verknüpft man eine geschützte Kategorie mit einer ungeschützten Kategorie (NPC), wird daraus eine ungeschützte Kategorie. Im Beispiel von Facebooks Schulungsunterlagen sind „Irische Frauen“ geschützt, aber „Irische Teenager“ nicht. Man darf bei Facebook also nicht sagen: „Norwegische Männer sind der letzte Dreck“, es ist aber erlaubt zu sagen: „Norwegische Bäcker sind der letzte Dreck“.

fb-loeschregeln005

Hier werden Beispiele genannt, welche Kombinationen erlaubt sind. „Franzosen sind Alkoholiker“ wird gelöscht, aber „Asylanten raus“ oder „Ich hasse Flüchtlinge“ sind erlaubt. Die SZ schreibt, dass Flüchtlinge (Migrants / Refugees) in Reaktion auf die deutsche Hate-Speech-Debatte als „teilweise geschützte Kategorie“ eingestuft sind. So erklärt sich, dass hier die Härte der Beleidigung in die Löschentscheidung einfließt und ein gewisser Grad an Hetze gegen diese Gruppe erlaubt ist.

fb-loeschregeln006

Diese Regel sagt aus, dass man Privatpersonen (im Gegensatz zu Personen des öffentlichen Lebens) nicht aufgrund ihres Aussehens oder Persönlichkeit in eine Rangliste stecken darf. A ist schöner als B ist schöner als C. Auch nicht erlaubt ist, Bilder von Privatpersonen zu posten und zu fragen: „Wer ist intelligenter/schöner – A oder B?“

 

fb-loeschregeln008

Facebook unterscheidet zwischen Privatpersonen und Personen des öffentlichen Lebens (public figures). Als Personen des öffentlichen Lebens zählen bei Facebook:

  • Politiker ab Bürgermeister aufwärts,
  • Menschen, die mehr als 100.000 Fans/Follower in einem Social Media Account haben,
  • Menschen, die bei einem Sender oder einer Publikation angestellt sind, um öffentlich zu schreiben oder sprechen,
  • Menschen, die mit Namen im Titel oder Untertitel in mindestens fünf Artikeln oder anderen Medienstücken in den letzten zwei Jahren genannt wurden.

fb-loeschregeln007

In diesem Regelausschnitt geht es laut SZ um Fotos von Selbstverletzungen. Diese sind erlaubt, wenn nicht zum Nachahmen aufgerufen wird.

fb-loeschregeln009

Verboten ist hingegen, Menschen in verletzender Weise beim Urinieren, Menstruieren, Erbrechen oder Koten zu zeigen. Hierbei ist jedoch die jeweilige Bildunterschrift und der Kontext wichtig.

fb-loeschregeln010

Diese Fotos hingegen sind erlaubt, da kein verletzender Text gegeben ist. Diese Einordnung reicht nach deutschem Recht allerdings nicht: Die Frage ist hier natürlich auch, ob das „Recht am eigenen Bild“ gewahrt wird. Poste ich selber ein Bild, wie ich pinkelnd am Straßenrand stehe – oder postet dies ein Passant ohne mein Wissen. Facebook bietet hier die Funktion, dass man Bilder melden kann, die einen selbst zeigen, die man aber nicht selbst hochgeladen hat.

fb-loeschregeln011

Bei Personen des öffentlichen Lebens hingegen darf immer gezeigt werden, wenn sie öffentlich menstruieren, urinieren und so weiter. Vorausgesetzt natürlich, dass nirgendwo ein Geschlechtsteil sichtbar ist.

Es wäre natürlich interessant, wenn das gesamte Regelwerk bekannt würde, weil dies mehr Transparenz in das marktbeherrschende soziale Netzwerk bringt. Wie immer freuen wir uns über Einsendungen von Dokumenten über die üblichen Kanäle.

Update:
Ich habe die Überschrift von Facebooks Löschregeln: „Asylanten raus“ ist erlaubt, „Christen raus“ ist verboten auf Facebooks Löschregeln: „Asylanten raus“ ist erlaubt, „Muslime raus“ ist verboten geändert. Der erste Titel konnte den Eindruck erwecken, dass Facebook in eine bestimmte politische Richtung zensiert. Das geht aber aus den hier gezeigten Leitfäden gerade nicht hervor.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

28 Ergänzungen

  1. Sehe ich das richtig, dass sich der Teil bis zum Thema Fotos, ziemlich mit den Definitionen in § 130 StGB (Volksverhetzung) deckt? Das sind zumindest annähernd die selben Parameter, nach denen auch ich Beiträge vor dem Hintergrund §130 melde. Nicht selten auch erfolgreich. – Oder übersehe ich da etwas?

    1. Die Kritik verstehe ich nicht, denn das ist ja real so, dass Facebook auf diese Weise auf der Plattform zensiert. Wenn du natürlich den Titel als „Asylanten raus ist erlaubt, Christen raus ist verboten“ liest, dann sähe das anders aus….

  2. Der Titel ist ziemlich irreführend. Er liest sich so, als ob Facebook mit seinen Regeln eine ganz bestimmte politische Meinung durchsetzen wollte (die, die hierzulande so ungefähr von Pegida vertreten werden könnte). Darum geht es aber gerade nicht. „‚Asylanten raus‘ ist erlaubt, ‚Muslime raus‘ ist verboten“ – mit diesem Titel würde sehr viel besser klar, worum es Facebook eigentlich geht.

    1. Ja, da haste einen Punkt. Wollte mit dem Titel nicht aussagen, dass Facebook in eine bestimmte politische Richtung moderiert. Ich ändere die Überschrift mal.

    2. Facebook nicht, aber unsere herrschende Klasse. Deshalb arbeiten ja auch deutsche Dientleister für Facebook zu. Facebook passt sich an……nichts neues. Facebook entwickelt auch Zensur Software um z.B wieder in China erfolgreich auftreten zu dürfen…..wir wissen ja Zuckerberg ist ein China Fan.

  3. Wer sich für jegliche, wie auch immer geartete Zensur im Internet einsetzt, hat den Sinn und Zweck des Internets nicht verstanden. Erst werden andere Meinungen unterdrückt, dann werden die, die immer noch anderer Meinung sind, eingelocht und danach werden Kriege für „Führer, Volk und Vaterland“ angezettelt. Zur Zeit wird gerade von den „Demokraten“ behauptet, die Hacker des Vladimir Schurkin (Name qPress entnommen) hätten ihnen die Wahlen verloren, kein einziger Beweis, nur Behauptungen. Derartigen Unsinn sollen wir uns gefallen lassen.

    Nebenbei, Frau Kanzlerins Gäste sind nicht meine Gäste. Wen ich einlade, bestimme ich selbst. Das sehen offenbar viele genauso.

    1. Meiner Meinung gilt das Grundgesetz für dich nicht, daher gehörst du zwangsenteignet und ausgewiesen. Und jetzt? Was willst du gegen meine Meinung tun?

    2. Das Problem für viele ist, sie wollen freies Internet aber wenn dann auch darüber z.B. Opiate verkauft werden ist schluss mit freiem Internet dann wird der Staat gefordert.

      Mir kommen die Menschen eher wie Träumer vor, im Reallife mag man es nicht sehen aber spätestens im Netz bekommt man den Spielgel der Gesellschaft vorgehalten.

      1. Und über das Telefon kann man wohl keine Opiate kaufen? Und wie werden die Opiate geliefert? DHL verbieten!!111

  4. Das erklärt, warum die so krasse Probleme mit dem Erkennen von Volkserhetzung haben – Holocaust-Leugnung lässt sich mit so einem simplen Schema schwer greifen. Erst Recht in 8 Sekunden.

  5. Jede Kultur tickt anders. In den USA gibt es eine Bewegung von Frauen, die ihr Blut einfach fließen lassen – auch wenn die weiße Couch dann rote Flecken bekommt. Und die Spur sich durch das ganze Wohnzimmer zieht. Tibetische Mönche reagieren mit Gleichmut, wo andere schockiert wären. Und schockieren selbst mitunter die Welt. Doch was hatte die Weltöffentlichkeit auch in Tibet zu suchen?

    Und wieso dürfen Personen des öffentlichen Lebens öffentlich beschämt werden? Das sind doch die Vorbilder, die nachgeamt werden.

  6. Jemand mit Facebook-Account zugange?

    Detlef Adolf Braukmann:
    https://www.facebook.com/photo.php?fbid=957750394317653&set=a.592928390799857.1073741826.100002481056581

    Filmszene aus Schindlers Liste, dort schiesst Amon Göth, ein österreichischer
    SS-Hauptsturmführer und Kommandant des Konzentrationslagers Plaszow
    wahllos auf Insassen im KZ.
    https://www.youtube.com/watch?v=FcyLRTB9fRY&feature=youtu.be

    Ist sicherlich voll okay, freie Meinungsäußerung und so.

  7. Hey,
    eine Anmerkung: anders als der Begriff ‚race‘ kann das deutsche Wort ‚Rasse‘ nicht auf Menschen angewendet werden. In den Diskursen ist es ueblich ‚race‘ zu verwenden. Wäre super, wenn ihr das aendert. Danke

  8. Facebook steuert ohnehin auf die Pleite zu. In
    http://www.spiegel.de/netzwelt/netzpolitik/facebook-fake-news-gegenmassnahmen-und-berichte-ueber-arvato-arbeitsbedingungen-a-1126157.html
    wird behauptet (könnte natürlich eine fake news sein), daß „in Berlin rund 600 Menschen mit dem Löschen von Facebook-Beiträgen beschäftigt“ seien, zu einem Hungerlohn von brutto 1500€ pro Monat. Und jetzt rechne ich mal: Das wären monatliche Bruttolohnkosten von 9 Mio, dazu kommen weitere Personalkosten (Arbeitgeberanteile etc), Aufwand für Räume und Arbeitsplatzausstattung, Verwaltung des Ganzen usw. Ich setze mal 20Mio Aufwand pro Monat, also 240 Mio pro Jahr an. Wenn man nun weiter annimmt, daß der Teil der Welt, in dem Facebook eine ähnliche Mitgliederquote an der Bevölkerung hat wie hierzulande, insgesamt 2 Milliarden Menschen umfaßt, dann wäre das etwa das 25fache der deutschen Bevölkerung, und somit wäre für Facebook der Aufwand für eine entsprechende Zensurinfrastruktur weltweit etwa das 25fache des deutschen, also der genannten 240 Mio, und das kommt auf 6 Milliarden € pro Jahr. Ich kenne die Finanzen des Unternehmens nicht, aber ich schätze mal, mit diesem Betrag ist der Gewinn so einigermaßen aufgezehrt.

    Laut dem genannten SpON-Artikel „gebe [es] von Facebook die Vorgabe, dass täglich 1850 Tickets – also Meldungen – pro Person abgearbeitet werden sollen. Tatsächlich würden die Angestellten aber eher auf 800 Tickets pro Tag kommen.“ Die Anwendung der hier geschilderten Regeln auf einen konkreten Fall soll also nach Vorgabe in etwa 16 Sekunden erfolgen, real dauert es 36 Sekunden.
    Dazu paßt aus
    http://www.faz.net/aktuell/wirtschaft/facebook-hass-und-recht-14577821.html
    die Aussage eines gewissen Herrn Maas zur Entscheidungsfindung, „ob eine Meinungsäußerung rechtmäßig oder rechtswidrig ist“: „Der für Grundrechte zuständige Bundesjustizminister selbst hatte eingeräumt: Eine Soforteinschätzung ist juristisch unmöglich.“

    Das einzige, was mich hinsichtlich dieser und auch anderer Dinge, kurz: des Gesamtzustandes dieser Welt, noch interessiert, ist die Frage, ob es aus diesem Irrenhaus noch einen Ausgang gibt, oder ob ich mich bereits als Insassen einer geschlossenen Anstalt betrachten sollte.

    1. Du solltest Dich als Insasse einer geschlossenen Anstalt betrachten. Es gibt keinen Ausgang aus dieser Welt – oder willst Du Dich etwa, wie John Glenn, in den Weltraum schießen lassen?

    2. … aufgrund der Struktur von FB, haben totalitäre Staaten ein Interesse daran, das FB „am Leben“ bleibt!
      … „to Big to Fail“ findet hier Anwendung … und auch Deutschland, wie auch andere demokratisch geführte Länder, ist sicher bereit für die Dienste einen angemessenen Beitrag an FB zu zahlen!

  9. ich schrieb, darauf bezogen bei Web.de:
    „also darf ich sagen: Facebook ist Scheiße!“
    Dafür bekam ich eine Abmahnung!

  10. Wer Facebook nutzt ist selbst schuld. Die Geheimdienste dieser Welt begrüßen sich morgends mit einem „high five“ und lachen dann noch 2 Stunden weiter über die Dummheit der Menschheit die gesammelt in den diverse Sozialen Netzwerken unterwegs sind. Wer meint er müssen sich mitteilen, der soll sich doch mal auf einen Markplatz mit einem Megaphon stellen und erzählen was er so gestern alles tolles gemacht hat. Keine zwei Minuten und es fliegen die ersten Tomaten. Im Netz sieht man die Tomaten so schlecht fliegen, sofern man keine Komentarfunktion nutzt. Und wenn doch, dann wird halt zensiert. So eine Zeitverschwendungen an Lebenszeit. Geht an die Luft und redet mit echten Menschen und lasst das kack Handy einfach mal zu Hause. Das ist die Pest. Wenn man lange keine Bahn gefahren ist und dann durch die Abteile geht sieht man es erst wenn man selbst nicht mit dem Ding in der Hand durch die Gegend läuft wie verstrahlt die Menschheit doch ist. Ich glaube der Handy-Nacken wie ich Ihn liebevoll nenne, wird in den nächsten 50 Jahren diverse neue Krankheitsbilder erzeugen…
    /satire off

    1. Tja, das Internet ist Böse und hat es ermöglicht, einer ganzen Generation von kleinen Narzissten ( https://de.m.wikipedia.org/wiki/Narzissmus ) „groß“ raus zu kommen!
      Wenn du in dieser Hinsicht eine Umfrage bzw. einen passend aufbereiteten „IQ-Test“ ins „Netz“ stellst, kannst du eine Menge an labilen, gewaltbereiten oder ähnlich veranlagten Personen heraus Filtern … diese können dann entsprechend nachrichtendienstlich konditioniert und entsprechend eingesetzt werden … z.B. als Attentäter … „Gelegenheitsmörder“ und ähnliches … diverse Dienste rekrutieren schon so ihre Mitarbeiter!

      Aber hey … alles nur „VT“, aber „VT“ is‘ schee!

    2. Vollkommen richtig! Es interessiert keinen Menschen wie meine Verdauung war, außer vielleicht meinen Arzt – und der läßt sich dafür bezahlen. ;)

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.