Oversight Board watscht Meta ab: Instagram und Facebook sollen Nippel-Verbot aufweichen

Der Kulturkampf um nackte Oberkörper auf Facebook und Instagram bekommt eine neue Wendung. Grund ist das Meta Oversight Board, eine Gruppe von Forscher:innen, Aktivist:innen und Politiker:innen, die den Konzern in Fragen den Inhaltemoderation beraten sollen. Das Board hat Meta dazu aufgefordert, seine Regeln zu Nacktheit und sexualisierten Inhalten zu überarbeiten. Die Regeln verbieten es mit wenigen Ausnahmen, unbedeckte Brustwarzen auf den beiden Plattformen zu zeigen, allerdings gilt das nur für „weibliche Brustwarzen“.

Die Regeln würden besonders die Rechte von trans und nicht-binären Personen beschneiden, schreibt das Aufsichtsgremium in einer aktuellen Entscheidung vom 17. Januar. Sie würden auf einem strikt binären Verständnis von Geschlecht basierten, das nur männliche und weibliche Körper kennt. Demnach sei unklar, wie sich die Regeln überhaupt auf trans und nicht-binäre Personen beziehen. Moderator:innen seien dadurch überfordert und würden vermehrt falsche Entscheidungen treffen. Das Board fordert Meta auf, seine Regeln so zu überarbeiten, dass sie „internationalen Menschenrechts-Standards“ entsprechen.

Schwammige Regeln, falsche Entscheidungen

Ausgangspunkt für die Entscheidung war der konkrete Fall eines US-amerikanischen Paares, das trans und nicht-binär ist. Für eine Fundraising-Kampagne hatte das Paar auf Instagram Bilder von sich mit nacktem Oberkörper gepostet. Das Geld sollte die Brustentfernung einer der beiden finanzieren. Für trans Personen ist das eine Möglichkeit, um eine möglichst flache Brust zu erreichen. Das Paar hatte zu zwei verschiedenen Anlässen 2o21 und 2022 auf Instagram Bilder mit nacktem Oberkörper gepostet, die Brustwarzen waren dabei abgeklebt oder mit einer Hand bedeckt. Darunter haben sie auf die Spendenseite verlinkt. Instagram hatte beide Posts gelöscht.

Die Überprüfung des Oversight Boards hat dabei ein interessantes Muster offenbart: In beiden Fällen waren die Posts mehrfach als potentielle Verstöße gegen die Regeln für „Nacktheit und sexuelle Handlungen von Erwachsenen“ markiert worden. Das geschah demnach einerseits durch die automatisierten Algorithmen, die auf die Erkennung von Nacktheit trainiert wurden, andererseits durch Nutzer:innen. Die Posts landeten daraufhin mehrfach – in einem Fall fünf Mal – in der Moderationsschleife. Mehrmals hätten menschliche Moderator:innen die Posts zunächst korrekt als erlaubt eingeschätzt und nicht entfernt. Am Ende stand dann aber jeweils eine falsche Entscheidung, die Posts doch zu löschen.

Regeln „in der Praxis unbrauchbar“

Die Community-Regeln von Meta verbieten es, „weibliche Brustwarzen“ zu zeigen, räumen dabei aber Ausnahmen ein. So sind Nippel zum Beispiel erlaubt „im Kontext von Stillen, Geburt, Momenten nach der Geburt oder in einem medizinischen oder gesundheitlichen Kontext“. Explizit erwähnen die Regeln hierbei Sensibilisierung für Brustkrebs oder eine geschlechtsangleichende Operation.

Nach außen hin nennt Meta dazu keine weiteren Details. Wie kompliziert und überspezifisch dagegen die internen Anweisungen an die Moderator:innen sind, offenbart Meta in seinem eigenen Statement an das Board: Demnach seien „unbedeckte weibliche Brustwarzen erlaubt bevor die Person ihre Brüste operativ entfernen lässt, wenn der Inhalt in einem explizit Frau-zu-Mann transgender, nicht-binären oder geschlechtsneutralen Kontext geteilt wird.“ Die Regeln besagen außerdem: „Brustwarzen von Mann-zu-Frau-Transgender-Frauen, die sich einer Brustvergrößerung unterzogen haben, sind verboten, es sei denn Narbenbildung über der Brustwarze ist vorhanden.“

Diese Ausnahmen auf die Moderation anzuwenden, sei bei der Masse an täglichen Entscheidungen „in der Praxis unbrauchbar“, schreibt das Board. Moderator:innen müssten im Alltag nach sichtbaren Narben auf den Bildern suchen, um feststellen zu können, ob ein Inhalt erlaubt ist oder entfernt werden muss.

Absurde Unterscheidungen

Trans-Verbände und Aktivist:innen weisen außerdem daraufhin, dass eine Einteilung von einzelnen Körperteilen in zwei Geschlechter an sich schon problematisch ist. So sagt Gabriel_Nox Koenig vom Bundesverband Trans*: „Es gibt keinen Unterschied zwischen sogenannten ‚weiblichen‘ und ‚männlichen‘ Nippeln. Die Zensur sogenannter ‚weiblicher‘ Nippel basiert auf sexistischen Narrativen.“ Wie absurd die Unterscheidung sei, zeigten auch schon die Formulierungen, die Meta nutzt, um die Nippel von trans und nicht-binären Personen in manchen Fällen zu erlauben und in anderen zu zensieren. „Wenn es tatsächliche Unterschiede gäbe, würden diese ermöglichen, eindeutige Kriterien aufzustellen. Dies ist aber nicht der Fall.“

Auch Sigmond Richli vom Transgender Network Switzerland sagt: „Diese Anweisungen sind widersinnig.“ Eine „weibliche Brustwarze“ in einem „Frau-zu-Mann-Kontext“ sei ja gerade nicht die Brustwarze einer Frau, sondern eines Mannes. Meta zeige, dass es trans Menschen nicht in ihrem zugehörigen Geschlecht respektiert, wenn die Brustwarzen eines trans Mannes vor einer Brust-OP als ‚weiblich‘ eingestuft werden und nicht-binäre Menschen in ein binäres System einordnet werden müssten.

Laut Koenig ist auch das Kriterium der Narbenbildung zur Bewertung nicht geeignet. Nicht alle trans Menschen haben nach einer Brustoperation sichtbare Narben, „da nicht bei allen Operations-Methoden Narben entstehen bzw. Narben je nach OP-Methode sehr klein und kaum zu sehen sein können.“ Einige trans Menschen wollen auch gar keine geschlechtsangleichenden Operationen.

„Diese Debatte sollte beendet werden“, fordert Koenig. „Und zwar durch das Ende einer Zensur von Nippeln – egal zu welcher Person sie gehören.“

Wie unzulänglich die Regeln an dieser Stelle sind, stellt auch das Board fest, wenn es schreibt:

„Diese Richtlinie basiert auf einer binären Sicht von Geschlecht und einer Unterscheidung zwischen männlichen und weiblichen Körpern. Ein solcher Ansatz macht es unklar, wie die Regeln für intersexuelle, nicht-binäre und trans Menschen gelten, und verlangt von den Moderator:innen, schnelle und subjektive Bewertungen von biologischem und sozialem Geschlecht vorzunehmen, was bei der Moderation von Inhalten in großem Maßstab nicht praktikabel ist.“

Nicht-bindende Empfehlungen

Das Oversight Board besteht aus externen Fachleuten und wurde 2020 gegründet, um mindestens dem Anschein nach unabhängig über die Moderations-Entscheidungen des Konzerns zu urteilen. Kritiker:innen sehen das Aufsichtsgremium jedoch vor allem als PR-Coup von Meta.

Die Entscheidungen des Boards sind für Meta bindend. Es ist das einzige Gremium, das Mark Zuckerberg überstimmen kann. In diesem Fall hat die Entscheidung des Boards jedoch keine direkten Auswirkungen. Meta hatte die beiden betreffenden Instagram-Posts ohnehin schon wieder freigeschaltet und die Löschentscheidungen als „Fehler“ bezeichnet – allerdings erst, nachdem das Oversight Board den Konzern um ein Statement gebeten hatte.

Wie Meta mit den darüber hinausgehenden Empfehlungen des Boards umgeht, ist ihm überlassen. Das Board empfiehlt: „Klare, objektive und die Rechte achtende Kriterien für den Community-Standard für Nacktheit und sexuelle Handlungen Erwachsener zu definieren, damit alle Menschen in Übereinstimmung mit internationalen Menschenrecht-Standards und ohne Diskriminierung aufgrund des Geschlechts behandelt werden.“ Meta sollte außerdem die Leitlinien für die Moderation überarbeiten und auch für Nutzer:innen klarer formulieren, anhand welcher Regeln über Posts entschieden wird, in denen trans und nicht-binären Personen Nacktheit zeigen.

Meta hat nun 60 Tage Zeit, sich öffentlich zu den Empfehlungen zu äußern. Eine Presseanfrage ließ der Konzern bis zur Veröffentlichung unbeantwortet. Der britischen Zeitung Guardian sagte Meta, man begrüße die Entscheidung des Gremiums. „Wir entwickeln unsere Richtlinien ständig weiter, um unsere Plattformen für alle sicherer zu machen. Wir wissen, dass mehr getan werden kann, um die LGBTQ+-Community zu unterstützen, und das bedeutet, dass wir mit Experten und LGBTQ+-Lobbyorganisationen an einer Reihe von Themen und Produktverbesserungen arbeiten.“

Freie Oberkörper für alle

Die Auseinandersetzungen um nackte Brustwarzen auf Facebook und Instagram laufen seit über zehn Jahren. Anfangs waren es vor allem stillende Mütter, die sich mit teils spektakulären Aktionen dagegen wehrten, dass jede Darstellung der Brust von cis Frauen als sexualisierter Inhalt betrachtet wurde. Später hieß die Kampagne #freethenipple, nach einem gleichnamigen Dokumentarfilm. Auch Prominente wie Miley Cyrus und Rihanna posteten damals Bilder mit nacktem Oberkörper, um sich zu solidarisieren. Der Fokus lag allerdings auf der Diskriminierung weißer cis Frauen.

Die aktuelle Entscheidung verschiebt die Debatte und zeigt, wie die Regeln zu Nacktheit nicht nur cis Frauen betreffen, sondern auch solche Menschen, die gar nicht in das binäre Raster passen, das den Regeln zugrunde liegt. Zwischen den Zeilen der Berichts liest man auch eine Frage: Sollten nicht alle Menschen das gleiche Recht haben, ihren Oberkörper zu zeigen?

Koenig weist allerdings darauf hin, dass eine trans oder nicht-binäre Identität nicht der einzige Faktor ist, der bei Moderationsentscheidungen eine Rolle spielt. „Wie Algorithmen, Content-Prüfer*innen, und Nutzer*innen von Social Media auf Fotos reagieren, hängt immer auch von der intersektionalen Verortung der abgebildeten Personen ab. Da spielen weitere Diskriminierungsverhältnisse wie Rassismus, Behindertenfeindlichkeit, Lookismus bzw. Fatshaming eine große Rolle.“ So berichteten dünne, weiße, nicht-behinderte Personen weniger oft von gelöschten Posts oder gesperrten Accounts, beobachtet der Bundesverband. Ob die Diskussion bei Meta sich nun tatsächlich in eine produktive Richtung verschiebt, lasse sich aus der Entscheidung des Boards nicht ablesen.