UN-Bericht: Unabhängige Aufsicht soll Facebook-Moderatoren auf die Finger schauen

Plattformen wie Facebook und Youtube sollen eine unabhängige Aufsicht über Entscheidungen ihrer Content-Moderation einführen. Staaten sollen Gesetze erwägen, die eine solche Aufsicht vorschreiben. Das fordert ein neuer Bericht des UN-Sonderberichterstatters für friedliche Versammlung, Clément Nyaletsossi Voule.

Der UN-Sonderberichterstatter schickt jährlich einen Bericht an den UN-Menschenrechtsrat. Dieser hat zwar keine direkte Möglichkeit, gegen Missstände vorzugehen, kann sie aber verurteilen oder Mitgliedsstaaten zum Handeln aufrufen.

Facebook und Youtube stehen wegen ihrer Inhalte-Moderation seit einiger Zeit in der Kritik. Den Plattformfirmen wird vorgeworfen, zu wenig gegen die Verbreitung von Hate Speech und Desinformation zu unternehmen. Zugleich kritisieren Menschenrechtsaktivist*innen, dass die Firmen willkürlich und nach eigenen Regeln vorgehen und dabei das Recht auf freie Meinungsäußerung einschränken.

Der UN-Bericht fordert die Firmen auf, Informationen über staatliche Anfragen zu ihren Daten öffentlich zugänglich zu machen. Dazu gehöre sowohl die gesetzliche Grundlage dieser Anfragen als auch die Anzahl oder der Prozentsatz erfüllter Anfragen. Auch Informationen zu Inhalten oder Konten, die die Unternehmen auf Basis ihrer eigenen Richtlinien entfernen, sollen öffentlich gemacht werden. Bisher ist dieser Prozess meist undurchsichtig.

Staaten überwachen mehr und mehr

Von Staaten verlangt der Bericht Transparenz über digitale Überwachung. Diese soll außerdem begrenzt sein. „Individuen und Gruppen sollten benachrichtigt werden, wenn ihre Rechte durch Überwachung verletzt werden, und wirksame Abhilfen sollten garantiert werden“, so der Bericht. Dies wäre in Deutschland zum Beispiel beim Dauerthema Staatstrojaner nicht gegeben.

„Unnötige und unangemessene Überwachungsmaßnahmen haben in der gesamten Welt in den letzten zehn Jahren zugenommen“, schreibt Voule. Dabei werden Australien und das Vereinigte Königreich als Negativbeispiele herausgestellt, unter anderem für Vorschläge, die Verschlüsselung von Messengern zu schwächen. Einen ähnlichen Vorschlag machte vergangene Woche auch Bundesinnenminister Horst Seehofer.

Der Bericht kritisiert auch oft zu weit gefasste Gesetze gegen „Cybercrime“. Diese würden selbst gutwilliges Verhalten kriminalisieren. Ein Beispiel dafür sei die fortgesetzte Festsetzung des schwedischen Entwicklers Ola Bini in Ecuador.

Internetzugang ist für Versammlungen nötig

Voule fordert, dass der Zugang zu Internet und Mobiltelefonie immer aufrechterhalten werden solle. Das müsse auch in Zeiten von Unruhen gelten: „Die Anzahl der Netzwerkunterbrechungen und Social-Media-Bans in Wahlzeiten ist seit 2016 ebenfalls gestiegen, was die Sichtbarkeit und Fähigkeit zur Mobilisierung von Unterstützung von oppositionellen politischen Parteien und sozialen Bewegungen ernsthaft trifft.“ In verschiedenen Ländern, darunter Sudan, Simbabwe oder Algerien, wurde zuletzt nach Anti-Regierungsprotesten das Netz ausgeschaltet.

In Zeiten, in denen das Versammlungs- und Vereinigungsrecht „oft lückenlos online und offline ausgeübt“ wird, soll das Recht auf die friedliche Äußerung von oppositionellen Meinungen in beiden Sphären geschützt werden. Deshalb wird auch die Einführung von Steuern auf Social Media in manchen Ländern kritisiert.

Auch ausgeklügeltere Methoden, die freie Meinungsäußerung online zu beschränken, werden zunehmend genutzt, schreibt der Sonderberichterstatter. Ein Beispiel sei das vom Oman praktizierte Hacken von Twitter-Accounts, mit denen dann oppositionelle Hashtags mit Nonsens geflutet und so unbenutzbar gemacht werden. Das „Frienden“ und Nachverfolgen von Aktivisten sei einer der verschiedenen von Staaten genutzten Techniken der Open-Source-Intelligence. Dazu kämen Attacken mit kommerzieller Spyware zum Beispiel durch Saudi-Arabien, Bahrain, Marokko, Kasachstan oder Mexiko.

Minderheiten brauchen Pseudonymität

Im Visier von staatlichen Angriffen stünden oft Frauen und LBGT-Personen, stellt der Sonderberichterstatter fest. Für diese unterrepräsentierten Gruppen spiele besonders die Pseudonymität im Internet eine große Rolle: „Verschlüsselungstechnologien, Pseudonymität und andere Sicherheitsfeatures haben es Individuen, die zu Minderheitsgruppen gehören, ermöglicht, sich gegenseitig zu finden und Gemeinschaft herzustellen.“

Ein besonders hervorstechendes Beispiel dafür seien #metoo und seine internationalen Ableger. Der UN-Berichterstatter lobt die App Grindr dafür, dass sie zum Schutz von Nutzerinnen und Nutzern in Staaten mit repressiven Gesetzen, zum Beispiel Ägypten, Iran oder Libanon, zusätzliche Sicherheitsfeatures einführte.

Presseräte als Vorbild für Content-Moderation

Auch der UN-Sonderberichterstatter für freie Meinungsäußerung, David Kaye, hatte in einem Bericht letztes Jahr ein Umdenken der Plattformen gefordert: „Unternehmen müssen radikal andere Ansätze zu Transparenz bei allen Stufen ihrer Aktivitäten verfolgen, von der Erstellung von Regeln bis zur Implementierung und Entwicklung von ‚Fallrecht‘ dass die Interpretation von privaten Regeln rahmt.“ Wirksame Einrichtungen zur Selbstkontrolle der Presse, etwa der deutsche Presserat, stellten dabei ein Modell für kommerzielle Content-Moderation dar.