Frances HaugenWas die Facebook-Whistleblowerin der EU rät

Frances Haugen enthüllte in den „Facebook Papers“, was der Konzern wirklich über Desinformation auf seiner Plattform wusste. Im EU-Parlament sprach sie darüber, was die EU gegen die Verfehlungen ihres früheren Arbeitgebers unternehmen kann.

Frances Hauges
Facebook-Whistleblowerin Frances Haugen in Brüssel – Alle Rechte vorbehalten IMAGO / Belga

Die frühere Facebook-Mitarbeiterin und Whistleblowerin Frances Haugen hat sich den Fragen von EU-Abgeordneten gestellt. Bei einem Besuch in Brüssel am heutigen Montag hat sie über ihre Enthüllungen gesprochen, die seit ein paar Wochen ihren früheren Arbeitgeber unter Druck setzen. Dabei antwortete Haugen auch auf Fragen danach, wie die EU ihr geplantes Digitale-Dienste-Gesetz anpassen kann, um soziale Netzwerke transparenter zu machen und die Verbreitung von Hetze und Desinformation auf diesen einzuschränken.

Die Enthüllungen Haugens hatten in den vergangenen Wochen weltweit für Schlagzeilen gesorgt. Durch Dokumente, die die frühere Facebook-Mitarbeiterin dem Wall Street Journal und später anderen Medien zugespielt hatte, wurde etwa belegt, dass Facebook Millionen von Promis von seinen Regeln ausnimmt – ein Privileg, das von Figuren wie Donald Trump missbraucht wurde. Hinweise auf Sonderregelungen für Prominente wurden schon früher, auch durch Recherchen von netzpolitik.org, bekannt.

Die Berichte, die auf Dokumenten und Aussagen Haugens beruhen, sind inzwischen als die Facebook Papers bekannt. Aus ihnen geht unter anderem hervor, dass Facebook über Hetze und Gewaltaufruhe gegen muslimische Minderheiten in Indien Bescheid wusste, aber nichts unternahm. Oder dass das Unternehmen trotz interner Alarmsignale über die rasante Ausbreitung von Verschwörungserzählungen im Vorfeld der US-Wahl 2020 passiv blieb.

Facebook bestreitet die Vorwürfe Haugens. Dass Facebook aus Profitgründen absichtlich Inhalte verbreite, die Menschen wütend machen, sei „zutiefst unlogisch“, heißt es in einer Erklärung des Konzerns, der sich kürzlich in Meta umbenannte. Es sei nicht im Interesse Facebooks, seinen Nutzer:innen schädliche Inhalte zu zeigen.

„Facebook ist weniger transparent als andere Plattformen“

Der Verteidigungslinie Facebooks trat die Whistleblowerin in Brüssel entschieden entgegen: „In Wahrheit ist nicht die Frage, ob etwa bewusst so designt wurde, um diese Dinge zu bewirken, sondern warum etwas nicht geändert wurde, nachdem die Effekte klar wurden.“

Haugen wirft Facebook vor, seit Jahren über die schädlichen Wirkungsweisen seiner Algorithmen Bescheid zu wissen. Doch der Konzern lasse Forscher:innen bewusst nicht mit seinen Daten arbeiten, um das zu verheimlichen. „Facebook ist wesentlich weniger transparent als andere große Plattformen“, sagte Haugen, die bei Facebook für das Aufspüren von Desinformation zuständig war.

Eine der Hauptbotschaften Haugens in Brüssel war die Warnung vor Algorithmen, die Inhalte auf Basis von „Engagement“ verstärken. Als Engagement werden Interaktionen mit einem Facebook-Post bezeichnet, etwa Likes und Kommentare. Wenn dies als Kriterium gelte, um den Nutzer:innen Inhalte verstärkt in ihren Newsfeed zu spülen, dann fördere das überproportional polarisierende Inhalte. Das habe Facebook-Gründer Mark Zuckerberg selbst 2018 im US-Kongress eingestanden, aber nicht danach gehandelt, sagte Haugen.

Der Konzern müsse für problematische Entwicklungen endlich Verantwortung übernehmen und „systematische Änderungen“ an den Algorithmen vornehmen, die Einfluss auf die Verbreitung von Nachrichten haben. Als Beispiel nannte Haugen, dass die Weiterverbreitung von bestimmten Inhalten eingeschränkt werden solle. Auch müsste die Moderation von geschlossenen Gruppen verstärkt werden, da dort viel Desinformation verbreitet werde.

Das soziale Netzwerk müsse wieder stärker auf Posts von Freunden und der Familie konzentriert werden, weg von polarisierenden politischen Inhalten. Auch zeigte sich Haugen skeptisch über Behauptungen Facebooks, Moderationssysteme könnte mit Hilfe Künstlicher Intelligenz (KI) viele der von ihr angesprochenen Probleme lösen. KI sei mit komplexen Aufgaben fast immer überfordert, sagt die Whistleblowerin.

Spöttisch äußerte sie sich zu der Namensänderung Facebooks zu „Meta“ und der Ankündigung, sich intensiv der Entwicklung einer virtuellen Realität namens Metaversum zu widmen. „Die Tatsache, dass die sich 10.000 zusätzliche Entwickler:innen für Videospiele leisten können, aber keine 10.000 Leute für die Sicherheit ihrer Plattform, ist unverschämt“, sagte Haugen.

EU-Kommissar: Lobbying gegen neue EU-Regeln „nutzlos“

In Brüssel nahm Haugen auch zu einem neuen EU-Gesetz Stellung, mit dem soziale Netzwerke wie Facebook stärker reguliert werden sollen. Das EU-Parlament verhandelt schon seit einigen Monaten über seinen Entwurf für das Digitale-Dienste-Gesetz. Abgeordnete wie die Grüne Alexandra Geese und der Linke Martin Schirdewan hatten nach Bekanntwerden der Facebook Papers ihre Forderung erneuert, personalisierte Werbung zu verbieten und damit ein Geschäftsmodell zu ändern, welches die Verbreitung polarisierender Inhalten nur befeuere.

Auf diese Forderung wollte Haugen sich im EU-Parlament nicht festlegen, sie sprach sich allerdings für ein Verbot von Dark Patterns aus, also Design, dass Nutzer:innen in für sie nachteilige Entscheidungen hineindrängt. Auch befürwortet sie, die Wirkungsweise von Facebook und seine Design-Entscheidungen unabhängigen Untersuchungen durch eine breite Personengruppe zu öffnen. Die Vorschläge der EU, soziale Netzwerke einmal im Jahr zu einer unabhängigen Prüfung ihrer System zu verpflichten, gingen nicht weit genug.

Als Vorbild lobte Haugen Twitter, dass einer breiten Gruppe von interessierten Personen aus Universitäten, NGOs und unabhängigen Forscher:innen Zugang zu Daten gewähre. Dadurch entstehe ein „Ökosystem“ an Menschen, die kritische Analyse und Lösungsvorschläge für Probleme produzierten.

Hingegen warnte Haugen vor Ideen des EU-Parlaments, Presseinhalte von der Inhaltemoderation der Plattformen auszunehmen. Das führe zu erhöhter Gefahr, dass diese Medienausnahme für gezielte Desinformation ausgenutzt werde.

Recht klar positionierte sich die Whistleblowerin bei der Frage der Grünen-Abgeordneten Geese, ob die EU die Umsetzung ihres Digitalen-Dienste-Gesetzes nationalen Behörden überlassen oder eine eigene, EU-weite Aufsicht für große Plattformen schaffen solle. Es gebe nur ein paar hundert Expert:innen auf der Welt, die genügend Einsicht in die Probleme einer Plattform wie Facebook hätten und die nötigen Empfehlungen machen könnten. Schon deshalb sei es problematisch, die Aufsicht an unterschiedliche Einrichtungen zu verteilen. „Ich bin besorgt, dass wenn diese Funktion auf 27 Mitgliedsstaaten übertragen wird, dann fehlt die kritische Masse“ an Expertise auf Behördenseite, argumentierte Haugen.

EU-Digitalkommissar Thierry Breton drängte nach einem Treffen mit Haugen darauf, das Digitale-Dienste-Gesetz alsbald zu verabschieden. Die verstärkten Lobbybemühungen dagegen seien „nutzlos“, sagte Breton. Die EU werde nicht zulassen, dass „Konzerninteressen die übergeordneten Interessen der europäischen Bevölkerung beeinträchtigen“.

2 Ergänzungen

  1. Auf der Website von Deutschlandfunk erschien gerade ein Artikel von Marcus Schuler über Frances Haugen, der darlegt, dass es sich bei ihren Auftritten um eine ausgefeilte PR-Kampagne handelt, die u.a. von Tech-Milliardären unterstützt wird.

    Man könnte damit den Eindruck bekommen, dass Frau Haugen gar nicht Whistleblowerin im klassischen Sinne ist, sondern hier im Konkurrenzkampf zwischen verschiedenen Konzernen bzw. deren Eigentümer*innen eine Rolle spielt.

    Vielleicht soll auch ihr Push für mehr, aber sehr selektive Regulierung verhindern, dass die Konzerne zerschlagen werden – was ein weitaus stärkerer und sinnvollerer Schritt wäre, als nur einzelne Regulierungen, die zwar bestimmte Vorgehensweisen von z.B. Facebook verbieten/einschränken würden, aber das Grundgeschäft – die Ausbeutung von Daten, Profilerstellung usw. – und die Missbrauchsmöglichkeiten durch die Politik (Zensur, Nachrichtenfilterung) keineswegs unterbinden würden.

    1. Ehrlicherweise überrascht mich das nicht. Auch Edward Snowden war mit Techfirmen alliiert: https://web.archive.org/web/20210314193638/https://pando.com/2013/12/30/rentacops-on-desktops-edward-snowdens-dangerous-dismissal-of-surveillance-valley/

      Siehe auch, dass der „Intercept“, eine Zeitung von Pierre Omidyar immer gerne über die Fehler von großen Firmen wie Facebook berichtet und die Washington Post (von Jeff Bezos) über andere große Firmen – nur eben nicht über Amazon.

      Ehrlich gesagt ist das irgendwie eine gute Sache, da es beweist, dass es in der modernen Tech-Welt mehrere Machtzentren gibt.

      Oft wurde das Wirken der Demokratie auch als das geballte Zusammentreffen von starken Kräften beschrieben.

      Natürlich könnte noch weiter gegangen werden, aber das wäre für diese eine Ergänzung zu lang und zu politisch.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.