Digital Services ActWie die EU auf den Facebook-Skandal reagieren könnte

Die jüngsten Facebook-Enthüllungen lassen aufs Neue an der Glaubwürdigkeit des Datenkonzern zweifeln. EU-Abgeordnete wollen die Whistleblowerin Frances Haugen ins Parlament laden, zudem pochen sie auf einen stärkeren Digital Services Act.

Das ohnehin angeschlagene Image von Facebook wurde durch die jüngste Skandalwelle noch weiter beschädigt. – Alle Rechte vorbehalten IMAGO / photothek

Für Facebook war es keine gute Woche. Erst tritt die Whistleblowerin Frances Haugen an die Öffentlichkeit und gibt den Enthüllungen der letzten Wochen ein Gesicht. Dann fallen nach einem technischen Fehler nicht nur Facebook selbst, sondern auch die Töchter WhatsApp und Instagram stundenlang aus. Vor allem im Globalen Süden, wo die Dienste des Konzerns vielerorts für das Internet an sich stehen, gingen damit die Lichter aus.

Facebook stelle Profite über Menschen, sagte Haugen später vor einem Ausschuss im US-Senat. Sie zitierte aus internen Studien des Unternehmens, die unter den Teppich gekehrt wurden: Facebook wisse, dass seine Dienste zu gesellschaftlicher Spaltung, Gewalt und psychischen Problemen führen können. Der Anbieter wisse auch, was er dagegen tun könne, tue es aus Gründen der Proftimaximierung aber nicht.

Haugen könnte bald nach Europa kommen. Mit dem EU-Digitalkommissar Thierry Breton hat sie bereits gesprochen. EU-Abgeordnete wollen sie ebenfalls persönlich befragen, die Vorbereitungen dazu laufen schon. Nächste Woche soll wohl entschieden werden, ob sie vom Binnenmarktausschuss eingeladen wird, sagt Patrick Breyer, deutscher EU-Abgeordneter der Piratenpartei.

Digital Service Act stärken

Es würde zur rechten Zeit kommen. Die EU bereitet sich gerade auf die Verhandlungen zum geplanten Digital Services Act (DSA, Gesetz für digitale Dienste) vor, der die Macht der großen Internetkonzerne ins Visier nehmen soll. Der Entwurf der Kommission dürfe nun „nicht abgeschwächt“ werden, sagte Breton am Mittwoch in Brüssel.

Dabei sei der Kommissionsentwurf ohnehin „industriefreundlich und unterambitioniert“, sagt der Pirat Breyer. Der Vorschlag setze stark auf Selbstregulierung, etwa bei der Risikoanalyse, bei selbst zu beauftragenden Audits und auf Verhaltenskodizes. Zudem würden viele den Plattformen noch mehr Verantwortung im Vorgehen gegen unerwünschte Inhalte zuweisen wollen, sagt Breyer. Das würde ihre Macht und die damit einhergehenden Probleme „sogar noch verstärken“.

Schon am Montag hatte die federführend am DSA beteiligte Abgeordnete Christel Schaldemose gefordert, die Regulierung sozialer Medien müsse durch demokratisch kontrollierte Institutionen erfolgen. Auch verlangt sie von den IT-Unternehmen mehr Transparenz und Einblick in die Bausteine der Algorithmen. „Nur so können wir eine öffentliche Debatte über die Auswirkungen dieser Algorithmen führen“, sagt Schaldemose.

Große Dienste, wenig Transparenz

Die Kritik an der Blackbox Facebook ist nicht neu, sie gilt auch für alle anderen sozialen Netze. Dafür, dass die Online-Dienste inzwischen einen großen Teil des öffentlichen Diskurses abwickeln, ist über ihre Funktionsweise immer noch zu wenig bekannt. „Eines der Kernziele des DSA ist es, mehr Transparenz und Rechenschaftspflichten für Big Tech zu schaffen, damit keine Whistleblower notwendig sind, um die Plattformen kontrollieren zu können“, sagt der FDP-Abgeordnete Moritz Körner.

Schrauben könnte man etwa am Geschäftsmodell. Dieses verfolgt Nutzer:innen auf Schritt und Tritt und setzt die Informationen ein, um automatisiert möglichst passende Inhalte und Werbeanzeigen einzublenden. Oft handelt es sich dabei um polarisierende Inhalte, weil sie Menschen eher auf den Diensten halten als langweilige. Von Haugen an die Presse geleakte Facebook-Studien zeigen jedoch, dass dies das Selbstwertgefühl von Kindern, die öffentliche Sicherheit und sogar die Demokratie beschädigen kann.

„Wir müssen das gesamte System und das Geschäftsmodell der Tech-Giganten regulieren, das die schnelle Verbreitung von Desinformation und Gewalt ermöglicht“, sagt die grüne Abgeordnete Alexandra Geese. Sie ist Teil einer Gruppe von Parlamentarier:innen, die sich für ein Verbot personalisierter Werbung aussprechen. Ob sich für diesen Vorschlag eine Mehrheit im Parlament findet, bleibt noch offen – die Abstimmung über die finale Verhandlungsposition des federführenden Binnenmarktausschusses ist für Anfang November angesetzt.

Mit an Bord ist der linke Abgeordnete Martin Schirdewan. Für ihn bekämpfen die Entwürfe der Kommission nicht ausreichend das „gefährliche Geschäftsmodell“ von Facebook. „Um Kinder, Jugendliche sowie Erwachsene vor Manipulation zu schützen, benötigt es ein Verbot von Microtargeting und personalisierter Werbung“, fordert Schirdewan. Die Abhängigkeit vom „guten Willen eines Algorithmus“, bei dem stattdessen Profitsteigerung an erster Stelle stehe, müsse beendet werden.

Entflechtung nur bedingt zielführend

Eine Zerschlagung von Facebook sieht Haugen skeptisch, auch in Europa ist eher Abwarten angesagt. Allerdings sieht der zeitgleich mit dem DSA auf den Weg gebrachte Digital Markets Act (DMA) in besonders schweren Fällen von illegaler Ausnutzung der Marktmacht diese Notbremse vor. „Die Aufspaltung von Unternehmen wird derzeit im DMA erneut Aktualität erlangen, allerdings sind die Voraussetzungen natürlich eher streng“, sagt Andreas Schwab.

Der CDU-Abgeordnete ist als Berichterstatter verantwortlich für das Digitale-Märkte-Gesetz im Parlament. Vom Tisch ist das Instrument jedoch nicht, betont Schwab. Unternehmen wie Facebook werden künftig gezwungen sein, die EU-Regeln vollständig umzusetzen, ansonsten seien „strukturelle Maßnahmen“ möglich und zulässig. „Europa wird hier nicht nachgeben“, so Schwab.

Auch Evelyne Gebhard, die für die Sozialdemokraten den DMA mitverhandelt, hat ihre Zweifel. „Um den Einsatz gefährlicher Algorithmen zu verhindern, wäre eine Aufspaltung des Konzerns nicht grundsätzlich zielführend“, sagt Gebhard. Es liege an der Politik, dass klare und strenge Regeln formuliert werden, welche Intention beim Entwurf eines Algorithmus verfolgt werden darf und wie sich eine sinnvolle Kontrolle einrichten lässt.

Profilbildung zurückschrauben

Für Gebhard geht die Kommission in ihrem Vorschlag nicht weit genug. Es genüge nicht, wenn Online-Plattformen ihren Nutzer:innen lediglich alternative Systeme für Empfehlungen anbieten müssen. Stattdessen müsse die Ausgestaltung der Empfehlungsoptionen für Nutzer:innen transparent sein, zudem dürfe standardmäßig kein auf Profiling der Nutzer:innen basierendes System voreingestellt sein.

Außerdem müssten die Plattformen für ihre Algorithmen verantwortlich gemacht werden können, fordert Gebhard. Sie sollten nachweisen, dass ihre Algorithmen nicht gegen Grundrechte verstoßen oder negative gesellschaftliche Folgen haben. „Zur Kontrolle dieser Pflichten müssen neben dem nationalen Koordinator für digitale Dienste auch wissenschaftliche Einrichtungen und ausgewählte Nichtregierungsorganisationen Zugriff auf die Quellcodes erhalten“, sagt die Abgeordnete.

Patrick Breyer von der Piratenpartei hält eine Aufspaltung für unrealistisch, zudem würde sie an den Problemen nichts ändern. „Der richtige Weg ist eine Verpflichtung zur Interoperabilität, so dass die Nutzer nicht mehr auf Gedeih und Verderb der Willkür des Konzerns ausgeliefert sind, um mit ihren Kontakten in Verbindung bleiben zu können“, sagt Breyer. „So hätten Wettbewerber und vor allem datenschutzfreundliche dezentrale Open-Source-Dienste eine echte Chance, die Problemkonzerne abzulösen.“

5 Ergänzungen

  1. Transparenz und Interoperabilität könnten Konzepte sein, um die untzertrennbare Monopolsituation zu mildern. Oder man findet heraus, dass es nur schädlich sein kann, dann sollte die Freiheit der Größe dort ganz direkt vorbei sein.

    Was den Konzerncharacter dieser Welt betrifft, so könnte auch versucht werden, auch bilaterale Verträge zu regulieren, dass z.B. Infrastruktur für die Menschen immer getrennt sein muss von anderem. Es darf also nicht „das Internet“ zusammen mit Facebook oder Amazon oder Google verhandelt werden. Das erfordert aber die Form von Einsicht, die der Menschheit eine Existenchance gibt – da sieht es bisher leider recht dünn aus. Den USA ist die Machtmaschine natürlich wichtiger als ein fairer Markt.

  2. Die orchestrierte Demaskierung von Facebook kommt exakt zum richtigen Zeitpunkt. Während Roger McNamee ( https://twitter.com/moonalice ) sich wahrscheinlich einfach freut, dass jemand von innen den Beweis liefert und gleich noch die Steilvorlage für EU-Kom. und US-Senat zugunsten härterer Regulierung statt der Selbstkontrolle von Facebook liefert, warten auf der anderen Seite hunderte Wissenschaftler darauf, an die Wirkprinzipien des Algos zu kommen, um Menschen (nicht nur Teenagern) durch ihre Forschung auch wieder zu Eigenkontrolle ihres Selbst im fremdbestimmten Kontext manipulierter Einbettung (siehe Film Made to measure ) der Vorschlagsmechanismen von Facebook u.a. „sozialen“ Medien zu verhelfen. Nachdem Facebook sich an mehreren Datenforschungsfronten den Wissenschaftlern verweigerte (Links unten) und eher Entwicklern von Spielen offene APIs zur Verfügung stellte, als Forschern, die gegebenenfalls Nutzerschädliches Geschäftsgebahren entdecken könnten, wird es Zeit, den angeblich so unkontrollierbaren und angeblich so intern unverstandenen Algo als das zu erkennen, was er wirklich ist: Verbraucher-unfreundlich auf einer Ebene geistiger Manipulation, die weit über Verhaltenssteuerung hinaus geht und durch spezielle Segmentierungen und Beobachtung/Tracking sich ähnlich verhaltender Nutzer permantent lernt, wie und mit welchen eingeblendeten Inhalten noch mehr Engagement und Verweildauer in ähnlichen Vulnerability-Profilen produziert werden kann. Brittany Kaiser (Ex-Mitarbeiterin Cambridge Analytica) bezeichnete die möglichen Anwendungsszenarien derer sich CA und später Facebook selbst bediente vor dem UK-Untersuchungsausschauss bekanntlich als „Ausfuhr-genehmigungspflichtige Waffe“ – weil die CA-Tools zu dem Zeitpunkt tatsächlich schon Dual-Use-Status für PsyOps hatten. Dabei ist auch nicht zu unterschätzen, dass Facebook selbst Werbekunden das Testing über den Wirkungsgrad verschiedener Anzeigenversionen ermöglicht und so im US-Wahlkampf (2020) noch den „Wirkungsgrad“ der Waffe in den Händen des Werbekunden erhöhte. (Letzter Link) Ausserdem fehlt in dieser Debatte bisher (auch in der Berichterstattung auf netzpolitik.org) ein weiterer entscheidender Aspekt, der bei einer Regulierung durch US- und EU-Gesetzgebung beschnitten und ausgehebelt werden könnte: Die verdeckte Einflussnahme durch Finanzierung von Dark Ad-Kampagnen, die eigentlich transparent als Parteienfinanzierung oder Parteispenden den Quellen dieser Einflussnehmer zuordnenbar gemacht werden sollten, um künftige Kraftungleichgewichte in Wahlkämpfen aller Länder zu gewährleisten und illegale Parteienfinanzierung auszutrocknen. (siehe Peter Kreyslers Doku Wahlkampf undercover mit CA-Nachfolge-Firmen: https://www.youtube.com/watch?v=Ro2XHel83v0 )

    Forschungsvorhaben, in denen sich Facebook nicht kooperativ zeigte:
    https://netzpolitik.org/2019/facebooks-algorithmus-formt-unser-leben-dieser-hacker-will-herausfinden-wie/

    https://netzpolitik.org/2021/intransparente-algorithmen-facebook-blockiert-unabhaengige-analyse-durch-algorithmwatch/

    https://www.nytimes.com/2021/08/10/opinion/facebook-misinformation.html

    Auch eine K.I. kann voreingenommen sein, wenn sie „triggern des Engagements“ lernt: Ein anderer Facebook Data Scientist: „the unavoidable biases that A.I.-based systems often introduce“
    https://www.nytimes.com/2021/10/06/opinion/facebook-whistleblower-section-230.html

    Film Made to measure (über Google, nicht über Facebook, aber sehr aufschlussreich was Profilingprozesse der Schattenprofile angeht):
    https://madetomeasure.online/de/

    Wie Facebook dem Werbekunden die Waffe zum Microtargeting noch verbessert:
    https://www.theatlantic.com/technology/archive/2020/04/how-facebooks-ad-technology-helps-trump-win/606403/

  3. Hier ein Hinweis auf einen spannenden Artikel bei Spon (ja, gelegentlich gibt es sowas tatsächlich) über einen Briten, der mit Hilfe eines selbst geschriebenen Programms seinen News Feed aufgeräumt hat und später das Programm anderen kostenlos zur Verfügung gestellt hat.
    Das liefert einen erschreckenden Eindruck davon, wie FB gegen unliebsame Nutzer vorgeht, aber passt überaus deutlich zu dem, was in den letzten Tagen bekannt geworden ist.

    „Verbotene Browser-Erweiterung. Wie Facebook gegen einen Mann vorgeht, der den News Feed aufräumen wollte. Louis Barclay ist der Erfinder von »Unfollow Everything«. Das Programm leerte den News Feed im Facebook-Konto komplett, was viele Nutzer angenehm fanden. Doch das Unternehmen wollte das nicht akzeptieren.“ https://www.spiegel.de/netzwelt/web/unfollow-everything-wie-facebook-gegen-einen-mann-vorgeht-der-den-news-feed-aufraeumt-a-2362d7aa-297b-4176-aea0-4abdf28405a5#ref=rss

  4. HTTP forwarding http://www.fdp.de PLAINTEXT
    HTTP server signature shield
    Server hostname 47.44.190.35.bc.googleusercontent.com

    Mit einem gugl Skandal! Ganz einfach ! ;)
    Wieso sollen auch alle Daten von Lindners neuen Wählern in die USA von seiner Webseite!!??
    Oder sind die meisten bereits ausgewandert?

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.