Digital Services Act: Wie die EU auf den Facebook-Skandal reagieren könnte

Für Facebook war es keine gute Woche. Erst tritt die Whistleblowerin Frances Haugen an die Öffentlichkeit und gibt den Enthüllungen der letzten Wochen ein Gesicht. Dann fallen nach einem technischen Fehler nicht nur Facebook selbst, sondern auch die Töchter WhatsApp und Instagram stundenlang aus. Vor allem im Globalen Süden, wo die Dienste des Konzerns vielerorts für das Internet an sich stehen, gingen damit die Lichter aus.

Facebook stelle Profite über Menschen, sagte Haugen später vor einem Ausschuss im US-Senat. Sie zitierte aus internen Studien des Unternehmens, die unter den Teppich gekehrt wurden: Facebook wisse, dass seine Dienste zu gesellschaftlicher Spaltung, Gewalt und psychischen Problemen führen können. Der Anbieter wisse auch, was er dagegen tun könne, tue es aus Gründen der Proftimaximierung aber nicht.

Haugen könnte bald nach Europa kommen. Mit dem EU-Digitalkommissar Thierry Breton hat sie bereits gesprochen. EU-Abgeordnete wollen sie ebenfalls persönlich befragen, die Vorbereitungen dazu laufen schon. Nächste Woche soll wohl entschieden werden, ob sie vom Binnenmarktausschuss eingeladen wird, sagt Patrick Breyer, deutscher EU-Abgeordneter der Piratenpartei.

Digital Service Act stärken

Es würde zur rechten Zeit kommen. Die EU bereitet sich gerade auf die Verhandlungen zum geplanten Digital Services Act (DSA, Gesetz für digitale Dienste) vor, der die Macht der großen Internetkonzerne ins Visier nehmen soll. Der Entwurf der Kommission dürfe nun „nicht abgeschwächt“ werden, sagte Breton am Mittwoch in Brüssel.

Dabei sei der Kommissionsentwurf ohnehin „industriefreundlich und unterambitioniert“, sagt der Pirat Breyer. Der Vorschlag setze stark auf Selbstregulierung, etwa bei der Risikoanalyse, bei selbst zu beauftragenden Audits und auf Verhaltenskodizes. Zudem würden viele den Plattformen noch mehr Verantwortung im Vorgehen gegen unerwünschte Inhalte zuweisen wollen, sagt Breyer. Das würde ihre Macht und die damit einhergehenden Probleme „sogar noch verstärken“.

Schon am Montag hatte die federführend am DSA beteiligte Abgeordnete Christel Schaldemose gefordert, die Regulierung sozialer Medien müsse durch demokratisch kontrollierte Institutionen erfolgen. Auch verlangt sie von den IT-Unternehmen mehr Transparenz und Einblick in die Bausteine der Algorithmen. „Nur so können wir eine öffentliche Debatte über die Auswirkungen dieser Algorithmen führen“, sagt Schaldemose.

Große Dienste, wenig Transparenz

Die Kritik an der Blackbox Facebook ist nicht neu, sie gilt auch für alle anderen sozialen Netze. Dafür, dass die Online-Dienste inzwischen einen großen Teil des öffentlichen Diskurses abwickeln, ist über ihre Funktionsweise immer noch zu wenig bekannt. „Eines der Kernziele des DSA ist es, mehr Transparenz und Rechenschaftspflichten für Big Tech zu schaffen, damit keine Whistleblower notwendig sind, um die Plattformen kontrollieren zu können“, sagt der FDP-Abgeordnete Moritz Körner.

Schrauben könnte man etwa am Geschäftsmodell. Dieses verfolgt Nutzer:innen auf Schritt und Tritt und setzt die Informationen ein, um automatisiert möglichst passende Inhalte und Werbeanzeigen einzublenden. Oft handelt es sich dabei um polarisierende Inhalte, weil sie Menschen eher auf den Diensten halten als langweilige. Von Haugen an die Presse geleakte Facebook-Studien zeigen jedoch, dass dies das Selbstwertgefühl von Kindern, die öffentliche Sicherheit und sogar die Demokratie beschädigen kann.

„Wir müssen das gesamte System und das Geschäftsmodell der Tech-Giganten regulieren, das die schnelle Verbreitung von Desinformation und Gewalt ermöglicht“, sagt die grüne Abgeordnete Alexandra Geese. Sie ist Teil einer Gruppe von Parlamentarier:innen, die sich für ein Verbot personalisierter Werbung aussprechen. Ob sich für diesen Vorschlag eine Mehrheit im Parlament findet, bleibt noch offen – die Abstimmung über die finale Verhandlungsposition des federführenden Binnenmarktausschusses ist für Anfang November angesetzt.

Mit an Bord ist der linke Abgeordnete Martin Schirdewan. Für ihn bekämpfen die Entwürfe der Kommission nicht ausreichend das „gefährliche Geschäftsmodell“ von Facebook. „Um Kinder, Jugendliche sowie Erwachsene vor Manipulation zu schützen, benötigt es ein Verbot von Microtargeting und personalisierter Werbung“, fordert Schirdewan. Die Abhängigkeit vom „guten Willen eines Algorithmus“, bei dem stattdessen Profitsteigerung an erster Stelle stehe, müsse beendet werden.

Entflechtung nur bedingt zielführend

Eine Zerschlagung von Facebook sieht Haugen skeptisch, auch in Europa ist eher Abwarten angesagt. Allerdings sieht der zeitgleich mit dem DSA auf den Weg gebrachte Digital Markets Act (DMA) in besonders schweren Fällen von illegaler Ausnutzung der Marktmacht diese Notbremse vor. „Die Aufspaltung von Unternehmen wird derzeit im DMA erneut Aktualität erlangen, allerdings sind die Voraussetzungen natürlich eher streng“, sagt Andreas Schwab.

Der CDU-Abgeordnete ist als Berichterstatter verantwortlich für das Digitale-Märkte-Gesetz im Parlament. Vom Tisch ist das Instrument jedoch nicht, betont Schwab. Unternehmen wie Facebook werden künftig gezwungen sein, die EU-Regeln vollständig umzusetzen, ansonsten seien „strukturelle Maßnahmen“ möglich und zulässig. „Europa wird hier nicht nachgeben“, so Schwab.

Auch Evelyne Gebhard, die für die Sozialdemokraten den DMA mitverhandelt, hat ihre Zweifel. „Um den Einsatz gefährlicher Algorithmen zu verhindern, wäre eine Aufspaltung des Konzerns nicht grundsätzlich zielführend“, sagt Gebhard. Es liege an der Politik, dass klare und strenge Regeln formuliert werden, welche Intention beim Entwurf eines Algorithmus verfolgt werden darf und wie sich eine sinnvolle Kontrolle einrichten lässt.

Profilbildung zurückschrauben

Für Gebhard geht die Kommission in ihrem Vorschlag nicht weit genug. Es genüge nicht, wenn Online-Plattformen ihren Nutzer:innen lediglich alternative Systeme für Empfehlungen anbieten müssen. Stattdessen müsse die Ausgestaltung der Empfehlungsoptionen für Nutzer:innen transparent sein, zudem dürfe standardmäßig kein auf Profiling der Nutzer:innen basierendes System voreingestellt sein.

Außerdem müssten die Plattformen für ihre Algorithmen verantwortlich gemacht werden können, fordert Gebhard. Sie sollten nachweisen, dass ihre Algorithmen nicht gegen Grundrechte verstoßen oder negative gesellschaftliche Folgen haben. „Zur Kontrolle dieser Pflichten müssen neben dem nationalen Koordinator für digitale Dienste auch wissenschaftliche Einrichtungen und ausgewählte Nichtregierungsorganisationen Zugriff auf die Quellcodes erhalten“, sagt die Abgeordnete.

Patrick Breyer von der Piratenpartei hält eine Aufspaltung für unrealistisch, zudem würde sie an den Problemen nichts ändern. „Der richtige Weg ist eine Verpflichtung zur Interoperabilität, so dass die Nutzer nicht mehr auf Gedeih und Verderb der Willkür des Konzerns ausgeliefert sind, um mit ihren Kontakten in Verbindung bleiben zu können“, sagt Breyer. „So hätten Wettbewerber und vor allem datenschutzfreundliche dezentrale Open-Source-Dienste eine echte Chance, die Problemkonzerne abzulösen.“