Claudio Agosti lacht. Eben hat er beim Kunstfestival Transmediale in Berlin auf der Bühne erzählt, wie Facebook funktioniert. Er hat darüber gesprochen, wie das soziale Medium seine Algorithmen webt, um Menschen wie Fliegen in sein Netzwerk zu ziehen. In seinem melodischen italienischen Akzent hat Agosti in den Saal hineingefragt, wer hier eine Wette abschließen wolle, ob Facebook fair mit seinen User:innen umgehe?
Agosti wartet nicht ab, er gibt gleich selbst die Antwort: „Die Wahrheit ist: Dabei würde niemand gewinnen. In einem System der Unterdrückung ist man der Entscheidung anderer unterworfen.“ Er grinst verstohlen. Das unberechenbare Spiel der Algorithmen, ihre Macht über die Psyche ihrer Milliarden Nutzer – für Agosti ist das ein köstlicher Scherz.
Die Frage, welche Macht Technik über uns hat, beschäftigt Claudio Agosti, 39 Jahre alt, Glatze und breites Kreuz, sein halbes Leben. Er stammt aus der Nähe von Mailand und lebt in Berlin. Welche Bezeichnung man für Agosti wählt, ob man ihn einen Hacker nennt, einen Datenschutz-Aktivisten oder kritischen Forscher, das ist eigentlich egal. Agosti weiß vermutlich mehr über die Wirkungsweise des Facebook-Algorithmus als irgendjemand sonst, der nicht daran mitprogrammiert hat.
Vor zehn Jahren fragte Agosti sich erstmals, wie Algorithmen uns beeinflussen. Damals habe er bemerkt, dass Google seine Suchergebnisse immer stärker personalisiere. Aus einem Standard an Ergebnissen, der für alle gleich ist, wird eine Filterblase, die uns immer enger in ihre Welt einschließt, fürchtet er.
„Algorithmen entscheiden für dich, was wichtig ist“, sagt Agosti. Das stört ihn, der sich selbst das programmieren beigebracht hat, der es gewohnt ist, Technik zu beherrschen. „Um frei zu sein, sollte ein Individuum volle Kontrolle über diese Logik haben.“ Ein einfacher, aber radikaler Gedanke.
Seit 2016, dem Jahr des Wahlsiegs von Donald Trump, arbeitet Agosti an seinem wohl ambitioniertesten Hack: Er möchte den Facebook-Algorithmus knacken.
Facebook steuert die Nachrichtenauswahl im Newsfeed. Der Algorithmus entscheidet, welche Posts Nutzer:innen sehen und welche nicht. Seine Priorität ist dabei, Menschen möglichst lange auf Facebook zu halten – und ihnen dabei Werbung zeigen zu können. Facebook verdient mit dem Newsfeed Milliarden. Wie der Konzern das genau macht, ist sein bestgehütetes Geschäftsgeheimnis.
Agosti will verstehen, wie das soziale Netzwerk seine Nutzer:innen mit Inhalten füttert. Etwa, warum Facebook manchen Menschen mehr Nachrichten aus dem rechten Spektrum anzeigt, anderen mehr linke.
Der Italiener möchte zeigen, wie viel Einfluss Facebook auf unser Denken hat. Ein interessanter, ein Jahr nach dem Cambridge-Analytica-Skandal schon fast logischer Gedanke. Doch funktioniert das auch?
Scrollen bis zu Lösung
Das Projekt des Italieners nennt sich facebook.tracking.exposed, kurz fbTrex. Tausende Facebook-User:innen installierten bereits eine Browser-Extension, die Agosti selbst entwickelt hat.
Das im Webbrowser versteckte Programm liest mit, wenn der oder die Teilnehmer:in Facebook durchscrollt. Es ignoriert private Einträge von Freundinnen und Freunden, sammelt aber alle öffentlichen Posts, die den Leuten angezeigt werden. Jedes Mal, wenn jemand seine Timeline aufruft, gewinnt Agostis Projekt mehr Daten.
Ihren Nutzerinnen und Nutzern verrät die Software, wie oft ihnen Posts einer bestimmten Seite oder Gruppe angezeigt werden. Das helfe dabei, die eigene Filterbubble auszumessen, sagt Agosti.
Die Daten der öffentlichen Posts gibt die Browser-Extension an das Projekt weiter. Agosti will damit Stück für Stück erfahren, nach welchen Prinzipien Facebook den Newsfeed personalisiert. Das Verhalten des Algorithmus soll seine Wirkungsweise erschließen.
Das Projekt hat freilich klare Beschränkungen. „Das Ziel ist es nicht, ein Reverse Engineering des Algorithmus zu machen“, sagte Agosti auf dem Kongress des Chaos Computer Clubs in Leipzig, einem der größten Hackertreffen in Europa . „Das versuchen wir nicht, denn es ist unmöglich, die Komplexität der dahinterstehenden Variablen zu erraten.“ Er wolle aber zeigen, dass der Algorithmus seine eigenen Ziele verfolgt.
Ein Beispiel: Im Newsfeed wechseln sich Posts mit Videos und Bilder mit reinem Text ab. Die Rate, mit der sich Inhalte mischen, sei bei den von ihm beobachteten Nutzern recht stabil, sagt Agosti. „Durch Anzeichen wie dieses merkten wir, dass Facebook […] die Bestandteile wie Primärfarben mischen kann, um eine nuancierte Palette zu kreieren.“
Facebook ändert den Algorithmus immer wieder im großen Stil. Im Januar 2018 kündigte Firmenchef Mark Zuckerberg an, künftig dem „bedeutungsvollen Austausch“ mit Freund:innen und Familie stärkeres Gewicht zu verleihen als Nachrichten. Zuckerberg reagierte damit auf Vorwürfe, sozialen Medien seien Verbreiter von Fake News und Desinformation.
Er habe die Algorithmusänderung in seinen Daten deutlich sehen können, erzählt Agosti. Facebook habe die Rate von Bildern zu Videos und Text angepasst. Auch seien mit einem Mal viel mehr unterschiedliche Quellen in die Newsfeeds gespült worden. „Ich beobachtete im Sommer 2018, dass vielen Nutzenden überraschenderweise eine größere Auswahl von Inhalten in ihrer Timeline angeboten wurden.“
Welche Quellen Nutzer zu sehen bekommen, verdeutlicht ein Bericht der Social-Media-Analysten der Firma NewsWhip: Im Jahr nach der Algorithmusänderung erhielt der rechte US-Sender Fox News weltweit das meiste Engagement, also das intensivste Interesse von Nutzer:innen. Die Themen der beliebtesten Geschichten: Tote Prominente, Abtreibung, Trump.
Verstärkt der Algorithmus solche Inhalte? fbTrex möchte eine Antwort darauf bieten. Sein Projekt sei für ihn nicht anders als vor zwanzig Jahren, als er das erste Mal damit begann, Computer auseinanderzunehmen, sagt Agosti. „Wem gehören die Daten, wer kontrolliert das Wissen? Es ist immer derselbe Kampf, nur mit verschiedenen Gesichtern.“
Von Verliesen und Drachen
Agosti kämpft schon lange, wenngleich nicht immer auf der selben Seite. Sein Handwerk hat er sich selbst beigebracht. „Mein Universitätsstudium habe ich nach ein paar Monaten aufgegeben, das war 1999“, schreibt der heute 39-Jährige in einer Mail. „Ich lernte im IRC[-Chat] so viel mehr von meiner Hacker-Crew, s0ftpr0ject.“ Auf dem Lehrplan: Wie man Computerviren schreibt und Netzwerke hackt.
Ende der 1990er wird Agosti Teil der italienischen Nerdszene. Leute dort kennen ihn bis heute als Vecna, der Name eines Bösewichts aus dem Rollenspiel Dungeons & Dragons.
Der Uni-Abbrecher schließt sich HackingTeam an. Die 2003 in Mailand gegründete Firma verkauft Überwachungssoftware. Geleakte Emails enthüllten Jahre später, dass HackingTeam auch für autoritäre Regime wie Saudi-Arabien und den Sudan arbeitete.
Er dringt für HackingTeam in fremde Computersysteme ein, um Sicherheitslücken aufzudecken, erzählt er. Er macht Penetrationstests von Netzwerken, analysiert Systeme. „Dabei kam ich in der harten Realität an“, sagt er heute.
Seine damaligen Chefs schätzen seine Kompetenz. „Claudio, ich habe deine außergewöhnlichen technischen Fähigkeiten und auch die Breite deiner Skills nie unterschätzt!“, schreibt Firmengründer David Vincenzetti in einer geleakten E-Mail.
Agosti selbst hat nicht an den dreckigen Deals im Auftrag der Regime gearbeitet. Er habe bloß vom ersten Überwachungssoftware-Prototypen für den italienischen Markt gewusst, sagt er. Trotzdem hatte er ethische Bedenken an seiner Arbeit, erzählt er heute, Unbehagen darüber, mit der Unsicherheit anderer Geld zu verdienen. Bald verlässt Agosti HackingTeam wieder.
Als 2015 tausende interne E-Mails von HackingTeam bei Journalisten und Wikileaks landen, sind auch zahlreiche Mails von Agosti dabei. Das stört ihn aber nicht. Das Leak sei im öffentlichen Interesse gewesen, schreibt er im Techmagazin Gizmodo. Der Schaden für ihn und die Firma sei kleiner als der Vorteil, den die Gesellschaft von dem Leak habe.
Hacktivismus für digitale Rechte
Nach dem Ausstieg bei HackingTeam verschreibt Agosti sich der guten Seite. Nutzerinnen und Nutzer sollen die Software, mit der sie viele Stunden ihres Lebens verbringen, selbst kontrollieren können, sagt er heute. Das müsse ein digitales Menschenrecht werden.
Der Hacker wird zum Aktivisten. Agosti hilft bei der Gründung von Hermes Center, einem Verein für digitale Menschenrechte und arbeitet dort an GlobaLeaks, einer Open-Source-Software für die sichere und anonyme Kommunikation mit Whistleblower:innen.
Er ist außerdem Mitglied bei Diem25, der vom griechischen Ex-Finanzminister Yanis Varoufakis gegründeten politischen Bewegung. Dort schreibt er an einem Papier über die „Demokratisierung von Technologie und Innovation“ mit.
Es bleibt viel zu tun. Denn auch nach Jahren an Arbeit kann Agosti nur in Ansätzen erraten, wie Facebook seinen Newsfeed gestaltet. Agostis Ergebnisse können dennoch Erstaunen bewirken. Etwa darüber, wie viele Posts Facebook vor seinen User:innen verbirgt.
Was Facebook vor uns versteckt
Auch wenn ein Nutzer hunderte „Freunde“ hat und dutzenden Seiten folgt, sieht er nur einen kleinen Teil von deren Inhalten. Bis zu vier Fünftel aller Posts von Freunden, Freundinnen und gefolgten Seiten kommen nicht in den Newsfeed eines Nutzenden, schätzt Agosti.
„Das unsichtbare Kuratieren von Inhalten“ nennt das ein Bericht der World Wide Web Foundation auf Basis von Agostis Daten. In Versuchsreihen etwa seien bestimmte Nachrichtenartikel überhaupt nie gezeigt worden, obwohl sie von Seiten geteilt wurden, denen die Proband:innen folgten. Dem fielen in dem Versuch etwa Artikel über die argentinische Protestbewegung #NiUnaMenos zum Opfer, die sich gegen Morde an Frauen richtet.
Facebook hat angekündigt, Nutzer:innen über einen Button namens „Warum sehe ich diesen Post“ mehr Kontrolle darüber zu geben, was sie sehen und warum. Ihnen sollen die konkreten Gründe genannt werden, warum ein Post in der Timeline aufscheint. Sie sollen außerdem die Möglichkeit haben, etwas genauer zu steuern, was sie sehen und was nicht.
Facebook will also einige seiner Selektionskriterien offenlegen, aber keine volle Transparenz herstellen. Einige Kriterien blieben außen vor, gaben Konzernlobbyist:innen bei einem Gespräch mit der EU-Kommission im April zu.
Agosti hält das für ungenügend. Transparenz bedeute, alle Selektionskriterien zu zeigen und auch offenzulegen, warum ein Post nicht im Newsfeed angezeigt werde. Was Facebook ankündige, sei schlecht. „Das Tool ist nicht dazu da, mehr Kontrolle zu geben, sondern es drängt User dazu, noch mehr Zeit in die Plattform zu investieren.“
Nächster Stopp: Youtube
Seine Arbeit am Facebook-Algorithmus ist für Agosti nur der Anfang. In seinem „tracking.exposed manifesto“ kündigt er an, auch den vielgescholtenen Empfehlungsalgorithmus von Youtube untersuchen zu wollen. Er wolle auch dort ans Tageslicht bringen, wie Nutzer:innen von großen Firmen im Netz überwacht, in Profile gepresst und durch Algorithmen beeinflusst werden, schreibt Agosti.
Der Italiener ist mit seinem Projekt inzwischen an der Universität Amsterdam angedockt, es erhält zudem etwas Geld von der Europäischen Union.
Agosti möchte seine Arbeit fortführen, solange Facebook seine Algorithmen nicht offenlegt. Die Öffentlichkeit habe ein Recht darauf, zu verstehen, wie Algorithmen uns und unsere Gesellschaften im Stillen formen. Solange diese Mechanismen nicht verstanden würden, könne es auch keine politische Lösung für die Probleme geben, die sie schaffen, sagt Agosti.
Für ihn geht es ums Ganze: Die Freiheit des Menschen muss auch in den Algorithmen verteidigt werden.
Ich finde die Aussage interessant das der Algorithmus hier die Inhalte von einem Rechten Sender wie FOX stärker streut als z.B. andere Inhalte. Ist hier möglicherweise Zuckerberg bzw. Facebook am weltweiten Aufstieg der Rechtspopulisten mit verantwortlich ?
Auch der Camebridge Analytica Skandal deutet ja in diese Richtung. Schließlich haben die illegal weiter gegebenen Daten rechts gerichteten Wahlkämpfern geholfen.
Natürlich gibt es hier keine einfachen Antworten. Zumal ja nur wenige direkt politische Äußerungen von Zuckerberg bekannt sind. Aufgrund der Intransparenz von Facebook lassen sich hier nur Vermutungen aufstellen. Dennoch ist es beunruhigend wie viel Macht ein Konzern wie Facebook hätte sollte er insgeheim die Nachrichten/Propaganda von demokratiefeindlichen Gruppen bevorzugt an seine Nutzer ausliefern.
Denn dies liese sich dann im Gegenzug zu direkter Propaganda sehr leicht verschleiert umsetzen ohne das es für die Öffentlichkeit tatsächlich wirklich nachvollziehbar wäre.
> „Um frei zu sein, sollte ein Individuum volle Kontrolle über diese
> Logik haben.“ Ein einfacher, aber radikaler Gedanke.
So radikal ist das nicht. Für mich ist das im Kern das gleiche wie freie Software: Ich als Nutzer bekomme volle Kontrolle über die Software, die ich verwende. Sei es auf meinem Rechner oder auf dem Rachner Dritter (Neudeutsch: „in der Cloud“).
Das kann alles nicht überraschen. Die Politik hat viel zulange tatenlos zugeschaut. In der Zwischenzeit machten Facebook & Co. was sie wollen. Dieses Rad wieder zurückzudrehen dürfte schwierig werden.
Vor kurzem hat sich der Verbraucherzentrale Bundesverband eingeschaltet und fordert Zulassungspflicht für gefährliche Algorithmen.
http://preschau.com/index.php/41359-zulassungspflicht-fuer-gefaehrliche-algorithmen
Da werden Google & Co. ordentlich lachen. Deutschland, noch nicht mal die EU, wird die Oberherrschaft von Facebook, Google brechen können
Die EU könnte aber Facebook zwingen mal die Sourcecodes gegenüber einem parlamentarischen Kontrollgremium offen zu legen. Selbst Microsoft musste gegenüber staatlichen Stellen Einsicht in den Sourcecode gewähren. Die durch die Analyste gewonnen Erkentnisse könnte man dann überprüfen und gegebenenfalls in den Gesetzgebungsprozess bzw. zur Debatte an die Öffentlichkeit zur Verfügung stellen. Ist ja nicht so das Facebook hier machen könnte was es will. Die EU kann ja bei Nicht Kooperation durchaus Milliadenstrafen verhängen die auf Facebook sich nicht aus der Portokasse leisten kann.
D.h ist das eine Frage des politischen willens und der scheint eben zu fehlen.
Praktisch kein Benutzer koennte mit der Offenlegung des Codes etwas anfangen, ganz davon abgesehen, dass dieser Code erst mit Auswertung riesiger Datenmengen irgendwelche statistischen Entscheidungen trifft.
Die Frage ist doch eher: warum lassen sich Leute von einem de facto Unbekannten ihre allgemeine Informationsversorgung und damit ihre Weltsicht kuratieren? Noch dazu von jemandem, dessen Partikularinteresse in Aufmerksamkeit, Profilbildung und deren Verwertung besteht? Und wie bringt man die Leute dazu, sich davon eben nicht ihr Leben in Unmuendigkeit formen zu lassen?
Auch ohne Betrachtung der Datenbasis kann, sofern der Quellcode bekannt ist, u.a. nach Mechanismen Ausschau gehalten werden, die definierten Inhalten mehr Gewicht verleihen.
Die normalen Medien sind genauso Unbekannte wie Facebook es ist. Dass sich dabei mehrheitlich eine Weltsicht abgeholt wird, ist zu bezweifeln. Dafür ist der Mix zu mannigfaltig und die Welt insgesamt zu komplex.
BTW Es muss nicht jeder mit dem Code arbeiten. Es reicht, wenn das die Fachleute erledigen. Und davon gibt es Millionen.
Ich kann nur für mich reden, wie verwundert ich bin, wie viele es einer ausschlieslich gewinnorientierten Company überlassen, welche Nachrichten/Informationen sie zu Gesicht bekommen.
Facebook zum Spass, zur Gruppenkommmunikation, Gruppenorganisation, für Katzenbilder und ähnliches; kann man machen, wer es möchte. Aber für die tägliche Informationsgewinnung? Echt?