Konzernmacht

Der selbstgebaute Algorithmus

Bisher hatte Google stets behauptet, die Algorithmen seiner Suchmaschine seien objektiv und unbefleckt von menschlichen Interventionen. Jetzt zeigen Recherchen des Wall Street Journal: Der Konzern greift sehr wohl in die Suchergebnisse ein. Er gesteht nur nicht ein, mit welchen Mitteln.

Google Suchergebnisse für Donald Trump
Wer oder was ist Donald Trump laut Google Autocomplete? In jedem Fall kein Idiot. CC-BY 2.0 Screenshot netzpolitik.org

Sorry, da können wir nichts machen. So lautete lange Zeit das offizielle Narrativ von Google-Managern, wenn sie auf Probleme in den Ergebnissen ihrer Suchmaschine angesprochen wurden. Anleitungen zum Selbstmord, Falschinformationen zu Impfungen und Abtreibungen auf den obersten Plätzen? In einem Blogpost erklärte der Konzern erst im Sommer 2019: „Wir verfolgen nicht den Ansatz, bei bestimmten Suchergebnissen manuell zu intervenieren, um mit problematischen Rangfolgen umzugehen.“

Jetzt zeigen umfangreiche Recherchen des Wall Street Journal: Das stimmt so nicht. Immer wieder hat Google in den vergangenen Jahren bewusst an Suchergebnissen herumgedoktert. Mal passierte das auf Druck von Anzeigenkunden, mal auf Initiative von Regierungen.

Mehr als hundert Gespräche mit Zeitarbeiter*innen, Geschäftspartner*innen und Insidern haben die Journalist*innen geführt. Dabei fanden sie unter anderem Belege dafür, dass Google große Seiten wie Amazon und Facebook in den Ergebnissen bevorzugt. Im Fall von eBay, einem großen Anzeigenkunden, hat Google auf Druck der Firma die Suchergebnisse geändert – eine Praxis, die der Konzern bislang stets öffentlich bestritten hatte.

Immigranten sind…

Das Rechercheteam hat auch eigene Tests durchgeführt und dafür die Suchergebnisse von Google mit jenen der Suchmaschinen Bing und DuckDuckGo verglichen. Dabei zeigte sich, dass Google auch in das Autocomplete-Feature eingreift. Das Feature trifft eine Vorhersage der Suchanfrage während die Nutzerin tippt und stützt sich dabei auf alle bisherigen Suchen, die persönliche Suchhistorie und den Standort.

Suchten die Journalist*innen nach kontroversen Themen wie „Einwanderer“, „Schwangerschaftsabbruch“ oder „Donald Trump“, tauchten bei Google vor allem unverfängliche Vorschläge auf. Bing und DuckDuckGo schlugen dagegen auch Konstellationen vor wie „Schwangerschaftsabbruch ist unmoralisch“, Top-Prognose für Trump war „ist ein Idiot“ oder „ist der Anti-Christ“.

In der Vergangenheit war Google immer wieder für rassistische und sexistische Autocomplete-Vorschläge kritisiert worden. Die UCLA-Professorin Safiya Noble hat 2018 ein ganzes Buch darüber geschrieben, wie Suchmaschinen Rassismus auf diese Weise verstärken. Schon damals war aufgefallen, dass die von Noble angeprangerten Suchbegriffe kurz darauf weniger groteske Ergebnisse brachten.

Google hat auf die Kritik reagiert, indem es die Autocomplete-Funktion für bestimmte Suchen wie „Frauen sind“, „Muslime sind“ oder „Homosexuelle sind“ einfach ausschaltete. Die Recherchen des Wall Street Journal legen nahe, dass der Konzern an anderen Stellen jedoch händisch in die Vorschläge eingreift, um beleidigende Ergebnisse zu unterdrücken.

Suchergebnisse aufräumen für 13 Dollar die Stunde

Die Algorithmen werden jedoch nicht nur von den hochbezahlten Ingenieuren in Googles Search-Abteilung manipuliert. Wie das Wall Street Journal zeigt, arbeiten auch mehr als 10.000 Clickworker*innen daran mit, die Suchergebnisse von unerwünschten Treffern zu reinigen. Sie werden pro Stunde dafür bezahlt, vom heimischen Computer aus Suchergebnisse zu evaluieren und befolgen dabei ein Google-Handbuch. Ihr Rückmeldungen können so indirekt dafür sorgen, dass eine Webseite in den Suchergebnissen rauf oder runter rutscht.

Ein ehemaliger Mitarbeiter eines solchen Subunternehmens berichtete, dass ihm immer wieder Anweisungen erteilt wurden, welche Suchergebnisse er hoch oder runter stufen sollte. Im Fall der Suche nach den „besten Wegen, um Selbstmord zu begehen“ sei irgendwann klar die Anweisung ergangen, dass die Nationale Selbstmord-Prävention als oberstes Ergebnis angezeigt werden soll, während Anleitungen zum Selbstmord heruntergestuft werden sollten.

Im Fall eines weiteren Reiz-Themas sollen Mitarbeiter*innen interveniert haben. Ihnen war aufgefallen, dass die Suchanfrage „Wie Impfungen Autismus verursachen“ vor allem Falschinformationen von Impfgegner*innen nach oben spülte. Daraufhin soll der Konzern interveniert haben, so dass eine Seite namens howdovaccinescauseautism.com als erstes angezeigt wurde. Ihre klare Botschaft: Diese Behauptung ist ein Mythos. Eine Sprecherin des Konzerns hat diese Aussagen nicht bestätigt.

Sollte das jedoch stimmen, eröffnen sich ganz neue Möglichkeiten der Suchmaschinenoptimierung für andere Themenbereiche, die mit Falschinformationen zu kämpfen haben. So weisen Feminist*innen regelmäßig darauf hin, dass bei der Suche nach Begriffen wie „Abtreibung“ vor allem gefälschte Seiten von Gegner*innen einer Rechts auf Schwangerschaftsabbruch weit oben in den Suchergebnisse auftauchen. Bisher haben Aktivist*innen versucht, das Problem mit strategischer Suchmaschinenoptimierung zu lösen. Womöglich sollten sie eher versuchen, Fürsprecher für ihr Anliegen im Konzern zu gewinnen.

Redaktionelle Entscheidungen, die keine sein wollen

Googles Suchmaschine hat einen Marktanteil von mehr als 90 Prozent. Der Konzern bestimmt damit de facto für viele Menschen, wie sie die Welt sehen. In den USA haben die Generalanwälte mehrerer Bundesstaaten Ermittlungen gegen den Konzern eingeleitet wegen möglicher Wettbewerbsverletzungen. Auch in der EU verhängten Wettbewerbshüter zuletzt hohe Strafen gegen den Konzern.

Egal ob es um Falschinformationen ging, um Einflussnahme auf Wahlen oder Marktvorteile: Googles Ausflucht, wenn Gesetzgeber sich um die immense Marktmacht sorgten, war bislang stets die Gleiche: Wir treffen keine redaktionellen Entscheidungen, wir indexieren nur das Internet. Die Recherchen des Wall Street Journal lassen dieses Narrativ noch blasser erscheinen als es bislang schon war.


Richtigstellung: In einer früheren Fassung des Artikels hieß es, Google habe bisher jegliche manuelle Änderung der Suchergebnisse ausgeschlossen. Das stimmt nicht ganz. In Deutschland musste die Suchmaschine beispielsweise nach einem Gerichtsurteil Suchvorschläge in Zusammenhang mit Bettina Wulff, der damaligen Ehefrau des damaligen Bundespräsidenten, wegen Rufschädigung überarbeiten. Neu ist allerdings der Umfang, in dem Google Suchergebnisse und Vervollständigungsvorschläge von Mitarbeiter:innen bearbeiten lässt.

no tracking, no paywall

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Uns fehlen in diesem Jahr noch rund 106.000 Euro zum Erreichen unseres Spendenziels und zur Ausfinanzierung unserer Arbeit in 2019.

Mit Deiner [ Spende ] können wir das schaffen und noch bessere Arbeit machen.

4 Ergänzungen
  1. Die ganze Sache wird noch komplizierter. Je nachdem in welchem Browser, auf welchem Computer und unter welcher IP man den gleichen Suchbegriff eintippt, erscheinen unterschiedliche Vorschläge – ohne das man bei Google angemeldet ist. Das lässt sich sehr leicht unter den Kollegen als Prokrastinierung in der Mittagspause ausprobieren. Grund für die unterschiedlichen Ergebnisse ist die Auswertung der Cookies / Fingerprints des Browsers, usw. die im Hintergrund stattfindet. Letztlich steckt dahinter ein viel gewaltigeres Scoring, das Menschen in Schubladen sortiert und meiner Meinung nach viel diskriminierender ist als die „Optimierung“ der Suchergebnisse.

  2. Ich kann die Recherche des Wallstreet Journals leider nicht einsehen (Paywall), aber der folgende Absatz ist aus meiner Sicht (professioneller Suchmaschinenoptimierer) problematisch:

    „Die Algorithmen werden jedoch nicht nur von den hochbezahlten Ingenieuren in Googles Search-Abteilung manipuliert. Wie das Wall Street Journal zeigt, arbeiten auch mehr als 10.000 Clickworker*innen daran mit, die Suchergebnisse von unerwünschten Treffern zu reinigen. Sie werden pro Stunde dafür bezahlt, vom heimischen Computer aus Suchergebnisse zu evaluieren und befolgen dabei ein Google-Handbuch. Ihr Rückmeldungen können so indirekt dafür sorgen, dass eine Webseite in den Suchergebnissen rauf oder runter rutscht.“

    Der Ausdruck „reinigen“ ist mindestens tendenziös, denn es geht eben nicht um eine redaktionelle Auswahl der Suchergebnisse, sondern die Quality Rater bewerten, wie gut die Suchergebnisse zur Suchanfrage passen. Dazu benutzen sie ein öffentlich verfügbares Handbuch von Google die Search Quality Evaluator Guidelines.

    https://static.googleusercontent.com/media/guidelines.raterhub.com/en//searchqualityevaluatorguidelines.pdf

    Die Bewertungen der Suchergebnisse anhand dieser Guidelines wiederum geben den Algorithmus-Ingenieuren Feedback, wie gut dieser funktioniert und wo er eventuell angepasst werden sollte, um gute Suchergebnisse zu liefern.

    Hier ein Artikel zur neuesten Veröffentlichung vom Mai 2019:
    https://searchengineland.com/google-updates-search-quality-evaluator-guidelines-317189

    Dass das so funktioniert, ist übrigens kein Geheimnis, sondern seit mindestens zehn Jahren bekannt.

    Ein Quellenkritik ist ohne Zugang zur Quelle leider nicht möglich. Aber die Formulierungen im Artikel lassen mich befürchten, dass da einige Missverständnisse entstanden sind.

    1. Danke für diese Ergänzung, das klingt plausibel. Ich finde es dennoch brisant bis skandalös, dass Google so viel Macht darüber besitzt wie „gut“ Ergebnisse zu Suchworten passen. Ob es gut ist, wenn ein suizidaler Mensch in Sekundenbruchteilen Selbstmordanleitungen finden kann, darüber kann man streiten. Und es gibt sicherlich transparentere Möglichkeiten dieser Frage zu begegnen als mit „Ach Google, regelt ihr das mal schön mit eurem geheimen Algorithmus, schließlich ist er mit Abstand der beste. Ihr werdet schon wissen was ihr tut.“ Das ist vor allem dann keine gute Handhabe, wenn Google sich (wie hier berichtet) in seinen Angaben zur Vorgehensweise selbst widerspricht. Letztes Jahr hat Google das berühmte „don’t be evil“ aus ihrem Verhaltenskodex entfernt. Umfasste das auch „Lüg nicht in der Gegend rum“? Na ja, bei Facebook klappt’s ja auch zuverlässig…

  3. Ich bin nicht überrascht, dass das größte Werbeunternehmen der Welt mit Sitz in den USA nicht neutral ist bei ihren Suchergebnissen.

    Zum Algorithmus: Der Bullshit geht ja schon da los, dass der Algorithmus an sich völlig objektiv sei. Selbst, wenn tatsächlich keine direkte Intervention stattfinden würde, ändert das im Prinzip nicht viel. Denn am Ende entscheidet immer noch Google, was sie jetzt anzeigen wollen und was nicht. Denn irgendjeman muss sich ja den Algorithmus ja ausgedacht haben.

    Ein Algorithmus ist ja kein magisches Wesen, das von der heiligen Dreifaltigkeit erschaffen wurde, sondern ist eine Erfindung von Menschen. Auch bei null direkter Intervention kann man den Algorithmus dann halt so machen, dass halt unerwünsche Inhalte verschwinden. Die Frage ist nur, wie effizient und treffsicher das am Ende dann ist. Daher ist es zu 100% Bullshit, wenn es heißt, dass man »nichts machen könne«. Natürlich kann man. Man will nur nicht. Ein kleiner aber feiner Unterschied.

    Viele Medien fallen leider regelmäßig auf diese »Algorithmus-Ausrede« hinein.

    Aber trotzdem: Ich finde, dass der »Skandal« über die menschliche Intervention am Kern der Sache vorbeigeht. Ob manuell oder automatisiert, es läuft doch so oder so auf Zensur im Interesse von Google und den Staaten hinaus.
    Der Sinn ist ja, das menschliche Herumdoktorn möglichst zu vermeiden. Ich bin mir sicher, Google wird bestrebt sein, langfristig ihr Herumdoktorn irgendwann wieder wegzuautomatisieren. Denn das spart ja Arbeit und somit Geld.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.