Algorithmen Allmächtig? Freiheit in den Zeiten der Statistik

Überwachung durch Geheimdienste ist nur eine der Bedrohungen für Bürgerrechte. Der Versuch, mit Hilfe von Big Data Verhalten vorherzusagen, um Risiken zu minimieren und Geld zu sparen, ist ebenso gefährlich: Menschen könnten sich so ihrer Freiheit berauben.

Dieser Gastbeitrag von Kai Biermann erschien zunächst als Vortrag auf der Tagung „Algorithmen Allmächtig?“ am 2. Juli 2014 in Erfurt sowie auf seinem Blog. Wir veröffentlichen ihn mit freundlicher Genehmigung.

Was hat Statistik, was haben Big Data und Algorithmen mit Freiheit zu tun? Lassen Sie mich Ihnen dazu eine wahre Geschichte erzählen.

Target ist nach WalMart der zweitgrößte Discounteinzelhändler der USA. Kleidung, Möbel, Spielzeug, Zahnpasta – dort gibt es alles und das möglichst billig. Vor einiger Zeit kam ein wütender Mann in eine Target-Filiale außerhalb von Minneapolis und wollte den Filialleiter sprechen. Er wedelte vor dessen Nase mit Rabattgutscheinen herum und beschwerte sich: “Meine Tochter hat die hier in ihrer Post gefunden. Sie ist noch in der Highschool, und Sie schicken Ihr Rabattmarken für Babysachen und Kinderbetten? Wollen Sie sie etwa ermuntern, schwanger zu werden?”

Der Filialleiter schaute sich die Gutscheine an, sie waren eindeutig an die Tochter des Mannes adressiert und priesen unter anderem Schwangerschaftsmode und Wickelkommoden an. Er entschuldigte sich wortreich für das Missverständnis. Ein paar Tage später rief er noch einmal bei dem Vater an, weil er noch einmal für den Ärger um Verzeihung bitten wollte. Zu seinem Erstaunen war der Vater reichlich beschämt und sagte: “Ich hatte ein längeres Gespräch mit meiner Tochter. Dabei musste ich feststellen, dass es Aktivitäten in meinem Haus gibt, von denen ich keine Ahnung hatte. Sie wird im August ein Kind bekommen. Und ich schulde Ihnen eine Entschuldigung.”

Das Ganze – beschrieben in einem lesenswerten Text im Februar 2012 in der New York Times –, war kein Versehen von Target. Sondern es ist ein Beispiel dafür, wie viel Target über seine Kunden weiß und wie gut die Algorithmen des Unternehmens arbeiten. Es ist ein Beispiel für die Macht eines Systems, das wir mit dem Ausdruck Big Data bezeichnen.

Big Data – also das Suchen mit statistischen Verfahren nach Mustern in großen Datenmengen, kann von unglaublichem Nutzen sein. Aber Big Data birgt auch eine gewaltige Gefahr: Mit Big Data könnten die Menschen das verlieren, was Menschsein ausmacht, ihre unbekannte Zukunft. Mit Big Data könnten sich die Menschen ihrer Freiheit berauben.

Menschen haben Gewohnheiten, sie trainieren sich bestimmte Verhaltensmuster an und behalten diese oft ein Leben lang bei. Denn Menschen sind faul, beziehungsweise sparsam mit ihrer Energie, und solche Muster ersparen dem Gehirn Arbeit. Das bedeutet beispielsweise für Einzelhändler, dass es sehr schwer ist, neue Kunden zu gewinnen. Wenn sich jemand einmal daran gewöhnt hat, jeden Samstag bei dem gelben Netto mit dem Hund im Logo die Lebensmittel für eine ganze Woche zu kaufen, wird es Lidl oder Kaiser’s kaum noch gelingen, diesen Menschen als Kunden zu gewinnen.

Doch es gibt Ausnahmen von dieser Regel, denn manchmal ändern sich Gewohnheiten. Zum Beispiel dann, wenn sich das Leben ändert. Eine neue Arbeit, ein Umzug, eine neue Beziehung – solche Lebensereignisse können dazu führen, dass Gewohntes aufgegeben wird und jemand offen für Neues ist.

Die Warenhauskette Target nutzt diese Momente. Schwangerschaften sind ein solches Lebensereignis. Werdende Eltern brauchen Dinge, die sie nie zuvor gebraucht haben, eben Wickelkommoden oder Windeln. Sie haben somit keine dazu passenden Kaufgewohnheiten. Doch ist es aus Sicht des Verkäufers zu spät, den neuen Eltern entsprechende Werbung zu schicken, wenn das Kind schon auf der Welt ist. Sie haben die meisten Dinge dann schon gekauft und neue Gewohnheiten entwickelt. Target hat daher viel Mühe darauf verwendet, in seinen Kundendaten nach Verbindungen zwischen Schwangerschaften und Kaufgewohnheiten zu suchen.

Und an diesem Punkt lässt sich erkennen, wie Big Data funktioniert. Es geht um Ähnlichkeit, um den Vergleich eines gerade beobachteten Verhaltens mit bereits bekannten Verhaltensmustern. Der einzelne Mensch ist dabei egal, wie er heißt, ist uninteressant. Warum er etwas tut, spielt keine Rolle. Es geht nur darum, mit Hilfe von Korrelationen, mit Hilfe von statistischen Zusammenhägen, sein Verhalten mit dem vieler anderer Menschen zu vergleichen.

Es geht darum, die Schublade zu finden, in die er passt und ihn anschließend entsprechend dieser Schublade zu beurteilen. Bislang wurde solches Vorgehen mit dem Ausdruck “Vorurteil” bezeichnet und war gesellschaftlich geächtet. Mit Big Data aber kann es missbraucht werden, können Vorurteile zum Standard mutieren.

Target errechnet aus den Einkäufen seiner Kundinnen, ob diese schwanger sind. Das Unternehmen vergleicht dazu das Einkaufsmuster einer Kundin mit den Mustern, die es aus seinen Daten kennt und kann so mit hoher Wahrscheinlichkeit errechnen, wann genau das Baby auf die Welt kommen wird. Sie sind nicht nur ziemlich gut darin, den Geburtstermin zu treffen, sie wissen auch, in welchem Abschnitt der Schwangerschaft die Eltern was kaufen. Warum das so ist, weiß das Unternehmen nicht. Es ist ihm auch egal. Dass es so ist, genügt – um zu wissen, wann welche Werbung eintreffen muss, um diesen bis dahin vielleicht noch unbewussten Kaufwunsch auszunutzen.

Alles, was Target dazu braucht, sind Daten. Das Unternehmen versucht, jeden Kunden, der in einen seiner Läden oder auf seine Website geht, eindeutig zu markieren. Jeder bekommt eine sogenannte Gast-ID, eine Nummer, unter der gespeichert wird, was dieser spezielle Kunde gekauft und getan hat. Was hat er angesehen, was bezahlt, was bewusst ignoriert? Hat er mit Kreditkarte bezahlt und mit welcher? Hat er einen Rabattcoupon benutzt und woher kam der? Hat er sich beschwert und worüber? Auch Tageszeit und Wetter werden registriert. Alles wird gespeichert. Target erweitert diese Kundenprofile um jeden Datensatz, den der Konzern irgendwo kaufen oder bekommen kann. Alter, Familienstand, geschätztes Einkommen, Wohnort, Automarke, Jobs, Ausbildung, Interessen, politische Einstellungen – jede noch so kleine Information ist von Interesse.

Wenn Sie jetzt denken, solche Datensammlungen seien doch nur in den USA möglich, dann sollten Sie einen kurzen Moment lang darüber nachdenken, wie oft Sie bereits etwas bei Amazon bestellt haben. Oder bei Google. Oder bei Apple. Oder was Facebook über Sie weiß. Jeder dieser Konzerne sammelt genau wie Target alle Informationen über seine Kunden, die sich finden lassen. Und im Internet sind das eine Menge – beispielsweise dank Cookies und dank der Browserhistory, den Seiten also, die jemand zuvor im Netz besucht hat. Und auch in Deutschland kann man viele demografische Daten kaufen, samt der dazu gehörenden Namen und Adressen.

Target nun durchsucht diese Daten, um eine ganz spezielle Zielgruppe zu finden. Sie wollen Werbung an Frauen schicken, die im zweiten Drittel ihrer Schwangerschaft sind – denn ihre Daten zeigen, dass das der Zeitpunkt ist, an dem Eltern beginnen, Babyausstattung einzukaufen. Die einzelnen Informationen wirken harmlos und ohne Zusammenhang. In der Masse jedoch, als Big Data, zeigen sich darin Muster:

Schwangere kaufen größere Mengen unparfürmierter Cremes als Nichtschwangere. Schwangere kaufen Nahrungsergänzungsmittel wie Kalzium, Magnesium oder Zink. Sie kaufen unparfümierte Seife, Wattebäusche, Händedesinfektionsmittel und Feuchttücher. Target – was übersetzt passenderweise Ziel bedeutet – hat in seinen Daten ungefähr 25 Produkte identifiziert, die zusammengenommen erlauben, Schwangeren-Profile und einen Schwangeren-Score zu errechnen. Denn da Schwangere einzelne dieser Produkte zu ganz bestimmten Zeitpunkten der Schwangerschaft zu kaufen scheinen, ist es dem Unternehmen sogar möglich, den Geburtstermin ziemlich genau zu berechnen. Und damit entsprechende Werbung zu verschicken, lange bevor der künftige Großvater weiß, dass er Enkel bekommt.

Warum erzähle ich all das? Weil flächendeckende Überwachung durch Geheimdienste nur eine Bedrohung für unsere Freiheit und unsere Bürgerrechte ist. Eine mindestens ebenso große geht von der Statistik aus und von den datensammelnden Institutionen, die statistische Vorhersagen dazu missbrauchen, Menschen zu beurteilen, ja sie zu verurteilen.

Vorhersagen verringern Risiko, sie machen Dinge planbar, verhindern Schäden. Das spart Geld und Ressourcen. Aber es ist gleichzeitig gefährlich.

Wenn Target menschliche Gewohnheiten so zielsicher analysieren und vorhersagen kann, können andere das auch. Und sie tun es. Alle. Banken, Versicherungen, Einzelhändler, Kommunikationsfirmen, Geheimdienste, Polizei – alle wollen genau das gleiche können wie Target und wissen, ob jemand schwanger ist, bevor die werdenden Eltern das wissen. Sie wollen wissen, ob er seinen Kredit bezahlen kann. Oder ob er demnächst ein Auto kaufen will. Oder im kommenden Monat jemanden umbringen.

Aber damit beeinflussen sie das Verhalten der betroffenen Menschen, ohne dass diese es merken oder verhindern können. Sie nehmen ihnen die Freiheit, selbst zu entscheiden, was gut für sie ist. Sie machen sie zu Marionetten. Denn vielleicht hat derjenige zwar mit dem Gedanken gespielt, sich einen neuen Fernseher zu kaufen, aber eigentlich gar nicht das Geld dafür. Ohne gezielte Ansprache durch Werbung – ohne Überredung also, hätte er sich diesen vielleicht nie angeschafft.

Ein zweites Beispiel. Irgendwann bestellte ein Drogendealer bei Amazon eine digitale Feinwaage namens “American Weigh AWS 100″. Ein anderer Dealer tat das gleiche. Und ein dritter und ein vierter. Es ist eine preiswerte und genau messende Waage. Amazon speicherte das. Genau wie die Dinge, die diese und andere Dealer anschließend auch noch kauften. Und nach einer Weile bekam, wer nach dieser Waage suchte, eine komplette Einkaufsliste zum Start einer Dealerkarriere angezeigt: ein Drogen-Test-Kit, kleine Plastiktüten mit aufgedruckten Hanfblättern, ein Mahlwerk, eine Maschine zum Füllen von Kapseln und die dazu gehörenden Gelatinekapseln, luftdicht verschließbare Behälter…

Bei Amazon entstehen solche Profile jeden Tag, sie wachsen in den Daten. Das weiß nicht nur Amazon, das wissen sicher auch staatliche Ermittler. Na und, könnten Sie sagen, das ist doch etwas Gutes, es trifft doch die richtigen. Aber so funktionieren Profile und Wahrscheinlichkeiten nicht. Auch Apotheker bestellen Feinwaagen und Chemikalien.

Es geht um Ähnlichkeit. Ihr Verhalten wird mit dem Verhalten der Zielgruppe verglichen und wenn es sich ähnelt, werden auch Sie zum Ziel, ob sie etwas damit zu tun haben, oder nicht. Sie können es nicht verhindern, Sie können es nicht beeinflussen, ja Sie erfahren es nicht einmal.

Noch ein drittes Beispiel: Robert McDaniel lebt in Chicago in der Community Austin im Bezirk West Side, in einer Gegend, in der die Kriminalitätsrate hoch ist. Er ist in seiner Jugend ein paar Mal verhaftet aber nie angeklagt worden. Nur einmal wurde er verurteilt, wegen einer Ordnungswidrigkeit. Als im Juli 2013 eine Polizistin vor der Tür des 22-Jährigen stand, war er leicht verwirrt. Sie war freundlich, aber eindeutig in ihrer Botschaft an McDaniel: Er solle besser schnell sein Leben ändern oder er müsse die Konsequenzen tragen. Barbara West, so der Name der Polizistin, gab ihm zu verstehen, dass sie viel über McDaniel wisse. Beispielsweise, dass sein bester Freund im vergangenen Jahr ermordet worden war. McDaniel drohe das gleiche Schicksal, wenn er nichts unternehme, sagte sie ihm. Außerdem werde er bei dem kleinsten Vergehen mit maximaler Härte bestraft werden – McDaniel war auf der sogenannten “Heat List” gelandet.

West bezog ihre Informationen aus einer Datenbank der Polizei von Chicago. Die nutzt Mathematik, um vorherzusagen, wer in nächster Zeit Opfer oder Täter in einem Gewaltverbrechen wird und führt diese Namen in eben jener “Heat List”. Ein Pilotprojekt, finanziert vom National Institute of Justice.

Für die Liste werden viele Informationen gesammelt: Demografie, Einkommen, Hauspreise und natürlich Polizeiberichte. Doch geht es dabei nicht einfach um Wahrscheinlichkeiten. Die Polizei analysiert Netzwerke. Andrew Papachristos hat das Verfahren entwickelt. Er ist Professor für Soziologie an der Universität Yale. Er hatte beobachtet, dass die Opfer von Gewaltverbrechen in der Region oft einen ähnlichen Hintergrund haben. Wenn man mit Leuten herumhängt, die ins Gefängnis gehen, die erschossen werden, so seine Theorie, so teilt man deren Haltungen und Verhaltensweisen und setzt sich also selbst dem Risiko aus, Gewalt zum Opfer zu fallen, auch wenn man gar nicht kriminell ist. Das Verhaltensprofil ist entscheidend. Auf Basis dieser Analyse führt die Polizei von Chicago 400 Menschen in ihrer “Heat List” und besucht sie wie McDaniel. Einerseits wird ihnen dabei gedroht, andererseits werden ihnen von der Stadt Angebote gemacht, ihnen bei der Jobsuche oder bei der Suche nach sozialen Angeboten zu helfen. Peitsche und Zuckerbrot – allein auf Basis von Statistik. Eine Art Sippenhaft, denn die Betreffenden müssen wie gesagt selbst gar nicht kriminell sein.

Und auch das gibt es in Deutschland. Wir nennen es nicht “Heat List”, sondern “Gefährder”. Das klingt nach Gefahr, nach bedrohlichen Leuten, und genau das soll es auch, um von der Tatsache abzulenken, dass es hier um Wahrscheinlichkeiten geht, nicht um Fakten. Denn damit sind Menschen gemeint, gegen die es keine Beweise gibt, keine Anklage, kein Urteil. Sie gelten allein deswegen als “Gefährder”, weil ihr Verhalten dem Verhaltensprofil von jenen ähnelt, die später Terroristen wurden: zum Islam konvertiert, längere Zeit nach Pakistan oder Afghanistan gereist, mit Terroristen bekannt oder Geld gesammelt für Unterstützgruppen von Terroristen. Kriminelles getan haben müssen sie nichts. Trotzdem wird allein aufgrund von Verhaltensprofilen gegen sie vorgegangen, sie werden beobachtet, verfolgt, am Reisen gehindert.

Diese Art von “Gefahrenabwehr” ist inzwischen Standard in Deutschland. Alle Erweiterungen von Polizei- und Geheimdienstgesetzen der vergangenen zwanzig Jahre beschäftigen sich vor allem damit: kein Risiko eingehen. Die Polizei Hamburg hat seit 1995 mehr als 50 Mal ganze “Gefahrengebiete” in der Stadt ausgewiesen. Einziges Kriterium bei der Definition der Gefahr sind Verhaltensprofile, nicht Straftaten. Das bisher letzte, im Januar 2014, führte zu heftigen Protesten.

Und die Polizei von Nordrhein-Westfalen hat gerade angekündigt, die Software zu testen, mit der solche “Heat Lists” erstellt werden. Sie will so die Zahl der Einbrüche senken.

Statistische Vorhersagen aufgrund von Ähnlichkeiten und Mustern haben beträchtliche Vorteile. Menschen können dank ihnen nicht nur künftige Risiken verstehen, sondern auch die zugrunde liegenden Faktoren zu beeinflussen versuchen und so unter Umständen erreichen, dass die entsprechenden Probleme vielleicht nie eintreten. Damit lassen sich Gefahren verhindern, aber auch Warenkreisläufe effizienter machen. Es kann der Gesellschaft viel Geld und Leid sparen.

Aber mit der Fähigkeit, die Zukunft vorherzusagen, geht auch etwas zutiefst menschliches verloren: Zukunft wird so nicht mehr als offen begriffen, Schicksal nicht mehr als ungeschrieben. Es droht die Gefahr, dass jeder Mensch anhand der Vorhersage seines Verhaltens beurteilt wird und nicht mehr danach, was er wirklich tut. Noch bevor er oder sie handeln kann, sind er oder sie bereits schuldig gesprochen und verurteilt.

Das erinnert manchen von Ihnen sicher an den Film “Minority Report”, in dem eine “Pre-Crime”-Polizei Verbrecher festnimmt, bevor sie jemanden umbringen können. Das klingt erst einmal gut, es klingt wie ein Verbrechen ohne Opfer. Doch das stimmt nicht. Es gibt ein Opfer, es ist der- oder diejenige, die festgenommen werden. Denn solche Vorhersagen aufgrund von Wahrscheinlichkeiten und Korrelationen sprechen dem Fast-Täter den freien Willen ab, sich im letzten Moment anders zu entscheiden. Sie entmündigen ihn und damit alle Menschen.

Und das nicht aufgrund seines oder ihres eigenen Verhaltens. Sondern weil sein Verhalten so ähnlich aussieht wie das Verhalten von Menschen, die irgendwann zuvor die gleiche Tat begingen. Sieht so ähnlich aus… Es mag auf den ersten Blick wie eine gute Idee wirken, mit der Analyse vergangener Dinge auf die Zukunft zu schließen. Aber eigentlich ist es ein Schuldigsprechen aufgrund von Dingen, die andere Menschen in einer ähnlichen Lage taten und nicht aufgrund des individuellen Verhaltens.

Das ist nicht fair.

Es verweigert den Betroffenen die Freiheit, selbst zu bestimmen, wohin ihr Weg sie führen soll. Es verhindert unter Umständen Risikobereitschaft und Neugier. Menschen können nicht mehr unbeschwert nach vorn blicken, nicht mehr ausprobieren, sich nicht mehr spontan anders entscheiden.

Seit dem Feudalismus war diese ureigene Freiheit des Menschen, selbstbestimmt zu agieren, nicht mehr so gefährdet wie heute. Der Wille, immer genauere Vorhersagen zu treffen, immer effizienter zu sein, immer mehr planen zu können, führt dazu, dass immer mehr Daten gesammelt werden.

So entsteht Schritt für Schritt eine totale Überwachung aller Lebensbereiche.

Um das zu verhindern, braucht es neue Gesetze. So wie einst die Meinungs- und Pressefreiheit in Verfassungen verankert wurde, muss nun festgeschrieben werden, dass wir unabhängig von Vorhersagen und Vergleichen sein müssen.

Es braucht Transparenz und Aufklärung. Jedem muss klar sein und klar werden können, was Wahrscheinlichkeiten sind, wie Profile entstehen, wie Algorithmen wirken und welche Aussagen damit über einen Menschen und sein Verhalten möglich sind.

Es braucht Kontrolle und Grenzen. Datenspeicherung lässt sich nicht mehr verhindern, wenn jedes Gerät Daten sammelt. Das Verknüpfen von Daten, das Bilden von Profilen aber kann kontrolliert werden.

Es braucht mehr Macht für den Einzelnen, und weniger Macht für die Staaten und Konzerne. Recht und Technik müssen jedem Nutzer die Möglichkeit geben, zu erkennen, was andere über ihn erfahren können und selbst zu bestimmen, ob sie das auch erfahren sollen. Ohne solche Regeln wird es bald keine Freiheit mehr geben, sondern nur noch Sklaven der Statistik.

Weiterführende Informationen:

• Zeit Online 2014, “Das BKA will in die Zukunft sehen”
• Zeit Online 2011, “Die Polizei als Hellseher”
• American Civil Liberties Union 2014, “Chicago Police ‘Heat List’ Renews Old Fears About Government Flagging and Tagging”
• Viktor Mayer-Schönberger 2014, “Freiheit und Vorhersage”, Vortrag re:publica
• Financial Times 2014, “Big data: are we making a big mistake?”