FAQWas wir über den Skandal um Facebook und Cambridge Analytica wissen [UPDATE]

Donald Trumps Wahlkampf stützte sich unter anderem auf detaillierte Persönlichkeitsprofile von mehr als 87 Millionen Facebook-Nutzern. Dank investigativer Recherchen kommt jetzt ans Licht, wie die verantwortliche Firma Cambridge Analytica an die Daten kam und wie sie arbeitete. Die wichtigsten Fragen und Erkenntnisse zum Skandal im Überblick.

Drei Hauptakteure des Datenskandals um Cambridge Analytica: Facebook-Chef Mark Zuckerberg, Alexander Nix von Cambridge Analytica und der ehemalige Trump-Stratege Steve Bannon. Fotos: Anthony Quintano, Web Summit & Michael Vadon. Alles unter CC BY 2.0 veröffentlicht.

Hat Donald Trump die Wahl zum US-Präsidenten mit Datenanalysen von Cambridge Analytica gewonnen? Was genau weiß die Firma über 87 Millionen Facebook-Nutzer? Wer steckt hinter dem schillernden Unternehmen? 15 Monate, nachdem ein Artikel im Schweizer „Magazin“ politisches Microtargeting und die Firma Cambridge Analytica hierzulande einer breiteren Öffentlichkeit bekannt machte, schlägt das Thema in diesen Tagen wieder hohe Wellen.

Der zum britischen Guardian gehörende „Observer“ und die „New York Times“ deckten unter anderem auf, dass Cambridge Analytica sich über eine vermeintlich wissenschaftliche App unrechtmäßig persönliche Daten von zig Millionen Facebook-Nutzern beschafft hat, um Wähler mit zielgerichteten Botschaften zu manipulieren. Täglich kommen neue Informationen ans Licht – wir haben in einer FAQ zusammengetragen, was wir bislang wissen. Der Artikel wird laufend aktualisiert.

[Zuletzt aktualisiert von Simon Rebiger am 12. April 2018]

1. Woher kommen die Daten?
2. War das jetzt ein Datenleck?
3. Welche Verantwortung trägt Facebook?
4. Was für Daten hat Cambridge Analytica gesammelt?
5. Was ist Microtargeting, für das die Daten genutzt wurden?
6. Wer steckt hinter Cambridge Analytica?
7. Wann hat sich das alles abgespielt?
8. Woher wissen wir das alles?
9. Mit welchen Konsequenzen müssen die Verantwortlichen rechnen?
10. Wie wirkt politisches Microtargeting?
11. Könnte Russland dahinter stecken?
12. In Deutschland waren ja auch „gerade“ Wahlen – spielten Big Data und Microtargeting da eine Rolle?
13. Handelt es sich hier um einen Einzelfall?
14. Was ist außerdem noch über Geschäftspraktiken von Facebook bekannt geworden?
15. Wie kann ich überprüfen, ob ich unter den Betroffenen bin?

1. Woher kommen die Daten?

Zentral für „eines der größten Datenlecks in der Geschichte von Facebook“ (Zitat Observer) ist die App eines Drittanbieters, mit der Facebook-Nutzer einen Persönlichkeitstest machen konnten. Die Anwendung „thisisyourdigitallife“ sammelte allerdings nicht nur Informationen über die etwa 270.000 Menschen, die sie bewusst genutzt haben, sondern auch über deren Facebook-Kontakte. Das war über eine von Facebook angebotene Programmierschnittstelle bis 2015 unkompliziert möglich. Nachdem anfänglich von rund 50 Millionen Betroffenen die Rede war, musste Facebook inzwischen eingestehen, dass wahrscheinlich die Daten von 87 Millionen Nutzern abgezogen wurden.

Die Firma hinter der App, Global Science Research (GSR), wurde von Aleksandr Kogan genau zu diesem einen Zweck gegründet: Möglichst umfassende Informationen über möglichst viele Menschen sammeln. GSR bezahlte offenbar Clickworker, also digitale Billiglöhner, um die App zu nutzen und den Persönlichkeitstest auszufüllen. Die Daten stammen demnach überwiegend von ihnen und ihren Facebook-Kontakten. Das Ganze spielte sich 2014 ab. Kogan war damals Assistenzprofessor am Lehrstuhl für Psychologie der Universität Cambridge. Laut Facebook gab er an, die Daten für wissenschaftliche Zwecke zu nutzen.

2. War das jetzt ein Datenleck?

Niemand ist in Facebooks Systeme eingedrungen und hat die Daten abgegriffen, darauf besteht das Werbeunternehmen. Facebook hatte also im engeren Sinne kein Datenleck. Stattdessen sind die Daten auf einem von der Plattform regulär vorgesehenen Weg an GSR geflossen, über eine Programmierschnittstelle. Facebook sieht sich von Kogan und seiner Firma GSR allerdings hintergangen: Die Plattform-Bestimmungen des Unternehmens würden klar regeln, dass Daten nicht an Dritte weitergegeben werden dürfen und lediglich zur „Verbesserung des Nutzungserlebnisses der App“ eingesetzt werden dürfen. Kogan hatte offensichtlich gelogen: Der Wissenschaftler leitete die Daten allesamt an Cambridge Analytica weiter und ließ sich den Sammelprozess von der Firma finanzieren. Mehr als 800.000 Dollar sollen dafür geflossen sein.

Der von vielen Journalisten verwendete Ausdruck Datenleck hilft zwar dabei, die Dimension des Vorgangs deutlich zu machen: Ein solcher Einblick in die Folgen des Datenkapitalismus ist selten. Dass die persönlichen Daten von Millionen Facebook-Nutzern ohne ihr Wissen bei einer Firma landen, die ihr Leben analysiert, psychologische Profile erstellt und für den Wahlkampf einsetzt, war für viele nicht vorstellbar. Dabei ist dies das logische Produkt der Wildwest-Manier in der Big-Data-Branche. Die Rede vom Datenleck ist deshalb irreführend. Sie lenkt davon ab, dass Facebook selbst das System geschaffen hat, in dem die Daten von Millionen Menschen ohne ihre Einwilligung bei anderen Firmen landen.

3. Welche Verantwortung trägt Facebook?

Neben den schlicht illegalen Methoden Cambridge Analyticas und des Wissenschaftlers Aleksandr Kogan steht zurecht Facebook massiv in der Kritik. Da sind zum einen die offensichtlichen Versäumnisse: Das Werbeunternehmen wusste seit 2015 davon, dass Kogan seine Daten über Millionen Facebook-Nutzer an Cambridge Analytica weitergegeben hat. Zwar sperrte es damals wohl den Zugang von Kogans Firma GSR und forderte Cambridge Analytica sowie den heutigen Whistleblower Christopher Whyley auf, die unrechtmäßig erlangten Daten zu löschen – eine Überprüfung, ob dies geschehen ist, erfolgte jedoch nicht. Guardian und New York Times konnten die Datenbank erst kürzlich einsehen. Facebook unterließ es zudem, betroffene Nutzer darüber zu informieren, dass Dritte illegal an ihre Daten gelangt waren.

Im Guardian berichtet der ehemalige Facebook-Manager Sandy Parakilas, dass Datenabgriffe und Weitergaben wie die von GSR trotz interner Warnungen an der Tagesordnung waren. Als er gegenüber Vorgesetzten die Vermutung geäußert habe, dass es „eine Art Schwarzmarkt für Facebook-Daten“ gebe und Drittanbieter deshalb strenger auditiert werden sollten, lautete die Antwort demnach lediglich: „Willst du wirklich sehen, was du dann findest?“ Facebook profitierte massiv von den vielen Drittanbieter-Apps: 30 Prozent jedes In-App-Kaufes mussten diese an die Plattform abführen, dafür gewährte Facebook den Programmierern unkontrollierte Freiheit. Dass die irrwitzige Möglichkeit für App-Anbieter irgendwann endlich eingestellt wurde, auch die Daten von Freunden ihrer Nutzer abzugreifen, ist da nur ein Tropfen auf den heißen Stein.

Hinzu kommt noch das grundsätzliche Problem mit dem System Facebook, das stellvertretend für die Logik des Datenkapitalismus ist: Das Geschäftsmodell von Facebook ist es, die Aufmerksamkeit seiner Nutzer möglichst zielgenau an Werbekunden zu verkaufen. Dafür will der Datenkonzern gläserne Nutzer, die selbst im Dunkeln tappen. Das Unternehmen setzt darauf, so viele persönliche Informationen wie möglich zu gewinnen, während Betroffene nicht ansatzweise darüber aufgeklärt werden, was mit ihren Daten passieren könnte. Diese Informationsasymmetrie soll verhindern, dass Nutzer sich schützen oder anders verhalten können. Es ist beispielsweise gut dokumentiert, wie Facebook es Usern durch Design-Entscheidungen lange Zeit bewusst erschwert hat, zu kontrollieren, welche Daten Drittanbieter-Apps von ihnen erhalten.

Der Fall Cambridge Analytica ist nur ein Auswuchs dieses System, der zeigt, wie verantwortungslos Facebook mit seiner Datenmacht umgeht. Aller Community-Rhetorik zum Trotz stellt Mark Zuckerberg Profit über die Interessen von Nutzern und Gemeinwohl. Es ist deshalb unabdingbar, dass Politik und Datenschutzbehörden die Datenschutzgrundverordnung (DSGVO) nutzen, um Facebooks Datenpraxis zu zügeln. Die ab 25. Mai anzuwendende Verordnung schreibt vor, dass Einwilligungen, die Menschen für die Nutzung ihrer Daten geben, informiert und freiwillig erfolgen müssen. Der Status Quo aber lautet: „Weder sind wir informiert, noch stimmen wir zu“, wie es die US-Soziologin Zeynep Tufekci auf den Punkt bringt. Mehrfach gingen in den letzten Jahren Datenschutzbehörden deshalb gegen Facebook vor, konnten aber nur Bußgelder verhängen, die das Werbeunternehmen aus der Portokasse zahlen kann. Es ist höchste Zeit, dass Datenschutzbehörden mit der DSGVO nun die Sanktionsmöglichkeiten bekommen, die der gesellschaftlichen Bedeutung ihres Auftrages gerecht werden.

4. Was für Daten hat Cambridge Analytica gesammelt?

Es handelt sich zunächst um die Daten, die Nutzer standardmäßig mit den meisten Anwendungen von Drittanbietern auf Facebook teilen: Angaben zu Likes, Aktivitäten und Kontakten sowie zur eigenen Soziodemographie und Identität. Dazu zählen auch so sensible Informationen wie die zur sexuellen Orientierung oder Religion, zur politischen Überzeugung oder zum Beziehungsstatus. Bisweilen gehören dazu Daten, die man selbst nicht bewusst preisgegeben hat, sondern Facebook aus dem eigenen Verhalten geschlossen hat. Dabei machte es kaum einen Unterschied, ob Nutzer die App „thisisyourdigitallife“ genutzt haben, oder nur mit Nutzern der Anwendung befreundet waren.

In Kombination mit dem Fragebogen zur Analyse von Persönlichkeitseigenschaften nach dem sogenannten OCEAN-Modell, den die eigentlichen Nutzer der App ausgefüllt haben, ergab sich eine umfangreiche Datenbasis für die Erstellung psychologischer Profile. Schließlich wurden auch die zig Millionen Nutzer, die den Fragebogen gar nicht ausgefüllt hatten, in dessen Kategorien eingeteilt: Auf Basis ihrer Facebook-Daten wurden sie genauso kategorisiert wie die Menschen, denen sie statistisch ähneln. In einem Artikel von 2016 beschreibt der damalige Stanford-Psychologe Michal Kosinski, wie sein Kollege Aleksandr Kogan dieses Verfahren von ihm abgekupfert hat.

Aus einer Mail von Kogan an Cambridge Analytica, die die New York Times veröffentlicht hat, geht wiederum hervor, welche Informationen GSR auf diese Weise über die 87 Millionen Facebook-Nutzer hergeleitet hat: Neben der Verortung in dem OCEAN-Modell mit Kategorien wie „Offenheit“ und „Neurotizismus“ hatte Kogan auch Analysen zur politischen Einstellung, zur Intelligenz und zur Lebenszufriedenheit im Angebot. Hinzu kamen soziodemographische Angaben wie Alter, Geschlecht, Religion und Job sowie das Interesse an Militär, okkulten Themen oder „intellektuellen Aktivitäten“.

5. Was ist Microtargeting, für das die Daten genutzt wurden?

Die auf die oben beschriebene Weise erstellten Persönlichkeitsprofile wurden den Berichten zufolge eingesetzt, um die Botschaften der Trump-Kampagne im US-Wahlkampf auf möglichst kleine Zielgruppen zuzuspitzen. Dass diese Technik des sogenannten Microtargeting sowohl online als auch offline (nicht nur in diesem) US-Wahlkampf eingesetzt wurde, war grundsätzlich bereits bekannt. So berichtete das Schweizer Magazin 2016, dass Trumps Freiwillige im Haustürwahlkampf über eine App möglichst genaue Informationen über die von ihnen besuchten potenziellen WählerInnen und auf 32 Persönlichkeitstypen zugeschnittene Gesprächsleitfäden bekommen hätten. In den Sozialen Medien hat die Trump-Kampagne auf dieser Basis unter anderem gezielt Negativinformationen über Hillary Clinton an Frauen und People of Color ausgespielt, um sie zu demotivieren und vom Urnengang abzuhalten.

Whistleblower Christopher Wylie beschreibt nun ergänzend, dass Cambridge Analytica ein ganzes Informationsökosystem von Webseiten und Blogs aufgesetzt habe, die nicht als Teil der Trump-Kampagne erkennbar waren. Sie seien genutzt worden, um Wähler gezielt mit vermeintlich unabhängigen Informationen zu versorgen, für die sie laut ihrem Profil besonders ansprechbar sind. So seien Wähler immer genau mit den Forderungen und Versprechen Trumps bespielt worden, die bei ihnen die größte Wirkung erzielen würden. Wiley selbst bezeichnet das von ihm mitentwickelte System inzwischen als „Werkzeug der psychologischen Kriegsführung“. Cambridge Analytica hat diese Methoden nachweislich auch in anderen Wahlkämpfen eingesetzt, vor allem in der Karibik und Afrika. So prahlten Verantwortliche vor versteckter Kamera damit, für „jedes Element“ der (erfolgreichen) Kampagnen des kenianischen Präsidenten Uhuru Kenyatta 2013 und 2017 verantwortlich zu sein. Auch in der Pro-Brexit-Werbung hat die Firma mitgemischt.

Facebook selbst bietet über seine „Custom Audiences“-Funktion übrigens eine handliche Möglichkeit, Menschen auf der Plattform gezielt anzusprechen, die Firmen bereits in ihren Datenbanken haben. Dafür braucht es lediglich einen Identifier wie eine Telefonnummer oder E-Mailadresse. So können die außerhalb von Facebook erstellten Persönlichkeitsprofile wiederum direkt für die Ansprache auf der Plattform genutzt werden. Praktischerweise bietet Facebook auch eine Funktion, mit der man sogenannte „Lookalike Audiences“ ansprechen kann – Zielgruppen, die anhand ihrer Daten ähnlich beschaffen sind, wie die zuvor ausführlich analysierten Gruppen. Noch praktischer: Über Facebooks Werbenetzwerk „Audience Network“ können diese Menschen auch außerhalb des Plattform-Ökosystems mit Werbung erreicht werden, etwa auf Apps und Webseiten von Dritten.

6. Wer steckt hinter Cambridge Analytica?

Cambridge Analytica ist ein 2013 gegründetes Tochterunternehmen der von Alexander Nix geleiteten britischen SCL Group (Strategic Communication Laboratories). Die Ausgründung war notwendig geworden, um mit Dienstleistungen im Bereich des politischen Microtargeting in die US-Innenpolitik einsteigen zu können. Aufmerksam auf das versprochene „psychologische Waffenarsenal“ wurde der Ultra-Konservative US-Milliardär Robert Mercer, der enge Kontakte zu US-amerikanischen rechtskonservativen Kreisen pflegt und einschlägige Politiker finanziert. Mercer steuerte schließlich 15 Millionen US-Dollar zu Cambridge Analytica bei.

Zu Recht weisen viele auf die extrem geschickte Selbstvermarktung der Firmen und ihres Chefs Alexander Nix hin. Einen aufschlussreichen Einblick in die Arbeitsweise von SCL gibt die Erzählung des Whistleblowers Christopher Wylie darüber, wie man sich Steve Bannon präsentierte, dem damaligen Breitbart-CEO und späteren Chefstrategen von Donald Trump. Laut Wylie wollte man sich einen akademischen Anstrich geben und errichtete hierfür eigens ein „Fake-Büro“ in Cambridge. Kam Bannon auf Besuch, der sich als Intellektueller in einem Krieg gegen „kulturmarxistische“ Kräfte sieht, verschob SCL schnell Mitarbeiter aus London in die Außenstelle in der Universitätsstadt.

„So gaben wir Steve [Bannon] den Eindruck, dass wir eine Menge an Operationen hätten, die aus der Universität kommen“, sagte Wylie gegenüber dem Guardian. „Wir veränderten, wie er wahrnahm, wer wir waren und was wir machten“. Die neu gegründete Tochter Cambridge Analytica zu nennen, sei dann auch Bannons Idee gewesen, sagte Wylie. Steve Bannon wurde später Vize-Präsident der neu gegründeten SCL-Tochter, Robert Mercers Tochter Rebekah wurde Mitglied im Vorstand.

Hilfe bei der Verarbeitung der Facebook-Daten bekam Cambridge Analytica von mindestens einem Mitarbeiter der Überwachungsfirma Palantir. Laut Whistleblower Whylie soll der Palantir-Mitarbeiter überhaupt erst die Idee geliefert haben, mit einer vermeintlich wissenschaftlichen App einfach und umfangreich Daten von Facebook abzusaugen und zu psychometrischen Profilen umzuwandeln. Das ist brisant, weil Palantir-Gründer Peter Thiel im Aufsichtsrat von Facebook sitzt und Donald Trump unterstützt. Bei der Anhörung im US-Senat am 10. April gab Mark Zuckerberg an, nicht genau zu wissen, was Palantir überhaupt tue und ob es Verbindungen zwischen der Firma und Cambridge Analytica gegeben habe.

7. Wann hat sich das alles abgespielt?

Die Datensammelei begann im Juni 2014, als der Wissenschaftler Aleksandr Kogan seine selbstgebaute App „thisisyourdigitallife“-App Facebook-Nutzern zur Verfügung stellte. Laut New York Times übernahm SCL die Kosten von 800.000 US-Dollar, Kogan durfte eine Kopie der Daten behalten. Innerhalb weniger Monate nahmen rund 270.000 US-Nutzer an dem Persönlichkeitstest teil, die letztlich zu rund 87 Millionen abgeschöpften Facebook-Profilen führte. Ausgeschrieben hat die „Clickworker“-Arbeit das Unternehmen Global Science Research, zu den Gründungsmitgliedern zählen Kogan sowie Joseph Chancellor. Letzterer arbeitet mittlerweile als Psychologe für – Facebook.

Zum ersten Mal öffentlich bekannt wurde die Operation dann im Jahr 2015. Damals enthüllte der Guardian, wie Cambridge Analytica dem reaktionären US-Senator aus Texas, Ted Cruz, bei seiner anlaufenden Präsidentschaftskandidatur half. Durchsetzen konnte sich Cruz in den Vorwahlen letztlich nicht, blieb aber überraschend als einer der letzten Widersacher von Trump im Rennen. Nach seinem Ausscheiden im Mai 2016 wechselte sein Gönner Robert Mercer, der Cambridge Analytica finanzierte, mit der Firma ins Team Trump.

Nach dem ersten Bericht des Guardian über die Machenschaften von Cambridge Analytica im Dezember 2015 begann Facebook unterdessen, die Vorwürfe zu untersuchen. Anschließend entzog das Soziale Netzwerk der App von Kogan sämtliche Zugriffsberechtigungen. Zudem ließ sich Facebook zertifizieren, dass die Daten gelöscht wurden. Überprüft wurde die Aussage nicht. Nach weiteren Recherchen des Guardian stellte sich jetzt heraus, dass Cambridge Analytica weiterhin im Besitz der Daten war. Das führte letzte Woche zum Rausschmiss des Unternehmens von der Plattform. Doch selbst wenn die Informationen nicht mehr bei Cambridge Analytica liegen sollten, ist davon auszugehen, dass die darauf aufsetzenden Modelle immer noch im Einsatz sind.

8. Woher wissen wir das alles?

Erste Berichte über die Datensammlung kamen bereits 2015 durch einen Artikel des Guardian ans Licht. Vor allem die Investigativjournalistin Carole Cadwalladr, die für den zum Guardian gehörenden Observer arbeitet, hat das Thema seitdem vorangetrieben. Der Guardian und die New York Times haben laut eigenen Angaben jetzt ein „halbes Dutzend ehemalige Mitarbeiter und Geschäftspartner“ befragt sowie E-Mails und Dokumente der Firma gesichtet, von denen sie allerdings nur wenige in Ausschnitten veröffentlicht haben.

Der Kronzeuge ist Christopher Wylie, der bis 2014 für Cambridge Analytica arbeitete. Die Angaben über seine genaue Position innerhalb der Firma schwanken. Nach eigener Aussage ist er maßgeblich für den Aufbau der Analyse-Werkzeuge von Cambridge Analytica verantwortlich gewesen. Guardian, Observer und New York Times berichten zudem, Wylie sei Mitgründer der Firma gewesen. Das Unternehmen bestreitet das, Wylie sei lediglich ein externer Berater gewesen.

Im Zuge der aktuellen Veröffentlichungen wurden zudem weitere Recherchen ausgespielt: Der britische Fernsehsender Channel 4 hat in einer Dokumentation das Geschäftsgebaren von Cambridge Analytica näher beleuchtet. Vor versteckter Kamera prahlte Firmenchef Nix mit seinen Fähigkeiten, Wahlen manipulieren zu können und dafür auch auf dreckige Tricks zurückzugreifen.

9. Mit welchen Konsequenzen müssen die Verantwortlichen rechnen?

Seit Veröffentlichung der Recherchen haben Politiker und öffentliche Behörden Untersuchungen angekündigt. Mehr denn je zuvor steht Facebook politisch und wirtschaftlich unter Druck, über seine Datensammelei aufzuklären. Im Fokus der Kritik stand zunächst aber Cambridge Analytica, deren Chef Alexander Nix abgesetzt worden ist. Nix bleibt aber Chef der Mutterfirma SCL. Erst vor wenigen Wochen hatte Nix gegenüber einem Untersuchungsausschuss des britischen Parlaments behauptet, seine Firma habe keine Facebook-Daten besessen oder genutzt. Nix soll nun erneut vorgeladen werden. Die britische Datenschutzbehörde hat zudem die Geschäftsräume von Cambridge Analytica durchsucht.

Auch Facebook hatte vor dem britischen Untersuchungsausschuss behauptet, dass Cambridge Analytica keine Daten von ihnen verwendet hat – obwohl das Unternehmen bereits seit 2015 wusste, dass Kogans GSR die Daten an Cambridge Analytica weitergegeben hat. In den USA steht das Plattformunternehmen ohnehin unter Druck, weil es im Wahlkampf verdeckte Misinformationskampagnen Russlands ermöglicht hat.

Die US-Handelsaufsicht Federal Trade Commission (FTC) hat zudem eine Untersuchung eingeleitet, weil Facebook betroffene Nutzer nicht darüber informierte, dass ihre Daten von Kogans GSR unerlaubt an Cambridge Analytica weitergegeben wurden. Kolportiert werden Strafen von 40.000 Dollar pro Fall, was theoretisch auf eine Gesamtsumme von zwei Billionen US-Dollar hinauslaufen könnte. Der Aktienkurs von Facebook brach daraufhin zeitweise um gut 10 Prozent ein – erholte sich aber inzwischen wieder etwas.

Unabhängig von den aktuellen Enthüllungen haben US-Senatoren einen Gesetzentwurf eingebracht. Demnach müsste politische Werbung in Sozialen Medien genau so gekennzeichnet werden wie solche in Radio, Zeitungen und TV.

Nach tagelangem Schweigen äußerte sich Facebook-Chef Mark Zuckerberg auf der Plattform und in mehreren Interviews. Zuckerberg räumte Fehler ein, aber inszenierte sich und seine Firma vorrangig als Opfer. Er versprach, dass Facebook Schritte unternommen habe, um in Zukunft ähnliche Vorfälle zu verhindern. Erstmals hat der Facebook-Gründer zudem vor zwei Ausschüssen im US-Kongress ausgesagt. Dabei umschiffte er auch kritische Nachfragen ziemlich geschickt, stellte sich ahnungslos und verwies auf die ehrbare Mission und klugen AI-Tools seines Unternehmens. Eine Aussage vor dem britischen Parlament lehnte Zuckerberg ab, eine Vorladung des EU-Parlaments bleibt seit mehreren Wochen unbeantwortet.

In Deutschland trafen sich der Digitalausschuss des Bundestages und Justizministerin Barley mit Vertretern der europäischen Niederlassung von Facebook. Ansonsten zaudert die deutsche Politik bei der Frage, welche Konsequenzen zu ziehen sind. Hierzulande hofft man vor allem auf die Sanktionsmöglichkeiten der neuen EU-Datenschutzregeln, die im Mai in Kraft treten.

10. Wie wirkt politisches Microtargeting?

Über die Wirksamkeit von politischem Microtargeting wird viel gestritten. Es gibt solche, die behaupten, dass mit der gezielten Manipulation durch politisches Microtargeting Wahlkämpfe gewonnen werden und solche, die das Thema als maßlos überschätzt abtun. Die Wahrheit liegt wohl irgendwo dazwischen und hängt stark vom Kontext ab: Die Wirkung von politischem Microtargeting dürfte in fragilen oder autoritären politischen Systemen anders ausfallen als in stabilen Demokratien. In letzteren wird beispielsweise eher das Potenzial der strategischen Demobilisierung bestimmter Wählersegmente durch gezielte Negativinformationen über die Konkurrenz betont.

In seiner mit Daten unterfütterten Untersuchung kam der US-Politikwissenschaftler Eitan Hersh etwa zum Ergebnis, Microtargeting weise erhebliche Limits bei der Wählermobilisierung auf. Gleichzeitig lässt sich aber schwer verneinen, dass permanente Werbung Wirkung hinterlässt. Berücksichtigt man, dass Trump die US-Wahl mit lediglich 70.000 Wählerstimmen, verteilt über drei Bundesstaaten, gewonnen hat, könnte diese Technik tatsächlich den Ausschlag gegeben haben. Insgesamt ist das Phänomen bislang aber viel zu wenig erforscht und auch über die konkreten Praktiken bei Cambridge Analytica ist immer noch zu wenig bekannt.

In einer längeren Recherche zu Microtargeting im Bundestagswahlkampf haben wir hier die Ansicht vertreten, dass darüber hinaus über Konsequenzen für das demokratische System nachgedacht werden muss. So ist beispielsweise absehbar, dass das vermehrte Zuschneiden politischer Botschaften auf kleinere Gruppen zu einer weiteren Fragmentierung der politischen Öffentlichkeit führt. Parteien könnten – so wie bei Donald Trump geschehen – Gruppen immer genau das versprechen, wofür sie vermeintlich empfänglich sind. Das ist besonders dann problematisch, wenn dies in Form von Dark Posts geschieht, die nicht öffentlich einsehbar sind, sondern nur von der Zielgruppe gesehen werden. Weder die politische Konkurrenz noch Journalisten und eine kritische Öffentlichkeit können die Aussagen dann in Frage stellen oder einordnen. Ebenfalls nicht überprüfen ließe sich zudem, ob einer Gruppe etwas Bestimmtes versprochen wird, einer anderen aber etwas Gegenteiliges.

11. Könnte Russland dahinter stecken?

Steckt Russland hinter der Nummer, wie jetzt manche vermuten? Von Cambridge Analytica selbst gibt es widersprüchliche Aussagen zur Frage, ob es Kontakte nach Russland hat. Gegenüber dem britischen Untersuchungsausschuss erklärte Alexander Nix, es habe keine Arbeitsbeziehungen mit Russland oder russischen Firmen gegeben. Die New York Times berichtet allerdings von internen Werbeunterlagen des Unternehmens, die Erfahrungen in Russland ausweisen. Außerdem habe es laut Wylie Gespräche mit der russischen Ölgesellschaft Lukoil gegeben. Der zweitgrößte russische Konzern soll eigentümlicherweise Interesse an politischem Wähler-Targeting in den USA gezeigt haben.

Trotz der gut dokumentierten Anstrengungen Russlands, im US-Wahlkampf für Chaos und Polarisierung zu sorgen, ist das zu dünn, um an dieser Stelle plausibel von einer russischen Kampagne ausgehen zu können. Wahrscheinlicher ist, dass wir hier sehen, wozu der Datenkapitalismus im Stande ist, wenn drei rücksichtslose Branchen zueinander finden und das Schlechteste aus ihren Welten kombinieren: Windige Tech-Unternehmen, die ohne Rücksicht auf Verluste Daten zu Geld machen wollen. Verantwortungslose Datenwissenschaftler, die keinen Gedanken an die gesellschaftlichen Konsequenzen ihrer Arbeit verschwenden. Und enthemmte Wahlkämpfer, die um jeden Preis gewinnen wollen.

12. In Deutschland waren ja auch „gerade“ Wahlen – spielten Big Data und Microtargeting da eine Rolle?

Wir haben wie viele andere Medien versucht, im Bundestagswahlkampf einen Einblick zu bekommen, wie die Parteien in Deutschland Datenanalysen und Microtargeting einsetzen. Das war gar nicht leicht, weil alle Parteien außer Grünen und Linken sich ziemlich verschlossen gaben.

Was wir relativ sicher sagen können: Alle Parteien setzten auf politisches Microtargeting auf Facebook und anderen Social-Media-Diensten. Dafür setzten sie vor allem auf die Tools, die die Plattform selbst bieten, um ihre Botschaften sowie Zielgruppen maßgenau zuzuschneiden. CDU, CSU und die Linkspartei experimentierten dabei auch mit Darkposts, die lediglich der ausgewählten Zielgruppe angezeigt wurden und nicht veröffentlicht werden.

Eigene Datensammlungen hatte vor allem die CDU mit ihrer Wahlkampf-App betrieben, auch wenn darüber wenig in Erfahrung zu bringen war. Wie üblich fanden Datenanalysen zu Wählerpotenzialen statt. Dies geschah entsprechend deutschem Datenschutzrecht aber nicht auf einer individuellen Ebene, sondern nach Häuserblocks. So kauften etwa CDU und FDP von der Deutschen Post Datensätze ein, um Gegenden mit potenziellen Wählern ihrer Parteien zu identifizieren.

13. Handelt es sich hier um einen Einzelfall?

Nein. Im Zuge der Enthüllungen über Cambridge Analytica sind weitere Fälle von Facebook-Apps bekannt geworden, die persönliche Daten abgegriffen haben sollen. Die Datenanalytiker der kanadischen Firma AggregateIQ, unter anderem beratend für die Brexit-Befürworter tätig, wurden von Facebook verbannt, nachdem der Guardian über Verbindungen zu Cambridge Analytica berichtet hat. Auch das Werbeunternehmen Cubeyou darf Facebook nicht mehr nutzen, weil es Daten aus Persönlichkeitstests unrechtmäßig zu Werbezwecken genutzt hat. Wie viele Personen hiervon betroffen sind, ist nicht bekannt. In einer leicht verständlichen Anleitung haben wir erklärt, wie man Facebook-Apps den Zugriff auf seine Daten entzieht.

14. Was ist außerdem noch über Geschäftspraktiken von Facebook bekannt geworden?

Die erhöhte Aufmerksamkeit der Medien für die Geschäftspraktiken von Facebook führte in den letzten Wochen zu weiteren Recherchen und Eingeständnissen des Konzerns. So teilte Facebook mit, dass Drittfirmen in der Vergangenheit Informationen, die zum „öffentlichen Profil“ von Facebook-Nutzern gehören, im großen Stil ausgelesen haben. Dazu zählen Daten wie Telefonnummern, E-Mail-Adressen und Namen, die von Datenhändlern unter anderem dafür genutzt werden, um Informationen über Individuen aus unterschiedlichen Quellen in einem einzigen Profil zusammenzuführen. Zuckerberg musste eingestehen, dass möglicherweise alle zwei Milliarden Facebook-Nutzer betroffen sind. Facebook wurde schon vor Jahren auf das Problem hingewiesen, reagierte aber erst jetzt und schaltete die dafür genutzte Suchfunktion ab.

Zudem wurde bekannt: Facebook kann die Nachrichten seiner Nutzer mitlesen. Das Unternehmen scannt die Nachrichten seiner Nutzer mit automatisierten Tools nach verdächtigen Inhalten – etwa Kinderpornografie oder Malware-Links – und im Verdachtsfall schaut sich ein Team von Mitarbeitern die entsprechenden Nachrichten an. Das war vielen Nutzern vorher nicht bewusst. Ebenso intransparent war die Sammlung von Verbindungsdaten von Telefonaten und SMS durch die Facebook-App auf Android-Smartphones – Mark Zuckerbergs private Vorratsdatenspeicherung.

Das US-Portal TechChrunch deckte zudem auf, dass Facebook frühere Nachrichten von Zuckerberg an Journalisten und andere Nutzer aus deren Postfächern gelöscht hat – ohne jene darüber zu informieren.

Nach Informationen von CNBC hat Facebook in den USA darüber hinaus Gespräche über einen Austausch von Daten mit Krankenhäusern geführt. Die Pläne sollen wegen des Skandals um Cambridge Analytica vorerst auf Eis liegen.

15. Wie kann ich überprüfen, ob ich unter den Betroffenen bin?

Von dem Datenskandal sind in Deutschland vermutlich rund 310.000 Nutzer betroffen. Das geht aus einer Statistik von Facebook hervor, die der Konzern an die EU-Kommission gesandt hat. Seit Montag, 9. April, können eingeloggte Facebook-Nutzer unter diesem Link prüfen, ob sie von der Datenweitergabe an Cambridge Analytica betroffen sind.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

27 Ergänzungen

  1. Also ich finde ja, die Parteien sollten lieber auf eine solide Baufinanzierung setzen. 70% der Kosten beim Hausbau werden vom Staat übernommen. Soll in Italien funktionieren. Vorausgesetzt natürlich, es wird nicht mit Mafiageldern gebaut. Oder so. Oder auch genau umgekehrt? Könnte doch in Berlin auch funktionieren. Oder so. Oder auch genau umgekehrt. Wer waren jetzt noch mal gleich die bösen Jungs?

      1. Jo, das habe ich mir auch gedacht. HÄ? Bin ich im falschen Film gelandet. Bei allem Antiamerikanismus… Die EU fährt doch gerade den Karren an die Wand, bzw. das, was noch von ihr übrig ist. Und die Bundesländer überlegen schon, wie sie ihre Grenzen neu gestalten, ganz weit weg vom preussischen Berlin. Freue mich übers nächste Hä ;-P

  2. Vielleicht wäre es genau jetzt an der Zeit, nicht immer wieder den Hype der Industrie wiederzukäuen und das Loblied auf Big Data und Deep Learning etc. zu singen. Das aktuelle Problem ist nur eines von vielen. So wird Korrelation häufig mit Kausalität verwechselt. Erkenntnisse aus Daten herauszukorrelieren funktioniert nur sehr bedingt. Außerdem basiert die Datenanalyse in weiten Bereichen auf Korrelation d.h. z.B. multivariater linearer Regressionsanalyse. Das Gefährliche an den entsprechenden Technologien ist zum Beispiel, dass man vollkommen unabhängig von der Qualität der Daten und Algorithmen mit den entsprechenden Verfahren auch dann ein Ergebnis zustande bekommt, wenn der Analysierende die Methoden außerhalb geeigneter Anwendungsfelder einsetzt und sich insbesondere des Bias d.h. der kognitiven Verzerrungen nicht bewusst ist. In einem durch Druck gekennzeichneten wirtschaftlichen Umfeld sind diese Randbedingungen alles andere als unwahrscheinlich, denn dort zählen nur Ergebnisse und was ist verlockender diese zu präsentieren, wenn die Ergebnisse nicht unmittelbar und wenn überhaupt, nur sehr eingeschränkt überprüfbar sind.

    1. Die ontologischen Mängel von Big Data sind ja bekannt – wo siehst du hier ein „nachkäuen“?

  3. Warum wird im Moment so wenig über den NSA, GHCQ …. Skanadal geschrieben. Ist Facebook auf einmal schlimmer als die ganzen staatlichen Organisationen? Warum sitzt Edward Snowden immer noch in Russland fest?

      1. Danke für den Hinweis.

        PS: Nur mein Gedanke …. mag auch naiv klingen: Ich verstehe auch nicht warum man sich als etwas besseres fühlt, wenn man nicht bei Facebook ist. Wenn man auf anderen Seiten schreibt bzw kommentiert, bsp. spiegel.de, macht es dann besser? Viele Kommentare dort bsp. stellen groß heraus das Sie nicht bei Facebook sind.

        Sind alle anderen Webseiten außer Facebook unbedenklicher?

        1. Naja, wie viele Nutzer hat Facebook vs. wie viele Nutzer hat spiegel.de? Und was tun die Leute auf Facebook vs. was tun sie auf spiegel.de? FB =? spiegel.de: Kommentieren und Seiten lesen (ja), mit Leuten chatten „privat“ (nein), ihre Freundesnetzwerke offenlegen (nein), eigene Fotos (so mit GPS Koordinaten im EXIF…) hochladen (nein), sie ausforschende Spiele spielen (nein), …
          Man sieht, glaube ich, dass es doch ein paar kleine qualitative Unterschiede zwischen Facebook und spiegel.de gibt…

  4. „Es ist höchste Zeit, dass Datenschutzbehörden mit der DSGVO nun die Sanktionsmöglichkeiten bekommen, die der gesellschaftlichen Bedeutung ihres Auftrages gerecht werden.“
    Süße Realsatire. Der Staat soll es richten. Wie im Sozialismus. Wenn wir dem Staat mehr Macht geben, habe wir gesehen was bei raus kommt. Man verzichtet auf das Grundegesetz und die Grundrechte, weil der Staat so toll ist:
    http://www.sueddeutsche.de/digital/staatliche-daten-spionage-trojaner-fressen-grundrecht-auf-1.1158728
    Und das Bundesverfassungsgericht sagt, wenn eine an den Gesetzen vorbei operierende Behörde sagt, dass seine Spionage geheim ist, dann wird auch auf Demokratie und parlamentarische Kontrolle öffentlich geschissen:
    https://www.bundesverfassungsgericht.de/SharedDocs/Pressemitteilungen/DE/2016/bvg16-084.html
    Aber man kann ja die religiösen Dogma zur DSGVOverbreiten. Was stört schon Realität. Und Anwälte und Berater wollen jetzt Millionen machen, um Unternehmen und Bürger Fit für die DSGVO zu machen.
    Oh what a brave new world.

    1. Ich gebe dir ja prinzipiell Recht, aber wer außer staatliche Stellen hat die Macht, die DSGVO durchzusetzen.
      Und ja, dazu muss auch der (staatliche) Wille vorhanden sein. Und der fehlt leider weitgehend.

      1. Die DSGVO ist hasserfüllter Schrott. Sie dient als Umsatzgenerierer für Rechtsanwälte und Berater, aber nicht für den Datenschutz. Der wird vom Staat für sich abgebaut. Der antiamerikanische Hass der Grünen läuft bei den Großen in USA ins leere und die Zeche zahlen für den Bürokratieaufwuchs kleine und mittlere Unternhemen. Das ist so wie bei den Grünen und dem Umweltschutz: in den Prospekten schön: in Stuttgart dann in Stadt und Land Automobilförderung mit der Dieselverpestung der Bevölkerung, in NRW die Braunkohle weiter verpesten lassen.

        Was wir brauchen ist Datenschutz, nicht hasserfüllte Kleinstaaterei wie mot der DSGVO. Wenn man Datenschutz in globalen Medien will, muss man das auch global regulieren. Bei der UN nicht regional bei der EU. Wir machen auch keinen europäischen Atomwaffensperrvertrag. Aber so viel Eier hatte der in die Landwirtschaft abgeschoben nicht, sonder pflegte bei uns die Illusion, man könne so was auf EU-Ebene regulieren.

        Der Rest ist hysterische Gegackre. Früher im Rechtsstaat hat man, wenn jemand gegen Gesetze verstossen hat, einen Staatsanwalt und einen Richter geholt. Aber den Rechtsstaat hasst die SPD. Beim NetzDG haben wir es gesehen: statt eines Richters will die SPD lieber juristische Laien von Avarto Recht nach dem StGB sprechen lassen.
        Wenn Facebook gegen Gesetze verstossen hat, muss ein Staatsanwalt ran. Wenn Facebook nicht gegen Gesetze verstossen hat und die was machen, was wir nicht wollen, müssen wir (global) Regulierungen machen, dann hat der Staat halt versagt. Aber statt des Staatsanwaltes mit einem hinreichenden Verdacht dann die Justizministerin Facebook zum Interview auf Basis von Gerüchten aus der Presse zu holen, ist ein weiterer Angriff der SPD auf den Rechtsstaat. Wie beim NetzDG, wie bei den parlamentarisch nicht kontrollierbaren Bürgerbeschnüffelungen durch die Dienste mit dem Staatstrojaner, wie bei dem verfassungswidrigen Vorratsdatenspeicherung. Offener Hass auf den Rechtsstaat statt Law and Order. Schade, wie die Republik zerstört wird.

  5. Solange ihr noch Kontakte über Gangsterunternehmen wie „Facebook“, „Twitter“ etc herstellen wollt seid ihr für mich nur verlogene Unterstützer eben dieser Gangsterunternehmen!
    Ich habe nie Konten bei diesen US-Unternehmen gehabt – denn wenn ja hätte ich meine Daten auch direkt an die NSA oder den CIA weiterleiten können. Und was haben die Idioten, die mit „Facebook“ etc zusammenarbeiten davon? Nichts, denn vom Datenverkauf dieser Firmen an irgendwen fallen die Gewinne nur bei „Facebook“ und ihren kriminellen Kollegen an – ihr bekommt wie gesagt NICHTS! Oder ist das bei euch anders? Wäre ja interessant.

    1. „Ich habe nie Konten bei diesen US-Unternehmen gehabt“
      Sehr löblich. Unternehmen werden manchmal aber auch ge-/verkauft. Könnte also passieren, dass Daten von dir bei einem dt. Unternehmen also irgendwann in die Fänge eines US-Unternehmens gelangen. Da kannst du ohne Löschfristen, Datensparsamkeit und Zweckbindung gar nichts machen. Außerdem kann es passieren, dass deine Freunde Daten von dir an die US-Unternehmen weitergeben. Zum Beispiel WhatsApp. Ach ja, das hat Facebook gekauft…

  6. Skandal, Skandal Skandal …….ok, kann man so bezeichnen, auch wenn der Begriff inflationär verwendet wird. Auch ein guter Zeitpunkt, Facebooks kaum vorhandenen Datenschutz zu thematisieren.

    Darüber überrascht zu sein aber ist ziemlich komisch. Ausser vielleicht man befindet sich im augenscheinlich normalen Wachkoma -fragt Chronobiologen, was jahrelanger chonischer Schlafmangel bewirkt. Könnt ihr live im Politikbetrieb oder im next Umfeld beobachten.
    Oder technisch: wehn interessiert es schon, wieviel Werbenetzwerke sein Smartphone, sein Smart-TV, sein was auch immer smart*LACH*
    lustig bespasst.

  7. Man könnte es kürzer und einfacher sagen. Das Geschäftsmodell von Facebook besteht grundsätzlich darin, von seinen Nutzern Profile herzustellen und diese an JEDEN x-beliebigen Lumpen dieser Welt zu verhökern. Das war NIE anders. Was bedeutet denn „zielgerichtete Werbung“?

    1. „Man könnte es kürzer und einfacher sagen. Das Geschäftsmodell von Facebook besteht grundsätzlich darin, von seinen Nutzern Profile herzustellen und diese an JEDEN x-beliebigen Lumpen dieser Welt zu verhökern.“
      Das kann man verschwörungstheoretisch so behaupten. Aber ist ist falsch und unsachlich. Facebook verhökert keine Profile. Facebook nutzt intern Daten von den Nutzern, um Werbung rezipientenspezifisch zu. Bezahlen tust Du selbst indirekt, wenn als Konsument etwas kaufst. Ein teil des Umsatzes verwendet der Händler oder der Hersteller für Werbung. Früher hast Du Werbung auf Litfasssäulen bezahlt, Du hast Werbung in Zeitungen bezahlt, Du hast Werbung Im TV bezahlt. Und Du musstest von Deinem Geld Dir überall Werbung ertragen, egal ob Du die Produkte brauchst oder nicht. Wenn heute die Chance größer ist, dass Du die Produkte, die um Deine Gunst werben, auch brauchen kannst, dann ist das auch Facebooks Verdienst. Hör also auf zu konsumieren, damit Dein Geld nicht als Werbung auf uns bei Facebook zurückschwimmt :-)
      Aber natürlich kannst Du verschwörungstheoretisch auch den Dingen entrücken, die Du finanzierst. Sollen wir Dich jetzt Lump nennen, weil Du die Werbung bei Facebook finanzierst? Aber interessant ist, wie Du krampfhaft von eienm Geschäftsmodell ablenken willst, dass Du finanzierst :-)

  8. alle manipulieren……es sieht eher so aus…..das die Liberale Welt, ein schlechter Verlierer ist. Vielleicht ist aber Trump einfach gewählt wurden…..weil die Strasse ihrer eigene Sprache spricht…..man kann auf Dauer Fakten nicht leugnen und umdeuten kann.

    In den USA konnte die Trump Maschine auf einen guten Nährboden aufsetzen…..diesen Nährboden haben die Liberalen aber geschaffen in den sie Jahrzehnte nur Politik für Reiche und Vermögende gemacht haben….nennt sich Neoliberalismus.

    Manipulationsmaschinen nannte man früher einfach PR Agenturen.

    Die Herrschenden und Mächtigen……manipulieren nix neues……es ist aber keine Frage des Lagers….das tun Liberale genauso wie Konservative!

    Jeder muss sich letzlcihe in eigene Medienkompetenz zulegen….aber die wird immer anders sein, als die von meinen Nachbarn…..letzlich will jeder die Dinge so sehen….wie er es für richtig hält….die entsprechenden Verstärker finden sich in den Internetblasen und Comnunitys….ich schaue mir alles an…..und merke schnell das alle manipulieren wollen!

  9. Macron….hat auch mit hilfe von BIG data gewonnen….was soll das Geschrei?

    Trump hat gewonnen…..weil er ein Showmaker und rotzfrecher Lümmel ist….das mögen viele Amerikaner wenn jemand den Eliten mal auf die Füsse tritt!

    1. Die pekuniäre Schicht um Trump hat es geschafft, den geistig Beschränkten die Mär aufzubinden,dass trotz des wirtschaftlichen Unterschiedes,welches auf der Verarmung der Unterschicht basiert,sie doch einer von ihnen,dem gemeinen Volk sind,Hilfsmittel war u.a. Facebook.
      Wenn man nur blöd genug ist ,glaubt man auch die Chose,das Trump,Koch,Mercer …und all die Milliardäre um Trump herum nicht dem klassischen Establishment entsprechen ,welches sie zu bekämpfen, dem vornehmlich männlichen,weissen Stimmvieh suggerieren .Besoffen vom White Supremacy Feeling ,verkünden Trumpapologeten unreflektiert diesen Mist.“Wir sind Trump“ ist der geistige Offenbarungseid,Ausnüchterung mit Katzenjammer ist vorprogrammiert.

      1. Kriegstreiberin Clinton wäre auch kein Gewinn gewesen. Die USA werden nie einen Sozialdemokraten an die Macht wählen.

        1. @kim
          Atombombendrohungen gegen Nordkorea.Kriegsdrohungen gegen Iran,Handelskrieg gegen Europa und China.
          Gut das die Konserven+Kasper Trump Friedenstauben sind.

  10. Solange facebook von politisch korrekten Parteien genutzt und kontrolliert wurde ist alles in Ordnung.

    Die Heuchelei ist wieder gigantisch. Hätte die grosse Manipulation Maschine von Clinton gewonnen, die eigentlich seher gut aufgestellt war aber Herrn Trump seine dreckige Art unterschätzt haben wäre alles in Ordnung gewesen.

    Trump sein Sieg war gerecht auch wenn er den Globalisten nicht passt. Er hatte tolle Werbevideos und den Mut das Establiment knallhart die wahrheit ins Gescicht zu sagen.

    Ich finde ihn gut. Chinas Aufstieg hat uns alle arm gemacht und die Arbeitsplätze geraubt. China ist kein fairer Mitbewerber am globalen Markt.

  11. Ich kann den ganzen Trubel über den so genannten „Facebook-Skandal“ nicht nachvollziehen. Bei Nutzung von Facebook gibt der Nutzer freiwillig sein Einverständnis, dass er seine Daten facebook und seinen Partnern zur Verfügung stellt. Also warum dann die Aufregung? Evtl. auch mal die leeren Maggi-Flaschen bei Seite räumen und langsam anfangen, wieder selbst zu denken. Das tut auch nicht weh :-)

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.