„Wenn ihr die Welt zum besseren verändern wollt, ist das jetzt euer Moment!“ Mit diesem Aufruf zur Verantwortung wendet sich Kate Crawford in einem offenen Brief an die Technologie-Elite des Silicon Valley. Im Angesicht der auf Diskriminierung angelegten politischen Agenda von US-Präsident Donald Trump warnt die australische Sozialwissenschaftlerin in drastischen Worten vor der Gefahr, die von der aktuellen Datenpraxis digitaler Dienste ausgeht:
The data trails required to build a list of dissenters already exist; they are public and permanent. Past comments that had seemed ephemeral will haunt the future. Our search queries, posts, and hashtags will become the most brutal of informants. You’re working on other tools already. Machine-learning techniques are being tested for use in predictive policing, in the criminal-justice system, and in tracking refugee populations around the world. What will you do if you are asked to modify your new facial-recognition app so that it can help identify and incarcerate undocumented people? Or if your community-mapping tool is acquired by a security company that apprehends activists? Or if the Series A–funded drone service that you designed to deliver packages is offered a government contract to patrol the border? After all, what need is there for a brick-and-mortar wall to separate us from Mexico when a GPS-enabled drone zone with high-resolution cameras and tear gas can do the job? It’s a short, slippery slope from disruptive innovation to the panoptic police force in the sky.
(Die notwendigen Datenspuren, um eine Dissidentenliste zu erschaffen, bestehen bereits – öffentlich und bleibend. Getätigte Kommentare, die vergänglich erschienen, werden die Zukunft heimsuchen. Unsere Suchanfragen, Posts und Hashtags werden die brutalsten Informanten sein. Und ihr arbeitet bereits an weiteren Werkzeugen. Techniken des maschinellen Lernens werden getestet in der Verbrechensvorhersage, in der Strafjustiz und beim Nachverfolgen von Flüchtlingsbewegungen in der Welt. Was werdet ihr tun, wenn ihr aufgefordert werdet, eure Gesichtserkennungsanwendung so zu modifizieren, dass sie verwendet werden kann, um undokumentierte Personen zu identifizieren und inhaftieren? Oder wenn dein Community-Mapping-Tool von einer Sicherheitsfirma aufgekauft wird, die Aktivisten erfasst? Oder wenn dein mit Venture-Kapital geförderter Drohnen-Service, den du für die Auslieferung von Paketen designed hast, von staatlicher Seite einen Auftrag zur Grenzüberwachung angeboten bekommt? Wofür bräuchte man noch reale Zäune und Mauern, die uns von Mexiko trennen, wenn man eine GPS-basierte Drohnenzone einrichten kann, die mit hochauflösenden Kameras und Tränengas arbeitet? Es ist nur ein schmaler Grad zwischen disruptiver Innovation und einer panoptischen Polizei der Lüfte.)
Von Hollerith zu Prism
Crawford, die im vergangenen Jahr auch auf der re:publica und der Netzpolitik-Konferenz über gesellschaftliche Konsequenzen von Big Data, algorithmischen Systemen und Künstlicher Intelligenz sprach, veröffentlichte ihren Appell im US-amerikanischen Harper’s Magazine. Sie ist eine von elf Autorinnen und Autoren, die sich in der aktuellen Ausgabe („Trump: A Resiter’s Guide“) mit Widerstandsmöglichkeiten in der Ära Trump auseinandersetzen.
Um das Potenzial von Datafizierung und sortierenden Analysen aufzuzeigen, zieht Crawford eine Linie von den Hollerith-Lochkartenmaschinen, die im Dritten Reich verwendet wurden, um bestimmte Menschen zu identifizieren und auszusortieren, bis zur Überwachungslandschaft der Gegenwart. Sie verweist darauf, dass eine staatliche Nutzung der bei Unternehmen gespeicherten Informationen bereits heute geschehe. Als aktuelles Beispiel führt sie unter anderem die Regierungsanordnung auf, mit der Yahoo im vergangenen Jahr zum Durchleuchten aller eingehender Mails seiner Kunden gezwungen wurde. Der Versuch des FBI, Apple zum Knacken der iPhone-Verschlüsselung zu zwingen, sei ein anderes aktuelles Beispiel. (Und auch, wenn Crawford darauf verzichtet, liegt es Nahe, an dieser Stelle auf die Kooperation von Technologiefirmen mit der NSA im Rahmen des Prism-Programms zu verweisen.)
Tech-Größen in der Verantwortung
Insbesondere Konzernleitungen sind der Forscherin zufolge in der Pflicht, unethischen Anfragen der Trump-Administration zu widersprechen. Das jüngste Meeting prominenter CEOs mit dem Präsidenten in spe im Trump Tower sowie erste Kooperationszusicherungen von Tech-Größen wie IBM-Chefin Ginni Rometty oder Palantir-Chef und Facebook-Investor Peter Thiel dienen als Negativbeispiele.
Auch wenn Individuen Möglichkeiten haben, sich zu schützen, brauche die Gesellschaft als Ganzes den Schutz verantwortungsvoller Kommunikationsinfrastrukturbetreiber:
We, the subjects of your data dominions, have limited options. If we’ve used your services, a record of our personal and political behavior is already yours. Yes, we can download Signal, an app that offers better security for phone messaging. We can use Tor […]. But our actions as individuals aren’t sufficient to protect us from the vast turnkey surveillance system that the Trump Administration will inherit. So you, too, have a job to do.
(Wir, die Subjekte eurer Datenherrschaft, haben nur begrenzte Möglichkeiten. Wenn wir eure Dienste genutzt haben, seid ihr bereits im Besitz einer Aufzeichnung unseres persönlichen und politischen Verhaltens. Ja, wir können Signal herunterladen, um sicherer Nachrichten zu schreiben. Wir können Tor nutzen […]. Aber unser individuelles Handeln reicht nicht aus, um uns vor dem schlüsselfertigen Überwachungssystem zu schützen, das die Trump-Administration übernimmt. Also müsst ihr ebenfalls euren Anteil leisten.)
Datensparsamkeit minimiert Gefahren
Konkret fordert Crawford zum Beispiel, so viele Dienste wie möglich mit Ende-zu-Ende-Verschlüsselung anzubieten. Außerdem sollten die Firmen nur die nötigsten Informationen über ihre Nutzerinnen und Nutzer speichern – auch wenn es aktuellen Geschäftsmodellen zuwiderlaufe, die darauf beruhen, so viele persönliche Daten wie möglich zu sammeln. So könnten sie dazu beitragen, das Missbrauchspotenzial zu minimieren. Besonders gefährlich seien solche Daten, von denen Nutzer denken, sie seien bereits gelöscht.
Zudem sollten die Firmen allen Datenanalysen entgegentreten, die die sexuelle Orientierung, Religion oder politische Einstellung von Menschen vorhersagen, sofern diese sie nicht bewusst preisgeben. „Und wenn die unvertretbaren Forderungen kommen; die Anfragen, durch die Aktivisten, Anwälte, Journalisten und ganze Gemeinschaften einem Risiko ausgesetzt werden, widersetzt euch, wo ihr könnt.“
Seltsam, beim Heiland war das alles noch völlig iO.
Obama?
Irgendwie finde ich das heuchlerisch. Das Silicon Valley hat seit Jahren Nutzerdaten gesammelt, ausgewertet und verkauft. Das Wort „Datensparsamkeit“ kenne ich vor allem von Threema, ich glaube, die haben es geprägt. Jetzt so tun als gehe die Welt unter, weil die Regierung auch an die Nutzerdaten will, beruht doch auf einer Doppelmoral, oder übersehe ich etwas? Lieber direkt europäische Dienste Nutzen.
Datensparsamkeit ist ein klassisches Konzept des Datenschutzes, man kann es auch Datenminimierung nennen. Und Doppelmoral ist Kate Crawford an der Stelle eher nicht vorzuwerfen, weil sie sich schon lange kritisch mit dem Thema und auch der Praxis der Tech-Unternehmen auseinandersetzt. Stimme dir aber zu, dass die Unternehmen ihre Praxis auch unabhängig von Regierungszugriffen überdenken müssen :) Dass europäische Dienste automatisch die datenschutzfreundlicheren sind ist aber leider ein Fehlschluss.
Die Nutzer sind aber auch nicht ganz unschuldig, wenn wir uns auf jedes vermeintlich kostenlose Angebot stürzen und nicht bereit sind einen Angemessenen Preis (nein, nicht in Form von Daten) für die Dienstleistung z.B. eines Messanger Dienstes, einer Kommunikationsplattform usw. zu bezahlen. Gleiches gilt für „ich muss alles haben, nur weil es mein Kumpel/Nachbar/Kollege auch hat“. So lange die Möhre „Bequemlichkeit“ und „Geiz“ vor der Nase bei uns Nutzern im großen Stil funktioniert, dürfen wir uns nur bedingt darüber aufregen, wenn die Konzerne das auch zu ihrem Vorteil ausnutzen.
Warum können Fakebook, Gockel und Co überhaupt so viele Daten abgreifen? Weil die Nutzer sie ihnen wörtlich hinterherwerfen und Verzicht zu einem absoluten Unwort geworden ist.
Das SC sollte die USA rasch verlassen, ansonsten sind weder die Produkte noch die Nutzbarkeit im Sinne von Datenschutz glaubhaft im Rest der Welt. Die Daten können jederzeit gegen Klimaforscher, Umweltaktivisten, moderne multikulturell eingestellte Menschen, Abtreibungsbefürwortern, Homosexuelle, Einwanderer durch die Trump-Administration eingesetzt werden. Hier brauchen die Megakonzerne jetzt keine Märchen erzählen. Sie unterstehen US-Recht und damit PUNKT. Dienste des SCs sind somit für freiheitlich demokratisch eingestellte Staaten und Bürger eher ab sofort zu meiden.
Sie waren noch nie glaubhaft. Die Unternehmen und Konzern im S. C. interessieren sich in Wirklichkeit ein Scheiß um Moral oder eine demokratische Gesellschaft. Die interessiert nur eines: Profit und nochmals Profit. Und dieser lässt mit den Daten ihrer Nutzer nahezu unbegrenzt generieren. Sie bekommen die Daten sogar frei Haus und umsonst hinterher geworfen. Das ganze Bla Bla der Konzerne wie „Don’t be eval“ usw. ist einfach nur Heuchelei und heiße Luft.
Der Aufruf kommt mindestens 10 Jahre zu spät. Die Gesetze, die den US-Behörden Zugriff auf beliebige Daten erlauben, sind längst in Kraft und erprobt. Das ist völlig unabhängig davon, ob der jeweilige US-Präsident mit dem Friedensnobelpreis dekoriert wurde (und weiter fröhlich Drohnenangriffe fliegen ließ) oder ob er ein narzisstischer, nepotischer, sich selbst überschätzender Geschäftsmann ist, der die USA mit Anlauf vor die Wand fährt. Die Appelle an die Unternehmen werden nichts nützen, weil diese a.) mit Daten Geld verdienen und b.) dazu gezwungen werden, die Daten rauszurücken, natürlich nur klandestin.
Meinten Sie „nepotistisch“?
(In der Sache: Ich finde ja, so ein Aufruf ist nie zu spät.)
endless screaming@infinite_scream
AAAAAAHHHHHHHHHHHHHH
5:34 AM – 26 Jan 2017
–
ach wie nett und papier ist geduldig. usw. usf.
und wieso haben dann ms, fb, am und ggle ca. $2,1 mio dem republikanischen pac gegeben ? flotter „rechts-schwung“. wth.
–
details u.a. hier :
https://mobile.nytimes.com/2017/01/12/opinion/silicon-valley-takes-a-right-turn.html