Wochenrückblick KW 34Staatstrojaner, Sexarbeit und diskriminierende Software

Diese Woche gab es Aufruhr um ein angekündigtes Pornographie-Verbot und um die technisch versierten Taliban. Es geht weiter mit einer Hackergruppe im Iran und einer Dokumentation über die Datenfülle von Google. Wir sorgen uns um automatisierte Diskriminierung in Sprachmodellen und auf dem Immobilienmarkt und sind vom Chat-Bot auf WhatsApp enttäuscht.

Eine getigerte Katze sonnt sich.
Von Katzenbildern unter Creative Commons-Lizenzen können wir nicht genug bekommen. (Symbolbild) Gemeinfrei-ähnlich freigegeben durch unsplash.com Raj Lad

Während der Hashtag „#Luftbrücke“ in sozialen Medien trendet und damit die Rettung aller Gefährdeten aus Afghanistan fordert, baut die Grenzagentur Frontex seine Luftüberwachung aus. Frontex bewacht seit 2013 die EU-Außengrenzen und sammelt dabei Daten über irreguläre Grenzübertritte. Diese Informationen gelangen über das Frontex-Hauptquartier an die entsprechenden Grenztruppen und in das EUROSUR-Überwachungssystem. Matthias Monroy berichtet über zwei neue Aufträge, die Frontex nun an fünf Charterfirmen aus verschiedenen europäischen Ländern vergeben hat. Damit zahlt die Grenzagentur weitere 84 Millionen Euro für ihre inhumane Arbeit an den Außengrenzen. Auch Libyen hat zehn Helikopter bei Airbus bestellt – und baut so seine Überwachungsmöglichkeiten aus. 

Massenüberwachung und kein Ende ist in Sicht 

Auch der Pegasus-Skandal findet kein Ende. Das kanadische Citizen Lab hat eine weitere Spionage aufgedeckt, die sogar teils auf europäischem Boden stattfand. In den letzten zwei Jahren soll die Spionagesoftware mindestens neun Menschenrechtsaktivist:innen und bahrainische Oppositionelle ausgeforscht haben, zwei davon in London. Markus Reuter klärt darüber auf, welche Motive die autoritäre Monarchie in Bahrain mit den Staatstrojanern verfolgt.

Außerdem widmet er sich der Gesichtserkennungssoftware Clearview AI. Weltweit haben verschiedene staatliche Institutionen und Behörden die Software getestet und damit die jeweiligen Datenschutzbestimmungen des Landes übergangen. Clearview greift dabei auf eine Datenbank mit über drei Milliarden Fotos zu. Die Fotos stammen aus dem Internet und aus sozialen Netzwerken, was angesichts der schützenswerten biometrischen Daten höchst fragwürdig ist. In Europa geht ein zivilgesellschaftliches Bündnis gegen Clearview vor und in Deutschland überprüft der Datenschutzbeauftragte Johannes Caspar das Unternehmen.

Auch der Europäische Gerichtshof für Menschenrechte beschäftigte sich mit der Frage, wie sensible Daten vor Massenüberwachung geschützt werden können. Im Mai diesen Jahres fiel ein Urteil, um die Befugnisse der Geheimdienste bei der Kommunikationsüberwachung einzudämmen. Allerdings zieht die deutsche Bundesregierung noch immer keine Konsequenzen aus dem Urteil. Constanze Kurz ordnet diese Verzögerung für uns ein und lässt dabei den Grünen-Politiker Konstantin von Notz zu Wort kommen. 

Big Data is watching us – we watch „Made to Measure“

Immer häufiger fordern die Polizei und Geheimdienste in den USA Standortdaten von Google an. Das geht aus einem kürzlich veröffentlichten Bericht von Google hervor, in dem das Unternehmen die Anfragen der US-Behörden der letzten Jahre verzeichnet. Tomas Rudl berichtet über die Hintergründe der Anfragen und über die laute Forderung nach solchen Transparenzberichten. 

Die Gruppe Laokoon arbeitet ebenfalls mit Google-Daten. In dem investigativen Projekt „Made to Measure“ erstellt sie aus den Informationen von freiwilligen Daten-Spender:innen eine möglichst getreue Doppelgängerin. Das Experiment stellt die Frage: Wie viel sagen unsere Datenspuren über uns aus? Chris Köver berichtet über das Projekt und zieht das Fazit: „Es ist ein beeindruckendes Zeugnis, selbst für Menschen, die sich vermeintlich lang und abgeklärt mit Themen wie Datenhandel, Profilerstellung und Microtargeting beschäftigt haben.“ In ihrem Artikel erfahrt ihr auch, wo der 45-minütigen Dokumentarfilm zu sehen ist.

Im Gegensatz zum Handel mit persönlichen Daten im Netz begrüßen wir offene Datensätze und Schnittstellen von staatlichen Institutionen und der Verwaltung. Unter dem Motto „10 Jahre Open Data – Ein Blick in die Zukunft“ haben Daten-Expert:innen über ihre neusten Projekte und Ambitionen gesprochen. Unter anderem nahmen Code for Germany und die Open Knowledge Foundation an dem Event teil. 

Fluch und Segen des freien Internets 

Das Internet stellt mit Webseiten, sozialen Netzwerken und Suchmaschinen viele Informationen kostenfrei zur Verfügung. Doch wer postet diese Informationen und wer moderiert die Kanäle im Netz? Diese Frage haben sich Serafin Dinges und Chris Köver in der aktuellen Folge des Netzpolitischen Podcasts zu Sorgearbeit im Netz gestellt. Sie setzen sich mit dem Konzept der „Digitalen Hausfrau“ auseinander und sprechen dabei mit Gäst:innen über ihre unbezahlte Online-Arbeit bei Twitter und Reddit, sowie über ihre Einschätzung zur Digitalen Sorgearbeit. Eine interessante Mischung aus Feminismus, Arbeitskämpfen und dem Plattformkapitalismus, für den wir oftmals kostenlos arbeiten.

Das freie Internet brachte auch die Idee der Creative-Commons-Lizenz hervor. Das sind Werke, die unter bestimmten Bedingungen von anderen Menschen verwendet werden dürfen. Manche schlagen aus dieser Idee Profit, indem sie gezielt Abmahnungen verschicken, wenn Lizenzen falsch oder nicht ausreichend ausgewiesen sind. Leonhard Dobusch berichtet über dieses Geschäftsmodell, das die Webseite von Creative Commons als „eine Perversion der Gründungsideale“ sieht. Außerdem schreibt er über künftige Maßnahmen und welche Lizenzversion ihr verwenden solltet, wenn ihr auf Nummer sicher gehen möchtet.

Zur Sexarbeit-Debatte im Netz 

So frei das Internet auch sein mag, alle Inhalte sind auf den Plattformen trotzdem nicht erwünscht. In den vergangenen Tagen gab es ziemlich Aufruhr um ein angekündigtes Pornographie-Verbot auf der Webseite OnlyFans. Ab Anfang Oktober sollte dort Schluss sein mit selbstbestimmter Sexarbeit. Rahel Lang schreibt über die Hintergründe des Verbots und dessen Konsequenzen für freischaffende Sexarbeiter:innen im Netz. OnlyFans begründete seine Entscheidung damit, dass Kreditkarten-Unternehmen den Zahlungsprozess nicht mehr unterstützen würden. Betroffene kritisierten diese Entscheidung und sehen damit einen weiteren Schritt in der Stigmatisierung von Sexarbeit. 

Diese Empörung hat sich auch in den sozialen Medien breit gemacht. Doch nur einen Tag später machte das Unternehmen eine Kehrtwende und verkündete, die geplanten Änderungen der Richtlinien erstmal auszusetzen. Doch es bleibt weiterhin unklar, wie die Plattform auf lange Sicht mit der Darstellung von pornographischen Inhalte umgehen wird. 

Automatisierte Diskriminierung in Sprachmodellen und auf dem Immobilienmarkt

Rassistisch geprägte Vorurteile machen vor Software-Anwendungen leider kein Halt. Jana Ballweber berichtet über Basismodelle von großen Tech-Konzernen, deren KI-Prozesse diskriminierende Strukturen aufweisen.  Das fand ein Team von Forscher:innen der Standford University heraus. Eine andere Studie zeigt, dass das Basismodell GPT-3 Muslime häufig mit Gewalt in Verbindung bringt. Grund dafür sind diskriminierende Verzerrungen in den Daten, mit denen die Modelle arbeiten. Das ist problematisch, da solche Basismodelle in vielen weiteren sprachverarbeitenden Anwendungen stecken. 

Eine automatisierte Diskriminierung findet sich auch in der Vergabe von Hauskrediten in den USA wieder. Eine umfangreiche Datenanalyse von The Markup macht deutlich, dass weiße Kreditnehmer:innen gegenüber Schwarzen von einer automatischen Vergabe-Software bevorzugt werden – auch wenn sie mehr Schulden haben als Schwarze US-Amerikanner:innen. Die rassistische Funktionsweise der Software ist dabei alles andere als transparent. Die algorithmischen Entscheidungen sind also nicht neutral, sondern verstärken rassistische Diskriminierung. Tomas Rudl erklärt, dass die unterschiedliche Kreditvergabe je nach Hautfarbe System hat und wie die EU-Kommission mit einem Gesetzesentwurf dem Diskriminierungspotenzial von Künstlicher Intelligenz entgegen wirken möchte. 

Torten-Terror und was Laschet mit Google gemeinsam hat 

Der Ministerpräsident von NRW erschwert mit dem anstehenden Versammlungsgesetz Demonstrationen. Armin Laschet fordert zum Beispiel, dass Leiter:innen mehr Verantwortungen und Pflichten übernehmen und Ordner:innen der Polizei namentlich genannt werden sollen. Es ist fraglich, wer in Zukunft diese Posten freiwillig übernehmen möchte. Außerdem soll das neue Versammlungsgesetz, dessen Verhandlungen Anfang September beginnen, friedliche, aber lautstarke Gegendemonstrationen auflösen können. Gegner:innen des Gesetzes sehen darin eine Einschränkung der Demonstrationsfreiheit und rufen zu Protesten auf. Ende Juni zeigte die Polizei eine harte Reaktion auf eine Gegendemo gegen das Gesetz. 

Google ist ebenso wenig wie Laschet von Protesten gegen sein Handeln begeistert. Das Unternehmen erhält Aufträge von US-Grenzbehörden, der Polizei und dem Pentagon. Dagegen demonstrieren seine Mitarbeiter:innen, wie Markus Reuter berichtet. Google möchte den Protesten einen Riegel vorschieben und argumentiert, die Arbeiter:innen hätten kein Recht darauf. Als Konsequenz erlässt Google die beteiligten Mitarbeiter:innen und verstößt damit, laut National Labor Relations Board, gegen das US-amerikanische Arbeitsrecht. Der Anwalt des Konzerns widerspricht dieser Anschuldigung. 

Ist eine Torte im Gesicht der AfD-Politikerin Beatrix von Storch eine Provokation oder Terror? Für das Berliner Landeskriminalamt fällt die Aktionskunst des Künstler:innenkollektivs „Peng!“ nicht unter die Kunstfreiheit. Stattdessen meldete das LKA das Kollektiv kürzlich an das Extremismus- und Terrorismusabwehrzentrum. Es soll auf die bundesweite Terrorliste des Verfassungsschutzes aufgenommen werden. In einem offenen Brief solidarisieren sich viele Akteur:innen des Kulturbetriebs mit Peng. Sie schreiben: „Wir erkennen hierin einen grenzüberschreitenden, beispiellosen Vorgang, der die Freiheit der Kunst gefährdet“.

Eine Hackergruppe im Iran und digitale Spuren in Afghanistan

Im Iran haben Aktivist:innen der Hackergruppe Edalat-e Ali (Alis Gerechtigkeit) ein Video verbreitet, das Misshandlungen von Gefangen im berüchtigten iranischen Evin-Gefängnis zeigt. Sie haben dessen Videoüberwachung gehackt und geben mit den gewonnenen Bildern einen Einblick in die Gewalt, die sich dort abspielt. Sie fordern Freiheit für politische Gefangene, die dort ohne Prozess festgesetzt seien. 

Die Taliban suchen in sozialen Netzwerken nach „unerwünschten Personen“, etwa Menschen, die mit Hilfsorganisationen oder westlichen Streitkräften kooperiert hatten. Deswegen versuchen nun afghanische Nutzer:innen ihre digitale Spuren zu beseitigen. Holly Hildebrand berichtet über die Schutzmaßnahmen der Netzwerke. So hat Facebook ein One-Click-Tool veröffentlicht, das das Facebook-Konto für alle sperrt, die nicht mit der Urheber:in befreundet sind. Clubhouse legte selbst Hand an und deaktivierte inaktive afghanische Konten. Doch ob das als Schutz ausreicht, ist fragwürdig. Schließlich gelten die Taliban als technisch versiert und gelangten nun in den Besitz von biometrischen Gesichtsscannern.

Zuletzt noch zwei Enttäuschungen

Es gibt nun einen Chat-Bot auf WhatsApp, der dort Nachrichten nach ihrem Wahrheitsgehalt überprüfen soll. In einer Kooperation mit der Nachrichtenagentur Agence France-Press hat Facebook diese Software entwickelt. Wir haben den Bot für euch getestet und sind enttäuscht. Der Chat-Bot kann, entgegen verheißungsvoller Versprechungen, weder schnell noch zielsicher antworten. Der Faktenchecker muss also noch einiges lernen.

Eine weitere Enttäuschung kommt von der EU-Kommission. Schon seit mehr als zwölf Jahren warten wir auf einen universellen Standard für Handy-Ladegeräte – den USB-C-Anschluss. Allerdings gibt es bisher noch keine Verpflichtung – stattdessen freiwillige Übereinkünfte, an die sich Apple nicht hält, und detaillierte Pläne, die nicht ausgeführt werden. Alexander Fanta berichtet über eine neue Studie, die beweist, dass eine solche Verpflichtung der EU-Kommission der Umwelt gut tun würde. Vor allem, wenn sie verhindert, dass jedes Handy mit einem neuen Ladegerät verkauft wird.

Wir drücken dem Standard-Ladeanschluss die Daumen und wünschen ein schönes Wochenende!

#1MillionForDigitalRights

Wir brauchen eine Million Euro für ein Jahr netzpolitik.org. Eine Million für ein ganzes Jahr kritischen und unabhängigen Journalismus: Denkanstöße, Berichte aus Brüssel, Analysen, Meldungen, Kommentare, Aufklärung, investigative Recherchen und Leaks. Wir machen Druck für Grund- und Freiheitsrechte in der digitalen Welt. Bis wir unser Spendenziel erreichen, fehlt noch sehr viel Geld. Deswegen:

Hier klicken und sofort spenden!

Hier klicken und sofort spenden!

Eine Ergänzung

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.