Wochenrückblick KW44: Killer-Roboter gehören verboten

Wer ist Frances Haugen? Die ehemalige Insiderin sorgt aktuell mit Enthüllungen über Facebook für globale Schlagzeilen. Dahinter steht eine Frau, die jahrelang von innen heraus auf Veränderung gedrängt hatte. Als Frances Haugens Rufe ungehört verhallten, ging sie an die Öffentlichkeit. Alexander Fanta schreibt im Porträt über die persönliche Geschichte der Whistleblowerin, die es besser machen will.

Deutschland, deine Digitalisierung

Ob Deutschland ein Digitalministerium braucht, war im Wahlkampf eine umstrittene Frage. Jetzt ist die Entscheidung wohl gefallen. Sie lautet Nein. Wer die längere Antwort lesen möchte, findet sie im Artikel von Franziska Rau.

Wer absolut nichts besser machen muss? Na Jens Spahn. Denn Jens Spahn findet, dass nicht Jens Spahn, sondern der Datenschutz schuld an der misslungenen Digitalisierung des Gesundheitswesens ist. Und dass Jens Spahn überhaupt ein sehr guter Gesundheitsminister war. „Diese Unverschämtheit ist nur schwer zu ertragen“, kommentiert Jana Ballweber.

Andi Scheuer und Doro Bär launchen eine App – IT-Expert:innen fallen „vor Lachen fast vom Stuhl“. Ganz so lustig ist es dann allerdings doch nicht, was der Verkehrsminister und seine Parteikollegin entgegen aller Warnungen fabriziert haben. Warum die ID-Wallet-App nicht nur ein erneutes Scheitern für Andi Scheuer war, sondern sogar eins mit Ansage, lest ihr im Artikel von Markus Reuter und Alexander Fanta.

„Ihr werdet nicht immer einen Taschenrechner dabei haben.“ Der Lieblingsspruch aller Mathelehrer – bis es Smartphones gab. Das digitale Taschenmesser kann aber noch mehr: Fingerabdrücke nehmen zum Beispiel. Toll! Zumindest für Hamburgs Polizei, die jetzt mobil macht – so sieht ein echter Digitalisierungserfolg aus, Jens. Welche Funktionen die Diensthandys sonst haben und ob sie privat genutzt werden dürfen, lest ihr im Artikel von Franziska Rau.

Gesetz und Gesetzlichkeit

Manchmal muss man gar nicht digital unterwegs sein, um die Auswüchse der Digitalisierung abzubekommen. Das Landgericht Köln verurteilte nun eine Seniorin in letzter Instanz wegen Filesharing – obwohl diese aussagte, nicht einmal einen PC zu besitzen. Eigentlich sollte die Störerhaftung seit 2017 beendet sein. Betreiber:innen von Hotspots sind seitdem nichtmehr für das rechtswidrige Verhalten von Nutzer:innen verantwortlich. Christina Braun schreibt, warum das Urteil einmal mehr Unsicherheit für alle bedeutet, die gerne ihr WLAN teilen.

In NRW dagegen hofft man, eine Einschränkung des Demonstrationsrechts zu verhindern, bevor sie Gesetz wird. Das geplante Versammlungsgesetz könnte das Recht auf Protest empfindlich einschränken. Aber nicht mit Köln: Tausende protestierten auf der mittlerweile dritten Großdemonstration gegen die Pläne. Weil sich die Verabschiedung des Gesetzes immer weiter verzögert, kommt Hoffnung auf, dass das Projekt auf Eis gelegt werden könnte, berichtet Markus Reuter.

„Nullum crimen, nulla poena sine lege“ („kein Verbrechen, keine Strafe ohne Gesetz“) – so lautet in der Rechtswissenschaft das sogenannte Gesetzlichkeitsprinzip. Sprich: was nicht vor der Tat als ungesetzlich festgelegt war, bleibt straffrei. Was aber, wenn ein Vergehen bloß vermutet wird? Um Bedrohungen zu verfolgen, die erst noch eintreten könnten, hat das Bundesinnenministerium den „Gefährder“-Begriff eingeführt. Jetzt soll die umstrittene Definition auch auf EU-Ebene Anwendung finden, wie Matthias Monroy berichtet.

Von Drohnen und Killer-Robotern

Weitere Nachrichten aus der Europäischen Union: erstmals fliegen Drohnen im Auftrag einer EU-Agentur mit Rettungsmitteln an Bord. Statt Menschen in Seenot zu retten, könnte Frontex wie bisher die Küstenwachen von Ländern wie Libyen und der Türkei kontaktieren. Diese missbrauchen die eigentlich sinnvolle Technik auf hoher See dann möglicherweise für völkerrechtswidrige Pullbacks. Was hinter diesen Befürchtungen steht, lest ihr im Artikel von Matthias Monroy.

Während manche Maschinen retten können, ist bei anderen klar: „Maschinen unkontrolliert über Leben und Tod entscheiden zu lassen, ist ein Angriff auf die Menschenwürde.“ Dem ist nichts hinzuzufügen. Ein Drittel aller Staaten fordert eine völkerrechtliche Regelung autonomer Waffensysteme, andere Länder versuchen diese Regelung auszubremsen und entwickeln selbst Killer-Roboter. Markus Reuter schreibt über eine Kampagne, mit der mehr als 180 Nichtregierungsorganisationen jetzt Druck gegen selbsttötende Waffen aufbauen wollen.

Auch Constanze Kurz dokumentiert diese Woche einen offenen Brief, der sich gegen autonome Waffensysteme richtet. 62 Wissenschaftler aus den Feldern der Robotik, Künstliche Intelligenz und Informatik fordern die künftige Bundesregierung auf, Killer-Roboter international zu ächten. Ein Vertrag soll ein konkretes Ziel zum Umgang mit autonomen Kampfmitteln festhalten – das auch vorschreibt, echte menschliche Kontrolle beim Einsatz künftig entwickelter Waffensysteme beizubehalten.

Signale pro Datenschutz und eine sehr schlechte Idee

Kontrolle ist auch in Puncto Datenschutz angebracht. Zuletzt merkte das die britische Datenschutzaufsicht. Diese sorgte dafür, dass das britische Unternehmen Tamoco in der EU künftig keine Smartphones mehr tracken wird. Zuvor hatten norwegische Journalisten nachgewiesen, wie sich auch mit den vermeintlich anonymisierten Daten des Data Brokers Bewegungsmuster nachvollziehen und Personen namentlich identifizieren lassen. Die Norweger hatten hierfür Standortdaten von Tamoco gekauft. Chris Köver ordnet den Vorfall rund um den britischen Datenhändler ein.

Ebenfalls unter Beobachtung: die NSO-Group. In den USA sind die Trojaner-Firmen angezählt. Wer einmal „Werkzeuge zur böswilligen Überwachung“ entwickelt, dem traut man nicht, findet das US-Handelsministerium. Also landen die israelischen Trojaner-Firmen NSO und Candiru auf einer Sanktionsliste, womit Unternehmen aus den USA nun keine Technologie mehr an diese verkaufen dürfen, meldet Markus Reuter.

Greif mal einem nackten Messenger in die Tasche. Bei Signal war das bereits in der Vergangenheit ohne Erfolg: wer kaum Daten von Accounts speichert, kann auch entsprechend wenige herausgeben. Ein US-Gericht verlangte umfangreiche Informationen über eine:n Nutzer:in der Messenger-App Signal – inklusive beigelegter Schweigeverpflichtung. Wie Signal diese umgehen konnte und was das Unternehmen zu dem Fall sagt, berichtet Tomas Rudl.

Selbst Apple hat’s verstanden und stellte zuletzt seine Pläne zum Client-Side-Scanning, der automatisierten Durchsuchung von Inhalten auf Endgeräten von Nutzern, vorerst ein. Das Thema Chatkontrolle ist damit jedoch nicht vom Tisch: die EU-Kommission hat offensichtlich keinen Draht zu Datenschutz und daher dieselbe gefährliche Idee. Sie will die Verbreitung von Kindesmissbrauchsdarstellungen nun ebenfalls mit CSS bekämpfen. Die wichtigsten Fragen zum Thema beantworten Tomas Rudl und Markus Reuter, der außerdem kommentiert, wieso dieser Angriff auf unsere Privatsphäre eine wirklich, wirklich schlechte Idee ist.

Presse: Freiheit, Privilegien, Skandale

Ein Bild des berühmten „Napalmmädchens“ aus dem Vietnamkrieg veröffentlichen? Nicht mit Facebook. Das Unternehmen entfernt im Sinne seines viel kritisierten „Nacktheits- und Nippelverbots“ selbst journalistische Inhalte (und muss sie nach öffentlicher Debatte manchmal wieder herstellen). Oft löschen Facebook und YouTube Beiträge auch ohne eine Begründung. Die EU könnte das im geplanten Digitale-Dienste-Gesetz auf Druck der Verlagslobby bald verbieten. Dieses Vorhaben erschwere jedoch möglicherweise den Kampf gegen Desinformation, warnen Expertinnen. Alexander Fanta beleuchtet das Für-und-Wider der digitalen Presseprivilegien.

Ohnehin möchte Facebook sicher nicht alle ungenauen Meldungen gleich ausradieren: die Frage ist, wem diese in die Karten spielen. So etwa die Meldung „Facebook schaltet die Gesichtserkennung ab“. Eine super Schlagzeile, dachten sich Nachrichtenmedien in Europa. Die treffendere wäre allerdings: „Facebook arbeitet weiter an der Gesichtserkennung“. Sebastian Meineck kommentiert den Sieg für die PR-Abteilung des Konzerns und warum die eigentliche News weniger positiv ist.

Um Einschränkungen von staatlicher Seite geht es dagegen in Belarus. Wer im Glashaus sitzt, sollte nicht mit Netzsperren werfen, allerdings gilt in dem autoritär-geführten Staat dieser Grundsatz wohl wenig überraschend nicht. Behörden haben hier den Online-Zugang der Deutschen Welle gesperrt. Grund ist die angebliche Verbreitung extremistischen Materials. Reporter Ohne Grenzen spricht von einem „willkürlichen Eingriff in die Pressefreiheit“, schreibt Christina Braun.

Verbindungen zu Doppelmord suggerieren? Soldaten bei Nackt-Feier ablichten? Rassismus im Live-Stream senden? Ja eh! Die österreichische Boulevardzeitung Oe24 lässt die BILD alt aussehen. Den Vogel – oder den Kanzler? – hat das Medium kürzlich mit mutmaßlich manipulierten Wahlumfragen abgeschossen. Während Sebastian kurz abdankte, kann sich OE24 über einen Vertrag mit Google freuen, der dem US-Konzern „qualitativ hochwertige Inhalte“ für Apps sichert. Dass das Medium zuletzt im Zentrum eines politischen Skandals stand, scheint Google nicht zu stören. Oder etwa doch? Die Antwort hat Alexander Fanta.