Wochenrückblick KW44Killer-Roboter gehören verboten

Diese Woche ging es um wildeste Boulevarddramen in Österreich, die Furcht vor einer Zukunft voller autonomer Kampfroboter und den besten Gesundheitsminister aller Zeiten. Außerdem erklären wir die fragwürdigen Pläne der EU für die Durchleuchtung von Smartphones. Was sonst passiert ist, lest ihr wie immer hier im Wochenrückblick.

schwimmendes Schnabeltier von oben
Schnabeltiere sind wunderliche Wesen – ihre Existenz ist dennoch wahrscheinlicher als datenschutzkonformes Client-Side-Scanning Gemeinfrei-ähnlich freigegeben durch unsplash.com Meg Jerrard

Wer ist Frances Haugen? Die ehemalige Insiderin sorgt aktuell mit Enthüllungen über Facebook für globale Schlagzeilen. Dahinter steht eine Frau, die jahrelang von innen heraus auf Veränderung gedrängt hatte. Als Frances Haugens Rufe ungehört verhallten, ging sie an die Öffentlichkeit. Alexander Fanta schreibt im Porträt über die persönliche Geschichte der Whistleblowerin, die es besser machen will.

Deutschland, deine Digitalisierung

Ob Deutschland ein Digitalministerium braucht, war im Wahlkampf eine umstrittene Frage. Jetzt ist die Entscheidung wohl gefallen. Sie lautet Nein. Wer die längere Antwort lesen möchte, findet sie im Artikel von Franziska Rau.

Wer absolut nichts besser machen muss? Na Jens Spahn. Denn Jens Spahn findet, dass nicht Jens Spahn, sondern der Datenschutz schuld an der misslungenen Digitalisierung des Gesundheitswesens ist. Und dass Jens Spahn überhaupt ein sehr guter Gesundheitsminister war. „Diese Unverschämtheit ist nur schwer zu ertragen“, kommentiert Jana Ballweber.

Andi Scheuer und Doro Bär launchen eine App – IT-Expert:innen fallen „vor Lachen fast vom Stuhl“. Ganz so lustig ist es dann allerdings doch nicht, was der Verkehrsminister und seine Parteikollegin entgegen aller Warnungen fabriziert haben. Warum die ID-Wallet-App nicht nur ein erneutes Scheitern für Andi Scheuer war, sondern sogar eins mit Ansage, lest ihr im Artikel von Markus Reuter und Alexander Fanta.

„Ihr werdet nicht immer einen Taschenrechner dabei haben.“ Der Lieblingsspruch aller Mathelehrer – bis es Smartphones gab. Das digitale Taschenmesser kann aber noch mehr: Fingerabdrücke nehmen zum Beispiel. Toll! Zumindest für Hamburgs Polizei, die jetzt mobil macht – so sieht ein echter Digitalisierungserfolg aus, Jens. Welche Funktionen die Diensthandys sonst haben und ob sie privat genutzt werden dürfen, lest ihr im Artikel von Franziska Rau.

Gesetz und Gesetzlichkeit

Manchmal muss man gar nicht digital unterwegs sein, um die Auswüchse der Digitalisierung abzubekommen. Das Landgericht Köln verurteilte nun eine Seniorin in letzter Instanz wegen Filesharing – obwohl diese aussagte, nicht einmal einen PC zu besitzen. Eigentlich sollte die Störerhaftung seit 2017 beendet sein. Betreiber:innen von Hotspots sind seitdem nichtmehr für das rechtswidrige Verhalten von Nutzer:innen verantwortlich. Christina Braun schreibt, warum das Urteil einmal mehr Unsicherheit für alle bedeutet, die gerne ihr WLAN teilen.

In NRW dagegen hofft man, eine Einschränkung des Demonstrationsrechts zu verhindern, bevor sie Gesetz wird. Das geplante Versammlungsgesetz könnte das Recht auf Protest empfindlich einschränken. Aber nicht mit Köln: Tausende protestierten auf der mittlerweile dritten Großdemonstration gegen die Pläne. Weil sich die Verabschiedung des Gesetzes immer weiter verzögert, kommt Hoffnung auf, dass das Projekt auf Eis gelegt werden könnte, berichtet Markus Reuter.

Nullum crimen, nulla poena sine lege“ („kein Verbrechen, keine Strafe ohne Gesetz“) – so lautet in der Rechtswissenschaft das sogenannte Gesetzlichkeitsprinzip. Sprich: was nicht vor der Tat als ungesetzlich festgelegt war, bleibt straffrei. Was aber, wenn ein Vergehen bloß vermutet wird? Um Bedrohungen zu verfolgen, die erst noch eintreten könnten, hat das Bundesinnenministerium den „Gefährder“-Begriff eingeführt. Jetzt soll die umstrittene Definition auch auf EU-Ebene Anwendung finden, wie Matthias Monroy berichtet.

Von Drohnen und Killer-Robotern

Weitere Nachrichten aus der Europäischen Union: erstmals fliegen Drohnen im Auftrag einer EU-Agentur mit Rettungsmitteln an Bord. Statt Menschen in Seenot zu retten, könnte Frontex wie bisher die Küstenwachen von Ländern wie Libyen und der Türkei kontaktieren. Diese missbrauchen die eigentlich sinnvolle Technik auf hoher See dann möglicherweise für völkerrechtswidrige Pullbacks. Was hinter diesen Befürchtungen steht, lest ihr im Artikel von Matthias Monroy.

Während manche Maschinen retten können, ist bei anderen klar: „Maschinen unkontrolliert über Leben und Tod entscheiden zu lassen, ist ein Angriff auf die Menschenwürde.“ Dem ist nichts hinzuzufügen. Ein Drittel aller Staaten fordert eine völkerrechtliche Regelung autonomer Waffensysteme, andere Länder versuchen diese Regelung auszubremsen und entwickeln selbst Killer-Roboter. Markus Reuter schreibt über eine Kampagne, mit der mehr als 180 Nichtregierungsorganisationen jetzt Druck gegen selbsttötende Waffen aufbauen wollen.

Auch Constanze Kurz dokumentiert diese Woche einen offenen Brief, der sich gegen autonome Waffensysteme richtet. 62 Wissenschaftler aus den Feldern der Robotik, Künstliche Intelligenz und Informatik fordern die künftige Bundesregierung auf, Killer-Roboter international zu ächten. Ein Vertrag soll ein konkretes Ziel zum Umgang mit autonomen Kampfmitteln festhalten – das auch vorschreibt, echte menschliche Kontrolle beim Einsatz künftig entwickelter Waffensysteme beizubehalten.

Signale pro Datenschutz und eine sehr schlechte Idee

Kontrolle ist auch in Puncto Datenschutz angebracht. Zuletzt merkte das die britische Datenschutzaufsicht. Diese sorgte dafür, dass das britische Unternehmen Tamoco in der EU künftig keine Smartphones mehr tracken wird. Zuvor hatten norwegische Journalisten nachgewiesen, wie sich auch mit den vermeintlich anonymisierten Daten des Data Brokers Bewegungsmuster nachvollziehen und Personen namentlich identifizieren lassen. Die Norweger hatten hierfür Standortdaten von Tamoco gekauft. Chris Köver ordnet den Vorfall rund um den britischen Datenhändler ein.

Ebenfalls unter Beobachtung: die NSO-Group. In den USA sind die Trojaner-Firmen angezählt. Wer einmal „Werkzeuge zur böswilligen Überwachung“ entwickelt, dem traut man nicht, findet das US-Handelsministerium. Also landen die israelischen Trojaner-Firmen NSO und Candiru auf einer Sanktionsliste, womit Unternehmen aus den USA nun keine Technologie mehr an diese verkaufen dürfen, meldet Markus Reuter.

Greif mal einem nackten Messenger in die Tasche. Bei Signal war das bereits in der Vergangenheit ohne Erfolg: wer kaum Daten von Accounts speichert, kann auch entsprechend wenige herausgeben. Ein US-Gericht verlangte umfangreiche Informationen über eine:n Nutzer:in der Messenger-App Signal – inklusive beigelegter Schweigeverpflichtung. Wie Signal diese umgehen konnte und was das Unternehmen zu dem Fall sagt, berichtet Tomas Rudl.

Selbst Apple hat’s verstanden und stellte zuletzt seine Pläne zum Client-Side-Scanning, der automatisierten Durchsuchung von Inhalten auf Endgeräten von Nutzern, vorerst ein. Das Thema Chatkontrolle ist damit jedoch nicht vom Tisch: die EU-Kommission hat offensichtlich keinen Draht zu Datenschutz und daher dieselbe gefährliche Idee. Sie will die Verbreitung von Kindesmissbrauchsdarstellungen nun ebenfalls mit CSS bekämpfen. Die wichtigsten Fragen zum Thema beantworten Tomas Rudl und Markus Reuter, der außerdem kommentiert, wieso dieser Angriff auf unsere Privatsphäre eine wirklich, wirklich schlechte Idee ist.

Presse: Freiheit, Privilegien, Skandale

Ein Bild des berühmten „Napalmmädchens“ aus dem Vietnamkrieg veröffentlichen? Nicht mit Facebook. Das Unternehmen entfernt im Sinne seines viel kritisierten „Nacktheits- und Nippelverbots“ selbst journalistische Inhalte (und muss sie nach öffentlicher Debatte manchmal wieder herstellen). Oft löschen Facebook und YouTube Beiträge auch ohne eine Begründung. Die EU könnte das im geplanten Digitale-Dienste-Gesetz auf Druck der Verlagslobby bald verbieten. Dieses Vorhaben erschwere jedoch möglicherweise den Kampf gegen Desinformation, warnen Expertinnen. Alexander Fanta beleuchtet das Für-und-Wider der digitalen Presseprivilegien.

Ohnehin möchte Facebook sicher nicht alle ungenauen Meldungen gleich ausradieren: die Frage ist, wem diese in die Karten spielen. So etwa die Meldung „Facebook schaltet die Gesichtserkennung ab“. Eine super Schlagzeile, dachten sich Nachrichtenmedien in Europa. Die treffendere wäre allerdings: „Facebook arbeitet weiter an der Gesichtserkennung“. Sebastian Meineck kommentiert den Sieg für die PR-Abteilung des Konzerns und warum die eigentliche News weniger positiv ist.

Um Einschränkungen von staatlicher Seite geht es dagegen in Belarus. Wer im Glashaus sitzt, sollte nicht mit Netzsperren werfen, allerdings gilt in dem autoritär-geführten Staat dieser Grundsatz wohl wenig überraschend nicht. Behörden haben hier den Online-Zugang der Deutschen Welle gesperrt. Grund ist die angebliche Verbreitung extremistischen Materials. Reporter Ohne Grenzen spricht von einem „willkürlichen Eingriff in die Pressefreiheit“, schreibt Christina Braun.

Verbindungen zu Doppelmord suggerieren? Soldaten bei Nackt-Feier ablichten? Rassismus im Live-Stream senden? Ja eh! Die österreichische Boulevardzeitung Oe24 lässt die BILD alt aussehen. Den Vogel – oder den Kanzler? – hat das Medium kürzlich mit mutmaßlich manipulierten Wahlumfragen abgeschossen. Während Sebastian kurz abdankte, kann sich OE24 über einen Vertrag mit Google freuen, der dem US-Konzern „qualitativ hochwertige Inhalte“ für Apps sichert. Dass das Medium zuletzt im Zentrum eines politischen Skandals stand, scheint Google nicht zu stören. Oder etwa doch? Die Antwort hat Alexander Fanta.

#1MillionForDigitalRights

Wir brauchen eine Million Euro für ein Jahr netzpolitik.org. Eine Million für ein ganzes Jahr kritischen und unabhängigen Journalismus: Denkanstöße, Berichte aus Brüssel, Analysen, Meldungen, Kommentare, Aufklärung, investigative Recherchen und Leaks. Wir machen Druck für Grund- und Freiheitsrechte in der digitalen Welt. Bis wir unser Spendenziel erreichen, fehlt noch sehr viel Geld. Deswegen:

Hier klicken und sofort spenden!

Hier klicken und sofort spenden!

2 Ergänzungen

  1. Im September 2020 titelte die Parchheimer Zeitung (Paywall) redaktionell-gefällig noch „SIS/KSM : Stiller Gigant der regionalen Digitalisierung“
    https://www.svz.de/lokales/parchimer-zeitung/Stiller-Gigant-der-Digitalisierung-id29476852.html?nojs=true

    Am 15.10.2021 wurden Teile der Serversysteme der SIS/KSM durch einen Cyberangriff verschlüsselt.
    Verwaltungen melden massive Störungen ihrer Systeme und Telefone. Bürgerzentren sind geschlossen. Auch Stadtwerke und der Zoo sind betroffen.

    https://www.kreis-lup.de/Kurzmen%C3%BC/Startseite/Interview-mit-Matthias-Effenberger-Gesch%C3%A4ftsf%C3%BChrer-der-KSM-SIS.php?object=tx,3378.5.1&ModID=7&FID=3378.7191.1

    21. Oktober 2021 Die Chaos-Phase in der Schweriner Stadtverwaltung ist vorbei
    https://www.svz.de/lokales/zeitung-fuer-die-landeshauptstadt/Hacker-Angriff-Chaos-Phase-in-Schweriner-Stadtverwaltung-vorbei-id34077002.html?nojs=true

    Die kreislichen Bürgerbüros müssen jedoch bis auf Weiteres geschlossen bleiben.

    08. November 2021 Das RKI bekommt noch immer keine COVID-19 Meldedaten. Der Landkreis Ludwigslust-Parchim erscheint auf der Deutschland-Karte weiterhin als blaue Insel der Seeligen.

    https://www.rki.de/DE/Content/InfAZ/N/Neuartiges_Coronavirus/Situationsberichte/Nov_2021/2021-11-08-de.html

  2. Es hätte mich sehr gewundert, wenn der Befehlshaber für die Auslandseinsätze nicht irgendwann mit der Aussage auf sich aufmerksam gemacht hätte, wonach er für die Truppe bewaffnete Drohnen fordert. Deshalb ist seine aktuelle Einlassung wenig verwunderlich, aus pazifistischer Sicht aber gleichsam inakzeptabel. Wenngleich die Argumente mittlerweile ausgetauscht sein dürften, bleibt die ethische Frage gestellt.

    In Zeiten von nicht-analogen Konflikten muss sich die Menschheit ohnehin mit ganz grundsätzlichen Aspekten befassen: Sollen, können und dürfen wir alles, was möglich ist, auch tatsächlich umsetzen? Wann ist die Gefahr zu hoch, dass uns die menschenerschaffene Technik und Digitalisierung selbst übermannt? Und welche Grenzen des Transhumanismus dürfen wir allein aus moralischen Gründen nicht überschreiten, um uns vor den Folgen unseres eigenen Handelns zu bewahren? Würde diplomatische Völkerverständigung gelingen und die Vernunft des Menschen funktionieren, bräuchten wir uns um Kampfdrohnen keinerlei Gedanken machen.

    Doch allein das Beispiel der Atomkraft zeigt, dass Ideologien und Machtbestrebungen jeglichen Verstand außer Kraft setzen und zunächst für friedliche Verwendung gedachte Mittel zweckentfremdet werden. So ist es auch im aktuellen Beispiel: Diese fliegenden Objekte können für die Zivilisation eine wichtige Erleichterung bringen. Doch je weiter sich der Mensch von seiner Naturbeschaffenheit entfernt und zwischen den Urzustand und sich selbst immer weitere Mechanik setzt, umso mehr verliert er das Gespür für die Auswirkungen seines Agierens.

    Wer aus weiter Entfernung Drohnen lenken und mit einem einzelnen Knopfdruck Tod bringen kann, dürfte im Zweifel schon allein deshalb zum Waffengebrauch bereit sein, weil er vor dem Bildschirm jegliche Empfindung für die Realität verliert. Das machen Verhaltensbeobachtungen gerade bei jungen Personen, die unter exzessivem und nahezu suchtartigem Gaming leiden, überaus deutlich. Wir kommen dann nicht umhin, uns in eine Scheinwelt zu begeben und den Kontakt zur Wirklichkeit zu verlassen. Damit entfällt auch jegliches Gefühl der Sittlichkeit und der Respekt vor dem tatsächlichen Leben. Es wird auch dem erfahrenen Militär nicht gelingen, den nötigen Abstand zu wahren und die gebotene Zurückhaltung zu üben.

    Dafür würde es dem in der Einsatzzentrale sitzenden Bundeswehrangehörigen mithilfe der Idealisierung des Hybriden zu leicht gemacht, bei Bedarf den Gegner per Mausblick zu eliminieren. Unabhängig vom Faktum, dass gerade in einer flexibilisierten Zukunft der Dialog gegenüber einem vorschnellen Kriegseinsatz ohnehin an Bedeutung gewinnen muss und Gewalt als Mittel zur Lösung von Krisen geächtet werden sollte, wird die Wertegemeinschaft nicht umhinkommen, sich auf ihre Verantwortung zu besinnen und unser Dasein nicht zu einem Spiel verkommen zu lassen.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.