KW 5Die Woche, als die Regierung sich an Automatisierung berauschte

Die 5. Kalenderwoche geht zu Ende. Wir haben 16 neue Texte mit insgesamt 117.090 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Fraktal, generiert mit MandelBrowser von Tomasz Śmigielski

Liebe Leser:innen,

eine Kommission hat in dieser Woche Arbeitsministerin Bärbel Bas Empfehlungen übergeben, wie der Sozialstaat „modernisiert“ werden könnte.

Digitalisierung spielt darin eine zentrale Rolle: Behörden sollen untereinander mehr Daten austauschen, dafür soll der komplexe Datenschutz weg und eine Personenkennziffer her. Verfassungsrechtlich ist das höchst fragwürdig.

Außerdem schlägt die Kommission vor, Verwaltungsvorgänge mit sogenannter Künstlicher Intelligenz zu automatisieren. Auch bei Ermessensspielräumen – also wenn es etwa darum geht, wie viel Unterstützung eine Person vom Amt bekommt. Und weil bei „KI“ bekanntlich immer Wahres, Schönes, Gutes rauskommt, sollen die Ergebnisse weniger gegengeprüft werden. Die Wohlfahrtsverbände halten davon herzlich wenig, sondern befürchten zusätzliche Diskriminierung.

Auch Bundesdigitalminister Karsten Wildberger sieht es buchstäblich als seine Mission an, tausende „outdated“ Fachverfahren in der Verwaltung zu automatisieren. Helfen soll dabei Agentische Künstliche Intelligenz, die so eine Art KI-Heinzelmännchen für Behördenprozesse antreiben soll.

Dafür brachte das Digitalministerium in dieser Woche den Agentic AI Hub an den Start. Man habe „eine große Tasche“, versicherte Wildberger den anwesenden „Start-up- und Scale-up-Vertreter:innen“ bei der Auftaktveranstaltung. Und man wolle Pilotprojekte möglichst schnell skalieren, sekundierte sein Staatssekretär Thomas Jarzombek.

Bei allem Automatisierungsrausch fehlte auch hier der Raum, um über Risiken, Kontrolle und – ja – Ethik zu sprechen. Dabei haben andere Länder KI-Systemen bereits das Steuer in der Verwaltung überlassen und sind damit alles andere als gut gefahren. Vielleicht skalieren wir das mal.

Habt ein schönes Wochenende!

Daniel

Wir sind communityfinanziert

Unterstütze auch Du unsere Arbeit mit einer Spende.

ADINTÜberwachungsfirmen können Menschen mit „anonymen“ Werbe-IDs ausspionieren

Meist im Verborgenen bereiten Unternehmen Daten aus der Online-Werbung für Geheimdienste auf. Manche prahlen damit, praktisch jedes Handy verfolgen zu können. Eine Recherche von Le Monde gewährt seltene Einblicke in eine Branche, die auch europäische Sicherheitsbehörden umwirbt.

Lesen Sie diesen Artikel: Überwachungsfirmen können Menschen mit „anonymen“ Werbe-IDs ausspionieren

Hinweise gesucht„Wir wollen die Verbreitung sexualisierter Deepfakes einschränken“

Per Mausklick lassen sich Fotos bekleideter Personen in Nacktbilder verwandeln. Die Organisation AlgorithmWatch bittet nun um Hinweise auf solche Apps und Websites, um systematisch dagegen vorzugehen. Wie das klappen soll, erklärt Forschungsleiter Oliver Marsh im Interview.

Lesen Sie diesen Artikel: „Wir wollen die Verbreitung sexualisierter Deepfakes einschränken“

Österreichische DatenschutzbehördeMicrosoft hat illegal Minderjährige getrackt

Microsoft hat auf dem Rechner einer österreichischen Schülerin ohne deren Zustimmung Tracking-Cookies installiert und so persönliche Daten abgegriffen. Die österreichische Datenschutzbehörde hat nun festgestellt, dass der Datenabfluss illlegal war. Auch andere Microsoft-Nutzende können von illegalen Microsoft-Cookies betroffen sein.

Lesen Sie diesen Artikel: Microsoft hat illegal Minderjährige getrackt

ChatGPTPolizeigewerkschaft bebildert Pressemitteilung mit generiertem Schockerfoto

Der sächsische Landesverband der Gewerkschaft der Polizei nutzt ein KI-generiertes Bild mit einem blutenden Polizisten, um eine Pressemitteilung zu illustrieren. Begründet wird dies mit Persönlichkeitsrechten und laufenden Ermittlungen, das Bild sei eine „symbolische Illustration“.

Lesen Sie diesen Artikel: Polizeigewerkschaft bebildert Pressemitteilung mit generiertem Schockerfoto

Digitaler Omnibus„Die EU-Kommission rüttelt an den Grundpfeilern des Datenschutzes“

Die EU-Kommission will pseudonymisierte Daten teilweise von der Datenschutzgrundverordnung ausnehmen. Jetzt äußert sich erstmals eine deutsche Datenschutzbeauftragte. Meike Kamp übt deutliche Kritik an den Plänen und glaubt, die Kommission habe ein Urteil des Europäischen Gerichtshofes missverstanden.

Lesen Sie diesen Artikel: „Die EU-Kommission rüttelt an den Grundpfeilern des Datenschutzes“

Trilog zu AlterskontrollenWarnung vor „Ausweispflicht für weite Teile des Internets“

Sowohl der Rat als auch das EU-Parlament haben Nein gesagt zur verpflichtenden Chatkontrolle. Aber die umstrittene Verordnung birgt weitere Risiken für digitale Grundrechte – und zwar flächendeckende Alterskontrollen. Worüber Kommission, Parlament und Rat jetzt verhandeln.

Lesen Sie diesen Artikel: Warnung vor „Ausweispflicht für weite Teile des Internets“

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

1 Ergänzungen

  1. Und in Ungarn rockt die Luzi: https://www.spiegel.de/politik/deutschland/acht-jahre-haft-fuer-maja-t-alexander-dobrindt-zeigt-verstaendnis-fuer-urteil-a-f870be8f-4ef7-41ea-8d76-bbaa6e750488

    Das nur als Wahrnehmung von Medien. Zuletzt hörte ich nämlich im Radio, man habe sie in der Nähe der Tatorte gesehen, und ZACK: 8 Jahre Haft.

    Wahrscheinlich sind da noch Festplatten voller Beweise im Busch, aber wenn ich daraufhin das Statement vom Dobrindt lese, dann Frage ich mich schon, ob das mit dem Grundgesetz vereinbar ist, so jemanden dran herumpfuschen zu lassen. Denn es kommt ja auf die Beweislage drauf an, und seien wir ehrlich, wenn die Beweislage so ist, dann hätte sie in Deutschland inhaftiert werden müssen?

    Die Logik ist ja sonst: „sie war links (extrem), die Ungarn werden sie schon recht zu behandeln wissen.“ – Und das ist natürlich ein Statement of Intent. Vergleiche initiale Kommentare von US-Offiziellen zu Erschießungen in Minnesota. Klar, ein par mehr Wenns und Abers sind implizit dabei, aber es ist der „wir planen, solches auch in Zukunft passieren zu lassen“-Teil, der hier interessant sein sollte.

    Also noch mal gucken: https://www.tagesschau.de/inland/regional/berlin/rbb-angriffe-auf-neonazis-maja-t-in-budapest-zu-acht-jahren-haft-verurteilt-100.html

    „Auf diesen Bildern sei Maja T. zusammen mit anderen Angreifern zu sehen“ – Gut, das ist mehr als „in der Nähe gesehen“. Dennoch ist das nicht sehr viel, vor allem ist ihre Rolle unklar (Zufall, ihr wurde irgendwas erzählt, Patsy?). Bemerkenswert jedenfalls ist, dass die mit den härteren Indizien in Deutschland sitzen, und die Unwahrscheinlichste mit den schwächsten Indizien in Ungarn.

    Kann der unverantwortliche Dobrindt jetzt endlich mal weg? Hier geht es auch um Kommunikation, und den Willen, wahrheitsgemäß zu berichten, der bei Dobrindt offensichtlich in mehreren Fällen bereits als nicht vorhanden bezeichnet werden kann.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.