Netzpolitischer Jahresrückblick: AI Act, Biometrie, Chatkontrolle und der Rest vom Alphabet

Im ersten Text des Jahres ging es um die gigantische Zentrale des Bundesnachrichtendienstes in Berlin. Seitdem ist jede Menge passiert und zuletzt sogar die Ampelregierung zerbrochen, die noch eine volle To-do-Liste hatte.

Ein Rückblick auf all die Themen zwischen Kennzeichenscannern in Brandenburg und globalen Abkommen ist zur Unvollständigkeit verurteilt. Wir orientieren uns daher am Alphabet – ohne Anspruch auf Vollständigkeit.

AI Act

Im August ist die KI-Verordnung der EU in Kraft getreten. Das Gesetz sortiert KI-Systeme in Risiko-Klassen, für die riskantesten gelten besonders strikte Auflagen. Gerade die biometrische Identifikation in Echtzeit, ein Killer für Grundrechte, bleibt aber unter Auflagen erlaubt. Die ersten Konsequenzen sehen wir jetzt schon – siehe Sicherheitspaket.

Biometrie

Digitalisierte Gesichtserkennung war ein Trendthema des Jahres. Erst wurde damit (beinahe) die Ex-Terroristin Daniela Klette gefunden, seitdem dreht die politische Forderung nach einer biometrischen Datenbank mit frei im Netz zugänglichen Fotos die Runde. Hessen und Schleswig-Holstein wollen die biometrische Analyse sogar in Echtzeit bei der Videoüberwachung des öffentlichen Raums mitlaufen lassen.

Wie man sich gegen automatisierte Gesichtserkennung wehren kann, haben wir dieses Jahr auch aufgeschrieben. Genau wie eine Analyse, warum das Vermummungsverbot angesichts der ausufernden Biometriepläne höchst problematisch ist.

Bezahlkarten

Im April beschloss der Bundestag ein Gesetz zu Bezahlkarten für Geflüchtete – mit Unterstützung der AfD. Bargeld gibt es jetzt nur noch begrenzt, Überweisungen ins Ausland sind nicht möglich. In einigen Bundesländern ist das heute schon so, in anderen wird die Karte gerade eingeführt. Das Signal: Hier bitte nicht hinflüchten. Gerichte sehen das teils skeptisch, finale Urteile stehen noch aus.

Chatkontrolle

Immer wieder stand sie auf der Tagesordnung im Rat der EU, jedes Mal scheiterte eine Einigung zur Chatkontrolle an den Mitgliedstaaten. Doch die Gefahr des massenhaften Scannens von auch verschlüsselter Kommunikation ist nicht gebannt. Noch ist das Dauerthema nicht vom Tisch und vieles kommt darauf an, wie sich eine neue Bundesregierung nach der Neuwahl positionieren wird.

Databroker

Unsere Recherchen mit dem Bayerischen Rundfunk zu den Databroker Files zeigten: Der Handel mit Standortdaten exponiert Abermillionen Menschen und gefährdet die nationale Sicherheit. Während die EU auf der Stelle tritt, haben die USA Datenhandel mit feindlichen Staaten untersagt und einzelne Databroker an die kürzere Leine gelegt. Und: Für unterschiedliche Recherchen zur globalen Datenindustrie wurden wir dieses Jahr gleich zwei Mal ausgezeichnet, wir freuen uns sehr.

Digitale Selbstverteidigung

Weil Überwachungstechnologien immer ausgefeilter und auch verbreiteter werden, haben wir dieses Jahr mal wieder einen Satz ganz praktische Anleitungen veröffentlicht, wie man sich gegen digitalisierte Ausspähversuche wie zum Beispiel automatisierte Gesichtserkennung wehren kann.

EU

Europa hat im Juni ein neues Parlament gewählt. Dem Klischee entgegen ist das Parlament eine mächtige Institution und digitalpolitisch ziemlich wichtig. Wir haben uns angeschaut, was die netzpolitische Bilanz der ersten fünf Jahre Ursula von der Leyen war, welche Baustellen offenblieben und was in den Wahlprogrammen der Parteien stand. Ergebnis der Wahl: Die Piraten sind nur noch mit einer einzelnen Abgeordneten vertreten.

Inzwischen ist auch klar, dass Ursula von der Leyen Europa für weitere fünf Jahre leiten wird. Wir haben aufgeschrieben, was sie für diese fünf Jahre sich und ihrer Digitalchefin Henna Virkkunen aufs Programm gesetzt hat.

Elektronische Patientenakte

Die „elektronische Patientenakte für alle“ soll am 15. Februar bundesweit kommen. Ob das klappt, hängt jedoch von einem noch kommenden Testlauf ab. Bis dahin müssen alle Seiten noch einige Hürden überwinden. Es hapert mit der Sicherheit der ePA, ihrer Alltagstauglichkeit und dem Vertrauen auf allen Seiten. Und für Versicherte steht eine große Entscheidung an, bei der wir sie unterstützen wollen.

Festung Europa

Die Einführung des digitalen Grenzsystems EES hat sich immer wieder verzögert. Nun will die EU-Kommission das biometrische Kontrollsystem ab 2025 schrittweise einführen. Im Juli haben sich der Rat und das EU-Parlament außerdem auf eine Reform des Gemeinsamen Europäischen Asylsystems (GEAS) geeinigt. Geplant sind etwa Lager an den EU-Außengrenzen, auch für Kinder.

Gewalt, digitale

Die EU hat sich im Februar auf eine Richtlinie zur Bekämpfung von Gewalt gegen Frauen geeinigt – eine gute Nachricht im Kampf gegen bildbasierte Gewalt und sexualisierte Deepfakes. Das Gesetz gegen digitale Gewalt auf Bundesebene ist mit der Ampel jedoch gestorben. Das Problem bleibt bestehen.

Hackerparagrafen

Eigentlich wollte die Ampelregierung das Computerstrafrecht modernisieren, damit die Hackerparagrafen endlich keine Gefahr mehr für ethische IT-Sicherheitsforschende sind. Die sind derzeit noch teils mit Anzeigen und Strafverfahren konfrontiert, wenn sie die Welt sicherer machen wollen. Doch das Vorhaben scheiterte mit dem Bruch der Koalition. Immerhin einen Gesetzentwurf gibt es schon mal.

Infrastruktur

Der Breitbandausbau geht, wie gewohnt, gemächlich voran. Zumindest die gröbsten Versorgungslücken soll weiterhin der gesetzliche Anspruch auf Breitband schließen. Dabei setzt das Digitalministerium auch auf Starlink von Elon Musk, wie eine Recherche von uns ergeben hat.

Auf EU-Ebene stehen die Zeichen mittlerweile auf Marktliberalisierung. Unter die Räder könnten dabei die Regeln zur Netzneutralität geraten.

Jugendmedienschutz

Mit dem Okay der Ministerpräsident:innen hat die Novelle des Medienstaatsvertrags eine entscheidende Hürde genommen. Geplant ist ein verpflichtender Kinderschutz-Modus auf Ebene von Betriebssystemen.

Die Medienaufsicht soll Pornoseiten den Geldhahn abdrehen dürfen und ihre Ausweichsdomains sperren, wenn sie keine Ausweise kontrollieren.

Künstliche Intelligenz

Gut zwei Jahre, nachdem das US-amerikanische Software-Unternehmen OpenAI eine verbesserte Version seines Chatbots ChatGPT veröffentlich hat, flaut der ökonomische Hype um die sogenannte Künstliche Intelligenz zwar merklich ab. Zugleich aber soll die Technologie unter anderem bei der Migrationskontrolle an den Außengrenzen, bei der Videoüberwachung in den Innenstädten und in der öffentlichen Verwaltung zum Einsatz kommen. Derweil steht die nationale Umsetzung der KI-Verordnung weiter aus.

Lobbyismus

Bei der politischen Verteidigung ihrer Martkmacht können sich Tech-Konzerne auf ihre Lobby-Armeen verlassen. Insbesondere bei der EU in Brüssel sind sie aktiv. Wir berichteten 2024 unter anderem über die Drehtür zwischen der Chatkontrolle-Lobbyorganisation Thorn und Europol, über Big-Tech-Lobbyist:innen, die heimlich in Workshops der EU-Kommission sitzen und über Amazon-Lobbyist:innen, die nicht mehr ins EU-Parlament dürfen.

Mastodon

Eine der bekanntesten Anwendungen im Fediverse, einem dezentralen Zusammenschluss unabhängiger sozialer Netzwerke, ist Mastodon. Es gibt viele gute Gründe dafür, im Fediverse zu sein – etwa weil X-Twitter unter Elon Musk ein toxischer Ort geworden ist. Kann es klappen, eine neue digitale Öffentlichkeit jenseits kommerzieller Plattformen zu schaffen? Diese Frage hat uns dieses Jahr viel beschäftigt.

Nazis

Beim berühmt-berüchtigten rechten Geheimtreffen in Potsdam war auch der in der Neonazi-Szene vernetzte IT-Unternehmer Christoph Hofer aus Thüringen dabei. Das haben wir in einer gemeinsamen Recherche mit CORRECTIV enthüllt. Zugleich hatte dort Arne Friedrich Mörig, Sohn des Gastgebers, eine Agentur für rechte YouTuber gepitcht.

Off/On

Neun Folgen unseres Podcasts Off/On haben wir in diesem Jahr veröffentlicht. Im Frühjahr lag der Fokus stärker auf unserem siebenteiligen Dokupodcast „Systemeinstellungen“. Inzwischen erscheint wieder mindestens ein Mal im Monat eine Folge Off The Record, bei der wir euch Einblicke in den Maschinenraum von netzpolitik.org geben. Zum Beispiel haben wir hier in diesem Jahr die kaputte Debatte um das Sicherheitspaket verarbeitet, über neue Projekte von netzpolitik.org sowie über digitale Selbstverteidigung gesprochen.

Open Source

Für Open-Source-Entwickler:innen hatte die EU in diesem Jahr eine eher schlechte Nachricht: Sie will ihr Next-Generation-Internet-Programm nicht weiterfinanzieren. Das Programm unterstützt seit Jahren die Entwickler:innen von freier und quelloffener Software, dafür ist nun wohl kein Geld mehr da. Als Antwort gab es breite Kritik.

Pornografie

Die größten Pornoseiten in der EU haben erstmals DSA-Berichte vorgelegt, deren Transparenz lässt aber zu wünschen übrig. Innerhalb und außerhalb der EU drohen den Seiten vermehrt Ausweiskontrollen oder Netzsperren.

Plattformregulierung

Mit dem Digital Services Act und dem Digital Markets wollte die EU neu regeln, was große Plattformen dürfen. Dieses Jahr haben wir die Anfänge davon gesehen, wie sie diese Regeln auch durchsetzt: gegen Apples App Store etwa oder gegen Elon Musks Trollhölle namens X.

Quick Freeze

Einen Entwurf für die grundrechtsschonendere Alternative zur Vorratsdatenspeicherung hatte das Bundesjustizministerium schon lange fertig. Das Innenministerium stellte sich bis zuletzt quer. Am Ende zerbrach die Regierung und damit die Hoffnung, der Zombie der anlasslosen Massenspeicherung von Kommunikationsdaten würde von einer weiteren Schicht Erde bedeckt.

Radio Dreyeckland

Der Strafprozess gegen den Freiburger Journalisten Fabian Kienert von Radio Dreyeckland endete im Herbst mit einem rechtskräftigen Freispruch. Die Geschichte drehte sich um einen Link zum Archiv von linksunten.indymedia.org, um fragwürdige Razzien und die Pressefreiheit.

Sicherheitspaket

Im Oktober schnürte die Ampel ein Überwachungspaket aus zwei Teilen, das sie Sicherheitspaket nannte. Unter anderem Abschieberegeln wurden verschärft, Migration zum Sicherheitsproblem erklärt. Ein Teil der Gesetze ging kurz vor dem Ampel-Aus noch durch. Doch die biometrische Suche für Ermittlungsbehörden, die auf der Wunschliste des Bundesinnenministeriums stand, scheiterte am Bundesrat – den Unionsländern ging das nicht weit genug. Aber ein neuer Anlauf inklusive Vorratsdatenspeicherung soll bald kommen.

Systemeinstellungen

Nach mehr als einem Jahr gemeinsamer Arbeit ging unsere erste Feature-Podcast-Staffel „Systemeinstellungen“ im Frühjahr online. In sechs Folgen erzählen wir die Geschichten von Menschen, die vom Staat überwacht und wie Kriminelle behandelt wurden, obwohl sie sich selbst gar nicht besonders gefährlich finden: Klimaaktivist:innen, Geflüchtete, Journalist:innen, eine Pastorin. Dafür gibt es dieses Jahr einen Grimme Online Award.

Staatstrojaner

Drei Jahre, nachdem Medien aufdeckten, wie viele Staaten in der EU Pegasus und andere Staatstrojaner gegen ihre Bevölkerung einsetzten, läuft die Aufarbeitung des Abhörskandals weiter. In Polen kam mit dem Regierungswechsel Schwung in die Untersuchungen. Auch Spanien, wo katalanische Separatist:innen und der Regierungschef mit Staatstrojanern angegriffen wurden, hat den Fall 2024 wieder aufgenommen. In Deutschland muss der BND unterdessen weiterhin nicht offenlegen, ob er Pegasus einsetzt, urteilte ein Gericht im November.

Transparenz

Eindringlich hatte die Zivilgesellschaft die Ampel gewarnt: Wenn ihr die versprochene Einführung des Bundestransparenzgesetzes auf die lange Bank schiebt, wird das Vorhaben scheitern. Genau so kam es, nicht einmal einen Entwurf hat das zuständige Innenministerium zur öffentlichen Diskussion gestellt. Von Beginn an behandelte Innenministerin Faeser das Vorhaben mit größtmöglichem Desinteresse.

Lediglich einen exekutiven Fußabdruck führte die Ampel dieses Jahr ein. Unterdessen wartet auch das Bundesland Berlin weiter auf ein versprochenes Transparenzgesetz, in Sachsen wiederum fällt die Bilanz nach einem Jahr „Transparenzgesetz“ desaströs aus.

USA

Mit dem Wahlsieg von Donald Trump und seinem Vize JD Vance stehen erneut vier Jahre rechte Hetze und Chaos bevor. Das von Milliardären durchsetzte Kabinett dürfte viele Initiativen der bisherigen Biden-Administration rückgängig machen, als sicher gilt der Abschied von der Netzneutralität, Regulierung sogenannter Künstlicher Intelligenz und des Kryptogeld-Sektors.

Kein Zufall, dass sich die IT-Branche, zuvorderst Elon Musk, an die kommende Regierung anbiedert. Kaum aufhalten kann Trump allerdings einige Gerichtsverfahren, die Big Tech langsam auf die Pelle rücken. Schon im Sommer hatte etwa ein Bundesgericht geurteilt, dass Google ein Monopolist ist.

Verwaltungsdigitalisierung

Zwar wurde das Onlinezugangsgesetz 2.0 im Sommer nach langem Ringen verabschiedet. Doch von einer digitalen Verwaltung sind wir in Deutschland noch immer meilenweit entfernt. Das liegt nicht zuletzt an gekürzten Haushaltsmitteln. Und statt wie versprochen auf Open Source zu setzen, greifen Bund und viele Länder zu den Angeboten von US-Konzernen. Auch die Daten der Bürger:innen sollen in deren Clouds wandern. So wird das nichts mit der viel beschworenen „digitalen Souveränität“.

Wahlkämpfe

2024 war ein echtes Super-Wahljahr, mehr als die Hälfte der Weltbevölkerung durfte an die Urnen. Während die Wahlen vielerorts einen Rechtsruck brachten, haben sich Horrorszenarien von massiver Manipulation mithilfe von generativer KI eher nicht erfüllt. Allerdings haben, zumindest im US-Wahlkampf, klassische Manipulationswerkzeuge Hochkonjunktur gehabt: Desinformation, zielgerichtete Werbung und soziale Medien – allen voran Elons Musks Propagandamaschine X. Eine Untersuchung zu zielgerichteter Social-Media-Werbung im EU-Wahlkampf kritisierte unterdessen die anhaltende Intransparenz von Plattformen und Parteien.

X-odus

Seit Elon Musk Twitter übernommen hat, änderte sich nicht nur der Name der Plattform zu X. Immer mehr Accounts verließen im Lauf des Jahres die rechte Agenda-Setting-Maschine (auch wir) und wandten sich Alternativen zu. Besonders nach der US-Wahl bekam die Plattform Bluesky einen Riesenzuwachs. Das Fediverse verzeichnete ebenfalls Zulauf, wenn auch nicht ganz so viel.

Ylva Johansson

In der neuen EU-Kommission ist Ylva Johansson nicht mehr dabei. Die Innenkommissarin war eine treibende Kraft hinter dem Gesetzesvorhaben zur Chatkontrolle und pflegte enge Kontakte zur Lobby-Organisation Thorn. Ob die neue Kommission mit dem neuen Innenkommissar Magnus Brunner einen anderen Kurs bei Grundrechtseinschränkungen wählt? Unwahrscheinlich. Und Kommissionspräsidentin Ursula von der Leyen bleibt ja auch erhalten.

Zahlungen

Der Digitale Euro ist ein Großprojekt der EU, das in Europa das Bezahlen ohne US-Konzerne ermöglichen soll – und datenschutzfreundlicher soll es auch sein. Bedenken bestehen trotzdem. Wir haben uns in einer Artikelserie angeschaut, was für Probleme es im Zahlungsbereich aktuell gibt, wie der Digitale Euro hier helfen könnte, worüber die EU-Mitgliedstaaten sich uneinig sind und wieso die Europäischen Christdemokraten von dem Projekt nicht viel halten.