Schlagwort: AI Act

Die 11. Kalenderwoche geht zu Ende. Wir haben 15 neue Texte mit insgesamt 116.790 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Ein im Stil von Glitch-Art verzerrtes Bild einer weiblich gelesenen Schaufensterfigur.

Software kann Menschen per Mausklick nackt machen. Solche nicht-einvernehmlichen Deepfakes wollen EU-Rat und EU-Parlament verbieten. Über den KI-Omnibus soll das Verbot Teil der KI-Verordnung werden.

In Brüssel wird momentan diskutiert, ob sexualisierte Deepfakes verboten werden sollen – und wie. Nach dem Skandal um Grok im Januar gibt es dafür gerade viel politischen Willen und mit dem KI-Omnibus eine rechtliche Möglichkeit.

Bild eines weißen Busses, durch den verschwommenen Hintergrund sieht es so aus, als würde er schnell fahren

Unter Hochdruck will die EU Teile ihrer Digitalregulierung überarbeiten. Während der AI Act auf den letzten Metern noch um ein Verbot sexualisierter Deepfakes ergänzt werden könnte, treten beim Datenomnibus zwei wichtige EU-Institutionen auf die Bremse. Die neuesten Entwicklungen im Überblick.

Die europäische Grenzschutzagentur Frontex entwickelt derzeit eine App mit integriertem Chatbot. Der soll Geflüchtete dabei beraten, wie sie „freiwillig“ in ihr Herkunftsland zurückkehren können. Der Einsatz stelle nach dem AI Act kein hohes Risiko dar, findet die Behörde.

Mit Blick auf das Reformpaket der EU-Kommission zeigen sich die Mitgliedstaaten gespalten. Einige setzen wie die Kommission auf Deregulierung und wollen so die europäische Digitalwirtschaft ankurbeln. Andere wiederum würden lieber die Umsetzung der bestehenden Regeln verbessern.

In Brüssel nimmt die Debatte um den „digitalen Omnibus“ an Fahrt auf. Während vier Fraktionen im EU-Parlament die Aufweichung von KI- und Datenschutzregeln kritisieren, begrüßen Konservative das Vorhaben grundsätzlich. Werden sie wieder mit Rechtsaußen-Fraktionen stimmen, um das Vorhaben durchzusetzen?

Drei Personen in formellen Setting sprechen und scherzen miteinander

Mit ihrem „Digitalen Omnibus“ will die Kommission Regeln für risikoreiche KI-Systeme um mehr als ein Jahr hinauszögern und den Datenschutz deutlich einschränken. Industrieverbände begrüßen den Schritt, Verbraucherschützer:innen sind alarmiert. Wir beantworten die wichtigsten Fragen zum Gesetzespaket.

Ein liegengebliebener Bus in einer Wüste

Das angekündigte Reformpaket ist da und die EU-Kommission bleibt auf Konfrontationskurs: Statt den Datenschutz zu vereinfachen, schleift sie Grundrechte. Statt europäischen Unternehmen zu helfen, kommt sie Big Tech entgegen. Ein Kommentar.

Vorn: Europol-Gebäude in schwarz-weiß, hinten Platine in rot.

Die EU-Polizeiagentur Europol ist nicht nur an immer mehr Daten interessiert, sondern experimentiert auch mit KI-Tools, um sie zu verarbeiten. Ob automatische Einstufung von Missbrauchsdarstellungen oder Gesichtserkennung – den KI-Ambitionen stehen nur schwache Kontrollmechanismen gegenüber.

EU-Abgeordnete fordern neue Regeln für den Einsatz von Algorithmen am Arbeitsplatz. Beschäftigte sollen wissen, wann KI über sie entscheidet und wie das funktioniert. Bei besonders sensiblen Entscheidungen sollen Menschen immer das letzte Wort haben.

EU-Kommissionspräsidentin Ursula von der Leyen bei einer Rede im roten Sakko vor EU-blauem Hintergrund.

In weniger als zwei Wochen will die EU-Kommission einen umfassenden Gesetzesvorschlag präsentieren. Der „digitale Omnibus“ würde bestehende Datenschutz- und Verbraucherrechte massiv aufweichen. Wir veröffentlichen die Entwürfe der Kommission.

Eigentlich sollen zentrale Teile der europäischen KI-Verordnung im August 2026 in Kraft treten. Weil aber bestimmte Standards noch fehlen, fordern Unternehmen, die Frist nach hinten zu verschieben. Organisationen wie European Digital Rights (EDRi) sehen darin einen großen Fehler, doch die Aufschiebung scheint immer wahrscheinlicher.

EU-Digitalgesetze wie der Digital Services Act sollen Big Tech in Schach halten. Das macht Meta, Microsoft & Co. das Leben schwer. Mit einer mächtigen Lobby arbeiten sie dagegen. Das zeigt eine gemeinsame Analyse von LobbyControl und Corporate Europe Observatory.

Trotz internationaler Kritik hält die ungarische Regierung an ihrer queerfeindlichen Politik fest und verbietet die Pride in Pécs. Wieder droht Teilnehmenden die Identifikation per Gesichtserkennung wegen einer Ordnungswidrigkeit. Zivilgesellschaftliche Organisationen fordern ein EU-Vertragsverletzungsverfahren.

Frau in weißem Blazer überquert Zebrastreifen in der Abbey Road in London.

Biometrische Gangerkennung soll Menschen aus der Ferne identifizieren können, selbst wenn sie ihr Gesicht verhüllen. Unser Überblick zeigt, wie die Technologie funktioniert und wo sie bereits eingesetzt wird. Menschenrechtler*innen fordern ein Verbot.

Die Bundesnetzagentur soll künftig einen Großteil der KI-Aufsicht übernehmen. Ringsum ist jedoch ein Mosaik aus weiteren Zuständigkeiten geplant. Das geht aus dem Gesetzentwurf aus dem Digitalministerium hervor, den wir veröffentlichen.

Eine neue Studie zeigt: TikTok und Instagram kennzeichnen KI-generierte Inhalte nur unzureichend – und gerade TikTok wird von bizarren synthetischen Videos dominiert. Die Plattformen verstoßen damit gegen EU-Vorgaben und sorgen für eine Flut von automatisierter Desinformation.

KI-Systeme wie ChatGPT müssen sich ab dem 2. August an die KI-Verordnung halten. Mit neuen Leitlinien und einem Kodex will die EU-Kommission die oftmals vagen Vorgaben in Form bringen. Ein Überblick.

Eine Menschenmenge mit Regenbogenfahnen auf der Straße

Ungarn hat den Weg freigemacht für biometrische Gesichtserkennung gegen Teilnehmer:innen von Pride-Demos. Die EU-Kommission prüft derzeit, ob der Mitgliedstaat damit Gesetze verletzt. Parlamentarier:innen pochen auf Antworten.

AI Act

KW 11: Die Woche, in der wir uns über Pfusch am Bau aufregen

Rat und Parlament einig: Verbot für sexualisierte Deepfakes rückt näher

Nackt per Mausklick: EU-Abgeordnete wollen sexualisierte Deepfakes verbieten

KI und Datenschutz: Wo der Digitale Omnibus der EU gerade hinrollt

Migrationskontrolle: Ein KI-Chatbot von Frontex soll zu Selbst-Abschiebung beraten

Digitaler Omnibus: So unterschiedlich wollen EU-Staaten die Digitalregulierung verändern

Digitaler Omnibus: Das EU-Parlament steuert auf den nächsten Konflikt zu

FAQ zum "Digitalen Omnibus": Was plant die EU-Kommission bei KI und Datenschutz?

Digitaler Omnibus: Auf Crash-Kurs mit digitalen Grundrechten

Hungrig nach Daten: Das geheimnisvolle KI-Programm von Europol

Rechte von Beschäftigten: Niemand soll durch einen Algorithmus gefeuert werden

"Digitaler Omnibus": EU-Kommission will Datenschutzgrundverordnung und KI-Regulierung schleifen

AI Act: Wird sich die KI-Regulierung verzögern?

Gegen Regulierung: Big Tech steckt so viel Geld in EU-Lobbyarbeit wie noch nie

Gesichtserkennung gegen Grundrechte: Ungarn verbietet auch Pride in Pécs

Biometrische Gangerkennung: Zeige mir, wie du gehst, und ich sage dir, wer du bist

Referentenentwurf: Diese Behörden sollen die KI-Verordnung umsetzen

Studie zu "AI Slop": Wie künstliche Videos Social Media fluten

Regeln für ChatGPT: So will die EU die KI-Verordnung umsetzen

Ungarns Pride-Verbot: Abgeordnete machen Druck auf EU-Kommission