Schlagwort: AI Act

Eine Überwachungskamera schaut auf abstrahierte Olympische Ringe.

Nach zwei erfolglosen Versuchen, die Videoüberwachung auszuweiten, nutzt die französische Regierung nun die Olympischen Spiele, um vorerst testweise algorithmische Überwachung zu legalisieren. Bürgerrechtsorganisationen befürchten eine Normalisierung und Ausweitung.

Ein Bild zeigt Gesichtern zugeordnete ID-Nummern

Statt Terrorismus zu bekämpfen haben Technologien zur Überwachung „verheerende“ Auswirkungen auf Menschenrechte, mahnen die Vereinten Nationen in einem Bericht. Es brauche unter anderem einen Stopp für biometrische Überwachung in der Öffentlichkeit und den Handel mit Trojanern.

Ein Handy mit der Uber-App klemmt in einer Halterung neben dem Lenkrad.

Gewerkschaften sind essenziell, um in einer automatisierten Arbeitswelt die Rechte aller Beschäftigten zu schützen. Bisher mangelt es aber an praktischen Ratschlägen für Arbeitende und ihre Vertreter:innen, bilanziert ein neuer Bericht von AlgorithmWatch.

Ein Auto mit Kameras sucht in Amsterdam automatisiert nach Falschparkern.

Die Niederlande wollen vormachen, wie sich automatisierte Entscheidungssysteme einhegen lassen. Skandale wie die Kindergeldaffäre sollen mit einer neuen Algorithmenaufsicht und Transparenzregistern verhindert werden. Davon könnte sich die EU eine Scheibe abschneiden und den AI Act verbessern.

Vor den Olympischen Sommerspielen bereitet die französische Regierung den Boden für mehr Videoüberwachung. Das Parlament verhandelt derzeit über ein neues Gesetz, manche Politiker:innen wollen dabei auch eine automatisierte Gesichtserkennung im öffentlichen Raum durchsetzen. Ob sie eine Mehrheit finden, ist jedoch fraglich.

Menschen am Strand im Hintergrund, vorne eine Schild mit der Aufschrift Danger.

Die Bundesregierung hat Ende Dezember dem Entwurf zum geplanten AI Act zugestimmt. Doch einig ist man sich in der Ampel-Koalition offenbar nicht. Jetzt macht die SPD-Fraktion mit einem Positionspapier das Thema wieder auf – und will beim Einsatz von KI in den Bereichen Arbeit und Migration den Kurs korrigieren.

In den USA soll im Februar erstmals eine „Künstliche Intelligenz“ die Verteidigung in einem Gerichtsprozess übernehmen. Das Experiment des Unternehmens DoNotPay erfolgt ohne Wissen des Gerichts und dient vor allem dem Marketing. Dessen ungeachtet wird der Einsatz des „Roboteranwalts“ einschneidende Folgen weit über die US-amerikanische Justiz hinaus haben.

Auf Personen gerichtete Überwachungskamera, neben den Personen sind ihre Passbilder und Nummern abgebildet.

Im Rat der Europäischen Union hat sich die Bundesregierung dafür eingesetzt, dass biometrische Überwachung teilweise erlaubt wird. Bürgerrechtsorganisationen kritisieren „gefährliche Schlupflöcher“ für neue Möglichkeiten der Massenausspähung. In ihrem Koalitionsvertrag hatte die Ampel noch versprochen, biometrische Erkennung im öffentlichen Raum auszuschließen.

Eine EU-Flagge vor blauem Himmel, ein Auge, ein Fingerabdruck und ein Ausweis-Dokument

Wer die Netzpolitik in Deutschland verstehen will, muss auch Richtung Brüssel und Straßburg schauen. Denn die EU stellt die Weichen für unsere digitale Zukunft. Der Ausblick auf das netzpolitische Jahr in Europa – und wo Probleme lauern.

Ein iPad mit Kamera ist im Vordergrund, im Hintergrund ein Bild des österreichischen Parlaments.

Nächste Woche öffnet das frisch sanierte österreichische Parlament seine Tore. Wollen Mitarbeitende oder Abgeordnete herein, müssen sie wie bisher ihre Zugangskarte vorzeigen – oder ein neues biometrisches Erkennungssystem nutzen. Doch das System birgt Risiken.

Frau mit roter Gesichtsbiometrie im Gesicht

Am Nikolaustag haben die Minister:innen der EU-Staaten ihre Position zum „AI Act“ vorgestellt, dem geplanten EU-Gesetz zur Regulierung Künstlicher Intelligenz. Die Vorschläge werden von vielen Seiten kritisiert. Im Fokus stehen dabei unzureichende Beschränkungen biometrischer Überwachung.

Links ist Ursula von der Leyen abgebildet, rechts ein Ausschnitt aus der Erklärung der digitalen Rechte

Die Verhandlungen über die europäische Erklärung digitaler Grundrechte sind nahezu abgeschlossen. Kommission, Ratspräsidentschaft und Parlament haben sich jetzt auf einen Text geeinigt, der im Dezember unterzeichnet werden soll. Wir veröffentlichen das Dokument im Volltext und ordnen die Erklärung netzpolitisch ein.

AlgorithmWatch und 23 weitere NGOs haben heute einen Offenen Brief an die Bundesregierung veröffentlicht. Noch bis zum 6. Dezember verhandelt der EU-Rat über einen Vorschlag zum AI Act. Der jetzige Vorschlag sieht nur ein aufgeweichtes Verbot biometrischer Überwachung vor – anders, als die Ampelparteien im Koalitionsvertrag vereinbart haben.

Sie arbeitete für Google, forschte zu Künstlicher Intelligenz und steht nun an der Spitze des Messengers Signal. Meredith Whittaker gilt als eine der schärfsten Kritikerinnen von Big Tech. Wir sprechen mit ihr über smarte Kaffeemaschinen, Verschlüsselung für alle und die fatalen Folgen fehlender Regulierung.

Der Ausschuss für Digitales vor Beginn der Anhörung

Die EU-Kommission möchte mit dem AI Act ein Regelwerk für künstliche Intelligenz schaffen. Diese Woche hat der Bundestag Sachverständige zu dem Entwurf befragt. Sie sind gespalten – vor allem bei der Grundsatzfrage, welche Technologien die Verordnung überhaupt regulieren soll.

In Österreich werden Arbeitslose automatisch in Kategorien sortiert, in den Niederlanden suchten Gemeinden automatisiert nach Sozialbetrüger:innen. Was macht es mit der Zivilgesellschaft, wenn Staaten High-Tech-Tools gegen ihr Volk richten?

Die EU arbeitet an einem Regelwerk für den Einsatz von KI, Algorithmen und automatisierten Entscheidungen. Sie könnte damit global Standards setzen. Doch für die Bundesregierung hat der Vorschlag der EU-Kommission große Schwächen.

Kind gibt Roboter die Hand und schaut dabei in die Kamera

Automatisierte Entscheidungssysteme werden seit Jahren in sensiblen Bereichen wie Medizin und Bildung eingesetzt. Doch bisher gibt es keine Regelungen um Unternehmen zur Verantwortung zu ziehen. Das soll sich jetzt ändern. Sowohl die USA als auch Europa arbeiten an Gesetzesentwürfen zur Regulierung automatisierter Entscheidungen. Was steht drin?

Die Ampelregierung hat sich einiges für die Digitalisierung vorgenommen. Noch sind die neuen Regierungspartner viel mit Vorbereitungen beschäftigt, bevor es richtig losgehen kann. Wir haben die Bundestagsabgeordneten Anke Domscheit-Berg und Maik Außendorf gefragt, was für sie wichtig ist und wo es noch klemmen könnte.

Ursula von der Leyen und Emmanuel Macron

Im neuen Jahr stehen in der Netzpolitik der Europäischen Union große Weichenstellungen bevor – vom Digital Services Act bis zu neuen Überwachungsmaßnahmen. Ein Blick in die Zukunft.

AI Act

Olympische Spiele in Frankreich: Freiheit, Gleichheit, Videoüberwachung

UN-Bericht prangert an: Kampf gegen Terror nur Vorwand für mehr Überwachung

NGO-Bericht: Wie Gewerkschaften weltweit gegen unfaire Algorithmen kämpfen

Aufsicht und Transparenz: Wie die Niederlande aus KI-Skandalen lernen

Olympische Spiele 2024: Frankreich will „intelligente“ Videoüberwachung ausweiten

AI Act: SPD-Fraktion grätscht in die Regierungsposition bei EU-Verhandlungen

Law & Roboter: Die KI als Verteidigerin

AI Act: Bundesregierung setzt sich auf EU-Ebene für mehr Gesichtserkennung ein

Netzpolitik in Europa: Das wird 2023 auf EU-Ebene wichtig

Biometrie: Parlament in Österreich führt Gesichts- und Venenscanner ein

AI Act der Europäischen Union: Ampel verpasst Grundrechteschutz bei der Regulierung künstlicher Intelligenz

Erklärung für Digitale Grundrechte: Schöne Worte, kaum Verpflichtung

Offener Brief: Bundesregierung soll biometrische Überwachung in der EU unterbinden

Neue Signal-Chefin: „Künstliche Intelligenz ist vor allem ein Marketinghype“

Datendiskriminierung: Wenn Maschinen über Menschen entscheiden

Stellungnahme zum AI Act: Ampel will EU-weites Transparenzregister für Behörden

AI Act vs. Algorithmic Accountability Act: Wie die EU und die USA Algorithmen regulieren wollen

100 Tage Bundesregierung: Große Vorhaben und große Baustellen

Jahresvorschau: Was die EU netzpolitisch für 2022 plant