Schlagwort: AlgorithmWatch

Menschen überqueren eine Straße am Flughafen Tegel

Im Innenausschuss des Bundestages ging es heute um das „Sicherheitspaket“. Kirchen, Menschenrechtsverbände und die Beauftragte für den Datenschutz kritisieren die Maßnahmen als unverhältnismäßig und rechtswidrig. Die wichtigsten Kritikpunkte im Überblick.

Demoschild, auf dem steht: "Keinen Bock auf Deutschland 1933", vor dem Brandenburger Tor.

Die Regierung will mit ihrem Sicherheitspaket massiv in Grundrechte eingreifen. Der große öffentliche Aufschrei bleibt aus, doch gerade jetzt sollten wir entschieden „Stopp“ sagen. Ein Kommentar.

Wer Kameras entgehen will, hat es zunehmend schwer. Dabei genügt ein Schnappschuss, um einen Menschen zu identifizieren. Wir erkunden die faszinierende Welt des Widerstands gegen biometrische Erkennung.

Zivilgesellschaftliche Organisationen kritisieren das Sicherheitspaket der Ampel in scharfen Worten. Sie warnen vor radikalem Abbau von Grundrechten und flächendeckender biometrischer Überwachung. Der Bundestag darf diese Gesetze so nicht beschließen. Wenn doch, braucht es eine aktivistische Zeitenwende.

Viele Menschen mit markierten Gesichtern.

Die Bundesregierung will Polizei und Migrationsbehörden erlauben, alle Gesichtsfotos im Internet zu speichern und zu nutzen. AlgorithmWatch kritisiert diese neue Form der anlasslosen Vorratsdatenspeicherung. Die Bundesregierung muss stattdessen geltendes Recht umsetzen – und Gesichtssuchmaschinen verbieten.

People on the move face dehumanizing and discriminatory treatment at Europe’s borders. Yet, the EU continues to fund projects that aim to automate these practices with the help of AI and by this exacerbates the plight of migrants. An interview with Antonella Napolitano and Fabio Chiusi.

Menschen auf der Flucht sind an den europäischen Außengrenzen unmenschlicher und diskriminierender Behandlung ausgesetzt. Dennoch finanziert die EU weiterhin Projekte, die den Status Quo mit Hilfe von KI automatisieren sollen – und verschärft damit die Notlage. Ein Gespräch mit Antonella Napolitano und Fabio Chiusi.

Der jüngst vom Europäischen Parlament beschlossene „Neue Migrationspakt“ erweitert Überwachungstechnologien und KI-Anwendungen an den EU-Außengrenzen – und erfährt Gegenwind.

Der Europarat hat sich auf einen internationalen Vertrag geeinigt, der die Menschenrechte schützen soll, wenn „Künstliche Intelligenz“ zum Einsatz kommt. Doch der jetzt geleakte Text ist windelweich und lässt riesige Lücken für Staaten und Unternehmen. Eine Analyse.

Eine Ampel, die grün leuchtet, frei hängend

Die EU-Mitgliedstaaten haben heute den Kompromisstext der KI-Verordnung bestätigt. Das größte Regelwerk der Welt für Künstliche Intelligenz wird damit wahrscheinlich noch vor den EU-Wahlen in Kraft treten – ungeachtet der breiten Kritik am gesetzgeberischen Prozess und an der drohenden Massenüberwachung.

Ein Polizist steht auf einer Computer-Tastatur.

Eine Hürde muss das Digitale-Dienste-Gesetz noch nehmen, bevor Deutschland seine Gesetze vollständig an den Digital Services Act angepasst hat. Auf den letzten Metern könnte der Bundestag die Regeln noch spürbar verbessern, meinen Vertreter:innen der Zivilgesellschaft. Vor allem die ausufernde Übermittlungspflicht an das Bundeskriminalamt bereitet vielen Sorgen.

Links hoher Metallzaun, davor verschneiter Boden, rechts ein schwarzer Metallcontainer

Vor allem wenn Polizei und Grenzbehörden so genannte Künstliche Intelligenz einsetzen, sind Grundrechte in Gefahr. Mehr als hundert zivilgesellschaftliche Organisationen fordern: Die EU muss bei ihrem KI-Regelwerk nachbessern – sonst droht Schaden für ihre Demokratien.

Weniger als ein halbes Jahr bleibt der Bundesregierung, um eine neue Aufsicht über Online-Plattformen zu schaffen. Wir haben uns ausgewählte Stellungnahmen zum ersten Entwurf des Digitalministeriums angesehen. Vor allem braucht es eine starke Aufsicht aus einer Hand, so der Tenor der Zivilgesellschaft.

Ein Roboter mit Glühbirnenkopf ist hingefallen.

Der Europarat will „Künstliche Intelligenz“ regulieren – allerdings ohne die Zivilgesellschaft. Überraschend hat er zivilgesellschaftlichen Organisationen den Beobachterstatus bei den Verhandlungen zu der KI-Konvention entzogen. Die Organisationen kritisieren die Entscheidung in einem offenen Brief.

Jemand wirft einen braunen Briefumschlag in eine Wahlurne. Rechts unten sieht man ein Megafon.

Nach dem Cambridge-Analytica-Skandal will die EU politische Werbung regulieren. Das Gesetz soll Manipulation bei Wahlen verhindern und demokratische Prozesse schützen. Doch zivilgesellschaftliche Organisationen warnen, dass die Verordnung in den Trilog-Verhandlungen verwässert werden könnte.

Eine Montage aus mehreren Bildern. Links Gesichter mit farblich hervorgehobenen biometrischen Merkmalen. In der Mitte oben ein Grenzzaun mit Wachturm. In der Mitte unten die Röntgen-Aufnahme eines Knies. Rechts die Darstellung eines Lebenslaufs. Die Collage stellt somit verschiedene Bereiche dar, die vom AI Act betroffen sind.

Seit dem Hype um ChatGPT richten sich viele Blicke auf den geplanten AI Act. Die EU-Verordnung zu „Künstlicher Intelligenz“ ist seit Jahren in der Mache und soll morgen im Parlament eine nächste Hürde überwinden. An mindestens sechs Stellen lauern Probleme.

Ein Handy mit der Uber-App klemmt in einer Halterung neben dem Lenkrad.

Gewerkschaften sind essenziell, um in einer automatisierten Arbeitswelt die Rechte aller Beschäftigten zu schützen. Bisher mangelt es aber an praktischen Ratschlägen für Arbeitende und ihre Vertreter:innen, bilanziert ein neuer Bericht von AlgorithmWatch.

Ein Auto mit Kameras sucht in Amsterdam automatisiert nach Falschparkern.

Die Niederlande wollen vormachen, wie sich automatisierte Entscheidungssysteme einhegen lassen. Skandale wie die Kindergeldaffäre sollen mit einer neuen Algorithmenaufsicht und Transparenzregistern verhindert werden. Davon könnte sich die EU eine Scheibe abschneiden und den AI Act verbessern.

Ein Handy ist an eine Zimmerpflanze angelehnt. Auf dem Handydisplay ist die App TikTok geöffnet und das Profil der offiziellen TikTok-Seite. Der Hintergrund ist weiß.

Wie steuert TikTok den Feed seiner Nutzer:innen? AlgorithmWatch möchte diese Frage beantworten und ruft zu Datenspenden auf.

Eine einfarbige Wand mit einem gleichfarbigen Lautsprecher

Das Bündnis F5 kritisiert den Digitalgipfel der Bundesregierung, der aktuell in Berlin stattfindet. Die Nichtregierungsorganisationen bemängeln vor allem die wirtschaftspolitische Ausrichtung der zweitägigen Veranstaltung. Und sie fordern einen digitalpolitischen Neustart – in enger Kooperation mit der Zivilgesellschaft. Wir dokumentieren den Aufruf im Wortlaut.

AlgorithmWatch

Anhörung im Innenausschuss: Harte Kritik am Überwachungspaket

Sicherheitspaket: Wir müssen unsere Freiheit nutzen, um sie zu verteidigen

Digitale Selbstverteidigung: Biometrische Gesichtserkennung abwehren

Grundrechte-Abbau: Massive Kritik am Sicherheitspaket der Ampel

BKA-Gesetz: Wenn der Staat zum Spanner wird

Interview: AI at Europe’s Borders

Interview: Gegen automatisierte Außengrenzen

EU-Migrationspakt: Kritik an der digitalen Überwachung von Migrant:innen

KI-Konvention des Europarats: Viel Abkommen um Nichts

EU-Rat: KI-Verordnung erhält grünes Licht

Digitale-Dienste-Gesetz: Bundeskriminalamt erwartet Meldungen im Minutentakt

AI Act: Schluss mit KI-Ausnahmen für Polizeibehörden

Digitale-Dienste-Gesetz: Bloß kein Zuständigkeitsgerangel

Künstliche Intelligenz: Europarat setzt Zivilgesellschaft vor die Tür

Politische Werbung: In der EU droht eine weichgespülte Regulierung gegen politisches Targeting

"Künstliche Intelligenz": Die sechs größten Probleme im AI Act

NGO-Bericht: Wie Gewerkschaften weltweit gegen unfaire Algorithmen kämpfen

Aufsicht und Transparenz: Wie die Niederlande aus KI-Skandalen lernen

TikTok: AlgorithmWatch ruft zu Datenspenden auf

Digitalgipfel: Ein staatlich organisiertes Lobbyfest