Schlagwort: AlgorithmWatch

Fotografie eines Mannes mit Turban auf einer Queer Pride Demonstration. Der Mann zeigt ein Schild mit dem Text "Some Sikhs are gay. Get over it!". Im Hintergrund sind weitere bunt gekleidete Menschen, die zum Teil farbige Luftballons tragen.

Weitgehend unbemerkt hat YouTube seine Richtlinien zu Hassrede geändert. In der US-Fassung ist „Gender Identity“ aus den schützenswerten Merkmalen verschwunden, in Deutschland „Gesellschaftsklasse“ und „Hautfarbe“. Will sich die Plattform damit bei der Trump-Regierung anbiedern?

In Ungarn sollen Teilnehmer:innen von Pride-Demonstrationen jetzt per Gesichtserkennung identifiziert und mit Bußgeldern bestraft werden. Bürgerrechtsorganisationen hatten vor einem solchen Szenario gewarnt, als die EU ihre laschen Regeln für biometrische Identifikation verabschiedete. Das ungarische Gesetz verletzt ihrer Meinung nach dennoch gleich mehrere EU-Gesetze.

Eine Frau schiebt eine Schnecke, die einen Chip trägt.

Damit in den Koalitionsverhandlungen zumindest die wichtigsten netzpolitischen Herausforderungen präsent bleiben: Hier unsere Liste von Digital-Themen, die eine nächste Regierung dringend angehen sollte. Mit dabei: Transparenz, IT-Sicherheit und Digitalpolitik für alle.

Sogenannte Künstliche Intelligenz spielt eine immer wichtigere Rolle, auch in der öffentlichen Verwaltung. Um die Gefahren automatisierter Entscheidungssysteme abzuschwächen, können etwa Transparenzregister helfen. Nun hat der Bund eines aufgesetzt – mit deutlichen Schwächen.

Sollen Polizeibehörden Gesichtserkennung einsetzen können, wenn sie mit einem Schild davor gewarnt haben? Macht es für Empfänger:innen von Sozialhilfe einen Unterschied, ob sie mit einem KI-System Probleme kriegen oder mit klassischer Software? Die Zivilgesellschaft hätte dazu gerne mehr Klarheit von der EU-Kommission.

Der Einfluss sozialer Medien auf Politik und Gesellschaft steigt, doch die Forschung kann kaum mithalten. Daran sind auch die Online-Dienste schuld, die sich ungern in die Karten schauen lassen. Dieses Problem soll der Digital Services Act entschärfen, indem er den Zugang zu Daten erleichtern soll. Doch das Verfahren ist komplex – und wird kaum vor den Bundestagswahlen fertig.

Menschen überqueren eine Straße am Flughafen Tegel

Im Innenausschuss des Bundestages ging es heute um das „Sicherheitspaket“. Kirchen, Menschenrechtsverbände und die Beauftragte für den Datenschutz kritisieren die Maßnahmen als unverhältnismäßig und rechtswidrig. Die wichtigsten Kritikpunkte im Überblick.

Demoschild, auf dem steht: "Keinen Bock auf Deutschland 1933", vor dem Brandenburger Tor.

Die Regierung will mit ihrem Sicherheitspaket massiv in Grundrechte eingreifen. Der große öffentliche Aufschrei bleibt aus, doch gerade jetzt sollten wir entschieden „Stopp“ sagen. Ein Kommentar.

Wer Kameras entgehen will, hat es zunehmend schwer. Dabei genügt ein Schnappschuss, um einen Menschen zu identifizieren. Wir erkunden die faszinierende Welt des Widerstands gegen biometrische Erkennung.

Zivilgesellschaftliche Organisationen kritisieren das Sicherheitspaket der Ampel in scharfen Worten. Sie warnen vor radikalem Abbau von Grundrechten und flächendeckender biometrischer Überwachung. Der Bundestag darf diese Gesetze so nicht beschließen. Wenn doch, braucht es eine aktivistische Zeitenwende.

Viele Menschen mit markierten Gesichtern.

Die Bundesregierung will Polizei und Migrationsbehörden erlauben, alle Gesichtsfotos im Internet zu speichern und zu nutzen. AlgorithmWatch kritisiert diese neue Form der anlasslosen Vorratsdatenspeicherung. Die Bundesregierung muss stattdessen geltendes Recht umsetzen – und Gesichtssuchmaschinen verbieten.

People on the move face dehumanizing and discriminatory treatment at Europe’s borders. Yet, the EU continues to fund projects that aim to automate these practices with the help of AI and by this exacerbates the plight of migrants. An interview with Antonella Napolitano and Fabio Chiusi.

Menschen auf der Flucht sind an den europäischen Außengrenzen unmenschlicher und diskriminierender Behandlung ausgesetzt. Dennoch finanziert die EU weiterhin Projekte, die den Status Quo mit Hilfe von KI automatisieren sollen – und verschärft damit die Notlage. Ein Gespräch mit Antonella Napolitano und Fabio Chiusi.

Der jüngst vom Europäischen Parlament beschlossene „Neue Migrationspakt“ erweitert Überwachungstechnologien und KI-Anwendungen an den EU-Außengrenzen – und erfährt Gegenwind.

Der Europarat hat sich auf einen internationalen Vertrag geeinigt, der die Menschenrechte schützen soll, wenn „Künstliche Intelligenz“ zum Einsatz kommt. Doch der jetzt geleakte Text ist windelweich und lässt riesige Lücken für Staaten und Unternehmen. Eine Analyse.

Eine Ampel, die grün leuchtet, frei hängend

Die EU-Mitgliedstaaten haben heute den Kompromisstext der KI-Verordnung bestätigt. Das größte Regelwerk der Welt für Künstliche Intelligenz wird damit wahrscheinlich noch vor den EU-Wahlen in Kraft treten – ungeachtet der breiten Kritik am gesetzgeberischen Prozess und an der drohenden Massenüberwachung.

Ein Polizist steht auf einer Computer-Tastatur.

Eine Hürde muss das Digitale-Dienste-Gesetz noch nehmen, bevor Deutschland seine Gesetze vollständig an den Digital Services Act angepasst hat. Auf den letzten Metern könnte der Bundestag die Regeln noch spürbar verbessern, meinen Vertreter:innen der Zivilgesellschaft. Vor allem die ausufernde Übermittlungspflicht an das Bundeskriminalamt bereitet vielen Sorgen.

Links hoher Metallzaun, davor verschneiter Boden, rechts ein schwarzer Metallcontainer

Vor allem wenn Polizei und Grenzbehörden so genannte Künstliche Intelligenz einsetzen, sind Grundrechte in Gefahr. Mehr als hundert zivilgesellschaftliche Organisationen fordern: Die EU muss bei ihrem KI-Regelwerk nachbessern – sonst droht Schaden für ihre Demokratien.

Weniger als ein halbes Jahr bleibt der Bundesregierung, um eine neue Aufsicht über Online-Plattformen zu schaffen. Wir haben uns ausgewählte Stellungnahmen zum ersten Entwurf des Digitalministeriums angesehen. Vor allem braucht es eine starke Aufsicht aus einer Hand, so der Tenor der Zivilgesellschaft.

Ein Roboter mit Glühbirnenkopf ist hingefallen.

Der Europarat will „Künstliche Intelligenz“ regulieren – allerdings ohne die Zivilgesellschaft. Überraschend hat er zivilgesellschaftlichen Organisationen den Beobachterstatus bei den Verhandlungen zu der KI-Konvention entzogen. Die Organisationen kritisieren die Entscheidung in einem offenen Brief.

AlgorithmWatch

Diskriminierung: YouTube weicht Richtlinien gegen Hassrede auf

Pride-Verbot: Gesichtserkennung in Ungarn verstößt gegen EU-Gesetze

Forderungen aus der Zivilgesellschaft: Diese digitalpolitischen Ziele müssen in den Koalitionsvertrag

Künstliche Intelligenz: Marktplatz statt Transparenzregister

Digital Services Act: So steht es um den Forschungszugang zu X, Facebook & Co.

Anhörung im Innenausschuss: Harte Kritik am Überwachungspaket

Sicherheitspaket: Wir müssen unsere Freiheit nutzen, um sie zu verteidigen

Digitale Selbstverteidigung: Biometrische Gesichtserkennung abwehren

Grundrechte-Abbau: Massive Kritik am Sicherheitspaket der Ampel

BKA-Gesetz: Wenn der Staat zum Spanner wird

Interview: AI at Europe’s Borders

Interview: Gegen automatisierte Außengrenzen

EU-Migrationspakt: Kritik an der digitalen Überwachung von Migrant:innen

KI-Konvention des Europarats: Viel Abkommen um Nichts

EU-Rat: KI-Verordnung erhält grünes Licht

Digitale-Dienste-Gesetz: Bundeskriminalamt erwartet Meldungen im Minutentakt

AI Act: Schluss mit KI-Ausnahmen für Polizeibehörden

Digitale-Dienste-Gesetz: Bloß kein Zuständigkeitsgerangel

Künstliche Intelligenz: Europarat setzt Zivilgesellschaft vor die Tür