Schlagwort: AlgorithmWatch

transparenter Rollcontainer mit Hängeregister, auf den Mappen sind schwarze Boxen abgebildet

Seit gut einem Jahr gibt es das nationale KI-Transparenzregister. Der IT-Planungsrat will es nun auf alle Verwaltungsebenen ausweiten. Dennoch bleibt weiterhin unklar, in welchem Umfang die öffentliche Verwaltung sogenannte Künstliche Intelligenz einsetzt – und mit welchem Risiko.

Menschliche Silhouetten mit Laptops in den Händen, dahinter die Logos sozialer Netzwerke.

Eine EU-Transparenzdatenbank soll öffentlich besser nachvollziehbar machen, wie Online-Dienste Inhalte moderieren. Doch eine aktuelle Studie zeigt grundlegende Mängel auf und warnt: Die Datenbank kann, so wie sie aufgebaut ist, ihre Ziele gar nicht erreichen.

Schornsteine vor bewölktem Himmel aus denen Rauchwolken quillen

Die Bundesregierung will Deutschland zur „KI-Nation“ machen, die EU verfolgt eine „AI-First“-Mentalität. Eine Umfrage in mehreren europäischen Ländern zeigt nun, dass die Mehrheit der Befragten diesen Hype nicht mitträgt. Ihr bereitet vor allem der wachsende Strom- und Wasserverbrauch Sorge. Und sie wünscht sich eine strengere Regulierung.

Wand mit Gesichtern aus Stein, drei davon sind gelb hervorgehoben.

Ein Abgleich biometrischer Daten mit Bildern aus dem Internet für Ermittlungsbehörden? Europa- und Verfassungsrecht würden das verbieten, sagen mehrere Bürgerrechtler:innen und Datenschützer auf einer Pressekonferenz in Berlin. Ein Gutachten aus technischer Sicht stützt ihre Einschätzung.

Mann im Anzug mit Stapel Akten in der Hand

Familienvideos, Selfies, Chatgruppen: Die Bundesregierung will es Polizeibehörden erlauben, das öffentliche Internet mit den biometrischen Daten gesuchter Personen abzugleichen. Zivilgesellschaftliche Organisationen warnen vor einer Infrastruktur der umfassenden Überwachung.

Die Silhouette eines Mannes, dahinter nebulöse Datenstrukturen.

Große Online-Plattformen sind für viele schon lange Teil des Alltags. Wie sie im Detail funktionieren, wissen aber weitgehend nur die Betreiber. Diese Blackboxen soll der Digital Services Act öffnen. Nun hat die EU-Kommission Details für den Datenzugang für Forschende veröffentlicht.

Gesichter von drei Personen mit hervorgehobenen, biometrischen Merkmalen; Screenshots von Gesichtersuchmaschinen

Fotos im Internet auslesen, um daraus eine Datenbank für Gesichtserkennung zu bauen – das verbietet die KI-Verordnung. Aber Anbieter von Gesichter-Suchmaschinen werben selbstbewusst für ihre Abos. Während Aufsichtsbehörden auf der Stelle treten, schlagen Politiker*innen Alarm.

Fotografie eines Mannes mit Turban auf einer Queer Pride Demonstration. Der Mann zeigt ein Schild mit dem Text "Some Sikhs are gay. Get over it!". Im Hintergrund sind weitere bunt gekleidete Menschen, die zum Teil farbige Luftballons tragen.

Weitgehend unbemerkt hat YouTube seine Richtlinien zu Hassrede geändert. In der US-Fassung ist „Gender Identity“ aus den schützenswerten Merkmalen verschwunden, in Deutschland „Gesellschaftsklasse“ und „Hautfarbe“. Will sich die Plattform damit bei der Trump-Regierung anbiedern?

In Ungarn sollen Teilnehmer:innen von Pride-Demonstrationen jetzt per Gesichtserkennung identifiziert und mit Bußgeldern bestraft werden. Bürgerrechtsorganisationen hatten vor einem solchen Szenario gewarnt, als die EU ihre laschen Regeln für biometrische Identifikation verabschiedete. Das ungarische Gesetz verletzt ihrer Meinung nach dennoch gleich mehrere EU-Gesetze.

Eine Frau schiebt eine Schnecke, die einen Chip trägt.

Damit in den Koalitionsverhandlungen zumindest die wichtigsten netzpolitischen Herausforderungen präsent bleiben: Hier unsere Liste von Digital-Themen, die eine nächste Regierung dringend angehen sollte. Mit dabei: Transparenz, IT-Sicherheit und Digitalpolitik für alle.

Sogenannte Künstliche Intelligenz spielt eine immer wichtigere Rolle, auch in der öffentlichen Verwaltung. Um die Gefahren automatisierter Entscheidungssysteme abzuschwächen, können etwa Transparenzregister helfen. Nun hat der Bund eines aufgesetzt – mit deutlichen Schwächen.

Sollen Polizeibehörden Gesichtserkennung einsetzen können, wenn sie mit einem Schild davor gewarnt haben? Macht es für Empfänger:innen von Sozialhilfe einen Unterschied, ob sie mit einem KI-System Probleme kriegen oder mit klassischer Software? Die Zivilgesellschaft hätte dazu gerne mehr Klarheit von der EU-Kommission.

Der Einfluss sozialer Medien auf Politik und Gesellschaft steigt, doch die Forschung kann kaum mithalten. Daran sind auch die Online-Dienste schuld, die sich ungern in die Karten schauen lassen. Dieses Problem soll der Digital Services Act entschärfen, indem er den Zugang zu Daten erleichtern soll. Doch das Verfahren ist komplex – und wird kaum vor den Bundestagswahlen fertig.

Menschen überqueren eine Straße am Flughafen Tegel

Im Innenausschuss des Bundestages ging es heute um das „Sicherheitspaket“. Kirchen, Menschenrechtsverbände und die Beauftragte für den Datenschutz kritisieren die Maßnahmen als unverhältnismäßig und rechtswidrig. Die wichtigsten Kritikpunkte im Überblick.

Demoschild, auf dem steht: "Keinen Bock auf Deutschland 1933", vor dem Brandenburger Tor.

Die Regierung will mit ihrem Sicherheitspaket massiv in Grundrechte eingreifen. Der große öffentliche Aufschrei bleibt aus, doch gerade jetzt sollten wir entschieden „Stopp“ sagen. Ein Kommentar.

Wer Kameras entgehen will, hat es zunehmend schwer. Dabei genügt ein Schnappschuss, um einen Menschen zu identifizieren. Wir erkunden die faszinierende Welt des Widerstands gegen biometrische Erkennung.

Zivilgesellschaftliche Organisationen kritisieren das Sicherheitspaket der Ampel in scharfen Worten. Sie warnen vor radikalem Abbau von Grundrechten und flächendeckender biometrischer Überwachung. Der Bundestag darf diese Gesetze so nicht beschließen. Wenn doch, braucht es eine aktivistische Zeitenwende.

Viele Menschen mit markierten Gesichtern.

Die Bundesregierung will Polizei und Migrationsbehörden erlauben, alle Gesichtsfotos im Internet zu speichern und zu nutzen. AlgorithmWatch kritisiert diese neue Form der anlasslosen Vorratsdatenspeicherung. Die Bundesregierung muss stattdessen geltendes Recht umsetzen – und Gesichtssuchmaschinen verbieten.

People on the move face dehumanizing and discriminatory treatment at Europe’s borders. Yet, the EU continues to fund projects that aim to automate these practices with the help of AI and by this exacerbates the plight of migrants. An interview with Antonella Napolitano and Fabio Chiusi.

Menschen auf der Flucht sind an den europäischen Außengrenzen unmenschlicher und diskriminierender Behandlung ausgesetzt. Dennoch finanziert die EU weiterhin Projekte, die den Status Quo mit Hilfe von KI automatisieren sollen – und verschärft damit die Notlage. Ein Gespräch mit Antonella Napolitano und Fabio Chiusi.

AlgorithmWatch

Transparenzregister mit Lücken: KI-Nutzung der öffentlichen Verwaltung bleibt undurchsichtig

Studie zum Digital Services Act: Transparenzdatenbank für Online-Dienste erfüllt Ziele nicht

Umfrage zu Rechenzentren: Die Mehrheit folgt dem Hype nicht

Biometrische Überwachung: „Körperdaten sind keine freie Verfügungsmasse“

Gesichtserkennung und Datenanalyse: Zivilgesellschaft stellt sich gegen „Sicherheitspaket“

Zugang für Forschung: So müssen Online-Dienste ihre Datensilos öffnen

Behörden schauen zu: KI-Suche für Gesichter breitet sich ungehindert aus

Diskriminierung: YouTube weicht Richtlinien gegen Hassrede auf

Pride-Verbot: Gesichtserkennung in Ungarn verstößt gegen EU-Gesetze

Forderungen aus der Zivilgesellschaft: Diese digitalpolitischen Ziele müssen in den Koalitionsvertrag

Künstliche Intelligenz: Marktplatz statt Transparenzregister

Digital Services Act: So steht es um den Forschungszugang zu X, Facebook & Co.

Anhörung im Innenausschuss: Harte Kritik am Überwachungspaket

Sicherheitspaket: Wir müssen unsere Freiheit nutzen, um sie zu verteidigen

Digitale Selbstverteidigung: Biometrische Gesichtserkennung abwehren

Grundrechte-Abbau: Massive Kritik am Sicherheitspaket der Ampel

BKA-Gesetz: Wenn der Staat zum Spanner wird

Interview: AI at Europe’s Borders

Interview: Gegen automatisierte Außengrenzen