Schlagwort: AlgorithmWatch – netzpolitik.org

Weniger als ein halbes Jahr bleibt der Bundesregierung, um eine neue Aufsicht über Online-Plattformen zu schaffen. Wir haben uns ausgewählte Stellungnahmen zum ersten Entwurf des Digitalministeriums angesehen. Vor allem braucht es eine starke Aufsicht aus einer Hand, so der Tenor der Zivilgesellschaft.

Ein Roboter mit Glühbirnenkopf ist hingefallen.

Der Europarat will „Künstliche Intelligenz“ regulieren – allerdings ohne die Zivilgesellschaft. Überraschend hat er zivilgesellschaftlichen Organisationen den Beobachterstatus bei den Verhandlungen zu der KI-Konvention entzogen. Die Organisationen kritisieren die Entscheidung in einem offenen Brief.

Jemand wirft einen braunen Briefumschlag in eine Wahlurne. Rechts unten sieht man ein Megafon.

Nach dem Cambridge-Analytica-Skandal will die EU politische Werbung regulieren. Das Gesetz soll Manipulation bei Wahlen verhindern und demokratische Prozesse schützen. Doch zivilgesellschaftliche Organisationen warnen, dass die Verordnung in den Trilog-Verhandlungen verwässert werden könnte.

Eine Montage aus mehreren Bildern. Links Gesichter mit farblich hervorgehobenen biometrischen Merkmalen. In der Mitte oben ein Grenzzaun mit Wachturm. In der Mitte unten die Röntgen-Aufnahme eines Knies. Rechts die Darstellung eines Lebenslaufs. Die Collage stellt somit verschiedene Bereiche dar, die vom AI Act betroffen sind.

Seit dem Hype um ChatGPT richten sich viele Blicke auf den geplanten AI Act. Die EU-Verordnung zu „Künstlicher Intelligenz“ ist seit Jahren in der Mache und soll morgen im Parlament eine nächste Hürde überwinden. An mindestens sechs Stellen lauern Probleme.

Ein Handy mit der Uber-App klemmt in einer Halterung neben dem Lenkrad.

Gewerkschaften sind essenziell, um in einer automatisierten Arbeitswelt die Rechte aller Beschäftigten zu schützen. Bisher mangelt es aber an praktischen Ratschlägen für Arbeitende und ihre Vertreter:innen, bilanziert ein neuer Bericht von AlgorithmWatch.

Ein Auto mit Kameras sucht in Amsterdam automatisiert nach Falschparkern.

Die Niederlande wollen vormachen, wie sich automatisierte Entscheidungssysteme einhegen lassen. Skandale wie die Kindergeldaffäre sollen mit einer neuen Algorithmenaufsicht und Transparenzregistern verhindert werden. Davon könnte sich die EU eine Scheibe abschneiden und den AI Act verbessern.

Ein Handy ist an eine Zimmerpflanze angelehnt. Auf dem Handydisplay ist die App TikTok geöffnet und das Profil der offiziellen TikTok-Seite. Der Hintergrund ist weiß.

Wie steuert TikTok den Feed seiner Nutzer:innen? AlgorithmWatch möchte diese Frage beantworten und ruft zu Datenspenden auf.

Eine einfarbige Wand mit einem gleichfarbigen Lautsprecher

Das Bündnis F5 kritisiert den Digitalgipfel der Bundesregierung, der aktuell in Berlin stattfindet. Die Nichtregierungsorganisationen bemängeln vor allem die wirtschaftspolitische Ausrichtung der zweitägigen Veranstaltung. Und sie fordern einen digitalpolitischen Neustart – in enger Kooperation mit der Zivilgesellschaft. Wir dokumentieren den Aufruf im Wortlaut.

Frau mit roter Gesichtsbiometrie im Gesicht

Am Nikolaustag haben die Minister:innen der EU-Staaten ihre Position zum „AI Act“ vorgestellt, dem geplanten EU-Gesetz zur Regulierung Künstlicher Intelligenz. Die Vorschläge werden von vielen Seiten kritisiert. Im Fokus stehen dabei unzureichende Beschränkungen biometrischer Überwachung.

Der Ausschuss für Digitales vor Beginn der Anhörung

Die EU-Kommission möchte mit dem AI Act ein Regelwerk für künstliche Intelligenz schaffen. Diese Woche hat der Bundestag Sachverständige zu dem Entwurf befragt. Sie sind gespalten – vor allem bei der Grundsatzfrage, welche Technologien die Verordnung überhaupt regulieren soll.

Nicht alle Quellen bei Google News sind verlässlich

Google News liefert nicht, was es verspricht. „Vertrauenswürdig“ und „verlässlich“ soll die Nachrichten-Suche sein. Doch unsere Auswertung von Tausenden Suchergebnissen zeigt: Neben seriösen Angeboten präsentiert Google News auch chinesische Staatspropaganda und für Falschmeldungen bekannte rechte Blogs.

Die Zivilgesellschaft soll bei der Digitalisierung auch ein Wörtchen mitzureden haben, stellt die Bundesregierung in Aussicht. Wir haben uns bei zivilgesellschaftlichen Organisationen umgehört, wie sie die neue Digitalstrategie der Ampel einschätzen.

Individualisierte Preise im Onlinehandel oder Benachteiligung beim Abschließen einer Versicherung auf der Webseite: Die Fälle automatisierter Diskriminierung häufen sich, nicht immer sind sie leicht zu erkennen. Ein neuer Ratgeber soll Antidiskriminierungsstellen und Betroffenen helfen.

Die EU arbeitet an einem Regelwerk für den Einsatz von KI, Algorithmen und automatisierten Entscheidungen. Sie könnte damit global Standards setzen. Doch für die Bundesregierung hat der Vorschlag der EU-Kommission große Schwächen.

Kind gibt Roboter die Hand und schaut dabei in die Kamera

Automatisierte Entscheidungssysteme werden seit Jahren in sensiblen Bereichen wie Medizin und Bildung eingesetzt. Doch bisher gibt es keine Regelungen um Unternehmen zur Verantwortung zu ziehen. Das soll sich jetzt ändern. Sowohl die USA als auch Europa arbeiten an Gesetzesentwürfen zur Regulierung automatisierter Entscheidungen. Was steht drin?

Digitale und bürgerrechtliche Organisationen stellen der neuen Regierung nach den ersten 100 Tagen ein eher durchwachsenes Zeugnis aus. Hauptkritikpunkt ist, dass in den ersten drei Monaten noch nicht viel passiert sei und die Regierung teilweise in alte Muster der Vorgängerregierung zurückfalle.

Regelmäßig findet Facebook heraus, wie schädlich das eigene soziale Netzwerk ist. Doch genauso regelmäßig kehrt das Unternehmen die Erkenntnisse unter den Teppich. Eine politische Antwort auf dieses Problem ist längst überfällig. Ein Kommentar.

Kleine Schlösser hängen an einer Stange.

Facebook steht schon länger in der Kritik, Forschungsprojekte zu seinen Diensten zu verhindern. Nun drohte das Unternehmen der Nichtregierungsorganisation AlgorithmWatch mit einer Klage, weshalb diese eine umfassende Studie zum Instagram-Algorithmus einstellt.

Wissenschaftlerinnen und Datenjournalisten wollen herausfinden, wann YouTube welche Videos zur Bundestagswahl vorschlägt. Sie bitten die Öffentlichkeit um Mithilfe – per Datenspende.

Roboter vor einem Kasten mit Roboterteilen.

Dass automatisierte Entscheidungen zu Problemen führen, ist mittlerweile bekannt. Für die Betroffenen gibt es oft keine Möglichkeit, sich zu beschweren. Die Plattform Unding will jetzt dafür sorgen, dass Stimmen zu Negativbeispielen an den richtigen Stellen gehört werden.

AlgorithmWatch

Digitale-Dienste-Gesetz: Bloß kein Zuständigkeitsgerangel

Künstliche Intelligenz: Europarat setzt Zivilgesellschaft vor die Tür

Politische Werbung: In der EU droht eine weichgespülte Regulierung gegen politisches Targeting

"Künstliche Intelligenz": Die sechs größten Probleme im AI Act

NGO-Bericht: Wie Gewerkschaften weltweit gegen unfaire Algorithmen kämpfen

Aufsicht und Transparenz: Wie die Niederlande aus KI-Skandalen lernen

TikTok: AlgorithmWatch ruft zu Datenspenden auf

Digitalgipfel: Ein staatlich organisiertes Lobbyfest

AI Act der Europäischen Union: Ampel verpasst Grundrechteschutz bei der Regulierung künstlicher Intelligenz

Datenrecherche: Google News verkauft Staatspropaganda als „vertrauenswürdig“

Reaktionen: Das sagt die Zivilgesellschaft zur Digitalstrategie

Ratgeber von Algorithm Watch: Automatisierte Diskriminierung erkennen und benennen

Stellungnahme zum AI Act: Ampel will EU-weites Transparenzregister für Behörden

AI Act vs. Algorithmic Accountability Act: Wie die EU und die USA Algorithmen regulieren wollen

100 Tage neue Bundesregierung: Zivilgesellschaft beklagt Untätigkeit bei Digitalisierung

Vertuschte Skandale: Facebook ist einfach nicht zu trauen

Intransparente Algorithmen : Facebook blockiert unabhängige Analyse durch AlgorithmWatch

Datenspende: Forscher wollen YouTube-Algorithmus analysieren

AlgorithmWatch: Widerspruch mit ein paar Klicks