Spielfiguren auf einem Feld, eine abseits
Netzpolitik Podcast

NPP 178: Wenn Algorithmen unabsichtlich diskriminieren

Kein Kredit, weil du nicht oft genug bei Mama anrufst? Keine Versicherung, weil du in der falschen Facebook-Gruppe hängst? Gegen Diskriminierung aufgrund von Geschlecht, Herkunft, Alter oder Religion gibt es Gesetze. Aber was passiert, wenn Algorithmen in ihren Vorhersagen unabsichtlich diskriminieren? Wir sprachen mit Daniel Schwarcz über Gleichbehandlung im Zeitalter von Künstlicher Intelligenz.

Lesen Sie diesen Artikel: NPP 178: Wenn Algorithmen unabsichtlich diskriminieren
Technologie

Facebook’s Algorithm Shapes Our Lives. This Hacker Wants to Find Out How.

Claudio Agosti wants to know what Facebook does with him. The programmer has developed a browser extension that collects data donations from users. He wants to decipher why we only get to see very specific political news – and what Facebook is hiding from us in their News Feed.

Lesen Sie diesen Artikel: Facebook’s Algorithm Shapes Our Lives. This Hacker Wants to Find Out How.
Cinderella mit Prinz
Netzpolitik Podcast

NPP 175 mit Caroline Sinders: Wie trainiert man einen feministischen Algorithmus?

Welche Daten-Zutaten kommen in meinen Algorithmus? Kann man in Songtexten von Beyoncé und Büchern von Virginia Woolf feministische Muster erkennen? Mit Fragen wie diesen will die Forscherin Caroline Sinders die Debatte um maschinelles Lernen ankurbeln. Ihr Ziel: Auch ihr Vater soll Algorithmen verstehen können.

Lesen Sie diesen Artikel: NPP 175 mit Caroline Sinders: Wie trainiert man einen feministischen Algorithmus?
Öffentlichkeit

Warum Künstliche Intelligenz Facebooks Moderationsprobleme nicht lösen kann, ohne neue zu schaffen

Der Datenkonzern Facebook setzt bei der Moderation von Inhalten zunehmend auf Automatisierung. Eine Quelle erklärt uns erstmals, wie sich die Maschinen auf die Moderationsarbeit auswirken. Auch wenn am Ende heute immer noch Menschen entscheiden: Die automatisierte Inhaltserkennung verändert die digitale Öffentlichkeit grundlegend.

Lesen Sie diesen Artikel: Warum Künstliche Intelligenz Facebooks Moderationsprobleme nicht lösen kann, ohne neue zu schaffen
Öffentlichkeit

Hohes Diskriminierungspotential bei automatisierten Entscheidungen

In vielen gesellschaftlichen Bereichen werden Entscheidungen bereits von Algorithmen getroffen. Doch das ist mit Risiken für den Menschen verbunden. Mit dem „Atlas der Automatisierung“ möchte AlgorithmWatch zu mehr Transparenz in der automatisierten Entscheidungsfindung beitragen.

Lesen Sie diesen Artikel: Hohes Diskriminierungspotential bei automatisierten Entscheidungen
Demokratie

Gesichtserkennung: Kritik macht Algorithmen genauer, nicht nur für weiße Männer

Die MIT-Forscherin Joy Buolamwini hat untersucht, wie ihre Kritik an diskriminierender Gesichtserkennung zur Lösung des Problems beiträgt. Ein halbes Jahr nach ihrer Studie zeigt sich: unabhängige Beobachtung wirkt. IBM, Microsoft und andere Hersteller erkennen nun Gesichter von Schwarzen und Frauen besser.

Lesen Sie diesen Artikel: Gesichtserkennung: Kritik macht Algorithmen genauer, nicht nur für weiße Männer
Was vom Tage übrig blieb

Was vom Tage übrig blieb: Arme Ficker, diskriminierende Automaten und eine Playstation auf der Gemüsewaage

Was die Träger bestimmter Nachnamen im Internet erwartet, zu welchen schmutzigen Tricks Facebook greift, wie ein Franzose billig an eine Playstation gelangt ist, wie NSA-Mitarbeiter und Emirati Menschenrechtsaktivisten überwachen, automatisierte Entscheidungen Menschen gängeln und der Föderalismus den Digitalpakt verhindert. Die interessantesten Reste des Tages.

Lesen Sie diesen Artikel: Was vom Tage übrig blieb: Arme Ficker, diskriminierende Automaten und eine Playstation auf der Gemüsewaage
Technologie

Fortschritt oder Mythos? Buch sammelt kritische Stimmen zur Mustererkennung

Von eingespeisten Daten bis zum Output: Technische und soziale Diskriminierung durchzieht alle Ebenen von sogenannten Mustererkennungsverfahren. Das Buch „Pattern Discrimination“ liefert dort spannende Einsichten, wo Fortschrittsglaube und Marktlogik die gesellschaftlichen Auswirkungen sonst verschleiern.

Lesen Sie diesen Artikel: Fortschritt oder Mythos? Buch sammelt kritische Stimmen zur Mustererkennung
Menschen in der Hängematte in der Sonne
Technologie

Interview mit KI-Forscher Toby Walsh: „Wir müssen jetzt die richtigen Entscheidungen treffen“

Keine Panik, Künstliche Intelligenz wird uns nicht umbringen, sondern unser Leben besser machen. Das sagt Toby Walsh, einer der führenden Experten aus der KI-Forschung. Allerdings müssen wir uns dazu klar werden, was ein gutes Leben ausmacht. Ein Gespräch darüber, was wir an Maschinen delegieren sollten, welche Jobs für uns übrig bleiben und warum alte Werte auch für neue Technologien gelten.

Lesen Sie diesen Artikel: Interview mit KI-Forscher Toby Walsh: „Wir müssen jetzt die richtigen Entscheidungen treffen“
Ein blauer Neon-Schriftzu auf einer Wand liest "Data has a better idea"
Linkschleuder

Enquête-Kommission Künstliche Intelligenz: Sachverständige und Abgeordnete klären Grundbegriffe

Die Enquête-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ hielt am Montag ihre erste Klausurtagung ab. Der Kommission gehören insgesamt 19 Abgeordnete sowie 19 externe Sachverständige an. Für einige der Abgeordneten dürfte die Klausurtagung ein KI-Crashkurs gewesen sein. Bundestagspräsident Wolfgang Schäuble (CDU), der die konstituierende Sitzung eröffnete, erklärte, man wolle verstehen, was KI […]

Lesen Sie diesen Artikel: Enquête-Kommission Künstliche Intelligenz: Sachverständige und Abgeordnete klären Grundbegriffe
Technologie

Algorithmen und Künstliche Intelligenz: Wir reden an unserer Zukunft vorbei

Maschinen treffen zunehmend selbstständig und intransparent Entscheidungen, die tief in unser Leben eingreifen. Aber statt längst überfällige Weichenstellungen demokratisch vorzunehmen, führen wir lieber irreführende Debatten über die EU-Datenschutzreform, Seehofers Asylpolemik und das vermeintliche Wundermittel Uploadfilter. Ein Aufruf zur Korrektur.

Lesen Sie diesen Artikel: Algorithmen und Künstliche Intelligenz: Wir reden an unserer Zukunft vorbei
Demokratie

Algorithmische Entscheidungsfindung: Handlungsbedarf und Lösungsansätze in der Übersicht

Algorithmen und Künstliche Intelligenz kommen nicht, sie sind längst da – und bestimmen immer mehr unser Leben. Welche Chancen und Risiken ergeben sich daraus? Wie ist zu sichern, dass Maschinen dem Menschen dienen? Ein neues Arbeitspapier gibt Überblick über die Debatte – und ordnet Handlungsbedarf und Lösungsansätze aus rechtlicher, technischer und politischer Perspektive.

Lesen Sie diesen Artikel: Algorithmische Entscheidungsfindung: Handlungsbedarf und Lösungsansätze in der Übersicht
Nutzerrechte

OpenSCHUFA: Mehr als 15.000 Auskunftsanfragen in einem Monat

Scoring-Unternehmen wie die SCHUFA wissen viel über uns, arbeiten selbst aber intransparent. Mit einer Datenspende-Aktion will die Initiative OpenSCHUFA die Bewertungs-Blackbox knacken. Wir haben Mitinitiator Lorenz Matzat zum ersten Monat seit dem Projektstart, dem weiteren Vorgehen und grundsätzlichen Problemen des Scorings befragt.

Lesen Sie diesen Artikel: OpenSCHUFA: Mehr als 15.000 Auskunftsanfragen in einem Monat
Nutzerrechte

Wider die Ohnmacht? Was der Koalitionsvertrag Nutzerinnen und Nutzern verspricht

In Sachen Verbraucherschutz machen Union und SPD viele hehre Versprechen und wenig konkrete Pläne. Immerhin: IT-Hersteller könnten stärker für Sicherheitsmängel haften und kollektive Klagen gegen Missstände einfacher werden. Bei personenbezogenen Daten soll Merkels Mantra vom „Rohstoff des 21. Jahrhunderts“ jetzt Regierungslinie werden.

Lesen Sie diesen Artikel: Wider die Ohnmacht? Was der Koalitionsvertrag Nutzerinnen und Nutzern verspricht
Nutzerrechte

New York City plant Arbeitsgruppe zur Überprüfung von städtischen Algorithmen

Als erste US-amerikanische Stadt plant New York City zum Verwaltungshandeln eingesetzte Algorithmen auf den Prüfstand zu stellen: Experten und Wohltätigkeitsorganisationen sollen Regeln für die Klassifizierung unterschiedlicher Algorithmen entwickeln und Vorschläge machen, wie Bürgerinnen und Bürger Transparenz einfordern können. Dabei gibt es auch Hürden.

Lesen Sie diesen Artikel: New York City plant Arbeitsgruppe zur Überprüfung von städtischen Algorithmen
Technologie

Wie der Mensch die Kontrolle über den Algorithmus behalten kann

Software trifft immer häufiger Entscheidungen mit drastischen Auswirkungen auf unser Leben, ob bei der Kreditvergabe oder in der Medizin. Das Recht sollte dabei eine Möglichkeit zur Prüfung und Kontrolle bieten. Aktuelle Gesetzgebung bietet dafür erste Ansätze. Ein Überblick.

Lesen Sie diesen Artikel: Wie der Mensch die Kontrolle über den Algorithmus behalten kann
Linkschleuder

„Wenn sie ethisch umgesetzt werden, kosten sie mehr“: danah boyd über algorithmische Entscheidungssysteme

Software, die registriert, auf welche weiterführende Schule jemand am Liebsten gehen würde und mithilfe eines Algorithmus darüber entscheidet, wer schließlich welchen Schulplatz bekommt, kann für klamme Städte und Regierungen verlockend klingen. Unternehmen versprechen mitunter, dass damit die Effizienz erhöht werde. In den USA werden solche und ähnliche algorithmische Entscheidungssysteme auch in anderen öffentlichen Bereichen implementiert, […]

Lesen Sie diesen Artikel: „Wenn sie ethisch umgesetzt werden, kosten sie mehr“: danah boyd über algorithmische Entscheidungssysteme
Nutzerrechte

Ethische Fragen bei Künstlicher Intelligenz: Mit welchen Herausforderungen müssen wir umgehen?

Die französische nationale Datenschutzbehörde CNIL legt nach einer mehrmonatigen Diskussion einen Bericht über Software und maschinelle Entscheidungen vor, der sich mit ethischen Fragen auseinandersetzt. Was muss angesichts von uns umgebender Künstlicher Intelligenz neu verhandelt werden, wenn Entscheidungen an Computerprogramme delegiert werden?

Lesen Sie diesen Artikel: Ethische Fragen bei Künstlicher Intelligenz: Mit welchen Herausforderungen müssen wir umgehen?