Spielfiguren auf einem Feld, eine abseits
Netzpolitik Podcast

NPP 178: Wenn Algorithmen unabsichtlich diskriminieren

Kein Kredit, weil du nicht oft genug bei Mama anrufst? Keine Versicherung, weil du in der falschen Facebook-Gruppe hängst? Gegen Diskriminierung aufgrund von Geschlecht, Herkunft, Alter oder Religion gibt es Gesetze. Aber was passiert, wenn Algorithmen in ihren Vorhersagen unabsichtlich diskriminieren? Wir sprachen mit Daniel Schwarcz über Gleichbehandlung im Zeitalter von Künstlicher Intelligenz.

Lesen Sie diesen Artikel: NPP 178: Wenn Algorithmen unabsichtlich diskriminieren
Technologie

Asylbehörde sucht mit Künstlicher Intelligenz nach auffälligen Geflüchteten

Das Bundesamt für Migration und Flüchtlinge setzt mehrere KI-Systeme ein. Eine Software soll interessante Stellen in Anhörungsprotokollen markieren. Das BAMF leitet immer mehr Daten von Geflüchteten an den Verfassungsschutz weiter.

Lesen Sie diesen Artikel: Asylbehörde sucht mit Künstlicher Intelligenz nach auffälligen Geflüchteten
Überwachung

Fahrplan für die Innere Sicherheit in der EU: Noch mehr Daten und neue Analysemethoden

Die Europäische Union will Zusammenarbeit und Informationsaustausch zwischen den Polizeibehörden weiter verstärken. Im Mittelpunkt steht die Aufwertung von Europol, die in diesem Jahr ihr 20-jähriges Bestehen feiert. Unterstützung dafür kommt vom Bundeskriminalamt.

Lesen Sie diesen Artikel: Fahrplan für die Innere Sicherheit in der EU: Noch mehr Daten und neue Analysemethoden
Gesichtserkennung
Technologie

Expert:innen an EU-Kommission: Künstliche Intelligenz darf nicht zur Massenüberwachung genutzt werden

Durchbrüche beim maschinellen Lernen wecken die Furcht vor allumfassender Überwachung im öffentlichen Raum. Eine Gruppe aus Expert:innen rät der Europäischen Union nun, rote Linien für die neue Technologie zu setzen. In ihrem Bericht fordern sie Milliardeninvestitionen in Künstliche Intelligenz.

Lesen Sie diesen Artikel: Expert:innen an EU-Kommission: Künstliche Intelligenz darf nicht zur Massenüberwachung genutzt werden
Was vom Tage übrig blieb

Was vom Tage übrig blieb: Digitales Steineklopfen, Journo-Hacking und eine Prise Rezo

Strafgefangene in Finnland sollen beim Trainieren von angeblicher Künstlicher Intelligenz helfen, Reporter ohne Grenzen warnt vor einem Ende des Redaktionsgeheimnisses und Springer-Chef Döpfner verteidigt Youtuber Rezo. Die besten Reste des Tages.

Lesen Sie diesen Artikel: Was vom Tage übrig blieb: Digitales Steineklopfen, Journo-Hacking und eine Prise Rezo
Cinderella mit Prinz
Netzpolitik Podcast

NPP 175 mit Caroline Sinders: Wie trainiert man einen feministischen Algorithmus?

Welche Daten-Zutaten kommen in meinen Algorithmus? Kann man in Songtexten von Beyoncé und Büchern von Virginia Woolf feministische Muster erkennen? Mit Fragen wie diesen will die Forscherin Caroline Sinders die Debatte um maschinelles Lernen ankurbeln. Ihr Ziel: Auch ihr Vater soll Algorithmen verstehen können.

Lesen Sie diesen Artikel: NPP 175 mit Caroline Sinders: Wie trainiert man einen feministischen Algorithmus?
Kultur

Dieses Comic räumt mit den Mythen um maschinelles Lernen auf

Viele reden drüber, noch mehr haben keine Ahnung, was sich dahinter verbirgt: Künstliche Intelligenz ist zu einem Buzzword geworden. Dabei sollten Menschen möglichst gut Bescheid wissen über eine Technologie, die in Zukunft über ihre Versicherungen, Finanzen, Krebsdiagnosen und Bildungschancen entscheiden wird. Julia Schneider und Lena Ziyal machen deshalb Aufklärungsarbeit – in Bildern.

Lesen Sie diesen Artikel: Dieses Comic räumt mit den Mythen um maschinelles Lernen auf
Öffentlichkeit

Warum Künstliche Intelligenz Facebooks Moderationsprobleme nicht lösen kann, ohne neue zu schaffen

Der Datenkonzern Facebook setzt bei der Moderation von Inhalten zunehmend auf Automatisierung. Eine Quelle erklärt uns erstmals, wie sich die Maschinen auf die Moderationsarbeit auswirken. Auch wenn am Ende heute immer noch Menschen entscheiden: Die automatisierte Inhaltserkennung verändert die digitale Öffentlichkeit grundlegend.

Lesen Sie diesen Artikel: Warum Künstliche Intelligenz Facebooks Moderationsprobleme nicht lösen kann, ohne neue zu schaffen
Was vom Tage übrig blieb

Was vom Tage übrig blieb: KI mit Vorurteilen, Arbeitskampf bei Google und Türspionage mit Amazon

Die KI-Forschung leidet unter mangelnder Diversität, Google-Mitarbeiter kämpfen für ihre Rechte und Amazon nimmt das Wort „Türspion“ allzu wörtlich. Die besten Reste des Tages.

Lesen Sie diesen Artikel: Was vom Tage übrig blieb: KI mit Vorurteilen, Arbeitskampf bei Google und Türspionage mit Amazon
Öffentlichkeit

Open Data: EU öffnet Datensilos des öffentlichen Sektors

Mit der neuen Open-Data-Richtlinie machen die Transparenzbefürworter in der EU einen großen Schritt vorwärts. Daten aus öffentlich finanzierten Diensten werden künftig leichter zugänglich. Es wären aber noch deutlich weitergehende Regelungen möglich gewesen – hätte Deutschland die anderen Mitgliedstaaten nicht gebremst.

Lesen Sie diesen Artikel: Open Data: EU öffnet Datensilos des öffentlichen Sektors
Wäsche an der Wäscheleine
Technologie

Keine roten Linien: Industrie entschärft Ethik-Leitlinien für Künstliche Intelligenz

Künstliche Intelligenz soll den Menschen dienen und Grundrechte respektieren. Das fordert eine Expertengruppe der EU-Kommission in ihren nun veröffentlichten Leitlinien für die Technologie. Unverrückbare ethische Prinzipien finden sich darin jedoch nicht mehr – Vertreterinnen der Industrie im Gremium haben sie erfolgreich gestrichen.

Lesen Sie diesen Artikel: Keine roten Linien: Industrie entschärft Ethik-Leitlinien für Künstliche Intelligenz
Öffentlichkeit

Hohes Diskriminierungspotential bei automatisierten Entscheidungen

In vielen gesellschaftlichen Bereichen werden Entscheidungen bereits von Algorithmen getroffen. Doch das ist mit Risiken für den Menschen verbunden. Mit dem „Atlas der Automatisierung“ möchte AlgorithmWatch zu mehr Transparenz in der automatisierten Entscheidungsfindung beitragen.

Lesen Sie diesen Artikel: Hohes Diskriminierungspotential bei automatisierten Entscheidungen
Was vom Tage übrig blieb

Was vom Tage übrig blieb: Radikalisierung auf Youtube und Machine Learning im Gefängnis

Singapur setzt „Fake News“-Vorwürfe gegen Kritiker ein, finnische Häftlinge müssen Algorithmen füttern und der Chef von Youtube muss unangenehme Fragen zu seiner Radikalisierungs-Empfehlungs-Maschinerie beantworten. Die besten Links des Tages.

Lesen Sie diesen Artikel: Was vom Tage übrig blieb: Radikalisierung auf Youtube und Machine Learning im Gefängnis
Kultur

Menschen lernen, Maschinen trainieren

Maschinelles Lernen hat heute schon Einfluss auf die Vergabe von Krediten und Jobs oder die Höhe von Versicherungsbeiträgen. Aber was heißt eigentlich Lernen, wenn wir von einer Maschine sprechen? Und wie leisten wir Nutzer*innen dabei Hilfestellung? Das erklärt Timo Daum in diesem Kapitel aus seinem neuen Buch zu Künstlicher Intelligenz.

Lesen Sie diesen Artikel: Menschen lernen, Maschinen trainieren
Kultur

Kopf oder Zahl? Der Preis des Widerstands gegen ein perfektes System

Die Möglichkeiten künstlicher Intelligenz könnten unsere Gesellschaft nachhaltig verändern. In seinem Debütroman entwirft und diskutiert der Jurist Bijan Moini eine durchdigitalisierte Zukunft, in der Politik, Wirtschaft und Gesellschaft von einem perfekten Algorithmus gelenkt werden, genannt „Der Würfel“.

Lesen Sie diesen Artikel: Kopf oder Zahl? Der Preis des Widerstands gegen ein perfektes System