Schlagwort: Algorithmic Decision Making

Maschinen treffen zunehmend selbstständig und intransparent Entscheidungen, die tief in unser Leben eingreifen. Aber statt längst überfällige Weichenstellungen demokratisch vorzunehmen, führen wir lieber irreführende Debatten über die EU-Datenschutzreform, Seehofers Asylpolemik und das vermeintliche Wundermittel Uploadfilter. Ein Aufruf zur Korrektur.

Algorithmen und Künstliche Intelligenz kommen nicht, sie sind längst da – und bestimmen immer mehr unser Leben. Welche Chancen und Risiken ergeben sich daraus? Wie ist zu sichern, dass Maschinen dem Menschen dienen? Ein neues Arbeitspapier gibt Überblick über die Debatte – und ordnet Handlungsbedarf und Lösungsansätze aus rechtlicher, technischer und politischer Perspektive.

Scoring-Unternehmen wie die SCHUFA wissen viel über uns, arbeiten selbst aber intransparent. Mit einer Datenspende-Aktion will die Initiative OpenSCHUFA die Bewertungs-Blackbox knacken. Wir haben Mitinitiator Lorenz Matzat zum ersten Monat seit dem Projektstart, dem weiteren Vorgehen und grundsätzlichen Problemen des Scorings befragt.

In Sachen Verbraucherschutz machen Union und SPD viele hehre Versprechen und wenig konkrete Pläne. Immerhin: IT-Hersteller könnten stärker für Sicherheitsmängel haften und kollektive Klagen gegen Missstände einfacher werden. Bei personenbezogenen Daten soll Merkels Mantra vom „Rohstoff des 21. Jahrhunderts“ jetzt Regierungslinie werden.

Als erste US-amerikanische Stadt plant New York City zum Verwaltungshandeln eingesetzte Algorithmen auf den Prüfstand zu stellen: Experten und Wohltätigkeitsorganisationen sollen Regeln für die Klassifizierung unterschiedlicher Algorithmen entwickeln und Vorschläge machen, wie Bürgerinnen und Bürger Transparenz einfordern können. Dabei gibt es auch Hürden.

Software trifft immer häufiger Entscheidungen mit drastischen Auswirkungen auf unser Leben, ob bei der Kreditvergabe oder in der Medizin. Das Recht sollte dabei eine Möglichkeit zur Prüfung und Kontrolle bieten. Aktuelle Gesetzgebung bietet dafür erste Ansätze. Ein Überblick.

Software, die registriert, auf welche weiterführende Schule jemand am Liebsten gehen würde und mithilfe eines Algorithmus darüber entscheidet, wer schließlich welchen Schulplatz bekommt, kann für klamme Städte und Regierungen verlockend klingen. Unternehmen versprechen mitunter, dass damit die Effizienz erhöht werde. In den USA werden solche und ähnliche algorithmische Entscheidungssysteme auch in anderen öffentlichen Bereichen implementiert, […]

Die französische nationale Datenschutzbehörde CNIL legt nach einer mehrmonatigen Diskussion einen Bericht über Software und maschinelle Entscheidungen vor, der sich mit ethischen Fragen auseinandersetzt. Was muss angesichts von uns umgebender Künstlicher Intelligenz neu verhandelt werden, wenn Entscheidungen an Computerprogramme delegiert werden?

Algorithmische Entscheidungen können großen Einfluss auf unser Leben haben. Der Verbraucherzentrale Bundesverband sorgt sich um die Entscheidungssouveränität und informationelle Selbstbestimmung von Verbrauchern. Jetzt hat er ein Positionspapier veröffentlicht, in dem er konkrete Anforderungen an die Kontrolle solche Prozesse skizziert.

Datenschutz sei kein Hindernis für die Digitalisierung, sagt die Konferenz der Datenschutzbehörden und fordert die künftige Regierung dazu auf, innovative Ansätze zu fördern. Außerdem brauche es neue Regeln für Algorithmen, Beschäftigtenschutz und Big Data im Gesundheitswesen. Das neue Bundesdatenschutzgesetz müsse vor Inkrafttreten nachgebessert werden.

Im neunten Teil unseres Wahlprogrammvergleichs geht es um Verbraucherschutz und digitale Souveränität. Wie stehen die Parteien zu Themen wie Datenschutz, algorithmischen Entscheidungsverfahren, Plattformmacht und IT-Sicherheit? Die Unterschiede sind gravierend; nur einer Partei scheint das Thema egal zu sein.

Kämpfe auf dem Feld der Demokratie bestimmten die vergangene Woche. Wir erklären, warum die Einschränkung von Grundrechten wie der Versammlungsfreiheit mit Netzpolitik zu tun hat. Gängige Netzpolitik kam dennoch nicht zu kurz – wenn auch die Brise der Sommerpause den Bundestag durchlüftet.

Der Einsatz von Prognose-Software zur Beurteilung von Angeklagten scheint rassistische Ungleichheit im US-Justizsystem zu verschärfen. Zweifel bestehen sowohl an der Datenbasis und Methodik des Verfahrens als auch den Ergebnissen. Deutschlandfunk hat in einem hörenswerten Radiofeature zentrale Aspekte des Themas aufgearbeitet.

Für die Bertelsmann Stiftung hat Konrad Lischka einen umfassenden Überblick über Anwendungsfälle algorithmischer Entscheidungsfindungsverfahren verfasst. Das Arbeitspapier setzt sich mit insgesamt neun Einsatzfeldern auseinander, von gerichtlichen Rückfallprognosen über Bewerbervorauswahlen und Kreditvergaben bis zu Predictive Policing. Neben deskriptiven Elementen beleuchtet das Papier aus der Perspektive der Teilhabegerechtigkeit Chancen und Risiken. Zusammenfassend wirbt das Papier für einen […]

Algorithmic Decision Making

Algorithmen und Künstliche Intelligenz: Wir reden an unserer Zukunft vorbei

Algorithmische Entscheidungsfindung: Handlungsbedarf und Lösungsansätze in der Übersicht

OpenSCHUFA: Mehr als 15.000 Auskunftsanfragen in einem Monat

Wider die Ohnmacht? Was der Koalitionsvertrag Nutzerinnen und Nutzern verspricht

New York City plant Arbeitsgruppe zur Überprüfung von städtischen Algorithmen

Wie der Mensch die Kontrolle über den Algorithmus behalten kann

„Wenn sie ethisch umgesetzt werden, kosten sie mehr“: danah boyd über algorithmische Entscheidungssysteme

Ethische Fragen bei Künstlicher Intelligenz: Mit welchen Herausforderungen müssen wir umgehen?

Thesenpapier: Verbraucherschützer wollen Algorithmen-Kontrolle institutionalisieren

Datenschutzbaustellen: Behörden legen To-Do-Liste für den neuen Gesetzgeber vor

Der netzpolitische Wahlprogramm-Vergleich, Teil 9: Verbraucherschutz und digitale Souveränität

Netzpolitischer Wochenrückblick KW 27: Ein Ringen um Demokratie

Radiofeature: Algorithmen als Schicksalsmaschinen

Wenn Maschinen Menschen bewerten: Algorithmische Entscheidungen in der Praxis