Demokratie

Algorithmische Entscheidungsfindung: Handlungsbedarf und Lösungsansätze in der Übersicht

Algorithmen und Künstliche Intelligenz kommen nicht, sie sind längst da – und bestimmen immer mehr unser Leben. Welche Chancen und Risiken ergeben sich daraus? Wie ist zu sichern, dass Maschinen dem Menschen dienen? Ein neues Arbeitspapier gibt Überblick über die Debatte – und ordnet Handlungsbedarf und Lösungsansätze aus rechtlicher, technischer und politischer Perspektive.

Lesen Sie diesen Artikel: Algorithmische Entscheidungsfindung: Handlungsbedarf und Lösungsansätze in der Übersicht
Nutzerrechte

OpenSCHUFA: Mehr als 15.000 Auskunftsanfragen in einem Monat

Scoring-Unternehmen wie die SCHUFA wissen viel über uns, arbeiten selbst aber intransparent. Mit einer Datenspende-Aktion will die Initiative OpenSCHUFA die Bewertungs-Blackbox knacken. Wir haben Mitinitiator Lorenz Matzat zum ersten Monat seit dem Projektstart, dem weiteren Vorgehen und grundsätzlichen Problemen des Scorings befragt.

Lesen Sie diesen Artikel: OpenSCHUFA: Mehr als 15.000 Auskunftsanfragen in einem Monat
Nutzerrechte

Wider die Ohnmacht? Was der Koalitionsvertrag Nutzerinnen und Nutzern verspricht

In Sachen Verbraucherschutz machen Union und SPD viele hehre Versprechen und wenig konkrete Pläne. Immerhin: IT-Hersteller könnten stärker für Sicherheitsmängel haften und kollektive Klagen gegen Missstände einfacher werden. Bei personenbezogenen Daten soll Merkels Mantra vom „Rohstoff des 21. Jahrhunderts“ jetzt Regierungslinie werden.

Lesen Sie diesen Artikel: Wider die Ohnmacht? Was der Koalitionsvertrag Nutzerinnen und Nutzern verspricht
Nutzerrechte

New York City plant Arbeitsgruppe zur Überprüfung von städtischen Algorithmen

Als erste US-amerikanische Stadt plant New York City zum Verwaltungshandeln eingesetzte Algorithmen auf den Prüfstand zu stellen: Experten und Wohltätigkeitsorganisationen sollen Regeln für die Klassifizierung unterschiedlicher Algorithmen entwickeln und Vorschläge machen, wie Bürgerinnen und Bürger Transparenz einfordern können. Dabei gibt es auch Hürden.

Lesen Sie diesen Artikel: New York City plant Arbeitsgruppe zur Überprüfung von städtischen Algorithmen
Technologie

Wie der Mensch die Kontrolle über den Algorithmus behalten kann

Software trifft immer häufiger Entscheidungen mit drastischen Auswirkungen auf unser Leben, ob bei der Kreditvergabe oder in der Medizin. Das Recht sollte dabei eine Möglichkeit zur Prüfung und Kontrolle bieten. Aktuelle Gesetzgebung bietet dafür erste Ansätze. Ein Überblick.

Lesen Sie diesen Artikel: Wie der Mensch die Kontrolle über den Algorithmus behalten kann
Linkschleuder

„Wenn sie ethisch umgesetzt werden, kosten sie mehr“: danah boyd über algorithmische Entscheidungssysteme

Software, die registriert, auf welche weiterführende Schule jemand am Liebsten gehen würde und mithilfe eines Algorithmus darüber entscheidet, wer schließlich welchen Schulplatz bekommt, kann für klamme Städte und Regierungen verlockend klingen. Unternehmen versprechen mitunter, dass damit die Effizienz erhöht werde. In den USA werden solche und ähnliche algorithmische Entscheidungssysteme auch in anderen öffentlichen Bereichen implementiert, […]

Lesen Sie diesen Artikel: „Wenn sie ethisch umgesetzt werden, kosten sie mehr“: danah boyd über algorithmische Entscheidungssysteme
Nutzerrechte

Ethische Fragen bei Künstlicher Intelligenz: Mit welchen Herausforderungen müssen wir umgehen?

Die französische nationale Datenschutzbehörde CNIL legt nach einer mehrmonatigen Diskussion einen Bericht über Software und maschinelle Entscheidungen vor, der sich mit ethischen Fragen auseinandersetzt. Was muss angesichts von uns umgebender Künstlicher Intelligenz neu verhandelt werden, wenn Entscheidungen an Computerprogramme delegiert werden?

Lesen Sie diesen Artikel: Ethische Fragen bei Künstlicher Intelligenz: Mit welchen Herausforderungen müssen wir umgehen?
Nutzerrechte

Thesenpapier: Verbraucherschützer wollen Algorithmen-Kontrolle institutionalisieren

Algorithmische Entscheidungen können großen Einfluss auf unser Leben haben. Der Verbraucherzentrale Bundesverband sorgt sich um die Entscheidungssouveränität und informationelle Selbstbestimmung von Verbrauchern. Jetzt hat er ein Positionspapier veröffentlicht, in dem er konkrete Anforderungen an die Kontrolle solche Prozesse skizziert.

Lesen Sie diesen Artikel: Thesenpapier: Verbraucherschützer wollen Algorithmen-Kontrolle institutionalisieren
Datenschutz

Datenschutzbaustellen: Behörden legen To-Do-Liste für den neuen Gesetzgeber vor

Datenschutz sei kein Hindernis für die Digitalisierung, sagt die Konferenz der Datenschutzbehörden und fordert die künftige Regierung dazu auf, innovative Ansätze zu fördern. Außerdem brauche es neue Regeln für Algorithmen, Beschäftigtenschutz und Big Data im Gesundheitswesen. Das neue Bundesdatenschutzgesetz müsse vor Inkrafttreten nachgebessert werden.

Lesen Sie diesen Artikel: Datenschutzbaustellen: Behörden legen To-Do-Liste für den neuen Gesetzgeber vor
Demokratie

Der netzpolitische Wahlprogramm-Vergleich, Teil 9: Verbraucherschutz und digitale Souveränität

Im neunten Teil unseres Wahlprogrammvergleichs geht es um Verbraucherschutz und digitale Souveränität. Wie stehen die Parteien zu Themen wie Datenschutz, algorithmischen Entscheidungsverfahren, Plattformmacht und IT-Sicherheit? Die Unterschiede sind gravierend; nur einer Partei scheint das Thema egal zu sein.

Lesen Sie diesen Artikel: Der netzpolitische Wahlprogramm-Vergleich, Teil 9: Verbraucherschutz und digitale Souveränität
Öffentlichkeit

Netzpolitischer Wochenrückblick KW 27: Ein Ringen um Demokratie

Kämpfe auf dem Feld der Demokratie bestimmten die vergangene Woche. Wir erklären, warum die Einschränkung von Grundrechten wie der Versammlungsfreiheit mit Netzpolitik zu tun hat. Gängige Netzpolitik kam dennoch nicht zu kurz – wenn auch die Brise der Sommerpause den Bundestag durchlüftet.

Lesen Sie diesen Artikel: Netzpolitischer Wochenrückblick KW 27: Ein Ringen um Demokratie
Demokratie

Radiofeature: Algorithmen als Schicksalsmaschinen

Der Einsatz von Prognose-Software zur Beurteilung von Angeklagten scheint rassistische Ungleichheit im US-Justizsystem zu verschärfen. Zweifel bestehen sowohl an der Datenbasis und Methodik des Verfahrens als auch den Ergebnissen. Deutschlandfunk hat in einem hörenswerten Radiofeature zentrale Aspekte des Themas aufgearbeitet.

Lesen Sie diesen Artikel: Radiofeature: Algorithmen als Schicksalsmaschinen
Linkschleuder

Wenn Maschinen Menschen bewerten: Algorithmische Entscheidungen in der Praxis

Für die Bertelsmann Stiftung hat Konrad Lischka einen umfassenden Überblick über Anwendungsfälle algorithmischer Entscheidungsfindungsverfahren verfasst. Das Arbeitspapier setzt sich mit insgesamt neun Einsatzfeldern auseinander, von gerichtlichen Rückfallprognosen über Bewerbervorauswahlen und Kreditvergaben bis zu Predictive Policing. Neben deskriptiven Elementen beleuchtet das Papier aus der Perspektive der Teilhabegerechtigkeit Chancen und Risiken. Zusammenfassend wirbt das Papier für einen […]

Lesen Sie diesen Artikel: Wenn Maschinen Menschen bewerten: Algorithmische Entscheidungen in der Praxis