Schlagwort: automatisierte Entscheidungsfindung

Passant:innen vor dem Arc de Triomph in Frankreich bei Sonnenuntergang

Wer arbeitslos ist oder nur wenig verdient, hat es schwer. Eine Software der französischen Familienkasse macht es Betroffenen gleich nochmal schwerer und weist ihnen einen höheren Risikowert für Betrug oder Überzahlungen zu. Eine französische NGO hat das Programm analysiert und kritisiert diskriminierende Kriterien.

Roboter sitzt am Computer, davor eine Justizia

Automatisierte Entscheidungssysteme müssen ins Gleichbehandlungsgesetz aufgenommen werden, empfiehlt eine Studie der Antidiskriminierungsstelle des Bundes. Gleichzeitig soll in Gerichtsverfahren die Beweislast umgekehrt werden, weil die Betroffenen die genaue Funktion der Systeme nicht kennen können.

Wenn Banken alleine aufgrund von Algorithmen über ihre Kund:innen entscheiden, dann müssen sie zumindest die Kriterien und Gründe bei einer Ablehnung transparent machen. Sonst kann es ein Bußgeld geben.

Die EU-Kommission hat erstmals ein Gesetz zur Regulierung von automatisierten Entscheidungssystemen vorgelegt. „Massenüberwachung“ durch KI soll damit verboten werden, biometrische Echtzeit-Überwachung soll in einigen Fällen aber erlaubt bleiben.

Wir veröffentlichen eine Artikelserie zum Einfluss von Googles Geldgeschenken an Verlage auf die journalistische Unabhängigkeit. Die Bundesregierung wird für den Entwurf des BND-Gesetzes kritisiert. Facebook macht einen Rechtsruck. Die Themen der Woche im Überblick.

Technische Entscheidungen können soziale Auswirkungen haben und dürfen nicht dem Zufall überlassen werden. Der neue Praxisleitfaden soll helfen, möglichst früh die richtigen Fragen zu beantworten.

Mit ihren „Algo.Rules“ legt die Bertelsmann Stiftung einen Werkzeugkoffer für Entwickler:innen, Programmierer:innen und Designer:innen von automatisierten Entscheidungsregeln vor. Neben neun grundsätzlichen Regeln setzt der Leitfaden vor allem auf Orientierungsfragen für die Praxis.

Corona provoziert eine Reihe politischer Tabubrüche, auch beim Datenschutz. Das alles geschieht unglaublich schnell, die gesellschaftliche Diskussion kann kaum mithalten. Deshalb müssen digitale Grundrechte jetzt auf der Tagesordnung stehen, kommentiert Rainer Mühlhoff.

Bürgermeister Bill de Blasio möchte die New Yorker:innen vor Diskriminierung schützen und schafft ein neues Amt, das den Einsatz von automatisierten Entscheidungssystemen in der Stadtverwaltung kontrollieren soll. Damit ist New York Pionier auf diesem Gebiet. Auf dem Weg wurden aber auch viele Fehler gemacht.

In Österreich bestimmt bald ein Algorithmus mit über die Chancen von Arbeitslosen. Der Staat verwendet dann ein System, das offen gegen Mütter, Zuwanderer*innen und Menschen mit Behinderung diskriminiert. Dabei könnte man die Prognosen auch positiv nutzen. Wie, das erklärt in dieser Folge die Mathematikerin Paola Lopez.

In vielen gesellschaftlichen Bereichen werden Entscheidungen bereits von Algorithmen getroffen. Doch das ist mit Risiken für den Menschen verbunden. Mit dem „Atlas der Automatisierung“ möchte AlgorithmWatch zu mehr Transparenz in der automatisierten Entscheidungsfindung beitragen.

Als erste US-amerikanische Stadt plant New York City zum Verwaltungshandeln eingesetzte Algorithmen auf den Prüfstand zu stellen: Experten und Wohltätigkeitsorganisationen sollen Regeln für die Klassifizierung unterschiedlicher Algorithmen entwickeln und Vorschläge machen, wie Bürgerinnen und Bürger Transparenz einfordern können. Dabei gibt es auch Hürden.

Wir berichteten vor zwei Wochen über eine Konferenz, die Ende November in Berlin zum Thema Algorithmen und Automatisierung in Staat und Gesellschaft stattfand. Der Veranstalter, das Kompetenzzentrum Öffentliche IT am Fraunhofer-Institut für Offene Kommunikationssysteme, hat nun eine ausführliche Nachberichterstattung sowie Videoaufzeichnungen aller Vorträge und Paneldiskussionen ins Netz gestellt. Die Aufbereitung der Inhalte ist entsprechend der […]

Algorithmen entscheiden zunehmend über individuelle Lebenschancen und werden von Staat und Verwaltung zur Steuerung gesellschaftlicher Prozesse eingesetzt. Eine Konferenz in Berlin beleuchtete kürzlich, was dies für das Individuum bedeutet und gab Einblicke in die Diskussion um Regulierungsansätze.

automatisierte Entscheidungsfindung

Frankreich: Algorithmus weist Arbeitslosen ein höheres Risiko zu

Antidiskriminierungsbeauftragte: Gleichbehandlungsgesetz soll für automatisierte Entscheidungen angepasst werden

Datenschutzgrundverordnung: 300.000 Euro Bußgeld gegen Bank wegen automatisierter Entscheidung

Wochenrückblick KW 44: Eine strategische Meisterleistung von Google, Rechtsruck bei Facebook

Algo.Rules: Mit 145 Fragen zu besseren Entscheidungssystemen

Digitale Grundrechte nach Corona: Warum wir gerade jetzt eine Debatte über Datenschutz brauchen

Maschinenwächter für automatisierte Entscheidungen: New York schafft Algorithmen-Beauftragten

Podcast NPP 190: Mal sehen, was der Computer sagt

Hohes Diskriminierungspotential bei automatisierten Entscheidungen

New York City plant Arbeitsgruppe zur Überprüfung von städtischen Algorithmen

Zunehmend automatisiert: Staatliches Handeln und digitale Öffentlichkeit

Algorithmen entscheiden über Leben. Zeit, sie zu regulieren.