automatisierte Entscheidungsfindung
-
Interview mit Rainer Rehak: „Die Nutzung solcher KI-Systeme muss als Kriegsverbrechen eingestuft werden“
Welche Daten werden als Grundlage für KI-basierte Zielgenerierung genutzt? Interview mit Rainer Rehak: „Die Nutzung solcher KI-Systeme muss als Kriegsverbrechen eingestuft werden“ Die israelische Armee soll ein KI-gestütztes System eingesetzt haben, um Ziele in Gaza zu markieren. Die Fehlerraten solcher Technologien seien groß, warnt der Verein „Forum InformatikerInnen für Frieden“ und fordert deren Ächtung. Ein Interview mit Rainer Rehak, der das Papier mitgeschrieben hat.
-
Frankreich: Algorithmus weist Arbeitslosen ein höheres Risiko zu
Wer ist hier verdächtig? Frankreich: Algorithmus weist Arbeitslosen ein höheres Risiko zu Wer arbeitslos ist oder nur wenig verdient, hat es schwer. Eine Software der französischen Familienkasse macht es Betroffenen gleich nochmal schwerer und weist ihnen einen höheren Risikowert für Betrug oder Überzahlungen zu. Eine französische NGO hat das Programm analysiert und kritisiert diskriminierende Kriterien.
-
Antidiskriminierungsbeauftragte: Gleichbehandlungsgesetz soll für automatisierte Entscheidungen angepasst werden
Symbolbilder können algorithmische Entscheidungssysteme nur ungenügend bebildern. Im Kern geht es darum, das Computer mit Daten gefüttert werden und daraus dann automatisch Entscheidungen treffen. Antidiskriminierungsbeauftragte: Gleichbehandlungsgesetz soll für automatisierte Entscheidungen angepasst werden Automatisierte Entscheidungssysteme müssen ins Gleichbehandlungsgesetz aufgenommen werden, empfiehlt eine Studie der Antidiskriminierungsstelle des Bundes. Gleichzeitig soll in Gerichtsverfahren die Beweislast umgekehrt werden, weil die Betroffenen die genaue Funktion der Systeme nicht kennen können.
-
Datenschutzgrundverordnung: 300.000 Euro Bußgeld gegen Bank wegen automatisierter Entscheidung
Bei Computerentscheidungen müssen diese dem Kunden transparent gemacht werden. Datenschutzgrundverordnung: 300.000 Euro Bußgeld gegen Bank wegen automatisierter Entscheidung Wenn Banken alleine aufgrund von Algorithmen über ihre Kund:innen entscheiden, dann müssen sie zumindest die Kriterien und Gründe bei einer Ablehnung transparent machen. Sonst kann es ein Bußgeld geben.
-
Künstliche Intelligenz: EU verbietet automatisierte Gesichtserkennung an öffentlichen Orten – „mit wenigen Ausnahmen“
In die Glaskugel schauen: Algorithmen entscheiden bereits heute mit. Künstliche Intelligenz: EU verbietet automatisierte Gesichtserkennung an öffentlichen Orten – „mit wenigen Ausnahmen“ Die EU-Kommission hat erstmals ein Gesetz zur Regulierung von automatisierten Entscheidungssystemen vorgelegt. „Massenüberwachung“ durch KI soll damit verboten werden, biometrische Echtzeit-Überwachung soll in einigen Fällen aber erlaubt bleiben.
-
Wochenrückblick KW 44: Eine strategische Meisterleistung von Google, Rechtsruck bei Facebook
Mit einem süßen Lämmchen blicken wir gemeinsam zurück auf die Themen der Woche. Wochenrückblick KW 44: Eine strategische Meisterleistung von Google, Rechtsruck bei Facebook Wir veröffentlichen eine Artikelserie zum Einfluss von Googles Geldgeschenken an Verlage auf die journalistische Unabhängigkeit. Die Bundesregierung wird für den Entwurf des BND-Gesetzes kritisiert. Facebook macht einen Rechtsruck. Die Themen der Woche im Überblick.
-
Algo.Rules: Mit 145 Fragen zu besseren Entscheidungssystemen
Technische Entscheidungen können soziale Auswirkungen haben und dürfen nicht dem Zufall überlassen werden. Ein neuer Praxisleitfaden soll helfen, möglichst früh die richtigen Fragen zu beantworten. Algo.Rules: Mit 145 Fragen zu besseren Entscheidungssystemen Mit ihren „Algo.Rules“ legt die Bertelsmann Stiftung einen Werkzeugkoffer für Entwickler:innen, Programmierer:innen und Designer:innen von automatisierten Entscheidungsregeln vor. Neben neun grundsätzlichen Regeln setzt der Leitfaden vor allem auf Orientierungsfragen für die Praxis.
-
Digitale Grundrechte nach Corona: Warum wir gerade jetzt eine Debatte über Datenschutz brauchen
Massendaten gegen massenhafte Coronaviren, doch was sind die Nebenwirkungen? Digitale Grundrechte nach Corona: Warum wir gerade jetzt eine Debatte über Datenschutz brauchen Corona provoziert eine Reihe politischer Tabubrüche, auch beim Datenschutz. Das alles geschieht unglaublich schnell, die gesellschaftliche Diskussion kann kaum mithalten. Deshalb müssen digitale Grundrechte jetzt auf der Tagesordnung stehen, kommentiert Rainer Mühlhoff.
-
Maschinenwächter für automatisierte Entscheidungen: New York schafft Algorithmen-Beauftragten
In der Stadtverwaltung von New York entscheiden oft Algorithmen. Nun gibt es dafür mehr Kontrolle. Maschinenwächter für automatisierte Entscheidungen: New York schafft Algorithmen-Beauftragten Bürgermeister Bill de Blasio möchte die New Yorker:innen vor Diskriminierung schützen und schafft ein neues Amt, das den Einsatz von automatisierten Entscheidungssystemen in der Stadtverwaltung kontrollieren soll. Damit ist New York Pionier auf diesem Gebiet. Auf dem Weg wurden aber auch viele Fehler gemacht.
-
Podcast NPP 190: Mal sehen, was der Computer sagt
Beratungserlebnis bei den Arbeitsmarktservices – ab 2020 unterstützt ein Algorithmus die Betreuer*innen bei der Einschätzung. Podcast NPP 190: Mal sehen, was der Computer sagt In Österreich bestimmt bald ein Algorithmus mit über die Chancen von Arbeitslosen. Der Staat verwendet dann ein System, das offen gegen Mütter, Zuwanderer*innen und Menschen mit Behinderung diskriminiert. Dabei könnte man die Prognosen auch positiv nutzen. Wie, das erklärt in dieser Folge die Mathematikerin Paola Lopez.
-
: Hohes Diskriminierungspotential bei automatisierten Entscheidungen
Algorithmen sind immer häufiger an Entscheidungen beteiligt. : Hohes Diskriminierungspotential bei automatisierten Entscheidungen In vielen gesellschaftlichen Bereichen werden Entscheidungen bereits von Algorithmen getroffen. Doch das ist mit Risiken für den Menschen verbunden. Mit dem „Atlas der Automatisierung“ möchte AlgorithmWatch zu mehr Transparenz in der automatisierten Entscheidungsfindung beitragen.
-
: New York City plant Arbeitsgruppe zur Überprüfung von städtischen Algorithmen
Technik in der Verwaltung (Symbolbild). : New York City plant Arbeitsgruppe zur Überprüfung von städtischen Algorithmen Als erste US-amerikanische Stadt plant New York City zum Verwaltungshandeln eingesetzte Algorithmen auf den Prüfstand zu stellen: Experten und Wohltätigkeitsorganisationen sollen Regeln für die Klassifizierung unterschiedlicher Algorithmen entwickeln und Vorschläge machen, wie Bürgerinnen und Bürger Transparenz einfordern können. Dabei gibt es auch Hürden.
-
: Zunehmend automatisiert: Staatliches Handeln und digitale Öffentlichkeit
Auch der Staat verlässt sich auf algorithmische Entscheidungssysteme. : Zunehmend automatisiert: Staatliches Handeln und digitale Öffentlichkeit Wir berichteten vor zwei Wochen über eine Konferenz, die Ende November in Berlin zum Thema Algorithmen und Automatisierung in Staat und Gesellschaft stattfand. Der Veranstalter, das Kompetenzzentrum Öffentliche IT am Fraunhofer-Institut für Offene Kommunikationssysteme, hat nun eine ausführliche Nachberichterstattung sowie Videoaufzeichnungen aller Vorträge und Paneldiskussionen ins Netz gestellt. Die Aufbereitung der Inhalte ist entsprechend der […]
-
: Algorithmen entscheiden über Leben. Zeit, sie zu regulieren.
Was bedeutet die zunehmende Automatisierung von Entscheidungen für den Menschen? : Algorithmen entscheiden über Leben. Zeit, sie zu regulieren. Algorithmen entscheiden zunehmend über individuelle Lebenschancen und werden von Staat und Verwaltung zur Steuerung gesellschaftlicher Prozesse eingesetzt. Eine Konferenz in Berlin beleuchtete kürzlich, was dies für das Individuum bedeutet und gab Einblicke in die Diskussion um Regulierungsansätze.