Zu sehen sind Fragmente einer zerstörten Stadt. Im Vordergrund ist eine menschliche Silhouette zu sehen. Zwischen den angedeuteten Formen fliegen Vögel, bei denen es sich um Tauben handeln könnte.
Öffentlichkeit

Interview mit Rainer Rehak„Die Nutzung solcher KI-Systeme muss als Kriegsverbrechen eingestuft werden“

Die israelische Armee soll ein KI-gestütztes System eingesetzt haben, um Ziele in Gaza zu markieren. Die Fehlerraten solcher Technologien seien groß, warnt der Verein „Forum InformatikerInnen für Frieden“ und fordert deren Ächtung. Ein Interview mit Rainer Rehak, der das Papier mitgeschrieben hat.

Lesen Sie diesen Artikel: „Die Nutzung solcher KI-Systeme muss als Kriegsverbrechen eingestuft werden“
Passant:innen vor dem Arc de Triomph in Frankreich bei Sonnenuntergang
Technologie

FrankreichAlgorithmus weist Arbeitslosen ein höheres Risiko zu

Wer arbeitslos ist oder nur wenig verdient, hat es schwer. Eine Software der französischen Familienkasse macht es Betroffenen gleich nochmal schwerer und weist ihnen einen höheren Risikowert für Betrug oder Überzahlungen zu. Eine französische NGO hat das Programm analysiert und kritisiert diskriminierende Kriterien.

Lesen Sie diesen Artikel: Algorithmus weist Arbeitslosen ein höheres Risiko zu
Roboter sitzt am Computer, davor eine Justizia
Nutzerrechte

AntidiskriminierungsbeauftragteGleichbehandlungsgesetz soll für automatisierte Entscheidungen angepasst werden

Automatisierte Entscheidungssysteme müssen ins Gleichbehandlungsgesetz aufgenommen werden, empfiehlt eine Studie der Antidiskriminierungsstelle des Bundes. Gleichzeitig soll in Gerichtsverfahren die Beweislast umgekehrt werden, weil die Betroffenen die genaue Funktion der Systeme nicht kennen können.

Lesen Sie diesen Artikel: Gleichbehandlungsgesetz soll für automatisierte Entscheidungen angepasst werden
Künstliche Intelligenz
Technologie

Künstliche IntelligenzEU verbietet automatisierte Gesichtserkennung an öffentlichen Orten – „mit wenigen Ausnahmen“

Die EU-Kommission hat erstmals ein Gesetz zur Regulierung von automatisierten Entscheidungssystemen vorgelegt. „Massenüberwachung“ durch KI soll damit verboten werden, biometrische Echtzeit-Überwachung soll in einigen Fällen aber erlaubt bleiben.

Lesen Sie diesen Artikel: EU verbietet automatisierte Gesichtserkennung an öffentlichen Orten – „mit wenigen Ausnahmen“
Ein Lamm am Berghang
Öffentlichkeit

Wochenrückblick KW 44Eine strategische Meisterleistung von Google, Rechtsruck bei Facebook

Wir veröffentlichen eine Artikelserie zum Einfluss von Googles Geldgeschenken an Verlage auf die journalistische Unabhängigkeit. Die Bundesregierung wird für den Entwurf des BND-Gesetzes kritisiert. Facebook macht einen Rechtsruck. Die Themen der Woche im Überblick.

Lesen Sie diesen Artikel: Eine strategische Meisterleistung von Google, Rechtsruck bei Facebook
Technische Entscheidungen können soziale Auswirkungen haben und dürfen nicht dem Zufall überlassen werden. Der neue Praxisleitfaden soll helfen, möglichst früh die richtigen Fragen zu beantworten.
Technologie

Algo.RulesMit 145 Fragen zu besseren Entscheidungssystemen

Mit ihren „Algo.Rules“ legt die Bertelsmann Stiftung einen Werkzeugkoffer für Entwickler:innen, Programmierer:innen und Designer:innen von automatisierten Entscheidungsregeln vor. Neben neun grundsätzlichen Regeln setzt der Leitfaden vor allem auf Orientierungsfragen für die Praxis.

Lesen Sie diesen Artikel: Mit 145 Fragen zu besseren Entscheidungssystemen
Mikroskopaufnahmen von Covid-19
Datenschutz

Digitale Grundrechte nach CoronaWarum wir gerade jetzt eine Debatte über Datenschutz brauchen

Corona provoziert eine Reihe politischer Tabubrüche, auch beim Datenschutz. Das alles geschieht unglaublich schnell, die gesellschaftliche Diskussion kann kaum mithalten. Deshalb müssen digitale Grundrechte jetzt auf der Tagesordnung stehen, kommentiert Rainer Mühlhoff.

Lesen Sie diesen Artikel: Warum wir gerade jetzt eine Debatte über Datenschutz brauchen
Die Straßen von New York
Technologie

Maschinenwächter für automatisierte EntscheidungenNew York schafft Algorithmen-Beauftragten

Bürgermeister Bill de Blasio möchte die New Yorker:innen vor Diskriminierung schützen und schafft ein neues Amt, das den Einsatz von automatisierten Entscheidungssystemen in der Stadtverwaltung kontrollieren soll. Damit ist New York Pionier auf diesem Gebiet. Auf dem Weg wurden aber auch viele Fehler gemacht.

Lesen Sie diesen Artikel: New York schafft Algorithmen-Beauftragten
Jugendliche sitzen vor AMS-Beraterin
Off/On – der Podcast von netzpolitik.org

Podcast NPP 190Mal sehen, was der Computer sagt

In Österreich bestimmt bald ein Algorithmus mit über die Chancen von Arbeitslosen. Der Staat verwendet dann ein System, das offen gegen Mütter, Zuwanderer*innen und Menschen mit Behinderung diskriminiert. Dabei könnte man die Prognosen auch positiv nutzen. Wie, das erklärt in dieser Folge die Mathematikerin Paola Lopez.

Lesen Sie diesen Artikel: Mal sehen, was der Computer sagt
Öffentlichkeit

Hohes Diskriminierungspotential bei automatisierten Entscheidungen

In vielen gesellschaftlichen Bereichen werden Entscheidungen bereits von Algorithmen getroffen. Doch das ist mit Risiken für den Menschen verbunden. Mit dem „Atlas der Automatisierung“ möchte AlgorithmWatch zu mehr Transparenz in der automatisierten Entscheidungsfindung beitragen.

Lesen Sie diesen Artikel: Hohes Diskriminierungspotential bei automatisierten Entscheidungen
Nutzerrechte

New York City plant Arbeitsgruppe zur Überprüfung von städtischen Algorithmen

Als erste US-amerikanische Stadt plant New York City zum Verwaltungshandeln eingesetzte Algorithmen auf den Prüfstand zu stellen: Experten und Wohltätigkeitsorganisationen sollen Regeln für die Klassifizierung unterschiedlicher Algorithmen entwickeln und Vorschläge machen, wie Bürgerinnen und Bürger Transparenz einfordern können. Dabei gibt es auch Hürden.

Lesen Sie diesen Artikel: New York City plant Arbeitsgruppe zur Überprüfung von städtischen Algorithmen
Linkschleuder

Zunehmend automatisiert: Staatliches Handeln und digitale Öffentlichkeit

Wir berichteten vor zwei Wochen über eine Konferenz, die Ende November in Berlin zum Thema Algorithmen und Automatisierung in Staat und Gesellschaft stattfand. Der Veranstalter, das Kompetenzzentrum Öffentliche IT am Fraunhofer-Institut für Offene Kommunikationssysteme, hat nun eine ausführliche Nachberichterstattung sowie Videoaufzeichnungen aller Vorträge und Paneldiskussionen ins Netz gestellt. Die Aufbereitung der Inhalte ist entsprechend der […]

Lesen Sie diesen Artikel: Zunehmend automatisiert: Staatliches Handeln und digitale Öffentlichkeit
Nutzerrechte

Algorithmen entscheiden über Leben. Zeit, sie zu regulieren.

Algorithmen entscheiden zunehmend über individuelle Lebenschancen und werden von Staat und Verwaltung zur Steuerung gesellschaftlicher Prozesse eingesetzt. Eine Konferenz in Berlin beleuchtete kürzlich, was dies für das Individuum bedeutet und gab Einblicke in die Diskussion um Regulierungsansätze.

Lesen Sie diesen Artikel: Algorithmen entscheiden über Leben. Zeit, sie zu regulieren.