Schlagwort: algorithmische diskriminierung

Roboter sitzt am Computer, davor eine Justizia

Automatisierte Entscheidungssysteme müssen ins Gleichbehandlungsgesetz aufgenommen werden, empfiehlt eine Studie der Antidiskriminierungsstelle des Bundes. Gleichzeitig soll in Gerichtsverfahren die Beweislast umgekehrt werden, weil die Betroffenen die genaue Funktion der Systeme nicht kennen können.

Illustration einer Maschine mit Tastatur und Bildschirm. Durch ein Rohr spuckt sie Matsch und Dreck aus.

Künstliche Intelligenz kann diskriminieren, und Staaten sollten Menschen davor schützen. Das steht in einer neuen Resolution des UN-Menschenrechtsrats. Der Beschluss ist vage, sendet aber ein Signal an viele Regierungen, die gerade neue KI-Gesetze schreiben.

Eine Illustration zeigt ein düsteres Großraumbüro ohne Fenster, viele Menschen arbeiten an PC-Bildschirmen. Im rechten Teil des Bildes ist der freigestellte Kopf einer Schaufenster-Puppe in Graustufen zu sehen. Ein creme-farbener Kreis hebt den Kopf von der Illustration ab.

Die Debatte um Künstliche Intelligenz und ChatGPT führt dramatisch in die Irre. In seiner Ringvorlesung für die Universität Erfurt fächert der Autor zehn Gefahren aktuell gehypter KI-Systeme auf und argumentiert: Nicht etwa intelligente Maschinen sind das Problem, sondern der menschliche Blick auf Technologie.

In einer kürzlich veröffentlichten wissenschaftlichen Forschung kritisiert Jura-Professor Douwe Korff den Einsatz von KI-Modellen zur Terrorismusabwehr im Rahmen der EU-Richtlinie zur Verarbeitung von Fluggastdaten. Mindestens 500.000 Personen würden demnach jedes Jahr zu Unrecht verdächtigt.

Eine Montage aus mehreren Bildern. Links Gesichter mit farblich hervorgehobenen biometrischen Merkmalen. In der Mitte oben ein Grenzzaun mit Wachturm. In der Mitte unten die Röntgen-Aufnahme eines Knies. Rechts die Darstellung eines Lebenslaufs. Die Collage stellt somit verschiedene Bereiche dar, die vom AI Act betroffen sind.

Seit dem Hype um ChatGPT richten sich viele Blicke auf den geplanten AI Act. Die EU-Verordnung zu „Künstlicher Intelligenz“ ist seit Jahren in der Mache und soll morgen im Parlament eine nächste Hürde überwinden. An mindestens sechs Stellen lauern Probleme.

Ob auf dem Karneval, in der Schule oder in der Bahn – biometrische Gesichtserkennung ist in Brasilien weit verbreitet. Vor allem marginalisierte Gruppen leiden darunter. Ein geplantes KI-Gesetz könnte die Überwachung einschränken, lässt aber Lücken für die Strafverfolgung.

Ein Auto mit Kameras sucht in Amsterdam automatisiert nach Falschparkern.

Die Niederlande wollen vormachen, wie sich automatisierte Entscheidungssysteme einhegen lassen. Skandale wie die Kindergeldaffäre sollen mit einer neuen Algorithmenaufsicht und Transparenzregistern verhindert werden. Davon könnte sich die EU eine Scheibe abschneiden und den AI Act verbessern.

Das Nippel-Verbot auf Facebook und Instagram basiert auf einem binären Verständnis von Geschlecht und ist in der Praxis unbrauchbar. Zu diesem Urteil kommt ein Aufsichtsgremium, das der Mutterkonzern Meta selbst eingerichtet hat. Jetzt soll Meta die Regeln ändern.

Aus der Vogelperspektive sieht man eine Frau im Homeoffice. Neben ihr auf dem Boden spielt ein Kind.

Plattformen präsentieren sich als Vorreiter bei flexiblem und selbstbestimmtem Arbeiten. Gerade für Frauen könnte das eine Chance sein, doch Diskriminierung und ungleiche Bezahlung sind längst in die digitale Arbeitswelt mitgewandert. Die Politik reagiert bisher zögerlich.

China baut an einem Überwachungsystem, das jedes Individuum rund um die Uhr überwacht. Algorithmen sollen präventiv erkennen, wenn Menschen etwas tun wollen, was dem Staat nicht passt. Kritiker sprechen von Techno-Totalitarismus.

Jetzt aber wirklich, versprochen: Facebook will nach eigenen Angaben diskriminierende Anzeigen für Wohnungen unterbinden. Seit Jahren kriegt der milliardenschwere Konzern seine Werkzeuge für gezielte Werbung nicht in den Griff.

algorithmische diskriminierung

Antidiskriminierungsbeauftragte: Gleichbehandlungsgesetz soll für automatisierte Entscheidungen angepasst werden

Vereinte Nationen: Warnung vor rassistischer und sexistischer KI

Olimpias Augen: Das Hype-Theater um moderne Chatbots

Kritik an Fluggastdatenrasterung: KI-Modelle zur Terrorismusabwehr ungeeignet

"Künstliche Intelligenz": Die sechs größten Probleme im AI Act

Geplantes KI-Gesetz: Brasilien will Gesichtserkennung einschränken

Aufsicht und Transparenz: Wie die Niederlande aus KI-Skandalen lernen

Oversight Board watscht Meta ab: Instagram und Facebook sollen Nippel-Verbot aufweichen

Plattformarbeit: Wie Ungleichheiten in die digitale Arbeitswelt mitziehen

Datenrassismus: Und wieder verkündet Facebook das Ende diskriminierender Werbung