algorithmische diskriminierung
-
Extra dünn: Generative KI verzerrt unser Körperbild
Extra schlank! Sieht so der KI-Körper aus? Extra dünn: Generative KI verzerrt unser Körperbild KI-Generatoren produzieren nicht nur Bilder und Videos, sondern reproduzieren auch Diskriminierung. Eine Wissenschaftlerin der Universität Cambridge fand heraus, dass KI Menschen mit großen Körpern häufiger einen negativen Gesichtsausdruck verleiht und teilweise Probleme bei deren anatomischer Darstellung hat.
-
Social Scoring: Klage gegen Sozialhilfe-Algorithmus in Frankreich
Ein Algorithmus entscheidet in Frankreich anhand von personenbezogenen Daten, ob Familien vermeintlich zu viel Sozialhilfe erhalten (Symbolbild). Social Scoring: Klage gegen Sozialhilfe-Algorithmus in Frankreich Ein Algorithmus entscheidet in Frankreich darüber mit, ob Familien vermeintlich zu viel Sozialhilfe erhalten. NGOs kritisieren das System als diskriminierend, weil es vor allem ärmere Menschen ins Visier nehme. Jetzt klagen sie vor Gericht.
-
Antidiskriminierungsbeauftragte: Gleichbehandlungsgesetz soll für automatisierte Entscheidungen angepasst werden
Symbolbilder können algorithmische Entscheidungssysteme nur ungenügend bebildern. Im Kern geht es darum, das Computer mit Daten gefüttert werden und daraus dann automatisch Entscheidungen treffen. Antidiskriminierungsbeauftragte: Gleichbehandlungsgesetz soll für automatisierte Entscheidungen angepasst werden Automatisierte Entscheidungssysteme müssen ins Gleichbehandlungsgesetz aufgenommen werden, empfiehlt eine Studie der Antidiskriminierungsstelle des Bundes. Gleichzeitig soll in Gerichtsverfahren die Beweislast umgekehrt werden, weil die Betroffenen die genaue Funktion der Systeme nicht kennen können.
-
Vereinte Nationen: Warnung vor rassistischer und sexistischer KI
Auch Künstliche Intelligenz kann Bullshit produzieren (Symbolbild) Vereinte Nationen: Warnung vor rassistischer und sexistischer KI Künstliche Intelligenz kann diskriminieren, und Staaten sollten Menschen davor schützen. Das steht in einer neuen Resolution des UN-Menschenrechtsrats. Der Beschluss ist vage, sendet aber ein Signal an viele Regierungen, die gerade neue KI-Gesetze schreiben.
-
Olimpias Augen: Das Hype-Theater um moderne Chatbots
Hinter den Kulissen von Chatbots pflegen Arbeiter*innen die Daten (Symbolbild) Olimpias Augen: Das Hype-Theater um moderne Chatbots Die Debatte um Künstliche Intelligenz und ChatGPT führt dramatisch in die Irre. In seiner Ringvorlesung für die Universität Erfurt fächert der Autor zehn Gefahren aktuell gehypter KI-Systeme auf und argumentiert: Nicht etwa intelligente Maschinen sind das Problem, sondern der menschliche Blick auf Technologie.
-
Kritik an Fluggastdatenrasterung: KI-Modelle zur Terrorismusabwehr ungeeignet
Fluggäste werden in Europa besonders genau überwacht. Kritik an Fluggastdatenrasterung: KI-Modelle zur Terrorismusabwehr ungeeignet In einer kürzlich veröffentlichten wissenschaftlichen Forschung kritisiert Jura-Professor Douwe Korff den Einsatz von KI-Modellen zur Terrorismusabwehr im Rahmen der EU-Richtlinie zur Verarbeitung von Fluggastdaten. Mindestens 500.000 Personen würden demnach jedes Jahr zu Unrecht verdächtigt.
-
"Künstliche Intelligenz": Die sechs größten Probleme im AI Act
Gesichter ekennen, Grenzen abschotten, Diagnosen erstellen, Bewerbungen sortieren – der AI Act betrifft jede Menge Bereiche, bei denen KI-Systeme mitmischen (Symbolbild) "Künstliche Intelligenz": Die sechs größten Probleme im AI Act Seit dem Hype um ChatGPT richten sich viele Blicke auf den geplanten AI Act. Die EU-Verordnung zu „Künstlicher Intelligenz“ ist seit Jahren in der Mache und soll morgen im Parlament eine nächste Hürde überwinden. An mindestens sechs Stellen lauern Probleme.
-
Geplantes KI-Gesetz: Brasilien will Gesichtserkennung einschränken
Auch beim Karneval in Rio scannte die Polizei massenhaft Gesichter (Symbolbild) Geplantes KI-Gesetz: Brasilien will Gesichtserkennung einschränken Ob auf dem Karneval, in der Schule oder in der Bahn – biometrische Gesichtserkennung ist in Brasilien weit verbreitet. Vor allem marginalisierte Gruppen leiden darunter. Ein geplantes KI-Gesetz könnte die Überwachung einschränken, lässt aber Lücken für die Strafverfolgung.
-
Aufsicht und Transparenz: Wie die Niederlande aus KI-Skandalen lernen
Amsterdam sucht unter anderem teil-automatisiert nach falsch Parkenden. Die Gefahren solcher KI-Systeme soll eine Algorithmenaufsicht und ein Transparenzregister entschärfen. Aufsicht und Transparenz: Wie die Niederlande aus KI-Skandalen lernen Die Niederlande wollen vormachen, wie sich automatisierte Entscheidungssysteme einhegen lassen. Skandale wie die Kindergeldaffäre sollen mit einer neuen Algorithmenaufsicht und Transparenzregistern verhindert werden. Davon könnte sich die EU eine Scheibe abschneiden und den AI Act verbessern.
-
Oversight Board watscht Meta ab: Instagram und Facebook sollen Nippel-Verbot aufweichen
Wer darf Brustwarzen auf Instagram und Facebook zeigen? Oversight Board watscht Meta ab: Instagram und Facebook sollen Nippel-Verbot aufweichen Das Nippel-Verbot auf Facebook und Instagram basiert auf einem binären Verständnis von Geschlecht und ist in der Praxis unbrauchbar. Zu diesem Urteil kommt ein Aufsichtsgremium, das der Mutterkonzern Meta selbst eingerichtet hat. Jetzt soll Meta die Regeln ändern.
-
Plattformarbeit: Wie Ungleichheiten in die digitale Arbeitswelt mitziehen
Ungleichheiten wandern in die digitale Welt. Plattformarbeit: Wie Ungleichheiten in die digitale Arbeitswelt mitziehen Plattformen präsentieren sich als Vorreiter bei flexiblem und selbstbestimmtem Arbeiten. Gerade für Frauen könnte das eine Chance sein, doch Diskriminierung und ungleiche Bezahlung sind längst in die digitale Arbeitswelt mitgewandert. Die Politik reagiert bisher zögerlich.
-
Überwachung in China: Totale präventive Kontrolle
Nur ein Pfeiler der chinesischen Überwachungsmaschine: Kameras. Überwachung in China: Totale präventive Kontrolle China baut an einem Überwachungsystem, das jedes Individuum rund um die Uhr überwacht. Algorithmen sollen präventiv erkennen, wenn Menschen etwas tun wollen, was dem Staat nicht passt. Kritiker sprechen von Techno-Totalitarismus.
-
Datenrassismus: Und wieder verkündet Facebook das Ende diskriminierender Werbung
Auf dem Wohnungsmarkt sind nicht alle gleich. Nun will Facebook die langjährige Praxis abstellen, diskriminierende Wohnungsanzeigen zuzulassen. Datenrassismus: Und wieder verkündet Facebook das Ende diskriminierender Werbung Jetzt aber wirklich, versprochen: Facebook will nach eigenen Angaben diskriminierende Anzeigen für Wohnungen unterbinden. Seit Jahren kriegt der milliardenschwere Konzern seine Werkzeuge für gezielte Werbung nicht in den Griff.