Schlagwort: Diskriminierung

Zwei Figuren im Bauhaus-Stil sitzen sich gegenüber und legen die Stirn aneinander, die Stimmung ist intim und zärtlich.

Wer in Schweden einen Porno-Clip auf OnlyFans nach eigenen Wünschen bestellt, macht sich künftig strafbar. Das neue Gesetz missachtet Grundrechte wie Berufsfreiheit und sexuelle Selbstbestimmung, führt zu mehr Überwachung – und schadet letztlich allen. Ein Kommentar.

Europa hat schon ein KI-Gesetz. Manche Teile davon sind aber vage, ein „Praxisleitfaden“ soll deshalb Details nachliefern. Dabei haben Unternehmen viel zu sagen – und statt vor echten Problemen könnte die Handreichung eher vor hypothetischen Schreckensszenarien schützen. Zivilgesellschaft und Abgeordnete im Parlament sind besorgt.

Ein Mensch mit Maske, Ledermantel und Baseballschläger, scharf angeblitzt auf einem nächtlichen Feld.

Die britische Regierung lässt an einem Programm forschen, das vorhersagen soll, ob eine Person zum Mörder wird. Für die Studie führen Forscher:innen persönliche Daten von hunderttausenden Menschen zusammen – unter anderem, ob sie Opfer häuslicher Gewalt wurden und an welchen psychischen Erkrankungen sie leiden.

Bundesgesundheitsminister Karl Lauterbach

In gut einem halben Jahr startet die „elektronische Patientenakte für alle“. Die Deutsche Aidshilfe kritisiert das Projekt von Bundesgesundheitsminister Karl Lauterbach, weil es vulnerable Gruppen diskriminieren könnte. Mit ihrer Kritik steht die Aidshilfe nicht allein.

Die Medikamente Viramune und Descovy vor schwarzem Hintergrund

Zwei Gesetze sollen die Gesundheitsdigitalisierung hierzulande beschleunigen – im Sinne des Patient:innen- und Gemeinwohls, wie das zuständige Bundesgesundheitsministerium betont. Manuel Hofmann von der Deutschen Aidshilfe befürchtet, dass sie mehr Diskriminierung insbesondere für chronisch kranke Menschen bringen.

Passant:innen vor dem Arc de Triomph in Frankreich bei Sonnenuntergang

Wer arbeitslos ist oder nur wenig verdient, hat es schwer. Eine Software der französischen Familienkasse macht es Betroffenen gleich nochmal schwerer und weist ihnen einen höheren Risikowert für Betrug oder Überzahlungen zu. Eine französische NGO hat das Programm analysiert und kritisiert diskriminierende Kriterien.

Meta testet derzeit ein neues Verifizierungssystem. Das Angebot birgt jedoch erhebliche Risiken für Angehörige marginalisierter Gruppen und politische Aktivist*innen. Vertreter*innen von Sexarbeiter*innen und trans* Personen fordern den Konzern daher zu Gesprächen auf.

Aus der Vogelperspektive sieht man eine Frau im Homeoffice. Neben ihr auf dem Boden spielt ein Kind.

Plattformen präsentieren sich als Vorreiter bei flexiblem und selbstbestimmtem Arbeiten. Gerade für Frauen könnte das eine Chance sein, doch Diskriminierung und ungleiche Bezahlung sind längst in die digitale Arbeitswelt mitgewandert. Die Politik reagiert bisher zögerlich.

Jetzt aber wirklich, versprochen: Facebook will nach eigenen Angaben diskriminierende Anzeigen für Wohnungen unterbinden. Seit Jahren kriegt der milliardenschwere Konzern seine Werkzeuge für gezielte Werbung nicht in den Griff.

Individualisierte Preise im Onlinehandel oder Benachteiligung beim Abschließen einer Versicherung auf der Webseite: Die Fälle automatisierter Diskriminierung häufen sich, nicht immer sind sie leicht zu erkennen. Ein neuer Ratgeber soll Antidiskriminierungsstellen und Betroffenen helfen.

In Österreich werden Arbeitslose automatisch in Kategorien sortiert, in den Niederlanden suchten Gemeinden automatisiert nach Sozialbetrüger:innen. Was macht es mit der Zivilgesellschaft, wenn Staaten High-Tech-Tools gegen ihr Volk richten?

Eine Person läuft über eine regenbogenfarbene Wikipedia-Historie und hält eine Trans-Flagge in der Hand.

Ändern bekannte Personen ihren Namen und ihre Geschlechtsidentität, betrifft das auch den Wikipedia-Artikel. In der Community der Online-Enzyklopädie führt das immer wieder zu Diskussionen. Für die Betroffenen kann das qualvoll sein, doch es bewegt sich etwas.

A scandal involving racial discrimination in the verification of childcare benefit claims continues to rock the Netherlands. Now the government accepts a fine in the millions. It is probably the first case in which a government has had to pay for data-based discrimination against citizens.

Ein Schwarzes Paar in einer Ferienwohnung.

Das Online-Portal Airbnb verlangt von Gästen in Oregon nicht mehr, vor einer Anmietung den vollen Namen und das Gesicht zu zeigen. Das soll für weniger Rassismus und Diskriminierung auf dem Dienst sorgen.

Ein Skandal um rassistische Diskriminierung bei der Überprüfung von Kindergeldansprüchen erschüttert die Niederlande bis heute. Nun akzeptiert die Regierung ein Bußgeld in Millionenhöhe. Es ist der wohl erste Fall, bei dem eine Regierung für die automatisierte datenbasierte Diskriminierung von Bürger:innen zahlen muss.

Zensur von LGBTIQ-Inhalten auf dem Vormarsch

Das Netz kann für diskriminierte Gruppen ein Ort sein, sich zu stärken und zu organisieren. In vielen Ländern der Welt werden Inhalte von queeren Communities jedoch gezielt gesperrt. Ein Bericht dokumentiert nun das Ausmaß der Online-Zensur in sechs Staaten.

Nahaufnahme des Gesichts einer jungen Frau

Queere Menschen finden in Mainstream-Videospielen kaum Charaktere und Geschichten, in denen sie sich wiedererkennen können. netzpolitik.org hat mit Journalistin Lara Keilbart und Game-Designer Allan Cudicio darüber gesprochen, warum viele Entwickler*innen-Studios nur einen Teil der Menschheit abbilden und was sich ändern muss.

Schwarze US-Amerikaner:innen haben es bei der Haussuche ohnehin schwer. Eine umfangreiche Datenanalyse belegt nun, dass die Diskriminierung auf dem Immobilienmarkt auch automatisiert zuschlägt.

Gezeichnet: Mann sammelt Sprechblasen vom Boden auf und steckt sie in einem Korb auf seinem Rücken.

Ein Team von Forscher:innen äußert sich besorgt über die Vorherrschaft der großen Tech-Konzerne in der KI-Forschungslandschaft. Besonders deren Basismodelle hätten zu großen Einfluss auf eine Vielzahl von KI-Anwendungen. Sie befürchten ein Einfallstor für diskriminierende Sprache.

Roboter vor einem Kasten mit Roboterteilen.

Dass automatisierte Entscheidungen zu Problemen führen, ist mittlerweile bekannt. Für die Betroffenen gibt es oft keine Möglichkeit, sich zu beschweren. Die Plattform Unding will jetzt dafür sorgen, dass Stimmen zu Negativbeispielen an den richtigen Stellen gehört werden.

Diskriminierung

OnlyFans-Gesetz in Schweden: Gefährlicher Angriff auf die sexuelle Selbstbestimmung

EU-Regeln für KI-Modelle: Wenn meine KI keinen Atomkrieg startet, darf sie dann rassistisch sein?

Predictive Policing: Großbritannien will berechnen, wer zum Mörder wird

Elektronische Patientenakte: Deutsche Aidshilfe warnt vor Diskriminierung

Interview zu Gesundheitsdigitalisierung: „Wir brauchen maximale, handhabbare Selbstbestimmung“

Frankreich: Algorithmus weist Arbeitslosen ein höheres Risiko zu

Meta Verified: Klarnamenpflicht als Risiko für marginalisierte Gruppen

Plattformarbeit: Wie Ungleichheiten in die digitale Arbeitswelt mitziehen

Datenrassismus: Und wieder verkündet Facebook das Ende diskriminierender Werbung

Ratgeber von Algorithm Watch: Automatisierte Diskriminierung erkennen und benennen

Datendiskriminierung: Wenn Maschinen über Menschen entscheiden

Trans und nicht-binäre Personen in der Wikipedia: Die editierte Identität

Childcare benefits scandal: Dutch government to pay million Euro fine over racist data discrimination

Anti-Rassismus: Airbnb blendet in Oregon Namen und Gesichter von Gästen aus

Kindergeldaffäre: Niederlande zahlen Millionenstrafe wegen Datendiskriminierung

LGBTIQ: Studie zeigt drastisches Ausmaß der Online-Zensur in autoritären Staaten

Queerness in Games: Verzerrte Spiegel

Datenrassismus: Wenn Algorithmen den Hauskredit verweigern

Sprachverarbeitende KI: Basismodelle von Google und Co öffnen Diskriminierung Tür und Tor

AlgorithmWatch: Widerspruch mit ein paar Klicks