zwei Galtonbretter veranschaulichen normale Verteilung
Öffentlichkeit

Ratgeber von Algorithm WatchAutomatisierte Diskriminierung erkennen und benennen

Individualisierte Preise im Onlinehandel oder Benachteiligung beim Abschließen einer Versicherung auf der Webseite: Die Fälle automatisierter Diskriminierung häufen sich, nicht immer sind sie leicht zu erkennen. Ein neuer Ratgeber soll Antidiskriminierungsstellen und Betroffenen helfen.

Lesen Sie diesen Artikel: Automatisierte Diskriminierung erkennen und benennen
Auf einem weißen Tisch vor weißem Hintergrund sind 9 gelbe Lego-Köüfe zu sehen. Sie haben alle unterschiedliche Emotionen. Manche schauen wütend, andere Lachen, andere weinen oder sehen besorgt aus.
Datenschutz

EmotionsanalyseUngarische Bank muss deftige Strafe zahlen

Wegen „schwerwiegender Verstöße gegen die Datenschutzgrundverordnung“ hat die ungarische Datenschutzbehörde die Budapest Bank zu einer hohen Geldstrafe verurteilt. Die Bank hatte mittels einer Software Kundengespräche analysiert und die Emotionen ausgewertet. Scheinbar Unzufriedene wurden dann auch noch von der Bank telefonisch kontaktiert.

Lesen Sie diesen Artikel: Ungarische Bank muss deftige Strafe zahlen
Technologie

IEEE 7000Neuer technischer Standard soll intelligente und autonome Systeme ethischer machen

Technologien im Sinne der Menschen statt im Sinne des Überwachungskapitalismus erhofft sich Sarah Spiekermann durch einen neuen Standard des großen Ingenieursverbands IEEE. Seit dieser Woche ist der Standard gültig.

Lesen Sie diesen Artikel: Neuer technischer Standard soll intelligente und autonome Systeme ethischer machen
Gezeichnet: Mann sammelt Sprechblasen vom Boden auf und steckt sie in einem Korb auf seinem Rücken.
Technologie

Sprachverarbeitende KIBasismodelle von Google und Co öffnen Diskriminierung Tür und Tor

Ein Team von Forscher:innen äußert sich besorgt über die Vorherrschaft der großen Tech-Konzerne in der KI-Forschungslandschaft. Besonders deren Basismodelle hätten zu großen Einfluss auf eine Vielzahl von KI-Anwendungen. Sie befürchten ein Einfallstor für diskriminierende Sprache.

Lesen Sie diesen Artikel: Basismodelle von Google und Co öffnen Diskriminierung Tür und Tor
Smartphone mit YouTube Logo auf Display
Öffentlichkeit

YouTube-StudieEmpfehlungsalgorithmus arbeitet gegen eigene Richtlinien

Der Algorithmus von YouTube empfiehlt nicht selten bedenkliche Inhalte, die gegen eigene Richtlinien verstoßen. In welchem Ausmaß das geschieht, belegt eine neue Studie der Mozilla-Organisation mit Hilfe eines Crowdsourcing-Projektes. Besonders betroffen seien dabei nicht-englischsprachige Nutzer*innen.

Lesen Sie diesen Artikel: Empfehlungsalgorithmus arbeitet gegen eigene Richtlinien
Frau vor Wand mit Datensätzen
Technologie

KI im Journalismus„Laschet, Scholz oder Baerbock hätten wir nicht synthetisieren dürfen“

Der Innovation Hub des WDR hat in einem Zukunftsreport mögliche Szenarien vorgestellt, wie künstlich generierte Medieninhalte künftig den Journalismus prägen könnten. netzpolitik.org hat mit den beiden Innovationsmanager*innen Christina Schamp und Philipp Sevenich über Möglichkeiten und Herausforderungen gesprochen.

Lesen Sie diesen Artikel: „Laschet, Scholz oder Baerbock hätten wir nicht synthetisieren dürfen“
Arbeitest du noch?
Überwachung

BosswareGewerkschaften warnen vor KI-Überwachung am Arbeitsplatz

Zahlreiche Firmen bieten Software an, die Beschäftigten am Arbeitsplatz automatisiert überwacht. Der Einsatz solcher Systeme ist nach Ansicht von Gewerkschaftsverbänden bereits rechtswidrig, es fehle aber an speziellen und strengen Regeln gegen den Missbrauch.

Lesen Sie diesen Artikel: Gewerkschaften warnen vor KI-Überwachung am Arbeitsplatz
Software-Quellcode
Öffentlichkeit

HandelsabkommenEU will Verbot von Offenlegungspflicht für Quellcode

Knapp 90 Staaten verhandeln hinter verschlossenen Türen in Genf über einen Vertrag, der digitale Handelsschranken abbauen soll. Dabei drängte die EU auf eine Regel, die IT-Sicherheit gefährden und Algorithmen-Transparenz verhindern könnte, fürchten Abgeordnete.

Lesen Sie diesen Artikel: EU will Verbot von Offenlegungspflicht für Quellcode
Künstliche Intelligenz
Technologie

Künstliche IntelligenzEU verbietet automatisierte Gesichtserkennung an öffentlichen Orten – „mit wenigen Ausnahmen“

Die EU-Kommission hat erstmals ein Gesetz zur Regulierung von automatisierten Entscheidungssystemen vorgelegt. „Massenüberwachung“ durch KI soll damit verboten werden, biometrische Echtzeit-Überwachung soll in einigen Fällen aber erlaubt bleiben.

Lesen Sie diesen Artikel: EU verbietet automatisierte Gesichtserkennung an öffentlichen Orten – „mit wenigen Ausnahmen“
Roboter
Technologie

KI-GesetzEU-Kommission möchte Social Scoring verbieten

Die Europäische Kommission soll schon nächste Woche ein Gesetz vorlegen, dass Künstliche Intelligenz strenger reguliert. Social-Credit-Systeme wie in China sollen verboten werden, biometrische Überwachung im öffentlichen Raum wird als „hochriskant“ eingestuft. Das geht einigen EU-Abgeordneten aber nicht weit genug.

Lesen Sie diesen Artikel: EU-Kommission möchte Social Scoring verbieten