Schlagwort: automatisierte Entscheidungen

Zu sehen sind Fragmente einer zerstörten Stadt. Im Vordergrund ist eine menschliche Silhouette zu sehen. Zwischen den angedeuteten Formen fliegen Vögel, bei denen es sich um Tauben handeln könnte.

Die israelische Armee soll ein KI-gestütztes System eingesetzt haben, um Ziele in Gaza zu markieren. Die Fehlerraten solcher Technologien seien groß, warnt der Verein „Forum InformatikerInnen für Frieden“ und fordert deren Ächtung. Ein Interview mit Rainer Rehak, der das Papier mitgeschrieben hat.

Eine weiße Hand vor dem Hintergrund der EU-Flagge, die einen Daumen nach unten zeigt

Die Datenschutzgrundverordnung gilt als Meilenstein der europäischen Digitalpolitik. Doch auch nach fünf Jahren läuft längst nicht alles rund. Wir haben die fünf größten Tops und Flops der DSGVO analysiert. Hier: Die großen Schwächen.

Ein Auto mit Kameras sucht in Amsterdam automatisiert nach Falschparkern.

Die Niederlande wollen vormachen, wie sich automatisierte Entscheidungssysteme einhegen lassen. Skandale wie die Kindergeldaffäre sollen mit einer neuen Algorithmenaufsicht und Transparenzregistern verhindert werden. Davon könnte sich die EU eine Scheibe abschneiden und den AI Act verbessern.

Individualisierte Preise im Onlinehandel oder Benachteiligung beim Abschließen einer Versicherung auf der Webseite: Die Fälle automatisierter Diskriminierung häufen sich, nicht immer sind sie leicht zu erkennen. Ein neuer Ratgeber soll Antidiskriminierungsstellen und Betroffenen helfen.

In Österreich werden Arbeitslose automatisch in Kategorien sortiert, in den Niederlanden suchten Gemeinden automatisiert nach Sozialbetrüger:innen. Was macht es mit der Zivilgesellschaft, wenn Staaten High-Tech-Tools gegen ihr Volk richten?

Die EU arbeitet an einem Regelwerk für den Einsatz von KI, Algorithmen und automatisierten Entscheidungen. Sie könnte damit global Standards setzen. Doch für die Bundesregierung hat der Vorschlag der EU-Kommission große Schwächen.

Kind gibt Roboter die Hand und schaut dabei in die Kamera

Automatisierte Entscheidungssysteme werden seit Jahren in sensiblen Bereichen wie Medizin und Bildung eingesetzt. Doch bisher gibt es keine Regelungen um Unternehmen zur Verantwortung zu ziehen. Das soll sich jetzt ändern. Sowohl die USA als auch Europa arbeiten an Gesetzesentwürfen zur Regulierung automatisierter Entscheidungen. Was steht drin?

Lanschaft, Himmel in Orange, Bäume in Blau und Lila

Ist künstliche Intelligenz nur ein Monster kapitalistischen Wachstums, das uns auffrisst? Unsere Gastautorin denkt lieber über die kollektive menschliche Intelligenz hinter KI nach – und ihre Möglichkeiten.

Die Europäische Kommission soll schon nächste Woche ein Gesetz vorlegen, dass Künstliche Intelligenz strenger reguliert. Social-Credit-Systeme wie in China sollen verboten werden, biometrische Überwachung im öffentlichen Raum wird als „hochriskant“ eingestuft. Das geht einigen EU-Abgeordneten aber nicht weit genug.

Roboter vor einem Kasten mit Roboterteilen.

Dass automatisierte Entscheidungen zu Problemen führen, ist mittlerweile bekannt. Für die Betroffenen gibt es oft keine Möglichkeit, sich zu beschweren. Die Plattform Unding will jetzt dafür sorgen, dass Stimmen zu Negativbeispielen an den richtigen Stellen gehört werden.

In Österreich streiten die Behörden seit Jahren über ein System, das Jobchancen von Arbeitssuchenden vorhersagen soll. Nun landet der Fall vor dem obersten Verwaltungsgericht.

In Österreich darf ein Algorithmus zur Vorhersage von Jobchancen nun doch wieder eingesetzt werden. Das Bundesverwaltungsgericht hatte Anfang der Woche ein Verbot der Datenschutzbehörde wieder aufgehoben. Damit könnte das System ab dem Frühjahr bundesweit zum Einsatz kommen.

automatisierte Entscheidungen

Interview mit Rainer Rehak: „Die Nutzung solcher KI-Systeme muss als Kriegsverbrechen eingestuft werden“

5 Jahre Datenschutzgrundverordnung: Die fünf größten Schwächen der DSGVO

Aufsicht und Transparenz: Wie die Niederlande aus KI-Skandalen lernen

Ratgeber von Algorithm Watch: Automatisierte Diskriminierung erkennen und benennen

Datendiskriminierung: Wenn Maschinen über Menschen entscheiden

Stellungnahme zum AI Act: Ampel will EU-weites Transparenzregister für Behörden

AI Act vs. Algorithmic Accountability Act: Wie die EU und die USA Algorithmen regulieren wollen

Künstliche Intelligenz: Glücksmaschinen bauen

AlgorithmWatch: Widerspruch mit ein paar Klicks

Österreich: Jobcenter-Algorithmus landet vor Höchstgericht

Automatisierte Entscheidungen: Gericht macht Weg für den AMS-Algorithmus wieder frei