Österreich

Datenschutzbehörde stoppt Jobcenter-Algorithmus

Ein automatisiertes System sollte in Österreich über Ausbildungschancen von Arbeitssuchenden urteilen. Doch die Datenschutzbehörde stoppte das Projekt und fordert eine gesetzliche Grundlage.

Das Arbeitsmarktservice in Österreich
Für viele Jobsuchende ein Schicksalstor: Der Eingang der AMS-Zweigstelle in Wien-Margarethen CC-BY 4.0 Alexander Fanta

Die österreichische Datenschutzbehörde hat laut Medienberichten eine folgenreiche Entscheidung getroffen: Sie stoppt mit einem Bescheid ein umstrittenes algorithmisches System zur Kategorisierung von Jobsuchenden wegen rechtlicher Bedenken. Der laufende Testbetrieb des Algorithmus wird eingestellt.

2018 hatte das Arbeitsmarktservice (AMS) angekündigt, künftig die Chancen von Arbeitssuchenden mit einem automatisierten System zu bewerten. Der Algorithmus teilt Menschen auf Basis von Daten wie Ausbildung, Alter und Geschlecht in drei Kategorien ein, denjenigen in der untersten Kategorie bleibt der Zugang zu teuren Fortbildungen verwehrt. Das System sollte eigentlich mit 1. Januar 2021 in den regulären Betrieb übergehen, allerdings verzögerte sich der Start wegen der Corona-Pandemie.

Laut der AMS-Führung sollte der Algorithmus den menschlichen Berater:innen lediglich als Entscheidungshilfe dienen, allerdings fürchteten Kritiker:innen des Projekts, dass die Urteile des Computers in der Praxis unumstößlich würden. Menschen mit geringen Jobchancen würden damit benachteiligt, ihre Diskriminierung noch einzementiert. Die Menschenrechts-NGO epicenter.works und weitere Organisationen starteten zuletzt die Kampagne „Stoppt den AMS-Algorithmus“.

Auch einige Wissenschaftler:innen übten Kritik: Das System sei nicht transparent und seine Entscheidungen schwer nachzuprüfen. Der Algorithmus verstärke zudem die Diskriminierung von Frauen auf dem Arbeitsmarkt.

Fehlende Einwilligung und Berufungsmöglichkeit

Zuletzt schaltete sich auch die Datenschutzbehörde ein. Sie urteilte nun in einem Bescheid, dass dem AMS für die folgenreiche Auswertung von persönlichen Profilen die Einwilligung der Betroffenen fehle. Auch bemängelte die Behörde, dass die Betroffenen keine Möglichkeit zum Einspruch gegen Entscheidungen des Algorithmus hätten. Über den Bescheid der Datenschutzbehörde berichteten übereinstimmend die Zeitungen Der Standard und Kurier. Die Datenschutzbehörde selbst äußerte sich am Freitag zunächst nicht.

Die Datenschutzbehörde spielt mit ihrer Entscheidung den Ball der Politik zu. Für den Betrieb des AMS-Algorithmus fehle eine gesetzliche Grundlage, urteilt die Behörde. Gefragt ist nun die österreichische Koalitionsregierung aus der konservativen ÖVP und den Grünen. In ihrem Regierungsprogramm bekennt sie sich grundsätzlich zu dem algorithmischen Entscheidungssystem, dieses soll „evaluiert, adaptiert und weiterentwickelt“ werden.

Das österreichische Ministerium für Arbeit, Familie und Jugend wollte auf Anfrage von netzpolitik.org keine Antwort auf die Frage geben, ob die Regierung nun plane, ein eigenes Gesetz zur Einführung des Algorithmus zu schaffen. Das Ministerium werde den Bescheid prüfen und dann das weitere Vorgehen bekanntgeben, sagte ein Sprecherin.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

2 Ergänzungen
  1. Der Testbetrieb läuft weiterhin

    „Die Datenschutzbehörde hat nun den Einsatz des Systems ab 1.1.2021 untersagt“

    ich weiß nicht woher ihr die Info haben wollt, dass der derzeitige Betrieb des Systems eingestellt wurde

    1. Wie es im Text heißt, hat die Datenschutzbehörde den regulären Betrieb des algorithmischen Entscheidungssystems, der ab 1. Januar 2021 geplant war, untersagt. Im Text heißt es auch, dass der (bis dahin) laufende Testbetrieb eingestellt wird. Es sei denn, bis dahin wird eine neue Rechtsgrundlage geschaffen. So berichten es österreichische Medien: https://www.vol.at/testbetrieb-zum-ams-algorithmus-laeuft-noch-weiter/6713969

      Gegenteilige Informationen sind mir nicht bekannt, lasse mich aber gerne eines Besseren belehren.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.