Die österreichische Datenschutzbehörde hat laut Medienberichten eine folgenreiche Entscheidung getroffen: Sie stoppt mit einem Bescheid ein umstrittenes algorithmisches System zur Kategorisierung von Jobsuchenden wegen rechtlicher Bedenken. Der laufende Testbetrieb des Algorithmus wird eingestellt.

2018 hatte das Arbeitsmarktservice (AMS) angekündigt, künftig die Chancen von Arbeitssuchenden mit einem automatisierten System zu bewerten. Der Algorithmus teilt Menschen auf Basis von Daten wie Ausbildung, Alter und Geschlecht in drei Kategorien ein, denjenigen in der untersten Kategorie bleibt der Zugang zu teuren Fortbildungen verwehrt. Das System sollte eigentlich mit 1. Januar 2021 in den regulären Betrieb übergehen, allerdings verzögerte sich der Start wegen der Corona-Pandemie.

Laut der AMS-Führung sollte der Algorithmus den menschlichen Berater:innen lediglich als Entscheidungshilfe dienen, allerdings fürchteten Kritiker:innen des Projekts, dass die Urteile des Computers in der Praxis unumstößlich würden. Menschen mit geringen Jobchancen würden damit benachteiligt, ihre Diskriminierung noch einzementiert. Die Menschenrechts-NGO epicenter.works und weitere Organisationen starteten zuletzt die Kampagne „Stoppt den AMS-Algorithmus“.

Auch einige Wissenschaftler:innen übten Kritik: Das System sei nicht transparent und seine Entscheidungen schwer nachzuprüfen. Der Algorithmus verstärke zudem die Diskriminierung von Frauen auf dem Arbeitsmarkt.

Fehlende Einwilligung und Berufungsmöglichkeit

Zuletzt schaltete sich auch die Datenschutzbehörde ein. Sie urteilte nun in einem Bescheid, dass dem AMS für die folgenreiche Auswertung von persönlichen Profilen die Einwilligung der Betroffenen fehle. Auch bemängelte die Behörde, dass die Betroffenen keine Möglichkeit zum Einspruch gegen Entscheidungen des Algorithmus hätten. Über den Bescheid der Datenschutzbehörde berichteten übereinstimmend die Zeitungen Der Standard und Kurier. Die Datenschutzbehörde selbst äußerte sich am Freitag zunächst nicht.

Die Datenschutzbehörde spielt mit ihrer Entscheidung den Ball der Politik zu. Für den Betrieb des AMS-Algorithmus fehle eine gesetzliche Grundlage, urteilt die Behörde. Gefragt ist nun die österreichische Koalitionsregierung aus der konservativen ÖVP und den Grünen. In ihrem Regierungsprogramm bekennt sie sich grundsätzlich zu dem algorithmischen Entscheidungssystem, dieses soll „evaluiert, adaptiert und weiterentwickelt“ werden.

Das österreichische Ministerium für Arbeit, Familie und Jugend wollte auf Anfrage von netzpolitik.org keine Antwort auf die Frage geben, ob die Regierung nun plane, ein eigenes Gesetz zur Einführung des Algorithmus zu schaffen. Das Ministerium werde den Bescheid prüfen und dann das weitere Vorgehen bekanntgeben, sagte ein Sprecherin.