In dieser Folge geht es um einen Algorithmus, der weitreichende Folgen hat. Chris Köver spricht mit der Mathematikerin Paola Lopez über die Frage, die in Österreich und darüber hinaus gerade viele Gemüter aufregt: Sollte der Staat algorithmische Systeme einsetzen dürfen, um Prognosen über Menschen zu treffen?
Konkret geht es um ein System, das die österreichischen Arbeitsmarktservices (AMS) ab kommendem Jahr einsetzen, um die Chancen von Arbeitssuchenden am Jobmarkt vorherzusagen. Auf Basis der Ergebnisse ordnet das System – „Arbeitsmarkt-Chancen-Modell“ genannt – die Arbeitslosen in drei Kategorien. Je nachdem, wie gut oder schlecht ihre Aussichten stehen, binnen einer bestimmten Frist wieder einen Job zu finden, bekommen sie teure Weiterbildungen bezahlt oder auch nicht. Dieses System läuft bereits in einem Testbetrieb, ab 2020 soll es landesweit seine Arbeit aufnehmen – gefüttert mit den echten Daten echter Arbeitsloser.
„Arbeitsmarkt-Chancen-Modell? Besser wäre: Diskriminierungs-Barometer“
Dass der Algorithmus kommt, ist beschlossene Sache. Noch lange nicht abgeschlossen sind dagegen die politischen Auseinandersetzungen rund um das Systems. Sollte man eine Maschine überhaupt für so eine Aufgabe einsetzen dürfen? Wie sollen die Mitarbeiter*innen erkennen, ob das System daneben liegt? Und kann der Algorithmus überhaupt fair sein, wenn offen dokumentiert ist, dass Faktoren wie Alter, Geschlecht, Kinder, Behinderungen oder Nationalität explizit in die Bewertung mit einfließen und zu einem Punktabzug führen?
Darum dreht sich der Streit. Auf der einen Seite stehen dabei kritische Wissenschaftler*innen, auf der anderen das AMS, dessen Leiter Johannes Kopf den Einsatz des Systems mit Verve verteidigt.
Paola Lopez ist Mathematikerin an der Universität Wien und eine von fünf Wissenschaftler*innen, die vor kurzem in einem offenen Brief den Einsatz des Systems aus wissenschaftlicher Sicht kritisiert haben . Sie hat auch die erste wissenschaftliche Arbeit zum Algorithmus des AMS geschrieben.Sie erklärt, warum man ihrer Meinung nach statt „Arbeitsmarkt-Chancen-Modell“ eigentlich besser von einem „Diskriminierungs-Barometer“ sprechen sollte.
Shownotes
- Das Paper von Paola Lopez zum „Arbeitsmarkt-Chancen-Modell“ ist bereits als Pre-Print vorab auf ihrer Homepage verfügbar und erscheint demnächst in: Critical Issues in Science, Technology and Society Studies. Conference Proceedings of the 18th STS Conference Graz 2019, 6th-7th May 2019. Graz: Verlag der Technischen Universität Graz.
- Die Dokumentation des „AMS-Arbeitsmarkt-Chancen-Modells“, erstellt von der Synthesis Forschung GmbH (PDF)
- Offener Brief von Paola Lopez, Ben Wagner und weiteren Wissenschaftler*innen an das AMS (futurezone.at)
- Offene Antwort von AMS-Chef Johannes Kopf (futurezone.at)
- Kritik der Ethikerin Sarah Spiekermann: Warum das AMS keine KI auf österreichische Bürger loslassen sollte (DerStandard.at)
- Recherche von Barbara Wimmer: Profitieren Frauen wirklich von der Einführung der Bewertung per Computer vom AMS, oder werden sie diskriminiert? (futurezone.at)
- Die Vorschläge der Datenethikkommission zum Update des Diskriminierungsschutzes für algorithmische Entscheidungssysteme (PDF, Punkt 53)
- Cathy O’Neills Buch „Weapons of Math Destruction“ mit vielen Beispielen für diskriminierende Algorithmen aus den USA (Wikipedia)
- Einschätzung von Judith Püringer, Chefin von Arbeit plus. zum Richtungswechsel des AMS (DerStandard.at)
NPP ist der monatliche Podcast von netzpolitik.org. Ihr könnt den Podcast auch auf Spotify abonnieren oder als mp3 und als ogg-Datei herunterladen. Wie immer freuen wir uns über eure Kommentare, Wünsche und Verbesserungsvorschläge. Und wir freuen uns über Bewertungen auf den üblichen Podcast-Portalen, denn mit vielen guten Bewertungen steigt die Sichtbarkeit.
Ich möchte zwei mE noch wesentliche Punkte ergänzen:
Das AMS vergibt Fördermittel nicht nur nach dieser Einschätzung durch den Algorithmus, es gibt auch sogenannte Zielgruppen beim AMS. Damit werden Fördermittel direkt für eine bestimmte Zielgruppe festgesetzt; dies sind beispielsweise die Zielgruppen Frauen, Ältere Arbeitssuchende etc. Die Zugehörigkeit zu einer dieser Zielgruppen „sticht“ die algorithmische Zuordnung. Sprich es stehen für besondere Gruppen dennoch Fördermittel zur Verfügung.
Zusätzlich halte ich es für unvollständig, wenn nur ‚bis‘ hin zu einer Effizienssteigerung des AMS diskutiert wird. Denn eine Effizienzsteigerung der eingesetzten Mittel bedeutet vielleicht auch, den arbeitssuchenden Menschen schnell eine Perspektive zu eröffnen. Häufig wurde als Beispiel die teure Facharbeiterintensivausbildung diskutiert, die nun der Gruppe mit niedrigen Integrationschancen nicht mehr offen steht. Doch hierbei sollte auch nicht vergessen werden, dass es einerseits andere Angebote gibt und vor allem auch, dass lange Fort- und Ausbildungen eben nicht das Allheilmittel für alle sind. Und auch nicht alle davon profitieren, über einen oftmals langen Zeitraum vom Arbeitsmarkt weg zu sein, auch wenn am Ende ein Lehrabschluss oä. winkt. Zusätzlich birgt eine solche Facharbeiterintensivausbildung auch immer die Gefahr des Scheiterns – auch eine Förderung einer teuren Ausbildung bedeutet nicht gleichzeitig, dass diese erfolgreich (oder überhaupt) abgeschlossen werden kann.