Für die Bertelsmann Stiftung hat Konrad Lischka einen umfassenden Überblick über Anwendungsfälle algorithmischer Entscheidungsfindungsverfahren verfasst. Das Arbeitspapier setzt sich mit insgesamt neun Einsatzfeldern auseinander, von gerichtlichen Rückfallprognosen über Bewerbervorauswahlen und Kreditvergaben bis zu Predictive Policing. Neben deskriptiven Elementen beleuchtet das Papier aus der Perspektive der Teilhabegerechtigkeit Chancen und Risiken.
Zusammenfassend wirbt das Papier für einen genauen Blick auf den Einsatzkontext und die Gestaltung der Entscheidungsverfahren und benennt Fehlerquellen sowie teilhabekritische Spannungsfelder. Außerdem betont es die Notwendigkeit einer öffentlichen Nachvollziehbarkeit des Einsatzes von Algorithmic Decision Making (ADM):
Die Analyse der Chancen, Risiken und gesellschaftlichen Folgen war nur möglich, weil unabhängige Dritte die Güte der maschinellen Entscheidungen prüfen konnten. Institutionen wie das Recherchebüro Propublica (…), der US-Rechnungshof (…) oder die Schülervertretungsorganisation Droits des lycéens (…) haben Zeit und Geld in Datenbeschaffung, Datenauswertung und juristische Auseinandersetzung investiert, um Erklärbarkeit und Nachvollziehbarkeit der jeweils eingesetzten Algorithmen herzustellen. Von solchen Institutionen hängt derzeit ab, ob eine gesellschaftliche Debatte über die Wirkung bestimmter ADM-Prozesse überhaupt möglich ist. Das muss sich ändern. Denn Überprüfbarkeit und Nachvollziehbarkeit algorithmischer Entscheidungen sind eine unverzichtbare Erkenntnisgrundlage für einen lösungsorientierten gesellschaftlichen Diskurs mit dem Ziel, dass ADM-Prozesse für mehr Teilhabe gestaltet werden und maschinelle Entscheidungen den Menschen dienen.