Thesenpapier: Verbraucherschützer wollen Algorithmen-Kontrolle institutionalisieren

Die Diskussion um die Regulierung von algorithmischen Entscheidungsprozessen ist seit der vergangenen Woche um einige konkrete Anregungen reicher. Unter der Überschrift „Algorithmen transparent gestalten“ veranstaltete der Verbraucherzentrale Bundesverband (vzbv) eine Konferenz und veröffentlichte ein Thesenpapaier mit mehreren Vorschlägen [PDF]. Das Ziel der Verbraucherschützer ist es, dass algorithmenbasierte Entscheidungsprozesse (Algorithmic Decision Making, kurz ADM) so gestaltet werden, dass sie die Entscheidungssouveränität und informationelle Selbstbestimmung von Verbrauchern gewährleisten. Hierfür müsse ein staatlich legitimiertes Kontrollsystem geschaffen werden.

Vielschichtiges Kontrollsystem

Hintergrund der aktuellen Debatte ist, dass Algorithmen zunehmend über individuelle Lebenschancen entscheiden und von Staat und Verwaltung zur Steuerung von gesellschaftlichen Prozessen eingesetzt werden. Problematisch ist, dass die Mechanismen solcher Entscheidungen kaum nachvollziehbar sind. Entwickler und Anwender berufen sich auf Geschäftsgeheimnissse und eine nicht vermittelbare Komplexität ihrer Systeme. Auch der vzbv begründet den Handlungsbedarf mit der zunehmenden gesellschaftlichen Relevanz von algorithmisch vorbereiteten oder getroffenen Entscheidungen:

Es ist davon auszugehen, dass algorithmenbasierte Entscheidungsprozesse zunehmend entscheidenden Einfluss auf Fragen der Lebensgestaltung, Teilhabemöglichkeiten, Konsumentscheidungen und Autonomie jedes Einzelnen sowie auf die Gesellschaft insgesamt haben werden. Diese können sowohl Chancen bieten als auch Risiken bergen und grundlegende ethische Fragen aufwerfen, etwa zur Autonomie und Fremdbestimmung von Verbrauchern.

Algorithmische Entscheidungsprozesse müssten durch Menschen kontrollierbar sein und bleiben. Dafür dürften die Prozesse jedoch nicht zu intransparent sein. In seinem Thesenpapier macht der vzbv deshalb nun einen Vorschlag, wie ein staatlich legitimiertes Kontrollsystem für die verbraucherbezogene Anwendung von ADM-Prozessen aussehen könnte. Wichtig sei bei einem solchen Kontrollsystem, dass es vielschichtig zusammengesetzt ist und in keiner Weise die freie Meinungsäußerung beschränkt.

Als ein Element der internen Kontrolle wären demnach betriebliche Algorithmenbeauftragte denkbar, angelehnt an die Institution betrieblicher Datenschutzbeauftragten. Ein erweitertes Informationsfreiheitsgesetz könne Auskunftsrechte über ADM-Prozesse stärken. Zudem schlägt der Verband vor, staatliche Stellen ähnlich der Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin), einzurichten. Auch die Idee von Vereinen, die wie der TÜV in staatlichem Auftrag Systeme überprüfen, wird aufgegriffen.

Transparenz in drei Schritten

Der Verband hat sich zudem Gedanken über einen möglichen Arbeitsprozess eines solchen Kontrollsystems gemacht. ADM-Prozesse sollen nach einem festen Schema in drei Schritten geprüft werden.

Der erste Schritt müsse in der Prüfung der Relevanz eines ADM-Prozesses hinsichtlich seiner Auswirkungen auf Individuum und Gesellschaft sein. Besonders wichtig sind demnach Prozesse, die mit Risiken für Leben und Gesundheit von Verbrauchern verbunden sind, wie beispielsweise beim autonomen Fahren. Weitere Relevanzkriterien seien noch zu entwickeln. Sie könnten sich aber beispielsweise an der der politischen und ökonomischen Macht der Betreiber eines algorithmischen Entscheidungssystems orientieren. Ein weiteres Kriterium wäre die Abhängigkeit der Verbraucher vom Zugang zu einem speziellen Gut oder Dienst. Weitere Ansatzpunkte könnten das Risiko einer Diskriminierung oder die Größe der Auswirkung eines ADM-Prozesses für die Lebensgestaltung von Verbrauchern sein.

Aus der Prüfung der Relevanz könne sich dann in einem zweiten Schritt ein Bedarf auf Einsichtnahme ergeben. Im Zuge dessen würde ein ADM-Prozess auf die Sachgerechtigkeit seiner Anwendung sowie seine Rechtskonfomität geprüft. Eine Rolle könnten hier Antidiskriminierungsrecht, Lauterkeitsrecht und Datenschutzrecht spielen.

Sofern sich aus den ersten beiden Schritten ein Handlungsbedarf ergibt, würden im dritten Schritt des Prüfschemas fallspezifische Maßnahmen erörtert. Anwender von ADM-Prozessen könnten danach zu größerer Transparenz gegenüber Verbrauchern oder zur Anpassung ihrer Prozesse verpflichtet werden. Als Ultima Ratio müsse der Einsatz von ADM in einem konkreten Kontext auch gänzlich untersagt werden können.

Es besteht Diskussions- und Handlungsbedarf

Wir berichteten letzte Woche bereits über die aktuelle Debatte zum politischen und rechtlichen Umgang mit ADM-Prozessen. Auf einer Konferenz des Kompetenzzentrums Öffentliche IT am Fraunhofer-Institut für Offene Kommunikationssysteme diskutierten Vertreter aus Wissenschaft, Politik und Zivilgesellschaft unterschiedliche Ansätze, wie man ADM-Prozesse transparenter machen und besser regulieren könnte.

Auch dort sprachen sich die Experten dafür aus, staatliche Kontrollinstitutionen einzurichten. Ebenso müsse man die Forschung ausweiten und konkrete Auskunftspflichten für Betroffene implementieren. Eine rechtliche Regulierung könnte am Informationsfreiheitsgesetz oder Allgemeinen Gleichbehandlungsgesetz ansetzen, so die Vortragenden.

Der Transparenz-Ansatz des vzbv fügt sich insofern gut in die Vielfalt der Regulierungsideen ein. Eine institutionalisierte Prüfung für ADM-Prozesse scheint ein vielversprechender erster Schritt zu sein. Gleichwol besteht weiterer Diskussionsbedarf. Denn die Fragen, woran genau festgemacht werden soll, ob bestimmte ADM-Prozesse signifikant für Individuum und Gesellschaft sind, wie spezifische Relevanzkriterien aussehen könnten und wer sie festlegen soll, bleibt bisher auch vom vzbv nur grob skizziert.

Wer mehr sich mehr über das Thema informieren möchte, findet hier einen Rückblick zu der vzbv-Veranstaltung „Algorithmen transparent gestalten“. Zudem kann man sich in diesem kurzen Audiobeitrag die wichtigsten Thesen der verschiedenen Referenten im O-Ton anhören.