Die spanische Supermarktkette Mercadona bringt seit Neuestem automatisierte Gesichtserkennungssysteme mit der Begründung zum Einsatz, Diebstahl eindämmen zu wollen. Die Software soll in vierzig der über 1.600 Einkaufsmärkte im Testbetrieb laufen und Menschen aufspüren, die ein gerichtliches Zutrittsverbot im Supermarkt haben.
Die Mercadona-Kette, die besonders in Barcelona, Madrid, Alicante, Castellón, Saragossa, Mallorca und Valencia verbreitet ist und in Spanien einen Marktanteil von über zwanzig Prozent hat, setzt auf ein System von AnyVision Interactive Technologies, an dem auch die deutsche Firma Bosch beteiligt ist. Das israelische Unternehmen bietet neben Gesichtserkennung auch weitere biometrische Systeme zur Vermessung von Körpermerkmalen an, die dem Hype folgend als Künstliche-Intelligenz-Systeme vermarktet werden.
Die Gesichtserkennung soll dem Diebstahl in den Filialen entgegenwirken. Nach eigenen Angaben belaufen sich die Verluste durch Diebstähle in Mercadona-Supermärkten auf etwa 250 Millionen Euro pro Jahr, was rund ein Prozent des Umsatzes des Konzerns ausmacht.
Die Software des Pilotversuchs soll allerdings nicht nach gewöhnlichen Ladendieben im Markt Ausschau halten, sondern nach den Gesichtern von rechtskräftig Verurteilten suchen, denen ein Zutrittsverbot ausgesprochen wurde. Die Referenz-Bilder stammen entsprechend aus den Gerichtsverfahren.
Was passiert mit den Daten der Gerasterten?
Angesichts der derzeit verbreiteten Maskennutzung aufgrund der Covid19-Pandemie, die das Vermessen von Gesichtern erschwert, scheint der Zeitpunkt des Biometrietests ungewöhnlich. Allerdings werben einige Anbieter damit, Gesichter trotz Masken erkennen zu können. Das behauptet AnyVision zwar nicht, betreibt in Israel aber Systeme zur Erkennung von Masken in Krankenhäusern. Das könnte auch für Supermärkte interessant sein, die eine Maskenpflicht durchsetzen wollen oder müssen. Dazu gehören die Mercadona-Supermärkte aber bisher nicht.
Gegenüber El Confidencial betont Mercadona, dass keine Daten der gerasterten Passanten aufgehoben würden. Man gebe nur die Ergebnisse an die Behörden weiter:
Permite detectar la infracción y, tras contrastar científicamente que se trata de esta persona, se notifica a las fuerzas y cuerpos de seguridad, responsables de hacer cumplir la medida en vigor adoptada por el juzgado correspondiente.
Es gehe also darum, Übertretungen von gerichtlichen Anordnungen zu detektieren, nachdem ein Gesicht verglichen und einem Rechtsverletzer zugeordnet wurde. In diesem Fall würden die entsprechenden Sicherheitsbehörden benachrichtigt, das System würde dann die Bilder selbständig löschen.
Kritiker sind damit nicht zufrieden. Dazu gehört Professor Borja Adsuara Varela, der die Supermarktkette öffentlich nach Details fragte und via Twitter auch eine Diskussion auslöste, indem er die Frage aufwarf, ob es denn verhältnismäßig sein könne, ein solches Gesichtserkennungssystem in Betrieb zu nehmen und dabei alle Kunden zu erfassen, wenn es doch eine sehr überschaubare Zahl von Personen geben dürfte, die gerichtlich festgestellt ein Zutrittsverbot zu den Läden von Mercadona hätten oder sich einem Mitarbeiter nicht nähern dürften.
Gesichtserkennung in anderen Supermärkten zurückgenommen
In den letzten Jahren hatten Supermarktketten in Europa mehrfach Pilotprojekte mit automatisierter Gesichtserkennung gestartet. In Deutschland waren im Jahr 2017 solche Gesichtserkennungssysteme beispielsweise in vierzig Filialen der Kette Real erprobt worden. Nach Protesten ließ man von der Fortführung des Tests aber ab. Populär ist biometrische Gesichtsvermessung ohnehin nicht: In Deutschland sprachen sich laut einer repräsentativen Umfrage mehr als drei Viertel der Menschen gegen eine Aufzeichnung und Auswertung von Gesichtern beim Einkaufen aus.
Mit gutem Grund ist Skepsis gegenüber automatisierter Gesichtserkennung angebracht, denn es geht schließlich um die anlasslose Vermessung und Auswertung von Körperdaten der Vorbeilaufenden. Die Erkennung von Gesichtern ist zwar über die Jahre qualitativ erheblich besser geworden, so dass die Fehlerquoten nicht mehr so drastisch sind. Damit reduzieren sich die Falscherkennungen, wenn also fälschlicherweise Passanten von der Software als Gesuchte ausgegeben werden und ihnen damit das Leben schwergemacht wird. Allerdings ist mit der Verbesserung der biometrischen Technologien auch ein enormes Missbrauchspotential entstanden. So werden heute etwa die Ethnien der Menschen besser erkannt, was zu automatisierter Diskriminierung führen kann.
Der Einsatz von Technologien zur Körpervermessung in privaten Räumen wie Einkaufsmärkten ist zudem oft wenig reguliert. Eine Auszeichnung ist in Europa zwar zwingend, allerdings müssen kommerzielle Unternehmen keine detaillierten Informationen zur Technik an ihre Kunden und andere Betroffene herausgeben.
Ganz prinzipiell würde ich kein Ladengeschäft betreten, das Gesichtserkennung verwendet, auch wenn es das einzige Geschäft im Ort wäre, konsequent und ausnahmslos.
Doch nun zu dem Fall: Woher stammen die Bilder mit denen verglichen wird? Kommen die von den Behörden oder wurden die Leute im Supermarkt fotografiert? So oder so eine dubiose Angelegenheit!
Es tut schon weh, zu lesen, dass die Firma BOSCH hier technologisch verwickelt ist. Schon bei Diesel- und Schummelsoftware hat man sich den Ruf ruiniert. Nun also auch noch mit Gesichtserkennung. Da helfen alle Bemühungen nichts mehr, sich mit diversen Stiftungen ethisch und moralisch die Weste rein zu waschen.
Wer gesellschaftlich schädliche Technologien vorantreibt, muss mit Boykott zum Umdenken gebracht werden. Herrgottsakramentaberau!
Halbautomatische Strafverfolgung via Gesichtserkennung ist natürlich super, betrachtet man die false positive Erkennungsrate. Zumal ja offenbar nichtmal eine Überprüfung in Echtzeit vorgesehen ist, sondern lediglich das Übertreten der Anordnung an eine Behörde weitergeleitet wird.
Viel Vergnügen, sechs Wochen später nachzuweisen, dass du NICHT in diesem Supermarkt warst.
Wir sollten die fixierung auf false positives als Gegenargument vermeiden.
Constanze lässt das oben im Text etwas durchklingen, aber ich möchte das nochmal hervorheben. Das Problem ist, dass false positives ein sehr starkes – im Sinne von leicht verständliches und überzeugendes – Gegenargument ist, das man aber umgehen kann, indem man entsprechend gute Software baut. Bei einer hinreichend geringen Fehlerrate ist das Argument dann hinfällig.
Ich beobachte, dass Befürworter daraus die Argumentation aufbauen, dass ja false positives das große Problem sind, also werfen wir mit Geld auf Softwareunternehmen und dann haben wir ethisch einwandfreie Gesichtserkennung.
Es gibt allerdings viel grundsätzlichere Probleme, die schon den Versuch, eine Gesichtserkennungssoftware zu bauen, verbieten sollten. Das kommt mir in der Diskussion häufig zu kurz.
Hier könnte man versuchen präziser zu werden.
Wäre eine bessere Software „perfekt“, welche Eigenschaften hätte sie?
– Braucht nur Fütterung mit Bildern von Gesuchten.
– Findet immer alle Gesuchten.
– Hat keine false positives.
– Führt zu keinerlei Weiterverwendung der lokal und temporär erhobenen biometrischen Daten Unbeteiligter.
Man könnte jetzt argumentieren, dass das System dann keinen Schaden anrichten würde.
Da gibt es leider Begehrlichkeiten, die lokal temporär erhobenen Daten Unbeteiligter zu benutzen, und die Systeme funktionieren nicht ohne Training und nicht ohne Bias und weit ab von Perfektion. Es könnte allerdings sein, dass es mit Fortschritten bei Scannertechnologien und spezilisierter Hardware da durchaus Annäherung geben könnte. Dann bleiben noch Problemchen wie geschaffen Akzeptanz und die bösartige Fütterung, sowie bösartige Gesetzesänderungen und Softwareupdates.
Dann ist es vielleicht auch nicht mehr so weit hin, bis diese Technik an den Gesundheitszustand der Kundinnen und Kunden geknüpft wird, der über den digitalen biometrischen Immunitätsausweis auszulesen ist, welcher von VTS nach Spanien verkauft zu werden scheint.