Protest: Künstler verwirrt KI-Überwachung mit Hypnose-Shirt

Der Künstler Simon Weckert hat nach eigener Aussage Kleidungsstücke entworfen, die zumindest beim Objekterkennungssystem YOLO dazu führten, dass die Träger:innen nicht automatisch als Personen erkannt werden.

Auf den ersten Blick wirke das „Digital Camouflage“ genannte Outfit wie „Kleidung mit einem abstrakten, fast hypnotischen Muster“, schreibt der Künstler auf seiner Webseite. Tatsächlich sei der Stoff jedoch so konzipiert, dass er die Objekterkennungsalgorithmen verwirre, die in Überwachungs‑, Sicherheits- und autonomen Systemen zum Einsatz kommen würden. Der Künstler verweist bei seinem Projekt auch auf die KI-Videoanalyse am Berliner Kottbusser Tor. Ob die Kleidung bei diesem spezifischen Erkennungssystem genauso funktioniert wie in seiner Testumgebung, ist allerdings nicht bekannt.

Techniken, die Gesichts- und Objekterkennung zumindest vorübergehend austricksten, wurden in den letzten Jahren immer wieder erfunden und präsentiert. So stellte beispielsweise Adam Harvey 2019 auf dem Chaos Communication Congress Schminkformen vor, die Gesichtserkennung in die Irre führten. Auch der Sicherheitsforscher Bill Swearingen hatte zuletzt sogenannte „Adverserial Pattern“ entwickelt, die Erkennungssysteme verwirren.

Überwachungssysteme lernen schnell

Kritiker:innen solcher Abwehr-Konzepte führen an, dass diese Techniken nur sehr kurz funktionierten und die Nutzer:innen in falscher Sicherheit wiegen würden. Denn die Unternehmen hinter Überwachungssystemen lernen ihre Software schnell auf die Ausweichmuster an und verbessern so die Technik. Das zeigte sich auch während der Corona-Pandemie, wo die Systeme erst Schwierigkeiten hatten, Maskenträger zu erkennen, dann aber immer besser darin wurden.

Letztlich handelt es sich um ein Katz- und Mausspiel – wirkliche Abwehr von invasiven Überwachungstechniken wie der Gesichts- und Verhaltenserkennung wird letztlich nur über den politischen Weg und Gesetze funktionieren, die diese Techniken verbieten oder drastisch einschränken.

Dass sein Kunstwerk keine Lösung für das Problem der Überwachung ist, ist dem Künstler selbst auch klar: „Das Werk ist kein Mittel, um sich der Polizei zu entziehen, und es ist kein Versprechen auf Anonymität“, schreibt er selbst. Es sei ein Testbild für uns alle. „Wenn ein Überwachungssystem durch ein Stück Stoff außer Kraft gesetzt werden kann, wie viel Vertrauen sollten wir dann in es setzen, bevor wir es auf den öffentlichen Raum loslassen?“

Weckert fällt schon seit Jahren mit Kunst auf, die das Digitale ins Zentrum stellt. Im Jahr 2020 lief er mit einem Handkarren und 99 Telefonen langsam eine Straße entlang und simulierte so auf Google Maps einen Stau, den es gar nicht gab.