Trainingsvideos für Verhaltensanalyse: Für die Überwachungs-KI gibt es nie genug Gewalt

Das Kottbusser Tor an einem Nachmittag unter der Woche: Menschen begutachten die Auslagen des Gemüsestandes. Aus dem Rewe kommt vorsichtig eine Frau gewackelt, sie trägt zwei Einkaufstüten in jeder Hand. Eine kleine Gruppe diskutiert erhitzt, während einer mit einem beschrifteten Papier wedelt. Polizist*innen in stichsicheren Westen patroullieren über den Platz.

Alle diese Menschen werden gerade von einer Software analysiert. 30 Kameras filmen das Geschehen auf der Nordhälfte des Platzes und sogenannte KI prüft, wer was tut und ob das Geschehen Hinweise auf eine Straftat gibt. Die automatisierte Dauerüberwachung soll Kontrolle auf einem bis dahin unbekannten Effizienz-Niveau ermöglichen.

Damit die Software erkennt, bei welcher Art von Szenen sie Alarm schlagen soll, wurden zuvor viele Clips eingespeist. In diesem Trainingsmaterial muss jeweils markiert sein, ob die Szene ein Beispiel für zu tolerierendes Verhalten sein soll oder für einen auszulösenden Alarm.

Nicht genug Gewalt

Die Menge und Qualität der Trainingsdaten hat große Auswirkungen darauf, wie gut das System am Ende funktioniert. Das zentrale Problem an dieser Stelle: Wie es aussieht, wenn ein Mensch geht, kann die Verhaltenserkennung anhand von Bildern aus dem öffentlichen Raum sehr gut lernen – da gibt es viel Anschauungsmaterial. Aber an welchen Faktoren sich ein Kampf erkennen lässt, ist anhand des Geschehens vor Ort schwierig zu kategorisieren. Aus Sicht von KI-Trainer*innen gibt es einfach nicht genug Gewalt im öffentlichen Raum. „Wie sich im Verlauf des Projektes zeigte, stehen leider nur sehr begrenzt öffentliche Daten zur Verfügung“, schrieb die Mannheimer Polizei.

Deshalb arbeiten die KI-Entwickler*innen mit Bildmaterial von nicht-authentischen körperlichen Auseinandersetzungen. In Mannheim etwa haben Polizist*innen bereits 2.000 Show-Kämpfe für das KI-Training veranstaltet, die Mannheimer Polizei geht davon aus, dass noch weitere 8.000 Kämpfe nötig sind, bis die Software praxistauglich ist.

Die Mannheimer Trainingsvideos sind als „Verschlusssachen“ eingestuft und unterliegen zudem persönlichkeitsrechtlichen Bestimmungen, deshalb will die Mannheimer Polizei diese nicht herausgeben. Ein Clip ist jedoch öffentlich, er wird im Mannheimer Technoseum als Beispiel für die Trainingsvideos gezeigt. Wir haben ihn dort abgefilmt.

Die Polizisten, die zu sehen sind, wirken behäbig, die angedeuteten Schläge und Tritte zurückhaltend. Im Bild sieht man auch die strichmännchenförmige Abstraktion der Bewegungen, anhand derer die KI sie kategorisiert.

KI lehrt KI, wie sich Menschen prügeln

Die Entwickler*innen der Software, die am Kottbusser Tor in Berlin die Passant*innen scannt, gehen einen anderen Weg. In Berlin sollen keine Polizist*innen zu Show-Kämpfen verpflichtet werden. Stattdessen wurden – neben einigen realen Szenen – zum großen Teil KI-generierte Videos zum KI-Training genutzt. Wie Gewalt aussieht, soll die Überwachungssoftware also von einem Videogenerator lernen, der dafür mutmaßlich gewalthaltige Szenen imaginiert. „Auf diese Weise lässt sich die Trainingsmenge systematisch und datenschutzkonform vergrößern, ohne auf ortsspezifische Daten angewiesen zu sein“, schreibt ein PR-Mensch im Auftrag von Staige, dem Hersteller der Überwachungssoftware.

Wir haben eine IFG-Anfrage nach dem kompletten Trainingsdatensatz gestellt und hoffen darauf, damit bald einen Kinoabend bestreiten zu können. Bis dahin müssen wir uns mit einem Trailer begnügen: Auf der Website von Staige sind unter „Gewalterkennung“ drei KI-generierte Clips zu sehen, auf denen KI anscheinend Gewalt detektiert hat. Tatsächlich scheinen sich die abgebildeten Figuren aber gar nicht zu berühren. Weitere Merkwürdigkeiten fallen ins Auge: Trambahntüren öffnen sich in voller Fahrt. Menschen lächeln und winken in Überwachungskameras oder hoppeln hasenartig. Bunte Strichmännchen gibt es nicht zu sehen, die mathematische Abstraktion, mit der die Software das Geschehen analysiert, bleibt verborgen.

Heiko Paulheim ist Professor für Datenwissenschaften in Mannheim, wo schon seit 2018 ein Verhaltensscanner den öffentlichen Raum durch unzählige Kameras erfasst. Wie gut solche Systeme seien, sagt Paulheim, hänge stark von den Trainingsdaten ab. Wenn die nicht authentisch seien, wirke sich das auf die Qualität der Software aus.

„Wie Kinderzeichnungen von Katzen“

„Man kann sich das ein wenig vorstellen wie eine Bilderkennung für Katzenbilder, die auf Kinderzeichnungen trainiert, aber auf Fotos angewendet wird. Die Performance wird immer hinter einem Modell zurückbleiben, das auf Fotos trainiert wurde“, sagt Paulheim. Dazu könne der Videogenerator Verzerrungen in die Trainingsdaten einschreiben: „Modelle, die auf YouTube-Videos trainiert sind, produzieren Material, das YouTube ähnelt, womöglich mit einer Tendenz zu viel Action, guter Ausleuchtung, Fokus auf jüngeren Darsteller*innen mit gefragten Körperformen – und vielleicht auch vermehrt auftretenden Stereotypen wie dem des dunkelhäutigen Angreifers im schwarzen Kapuzenpullover.“

Das könne, so Paulheim zu zwei Arten von Fehlern führen. Erstens: Probleme werden nicht erkannt. „Wenn ich nur actionreiche Kämpfe zwischen jungen Männern habe, werde ich das vergleichsweise actionarme Entreißen der Handtasche einer älteren Frau unter Umständen nicht erkennen“, sagt Paulheim.

Die andere Fehlerart ist das false positive. „Die Software erkennt eine Szene mit einer dunkelhäutigen Person im Kapuzenpulli als problematisch, auch wenn diese Person sich nicht problematisch verhält, sondern zum Beispiel nur durchs Bild joggt.“

Berliner*innen liefern gratis Trainingsdaten

Ein PR-Mensch, der für Staige arbeitet, nennt uns noch weitere Details zum Training der Überwachungssoftware. „Das Trainingsmaterial umfasst Szenen zu Schlagabtauschen, Tritten, gewaltsamen Schub- oder Zerrbewegungen mit Bodenkontakt sowie Rangelei auf Bodenebene“, schreibt er zum Beispiel. Dafür seien zum Teil die Bewegungen tatsächlicher Menschen mit der Motion-Capture-Technik aufgenommen worden. Der Videogenerator habe aus dem abstrahierten Geschehen anschließend eine Vielzahl von Clips erstellt, die den Vorgang mit unterschiedlichen Personen zu unterschiedlichen Tageszeiten zeigen. Dem Staige-Sprecher zufolge werden die KI-Clips „am Einsatzort“ erstellt, also in einer Liegenschaft der Berliner Polizei.

Zudem wird das Berliner Modell mit den Bewegungsdaten der Menschen, die sich am Kottbusser Tor aufhalten, „weiter optimiert“, so der PR-Mensch. Die Polizist*innen, die die Videos beobachten, vermerken dann jeweils, ob ein Alarm der Überwachungs-KI gerechtfertigt war oder nicht. Und die Software nimmt auch diese Szene dann als Beispiel für „ignore“ oder „alarm“.

Die Software wird also mit den Bewegungen von Menschen am Kottbusser Tor gefüttert. Dabei sind die Bewegungen – zum Beispiel der Gang – ja ein unique identifier, so einmalig wie ein Fingerabdruck. Doch mit der Verhaltensanalyse hat die scheidende schwarz-rote Berliner Landesregierung im vergangenen Dezember auch erlaubt, Überwachungs-KI mit personenbezogenen Daten zu trainieren – und diese Daten auch an die Software-Hersteller weiterzugeben.