Überwachung im ÖPNV: Mit dieser Realsatire führte Bremen Verhaltensscanner ein

In Bremen wird das Verhalten von Tram-Fahrgästen von einer Software analysiert und bewertet. Dabei war das nicht geplant. Eigentlich wollte die Bremer Straßenbahn AG gar keine Verhaltensscanner an die Videokameras in ihren Trams koppeln. Das Unternehmen hatte nur ein System bestellen wollen, das automatisch Beschädigungen in der Bahn dokumentiert.

Mit diesem Wunsch ist es an eine Softwareschmiede herangetreten, die den programmatischen Namen „Just Add AI“ (JAAI) trägt. Das berichten Mitarbeitende des Landesdatenschutzbeauftragten in einem internen Vermerk, nachdem sie das System vor Ort inspizierten. Mitarbeitende der Verkehrsbetriebe haben ihnen den Hergang der Geschichte dort wohl erzählt.

Laut des Papiers berichtete der Nahverkehrsbetrieb, dass JAAI die Anfrage abgelehnt habe. Die Dokumentation von Beschädigungen würde „nicht so einfach gehen“. Stattdessen habe JAAI ihnen ein anderes System angeboten, eine „Aggressionserkennung“. Die habe es dann sogleich auch in einer Tram-Bahn ausprobiert.

Im September 2024 wurde eine „Theaterfahrt“ veranstaltet, bei der das System „Übergriffe, Diebstahl und Waffennutzung“ vorgespielt bekam, um Derartiges künftig erkennen zu können. Am 24. März 2025 startete das Pilotprojekt. Und obwohl dieses nur fragwürdige Ergebnisse produzierte, werden insgesamt 43 Bahnen mit der High-Tech-Überwachung ausgerüstet, ein Drittel der Flotte. „Es wirkt als sei die Testphase nicht entscheidend für das weitere Vorgehen“, gab die Datenschutzaufsicht zu Protokoll.

Bremen zeigt exemplarisch, was gerade in Deutschland passiert

Dieser Vorgang in Bremen steht beispielhaft für eine bundesweite Entwicklung. Zahlreiche Bundesländer wollen das Verhalten von Menschen im öffentlichen Raum mit KI analysieren. In Mannheim und Hamburg laufen solche Systeme bereits, Berlin und weitere Städte in Baden-Württemberg sollen folgen. Hessen, Niedersachsen, Sachsen, Schleswig-Holstein und Thüringen haben die Erlaubnis bereits beschlossen oder arbeiten daran.

In den genannten Bundesländern geht es um polizeiliche Verhaltenskontrolle auf öffentlichen Plätzen und Straßen. Bremen hingegen ist Vorreiter für die Verhaltensüberwachung im Nahverkehr durch die Verkehrsbetriebe. Das Vorbild hat anscheinend schon andere Städte inspiriert: In Dortmund und Düsseldorf laufen Pilotprojekte – letzteres mit Software einer JAAI-Tochterfirma, das erzählt der Geschäftsführer von JAAI im Gespräch mit netzpolitik.org.

Und nach der Sommerpause soll der Bundestag den Einsatz von Verhaltensscannern an allen deutschen Bahnhöfen ermöglichen. Dass menschliches Verhalten automatisiert kontrolliert wird, ist bald wohl ziemlich normal.

Entsprechend interessant ist der Einblick, den das Beispiel Bremen erlaubt. Den internen Vermerk und weitere Unterlagen, anhand derer wir die Entwicklung hier dokumentieren, hat Matthias Marx vom Chaos Computer Club mit Hilfe des Informationsfreiheitsgesetzes öffentlich gemacht.

Die Bremer Straßenbahn AG (BSAG) hat Fragen von netzpolitik.org auch nach drei Wochen Wartezeit und wiederholten Nachfragen nicht beantwortet. Dabei ist das landeseigene Unternehmen eigentlich Journalist*innen zur Auskunft verpflichtet. Auch die für die Verkehrsbetriebe zuständige SPD-Senatorin verweigerte eine Antwort. Doch dank der vorliegenden Unterlagen lässt sich die Geschichte, wie Bremen zum Verhaltensscanner kam, dennoch umfassend erzählen.

Verkehrsbetrieb ignoriert Persönlichkeitsrechte

Dass die automatisierte Verhaltenskontrolle in Persönlichkeitsrechte der Fahrgäste eingreift, ignorierte die BSAG bei ihrer Entscheidung weitgehend. Das belegen die zunächst deutlich unzureichenden Datenschutz-Folgenabschätzungen, die das Unternehmen bei der Datenschutzaufsicht einreichte. Auch die Argumentation in spezifischen Punkten des Datenschutzes zeigt, dass sich der Verkehrsbetrieb der Implikationen des Projekts anfangs kaum bewusst war.

Bremen hatte gerade Fördergelder des Bundes für Digitalisierung im Nahverkehr auszugeben. Also fiel die Entscheidung wohl leicht, sich dann zumindest irgendetwas anderes mit KI einzukaufen, auch wenn das gewünschte Produkt nicht zu haben war. Der Bund zahlt 80 Prozent der über 500.000 Euro Projektkosten.

Die für das Projekt nötigen Kameras hingen sowieso schon in den Trams. Vor zwei Jahrzehnten hatte die BSAG diese eingeführt, um Vandalismus zu bekämpfen. Offenbar mit mangelhaftem Erfolg, andernfalls wäre sie 2024 wohl kaum auf die Suche nach einem KI-System zur Bekämpfung gegangen.

Kein Plan, wie das System im Notfall helfen soll

Die Verhaltensscanner-Software, die sie nun eingekauft hat, soll die Tramführer*innen unterstützen, „indem kritische Situationen im Fahrgastraum frühzeitig erkannt werden“, so eine interne Bekanntmachung der BSAG. Doch zumindest zum Zeitpunkt der Begehung durch die Datenschutzaufsicht gab es gar keinen Bildschirm, auf dem den Tramführer*innen eine mutmaßlich gefährliche Situation angezeigt werden könnte.

Eine weitere Idee war, dass die Leitstelle einen Alarm erhält, das Live-Bild einsieht und dann gegebenenfalls den Fahrer alarmiert. Auf die Frage, was dieser dann tun solle, wussten die BSAG-Mitarbeitenden allerdings keine Antwort. Als einzig realistischer Verwendungszweck wurde genannt, dass es durch das System im Falle einer Anzeige einfacher werde, den zugrundeliegenden Vorgang im Videomaterial zu finden.

Während des Testbetriebs in der einzelnen Tram zählte das System Gefahrenmeldungen. Das Ergebnis glich die BSAG mit tatsächlichen Gefahrensituationen aus ihren Betriebsberichten ab. In den ersten fünf Monaten gab das System 16 Meldungen aus. Von denen ließen sich nur vier auf protokollierte Vorfälle zurückführen.

Das Land Bremen war von dem Einsatz von JAAI scheinbar dennoch so begeistert, dass es kurz nach Beginn des Pilotprojektes die von der Firma initiierte Organisation Bremen.AI zur zentralen KI-Anlaufstelle des Landes machte. Bremen.AI wird vom Land gefördert und berät Firmen bei der KI-Implementierung, die das Land ebenfalls unterstützt.

Verpixelung ist keine Anonymisierung

Laut JAAI werden die Gesichter im Videomaterial vor der Analyse verpixelt. Die BSAG nahm zunächst fälschlich an, dass damit sämtliche Datenschutzprobleme weitgehend vom Tisch seien und eine Datenschutz-Folgenabschätzung gar nicht nötig wäre. Schließlich würden keine personenbezogenen Daten verarbeitet. Laut Datenschutzaufsicht ist das allerdings Quatsch. Verpixelung sei „keine hinreichende Maßnahme zur Anonymisierung“ gaben die Mitarbeitenden der BSAG beim Ortstermin mit auf den Weg.

Auf Anfrage schreibt der Landesdatenschutzbeauftragte Timo Utermark, dass „auffällige Kleidung oder Tattoos“ erlauben könnten, eine Person zu identifizieren. Außerdem sei nicht auszuschließen, dass die Verpixelung technisch „wieder umgekehrt werden kann“.

Während die Verhaltenserkennung auf Rechnern in den betroffenen Trambahnen läuft, werden die unverpixelten Bilder gleichzeitig direkt in die BSAG-Leitstelle gesandt und dort 48 Stunden gespeichert. Das heißt, eine retrograde Identifizierung von Beteiligten eines KI-detektierten Vorfalls ist möglich.

Das System soll Gewalttaten erkennen. Verhindern kann es sie wohl nicht. Eine Abschreckungswirkung kann schon durch die Videoüberwachung gegeben sein – wenn es sie überhaupt gibt. Im Gegensatz zu Diebstahldelikten begehen Menschen Gewalttaten öfter aus dem Affekt heraus, ungeachtet möglicher Folgen.

Plötzlich geht Vandalismus-Detektion dann doch

Neben aggressiven Verhaltensweisen soll die Software laut der Datenschutz-Folgenabschätzung auch Vandalismus detektieren. Dabei hatte JAAI ja auf Anfrage der BSAG einst ausgeschlossen, dass das technisch möglich sei. Nur so kam es ja überhaupt zum Einsatz der aktuellen Form der Verhaltenskontrolle.

Erkannt werden soll auch „akute Hilfsbedürftigkeit“. Einen Hinweis darauf, was das umfasst, gibt der Gesprächsvermerk des Landesdatenschutzes. Mitarbeitende des Bahnbetriebs erzählten demnach, dass das System bei Testfahrten einen „Schläfervorfall“ nicht meldete. Damit gemeint war, dass eine schlafende Person bis zur Endstation mitgefahren und auch dort nicht ausgestiegen sei.

Die Datenschutzaufsicht fragt in dem Vermerk anscheinend empört, warum Derartiges überhaupt gemeldet werden sollte. „Es ist doch legal, in der Bahn zu schlafen, das ist weder eine Gefahrensituation per se, noch ein Aggressionspotenzial.“ Dennoch zählten „Schläfer“ zu den festgehaltenen „Gefahrensituationen“ während des Testbetriebs.

Der Geschäftsführer von Just Add AI sagt auf Anfrage, dass die Technologie Menschen melden solle, die „eindeutig Hilfe benötigen“, etwa da sie „in einer unnatürlichen Position auf dem Boden liegen“. Dabei ist der Firma bewusst, dass die Technologie genutzt werden kann, „spezifische Bevölkerungsgruppen diskriminierend zu detektieren“.

Noch mehr Druck auf Wohnungslose

„Schläfervorfälle“ als Grund für eine Gefahrenmeldung könnten besonders obdach- oder wohnungslose Fahrgäste in den Fokus der Überwachung rücken. Das wirkt umso problematischer, wenn man bedenkt, dass Hilfsorganisationen Bremen eine „Politik der Vertreibung“ zuschreiben: Die Johanniter und andere Organisation seien inzwischen am Hauptbahnhof unerwünscht, wo sie früher Essen verteilten. Auch das Verbot von Alkohol und aggressivem Betteln sind Maßnahmen, die Obdachlose besonders treffen.

Die Datenschutzaufsicht schrieb der BSAG: „Sie geben an, dass die Herstellung der Sicherheit in den Fahrzeugen den Einsatz des KI-Systems erforderlich macht. Wir würden Sie daher bitten, uns entsprechende Nachweise vorzulegen, aus denen hervorgeht, dass es in den Fahrzeugen in einem solchen Maße unsicher ist, dass es nötig ist, Maßnahmen zu treffen.“ Beispielsweise könnten polizeiliche Statistiken dafür herangezogen werden. Laut Bundesverkehrsministerium hat sich allerdings die Zahl der Übergriffe im Bremer Nahverkehr im Vergleich zur Zeit vor der Corona-Pandemie nicht erhöht.

Datenschutzaufsicht bezweifelt, dass der Verhaltensscanner die Sicherheit erhöht

Fünf Mal musste die BSAG die Datenschutz-Folgenabschätzung zum Projekt überarbeiten. Wirklich zufrieden war die Datenschutzaufsicht dennoch bis zum Schluss nicht. Sie zweifelt weiter an, ob die Verhaltensanalyse aller Fahrgäst*innen geeignet und erforderlich ist, um die Sicherheit in den Fahrzeugen zu erhöhen.

Der Landesdatenschutzbauftragte Timo Utermark verlangt deshalb von der BSAG, ein Jahr nach Inbetriebnahme eine umfassende Evaluation des Systems vorzulegen. Dabei soll unter anderem die Zahl der erfassten Vorkommnisse mit der Zahl der polizeilich erfassten Straftaten verglichen werden. Herauszufinden ist demnach, wie oft das System Menschen falsch verdächtigt und wie oft es tatsächlich zur Eindämmung von Straftaten beitragen konnte. Utermark sagt auf Anfrage, für ihn sei entscheidend, ob das System zu wenige tatsächliche Gefahrensituationen als solche erkennt oder zu oft Fehlalarm schlägt. Sei das der Fall, wäre die Datenverarbeitung „unverhältnismäßig“ und „daher zu unterbinden“.

Ein Vergleich mit den Straftatenzahlen von vor Beginn des Einsatzes würde bei einer derartigen Evaluation auch eine Einschätzung der Effizienz des Systems ermöglichen. Es wäre die erste umfassende Evaluation eines Verhaltensscanners in Deutschland. In Mannheim, wo das System seit acht Jahren getestet wird, kann die Polizei bis heute keinen einzigen Fall nennen, wo es zur Verhinderung oder auch nur Aufklärung einer Straftat beigetragen hat.