Diese Software erkennt, was du tust. Sie bestimmt anhand von Videobildern, was auf dem überwachten Areal gerade passiert. Sie untersucht, ob jemand steht, sitzt, kniet, läuft, rennt, tanzt, taumelt, liegt, kämpft, würgt, etwas trägt, zieht oder schiebt, Fahrrad- und Roller fährt, eine andere Person umarmt oder festhält. Und in Zukunft soll die Liste noch erweitert werden.
Die Technologie ist in Mannheim seit sieben Jahren und in Hamburg seit Anfang September im testweisen Einsatz und noch fern davon, wirklich praktischen Nutzen zu entfalten. Weiterhin müssen Menschen die Bildschirme kontrollieren und die Alarme der KI werden hauptsächlich zu ihrer Weiterentwicklung genutzt, so die Mannheimer Polizei auf netzpolitik.org-Anfrage.
Dennoch zieht das System deutschlandweit das Begehren zahlreicher Kommunen auf sich. Berlin will sich ebenfalls der Runde der testenden Städte anschließen, das bekannte der Senat gerade in einer Anhörung des Innenausschusses. Dort hieß es mit Bezug auf Mannheim und Hamburg: „Wir hoffen, in das Kooperationsprojekt einsteigen zu können, um das System mit den anderen Partnern zu entwickeln.“
KI-Kameras am Görlitzer Park
Dabei bieten die beteiligten Städte nur die Testumgebung und die Laborratten – meist arglose Passant*innen der Überwachungskameras. Entwickelt wird das System vom Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung. Dieses hat auch das alleinige Recht zur kommerziellen Vermarktung der Verhaltenserkennungs-KI, sich allerdings dazu bereit erklärt, vorläufig noch darauf zu verzichten.
Nach dem neuen Berliner Polizeigesetz, das unter anderem die rechtliche Grundlage für das KI-Training liefern und noch dieses Jahr im Abgeordnetenhaus beschlossen werden soll, kann die KI mit verschiedenen Arten von Videobildern gefüttert werden. Vor allem wären da Bilder von Überwachungskameras, die Berlin künftig an sogenannten kriminalitätsbelasteten Orten – wie zum Beispiel dem Görlitzer Park – erlauben will. Dazu können aber auch Videos von öffentlichen Veranstaltungen und Ansammlungen und Aufnahmen von gefährdeten Gebäuden und Objekten, sowie Übersichtsaufnahmen zur Vorbereitung, Lenkung und Leitung von Einsätzen, wie sie aktuell aus Hubschraubern und künftig auch aus Drohnen aufgenommen werden können, per Algorithmus nach bestimmten Verhaltensmustern durchsucht werden dürfen.
„Die Gefahr ist nicht von der Hand zu weisen, dass dann große Teile der Berliner Innenstadt nicht mehr unüberwacht passiert werden können“, sagte Meike Kamp, Berliner Datenschutzbeauftragte bei der Sachverständigenanhörung im Berliner Abgeordnetenhaus. David Werdermann, Jurist von der Gesellschaft für Freiheitsrechte (GFF) fügte hinzu: „Es ist zu befürchten, dass Menschen, die sich atypisch im öffentlichen Raum verhalten – wie wohnungslose oder körperlich eingeschränkte – von der Software als gefährlich erkannt werden und damit erhöhtem Überwachungsdruck ausgesetzt sind.“
„Lieber einmal zuviel“
Die Polizeipräsidentin Barbara Slowik Meisel verteidigte den geplanten KI-Einsatz. Ihr Hauptargument: Effizienz. Die Aufgaben der Polizei würden wachsen, während die Nachwuchsgewinnung schwierig sei. „Ohne technologische Unterstützung werden wir die Sicherheit der Stadt nur noch immer begrenzter gewährleisten können.“ Deshalb wünsche sie sich das „Mannheimer System“, „das bestimmte Szenarien erkennt um dann Internventionskräfte zu alarmieren. Das ist deutlich ressourcenschonender.“
Dabei übersieht Slowik Meisel, dass die Technologie in Mannheim aktuell keinerlei Arbeitserleichterung bringt, sondern eher Kräfte bindet. Slowik Meisel würde die KI zudem so kalibrieren, dass sie viele falschpositive Ergebnisse liefern, die dann gegebenenfalls zu erhöhtem Arbeitsaufwand und Überwachungsdruck auf Unschuldige führen. „Lieber kommen wir einmal zu viel, wenn das System zu schnell anschlägt, als einmal zu wenig“, sagte sie.
Deutschland ist ein komisches Land. Digitalisierung und KI verschlafen sich deindustrialisierend. Aber KI zur Massenüberwachung der Bevölkerung einsetzen das geht dann ganz plötzlich, egal wie viel das kostet.
Das Geld wäre für mehr Forschung, Bildung und KI in der medizinischen Wissenschaft bestimmt besser angelegt gewesen.
Na von ganz einfach das erstere müsste man vielleicht selbst entwickeln /weiter entwickeln das letzte kauft Mann einfach bei trumps und Vance’s Kumpels aus den USA ein
> Sie untersucht, ob jemand steht, sitzt, kniet, läuft, rennt, tanzt, taumelt, liegt, kämpft, würgt, …
Es dürfte nicht lange dauern, bis sich fidele Zeitgenossen einen Spaß daraus machen werden, falsche Alarme zu provozieren, und die Zeit stoppen, bis das Einsatzkommando anrückt.
Scheinkämpfe und Show-Würgen stehen nicht unter Strafe.
Ich fürchte, doch: https://www.gesetze-im-internet.de/stgb/__145d.html
Ich fürchte doch nicht, denn eine künstlerische Performance, auch wenn sie schlecht geraten ist, ist keine Straftat.
Und bei § 145d,2 StGB täuscht höchstens die AI die Behörde.
Interessanter Gedanke, das über die Kunstfreiheit aufzuziehen.
In wie weit ist der EU diese Entwicklung eigentlich zu „verdanken“? Denn diese ganzen KI-Überwachungsinitiativen scheinen sich nach dem AI-Act erst so richtig durchzusetzen. Und ob das im Parlament in Deutschland so verhältnismäßig unbemerkt und widerstandsfrei durchgekommen wäre, wie in der öffentlichkeitsferneren EU, würde ich in Frage stellen.
„„Lieber kommen wir einmal zu viel, wenn das System zu schnell anschlägt, als einmal zu wenig“, sagte sie.“
Ach, für das „einmal zu viel kommen“ ist dann auf einmal Personal da?
Der Tag wird kommen, an dem man sich kaum mehr aus dem Haus trauen wird, weil jeder Schritt zu irgendeinem Verdachtsmoment führen wird. Eine grausige Vorstellung.
Die Polizei ist an dem Dilemma selbst schuld, weil sie sich von Politikern für deren Machtgelüste missbrauchen ließ und lässt, und ausserdem sich selbst nie wirklich aus ihrer rigiden Struktur befreit hat. Wer in den eigenen Reihen gesellschaftliche Weiterentwicklungen jahrelang verschläft, Rechtsradikalismus nicht entschieden bekämpft und dem Irrglauben verfällt, Technik werde alles richten, braucht sich über fehlenden Nachwuchs nicht zu wundern.
Wäre es anders, wären KI-Videos überflüssig.
Dass ausgerechnet in Berlin das völlig unkritisch gesehen wird, ist ebenso atypisch wie unverständlich. Obwohl…es regiert Schwarz-Rot, da ist das zu erwarten.
Schlimmer noch: So schlecht, wie die „KI“ das derzeit macht, scheint es eher auf „einhunderteinmal mal zu viel“ (das mag jetzt übertrieben sein) hinauszulaufen. Wenn Frau Slowik Meisel dann ihrer Linie treu bleibt, würde Polizei von anderer Stelle abgezogen. Was soll das denn dann sein? Effizient? Sicher?
>“Der Tag wird kommen, an dem man sich kaum mehr aus dem Haus trauen wird, weil jeder Schritt zu irgendeinem Verdachtsmoment führen wird.“
Der ist schon da
Tipp: Grundlose durchsuchung
Also ob das Ganze technisch/einsatztaktisch wertvoll ist, möchte ich mal dhin gestellt lassen. Klingt für mich eher so, als hätte mein 12jähriges Ich mit pyautogui herumgespielt und dabei die entdeckt, dass man Muster abgleichen kann.
Aber mal angenommen es funktioniert irgendwann halbwegs gut und irgendwie kann man daraus auch einen Nutzen ziehen.
Mich würde dann mal brennend interessieren, wie man eventuelle Vollstreckungshandlungen (nicht zwingend den unmittelbaren Zwang, es reichen ja auch weniger belastende) rechtfertigt. „Ich halte Sie jetzt hier fest, weil der Kollege AI Ihr Verhalten merkwürdig findet.“ Würde ich interessant finden..Zumal, wer übernimmt die Verantwortung bei Fehlalarmen? Der Operator im Leitstand, der ausführende/handelnde Beamte ? Oder kriegt die AI einen virtuellen Stern weniger?
Ich möchte nicht wissen, was das Projekt kostet – Nicht zwingend die Entwicklungskosten, sondern die Ressourcen, die ein produktives und fähiges System verschlingt. Klimaneutral dürfte anders sein.
Hach, man stelle sich mal vor, anstatt mit virtueller Überwachung aufzuwarten, würde man für Akzeptanz und Transparenz kämpfen….
Das „für Akzeptanz und Transparenz kämpfen“ wäre dann für Akzeptanz von Kriminalität und Vandalismus?
Da habe ich schlechte Nachrichten für Sie bezüglich Akzeptanz beim Wähler…
Mannheim ist eine absurde, vielleicht sogar gescheiterte, Kommune. Die Innenstadt ist abends kaum auszuhalten vor Posern und Rasern die innerhalb der Quadrate mit lauter Musik und hupend in Kolonnen stehen. Im gesamten Stadtgebiet stapelt sich unabgeholter Müll. Gehwege sind zugestellt und Falschparker stehen an allen Ecken und Enden.
Die CDU Mannheim hat das Poser- und das Falschparker-Problem die längste Zeit ignoriert und aktiv toleriert. Im Rahmen von FutuRaum lud man sogar Poser-Vertreter zum Dialog und ließ sie im absoluten Halteverbot auf dem Gehweg parken und posieren, damit die Presse Bilder machen kann. Kann man sich alles nicht ausdenken.
Allerdings ist BW-Innenminister Thomas Strobl CDU ein großer Freund der Überwachung. Und der Mannheimer CDU-OB Christian Specht spielt da natürlich gerne mit.
Wie absurd hier die Prioritäten verschoben sind wird klar, wenn man genauer hinschaut, welche selbst niederschwelligen und ohne große Kosten umsetzbaren Maßnahmen im Bereich Verkehrswende von den Konservativen blockiert werden und mit welcher Gewalt gleichzeitig die Videoüberwachung durchgedrückt wurde.
Die Mannheimer sind perfekte Test-Subjekte – mit viel Widerstand war in dieser von Resignation geprägten Stadt nicht zu rechnen. Das haben sie durchaus clever gewählt, muss man anerkennen. Ein eigenes Glasfasernetz und über 65 Kameras im öffentlichen Raum – Tendenz steigend – wurden installiert.
Weder Kosten noch Personal wurden gescheut. Die Totschlagargumente mit denen sonst vieles, was den Menschen helfen würde, kaputt gemacht wird, blieben beim Ausrollen der massiven Überwachung unbenannt.
Parallel gibt es deutliche Einschränkungen im ÖPNV, bei Falschparkerkontrollen, bei Öffnungszeiten von Schwimmbädern und eine modernisierung der Stadtbibliothek wurde ebenfalls gestrichen. Es wird deutlich, wo die Mannheimer Politik Schwerpunkte setzt und wo nicht.
Grüße aus den Quadraten…
Aber nach China schauen und über deren Social-Scoring mosern …
und über deren Social-Scoring mosern …
Auch das die Hundebesitzer, die Hinterlassenschaften entsorgen, oder nicht?
Das ist schon seltsam , seit Jahren kritisiert man China , aber man macht das selbe, was die schon längst umsetzen in vielen Städten. Ja und wer baut die Kameras ? Und wer hat da evtl auch Zugriff drauf ? Und was kostet es die alle 10 Jahre zu erneuern ? Oder früher.Ist das etwa ein Hinterherlaufen zu verpasster Technologie? Nein , man kauft sie ja nur ein.Ist es eine Eingeständniss , dass man noch schlimmere Zeiten erwartet ? Krawalle wie in Frankreich ?
Sind wir nicht schon sehr nah an der DDR ? Also 2.0 mit Mio. km Datenkabel statt Mauern?