Polizei und KIVom Iris-Scan bis zum automatischen Aufstandsmelder

Ein Europol-Bericht zur polizeilichen Nutzung sogenannter KI gibt Einsichten in Gegenwart und Zukunft der Ermittlungsarbeit. Er zeigt, was europäische Polizeien können und was sie können wollen.

Mensch schaut auf Bildschirme.
Das kommt heraus, wenn man KI nach einem Bild KI-gestützter Videoüberwachung fragt. – Public Domain Midjourney

Die europäische Polizeibehörde Europol, die die nationalen Polizeien koordiniert, hat einen Bericht zum Einsatz von sogenannter Künstlicher Intelligenz veröffentlicht. Europol sieht in der Technologie großes Potenzial. Im Bericht, im Original auf Englisch, heißt es: „KI hat die Fähigkeit, die Polizeiarbeit erheblich zu verändern; von fortschrittlicher Kriminalanalytik, die Trends in riesigen Datenmengen aufdeckt, bis hin zu biometrischen Daten, die eine schnelle und eindeutige Identifizierung von Kriminellen ermöglichen.“

Im Vordergrund der Beurteilung der polizeilichen Anwendung von KI steht für Europol die Effizienz der Systeme. „Mithilfe von KI-gesteuerten Analysetools können Ermittler beispielsweise Millionen von Finanztransaktionen analysieren und Anomalien wie verdächtige Geldbewegungen erkennen, um Betrug zu erkennen. Für Strafverfolgungsbehörden bedeutet dies eine verbesserte Fähigkeit, Kriminalitätsmuster zu analysieren und zu verstehen […]“, heißt es im Bericht. Mit KI könnten auch polizeiliche Ressourcen effizienter verteilt werden.

Allerdings sind für die angegebenen Beispiele seit vielen Jahren klar, dass derart große Datenmengen nur mit Software zu analysieren ist. Jetzt nennt Europol solche Mustererkennungssoftware eben KI.

Muster in kriminellen Aktivitäten

Ohne KI-Systeme stünden Ermittler*innen vor „erheblichen Herausforderungen“, was zu „langwierigen Ermittlungen und verpassten Gelegenheiten zur Festnahme von Kriminellen führen kann“. Beispielsweise sei es ohne technische Hilfe nicht möglich, die Datenmengen, die ein einziges Smartphone erzeugt, zu durchsuchen.

Mit Hilfe von KI sei es hingegen möglich, Muster in kriminellen Aktivitäten zu finden. Als Beispiel nennt Europol, dass es während warmer Monate mehr Einbrüche gäbe.

Werden mit solchen Methoden nicht nur Daten analysiert, sondern auch Szenarien prognostiziert, nennt sich das „Predictive Policing“. Dafür sammeln Polizeibehörden zum Beispiel historische Kriminalitätsdaten, aber auch sozioökonomische Daten und Daten von Sozialdiensten. Das KI-Modell verknüpft dann „Indikatoren mit der Wahrscheinlichkeit eines Verbrechens und generiert Risikobewertungen“.

Polizeiliche Kristallkugel

Eine solche Einschätzung ist für bestimmte Areale möglich, aber auch für einzelne Menschen. Dann berechnet die KI, wie wahrscheinlich es ist, dass sich eine bestimmte Person in einer kriminellen Aktivität engagiert. Das stelle allerdings das rechtsstaatliche Grundprinzip der Unschuldsvermutung in Frage, so der Bericht und sei auch nach der KI-Verordnung der EU verboten, außer damit würde nach möglichen Täter*innen bereits begangener Straftaten gesucht. Predictive Policing habe in verschiedenen EU-Mitgliedstaaten, darunter auch Deutschland, an Bedeutung gewonnen.

Die KI-Verordnung könne für die Strafverfolgungsbehörden zum Problem werden, so der Bericht. Behörden, die bereits KI-gestützte Systeme anwenden, müssten diese evaluieren und die Nutzung im Zweifelsfall beenden, was zu Problemen in der „operativen Kontinuität“ führen könne.

Dabei könnten Tools, die maschinelles Lernen nutzen, mittels Analyse von öffentlich zugänglichen Daten wie zum Beispiel Social-Media-Profilen auch Echtzeit-Einsichten generieren. „Entscheidend ist, dass dies alles mit einer Geschwindigkeit geschehen muss, die über der Geschwindigkeit liegt, mit der Kriminelle ihre digitalen Spuren löschen können“, schreibt Europol.

Sprachmodelle entschlüsseln verborgene Bedeutungen

Internetprovider könnten KI-Systeme nutzen, um terroristische Propaganda, Desinformation und illegale Inhalte zu erkennen. Dabei könne man die Systeme mit bekanntem Propagandamaterial darauf trainieren, auch neue Inhalte zu erkennen und diese an Strafverfolgungsbehörden zu melden. Dass es beim Training und bei der Nutzung solcher Systeme zu Problemen mit hohen Fehlerraten kommen kann, diskutiert der Europol-Bericht nicht.

Sprachmodelle, wie zum Beispiel ChatGPT eines ist, werden von Polizeibehörden bereits vielfach eingesetzt, so Europol. So zum Beispiel für Verwaltungsaufgaben, forensische Untersuchungen, die Analyse von Kriminalitätsdaten, die Umwandlung von Sprache in Text zur Berichterstattung und die Dokumentation krimineller Aktivitäten. Damit ließen sich Interviewprotokolle, Zeugenaussagen, Online-Kommunikation und Social-Media-Beiträge effizient zusammenfassen, analysieren oder übersetzen. Letzteres sei vor allem für die Kommunikation der Behörden untereinander relevant. Europols Secure Information Exchange Network Application (SIENA), das Strafverfolgungsbehörden aus 51 Ländern vernetzt, biete beispielsweise die Möglichkeit, Texte automatisiert ins Englische zu übersetzen.

In Cybercrime-Einheiten würden Sprachmodelle zusätzlich dafür genutzt, verborgene Bedeutungen zu entschlüsseln oder potenziell schädliche Inhalte zu kennzeichnen.

KI hilft beim Passwort-Knacken

Ebenfalls relevant, so Europol, sind die KI-Systeme bei der digitalen Forensik, also beispielsweise bei der Auswertung beschlagnahmter Smartphones. Während menschliche Experten viel Zeit benötigten, um tausende Dateien zu sortieren, sei die KI sehr schnell darin. Dementsprechend gäbe es inzwischen eine Reihe von KI-gestützten Tools zur Datenwiederherstellung und -analyse, die auch Zugang zu gelöschten Dateien und beschädigten Endgeräten ermöglichen.

Vielversprechend sei auch die Möglichkeit, mit KI Verschlüsselung leichter zu brechen. „Fortgeschrittene Verschlüsselungstechniken können für Ermittler eine ernsthafte Hürde darstellen“, heißt es im Bericht. Traditionell würde für die Entschlüsselung Brute Force genutzt, mit KI ließe sich die Zahl der zu testenden Passwörter auf Basis von Mustererkennung einengen.

Mit KI ließe sich auch Internetverkehr dahingehend monitoren, ob sich im Datenstrom Hacking- oder Phishing-Versuche verbergen. Der digitale Fußabdruck einzelner Personen könne über deren Interaktionen mit verschiedenen Geräten, von Smartphones und Laptops bis hin zu Smart-Home-Geräten, zu einem umfassenden digitalen Profil verdichtet werden.

Game-Changer Videoüberwachung

Besondere Beachtung findet im Europol-Bericht die Videoüberwachung. Dass diese computergestützt erfolgen kann, sei ein „Game-Changer“ für die Strafverfolgung. „Da Städte und Gemeinden mit einem Anstieg digitaler Bilder von Quellen wie CCTV-Kameras bis hin zu persönlichen Geräten konfrontiert sind, ist es wichtig, diese riesigen visuellen Daten effektiv zu nutzen“, heißt es im Bericht.

Bilddatenströme ließen sich in Echtzeit auf bestimmte Muster und Anomalien scannen. Bei öffentlichen Veranstaltungen könne KI-gestützte Videoanalyse Situationen identifizieren, „die Aufmerksamkeit erfordern, um sicherzustellen, dass jeder die Veranstaltung in Ruhe genießen kann“.

Wenn vordefinierte Bedingungen oder Szenarien erkannt würden, „wie etwa öffentliche Unruhen oder potenzielle Sicherheitsrisiken, kann das KI-System automatisch detaillierte Vorfallberichte erstellen und/oder Warnungen an die Beamten senden“. Die Echtzeitanalyse sei allerdings nach der KI-Verordnung der EU verboten. Ausnahmen gelten für die Suche nach Opfern von Verbrechen, die Verhinderung von Terroranschlägen und die Suche nach Täter*innen schwerer und Organisierter Kriminalität. Polizeieinheiten im Vereinigten Königreich und in EU-Staaten hätten die Echtzeitanalyse von Videoströmen mit unterschiedlichem Erfolg getestet.

Schlüsselinstrument biometrische Fernidentifizierung

Biometrische Fernidentifizierung habe sich als „Schlüsselinstrument“ der Strafverfolgungsbehörden erwiesen. Beispielsweise könnten damit Verdächtige gefunden werden, oder andere „Personen von Interesse“.

Nützlich sei die KI auch bei der Analyse von Fingerabdrücken. „Sie könnte diesen Bereich revolutionieren“, heißt es im Bericht. Denn sie funktioniere sehr schnell und könne auch verschmierte oder nur teilweise vorhandene Abdrücke identifizieren.

Stimmerkennung könne zudem genutzt werden, um beispielsweise Teilnehmer*innen von Telefongesprächen zu identifizieren. Außerdem sei der Iris-Scan eine Methode, die zunehmend häufiger in der Strafverfolgung eingesetzt würde. Auch Ganganalyse sei ein aufstrebendes Feld, das insbesondere dort nützlich sei, wo andere Identifizierungsmethoden nicht möglich sind.

„Unfaire und voreingenommene Ergebnisse“

Besonders heikel ist die biometrische Kategorisierung. Während es per KI-Verordnung der EU verboten ist, diese zur Identifizierung von sexuellen oder politischen Orientierungen, religiösen Vorstellungen oder Behinderungen zu nutzen, sofern dies nicht zur Ermittlung von Opfern unternommen wird, kann die biometrische Kategorisierung recht frei eingesetzt werden, um Geschlecht und Alter betroffener Personen zu schätzen. Dies sei beispielsweise bei der Einschätzung des Alters von Opfern von Missbrauchsdarstellungen oder digitaler bildbasierter Gewalt relevant.

Der Europol-Bericht benennt auch Probleme der KI-Einsätze. Jede Verzerrung der zugrundeliegenden Daten könne „unbeabsichtigt zu unfairen oder voreingenommenen Ergebnissen führen“. Daten, die zum Trainieren von KI-Systemen verwendet werden, könnten Vorurteile und diskriminierende Praktiken widerspiegeln. Die KI könne zu „unverhältnismäßiger Überwachung unschuldiger Personen“ führen oder auch gegen bestimmte Gruppen missbraucht werden.

Diskriminierende Rückkopplungsschleifen

„Wenn beispielsweise ein bestimmtes Viertel in der Vergangenheit aufgrund rassistischer oder sozioökonomischer Vorurteile übermäßig überwacht wurde, könnte ein auf diesen Daten trainiertes KI-System darauf hinweisen, dass das Gebiet anfälliger für kriminelle Aktivitäten ist. Solche Ergebnisse könnten zu einer Rückkopplungsschleife führen, die dazu führen könnte, dass die Strafverfolgungsbehörden diesen Bereich weiterhin übermäßig überwachen, wodurch unverhältnismäßig viele Straftaten festgestellt werden und die in den Daten vorhandenen Verzerrungen verstärkt werden“, heißt es im Bericht.

Es sei wichtig, dass Vollzugsbeamte und auch Betroffene die Logik hinter den KI-Entscheidungen nachvollziehen könnten. Ansonsten steige die Gefahr von Misstrauen, Missbrauch und Ungerechtigkeit. Allerdings arbeite KI mit einer Komplexität, die über das menschliche Verständnis hinausgeht. Zu klären sei auch, wer letztlich für die Entscheidungen der KI-Systeme verantwortlich sei.

Für die Zukunft benennt Europol noch weitere technische Tools, die bei der Polizeiarbeit nützlich werden könnten. Quantencomputer beispielsweise, die die Performance von KI-Systemen auf ein „beispielloses Niveau“ heben könnten, oder auch die verbreitete Nutzung von KI-gestützten Drohnen oder Robotern.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

9 Ergänzungen

  1. „Traditionell würde für die Entschlüsselung Brute Force genutzt, mit KI ließe sich die Zahl der zu testenden Passwörter auf Basis von Mustererkennung einengen.“

    Was wollen die denn in
    1#2gF2&d!9/ckD(20xP-z?(
    für ein Muster erkennen?

    1. FYI
      https://visvar.github.io/pdf/machicao2021a.pdf

      PRNGs are used in various applications such as:
      (i) statistics and probability theory for data sampling;
      (ii) decision theory as a strategy for the optimization of computational algorithms;
      (iii) numerical calculation, e.g., in the Monte Carlo integration method ;
      (iv) simulation and modeling of systems as a tool to simulate stochastic behavior, as in phenomena of nature ;
      (v) gaming and entertainment industry, e.g., for rendering scenarios and textures in films;
      (vi) programming languages and any algorithms or heuristics that require sampling, for instance,
      pattern recognition, artificial intelligence, genetic algorithms, deep learning, and even in more critical scenarios;
      (vii) cryptography, e.g., as source of randomness, initialization vector, or password generation, where cryptographically secure random numbers generators are of paramount importance for encryption algorithms that operate in military communications, intelligence tools, banking systems, e-commerce, etc.

  2. Nachtrag: Und genau deshalb finde ich, sollten heutzutage sämtliche Verschlüsselungsprogramme als Zweitfaktor eine Keyfile anbieten.

    Peazip und Veracrypt z.B. können das bereits.

  3. „Traditionell würde für die Entschlüsselung Brute Force genutzt, mit KI ließe sich die Zahl der zu testenden Passwörter auf Basis von Mustererkennung einengen.“

    Was spricht denn dagegen, beim Versuch, Passwörter zu ermitteln, Mustererkennung, KI oder was auch immer einzusetzen? Das sollte doch nach aktueller Rechtslage bereits möglich sein und eine heuristische Einschränkung des Suchraums ist zudem seit längerer Zeit sowieso schon üblich.

    U.a. dieser Anwendungsfall dient also nur zur Werbung für den KI-Einsatz auch auf schützenswerten, personenbezogenen, ggf. biometrischen Daten, eine Änderung der Rechtslage ist nach m.E. dafür nicht erforderlich.

    1. FYI

      https://doras.dcu.ie/26493/1/14782804.2021.pdf

      Europol and cybercrime: Europol’s sharing decryption platform

      This article examines the resource sharing functionality of the decryption
      platform of Europol. The platform supports European law enforcement
      agencies (LEAs) that are having difficulties accessing legally obtained
      encrypted evidence due to the lack of human and technical resources.
      The article investigates Europol’s resource transmission role with sharing
      economy variables such as transaction cost and trust-building.

    2. FYI

      https://www.europol.europa.eu/cms/sites/default/files/documents/Europol_Innovation_Lab_Observatory_Report%20-%20The%20Second%20Quantum%20Revolution.pdf

      Quantum password guessing – an opportunity for law enforcement

      Passwords play a critical role in restricting access to sensitive information. As they are customisable, they are easier to remember for humans than complex cryptographic keys, and as such have been the preferred way of digital authentication during the last decades. Password guessing relies on the human tendency to prefer certain passwords, which narrows down the list of
      possibilities. Still, even with a narrow scope, testing all possible combinations (of letters, numbers, symbols and entire words) constitutes a monumental task. This is where quantum computers
      could provide an advantage.

  4. Sie werden es nie lernen und immer nur hinterher sein. Alle diese Techniken setzt man auch ein, um etwa Finanzflüsse zu verschleiern. Alles was sie erreichen, das sie immer unbeliebter werden und noch weiter verblöden, weil sie ihr verdammtes Hirn nicht mehr selbst nutzen.

  5. “Ausnahmen gelten für […] die Verhinderung von Terroranschlägen und die Suche nach Täter*innen schwerer und Organisierter Kriminalität.”

    Alles eine Frage des Framings: Klimaaktivistinnen werden zu kriminellen Vereinigungen erklärt. Graffitis zu Farbanschlägen umgedeutet.¹

    Kurz: Ausgenommen ist alles, was den Regierungen missfällt. Das ist eine Carte Blanche für den sich beschleunigenden europäischen Überwachungstotalitarismus.

    Es gibt aber auch Fälle, in denen K”I” mit an Sicherheit grenzender Wahrscheinlichkeit nicht zum Einsatz kommen wird: Etwa bei Erkennung und Ahndung zugeparkter Fuß- und Radwege, der Bekämpfung organisierter Steuerhinterziehung oder der Aufdeckung von Amtsmissbrauch, politischer Korruption oder Polizeiwillkür.

    “Those who would give up essential Liberty, to purchase a little temporary Safety, deserve neither Liberty nor Safety.” (Benjamin Franklin)

    ¹ Beispiel: “Farbanschlag verschärft Berliner Fahrzeugkrise” (https://www.tagesspiegel.de/berlin/farbanschlag-verscharft-berliner-fahrzeugkrise-unbekannte-beschmieren-bvg-zuge-am-bahnhof-zoo-12409343.html).

  6. Ich muss gestehen, von Europa als einer großen Vereinigung, hatte ich was anderes schöneres inovatives erwartet. Es scheint jedoch so zu sein, dass alle EU Länder zusammen, dermaßen die Regierungen überfordert, dass diese uns nun mit der so genannten KI überwachen müssen.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.