Die Bundesregierung soll ihre Pläne für eine biometrische Gesichtersuche im Internet und den Einsatz von KI-Datenanalysen in der Polizeiarbeit zurückziehen. Das fordert eine Koalition aus zivilgesellschaftlichen Organisationen in einem heute veröffentlichten Brief. Die Kritik richtet sich gegen das sogenannte „Sicherheitspaket“ aus dem Bundesinnenministerium von Alexander Dobrindt (CSU). Derzeit befindet es sich in der Abstimmung zwischen den Ministerien.
Das Paket sieht vor, dass das Bundeskriminalamt und die Bundespolizei Personen anhand ihrer biometrischen Daten in „öffentlich zugänglichen Daten aus dem Internet“ suchen und identifizieren dürfen. Polizeibehörden dürften dann etwa die Gesichter, Stimm- oder Bewegungsmuster der Personen einsetzen, um in Posts auf Instagram oder in offenen Chatgruppen nach ihnen zu suchen. Nicht nur Verdächtige, sondern auch Opfer und Zeug*innen soll die Polizei auf diesem Weg identifizieren dürfen.
Auch das Bundesamt für Migration und Flüchtlinge (BAMF) soll die biometrische Suche einsetzen dürfen, um die Identität von Menschen im Asylverfahren zu klären.
„Gesichtsdatenbank aller Bürger*innen“
Mehrere zivilgesellschaftliche Organisationen zeigen sich angesichts dieser Pläne alarmiert, darunter die Vereine D64, AlgorithmWatch, der Chaos Computer Club und Amnesty International Deutschland. Biometrische Datenbanken, wie sie für eine solche Suche notwendig wären, ermöglichten Massenüberwachung und schwere Verstöße gegen Grundrechte wie das Recht auf Privatsphäre, heißt es in dem Appell.
Alles netzpolitisch Relevante
Drei Mal pro Woche als Newsletter in deiner Inbox.
Die Pläne könnten etwa dazu führen, dass Menschen es künftig vermeiden, Fotos und Videos im Netz zu teilen oder gar an Tätigkeiten teilzunehmen, von denen Aufnahmen ins Netz gelangen könnten, schreibt das Bündnis. Es fordert die Bundesregierung auf, sich gegen jede Form der biometrischen Auswertung des Internets einzusetzen.
„Innenminister Dobrindt schlägt im Prinzip vor, eine gigantische Gesichtsdatenbank aller Bürgerinnen und Bürger aus dem Internet zu bauen – ganz egal, ob jemand verdächtig ist oder nicht“, sagt Kilian Vieth-Ditlmann von der Organisation AlgorithmWatch. Familienfotos und Party-Selfies seien dann ebenso im Visier wie Bilder, auf denen man nur im Hintergrund zu sehen ist. „Das ist völlig unverhältnismäßig und genau deshalb durch EU-Recht verboten.“
Die KI-Verordnung der EU untersagt KI-Systeme, „die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern“. Zugleich gilt die Verordnung nicht für KI-Systeme, wenn diese ausschließlich für „Zwecke der nationalen Sicherheit“ eingesetzt werden.
Big Data, wenig Kontrolle
Das BMI plant zudem weitere Befugnisse für das Bundeskriminalamt und die Bundespolizei. Sie sollen ihre verschiedenen Datenbanken technisch zusammenführen und automatisiert analysieren dürfen. Das ist das Versprechen von Big-Data-Analysesoftware, wie sie etwa der umstrittene US-Konzern Palantir anbietet.
Diese automatisierte Auswertung von Daten beschränke sich nicht auf Tatverdächtige, kritisieren die zivilgesellschaftlichen Organisationen. Auch Opfer, Zeug*innen und weitere unbeteiligte Personen, deren Daten zufälligerweise bei der Polizei landen, werden mit einbezogen. Der Quellcode von Palantirs Software sei zudem nicht offen, sodass die Ergebnisse nicht nachvollziehbar seien. Der Einsatz von KI-Systemen, die ihre Entscheidungen nicht offenlegten, sei besonders riskant für bereits marginalisierte Gruppen in der Bevölkerung.
Besonders schlecht kommt Palantir weg. Laut den Plänen sollen Polizeibehörden auch die Systeme von Drittanbietern wie Palantir für die Analyse einsetzen dürfen. „Palantir ist eng verbunden mit dem Tech-Milliardär Peter Thiel, der bekennender Anhänger der Trump-Regierung und explizit der Auffassung ist, dass Demokratie nicht mit Freiheit vereinbar sei“, warnt das Bündnis. Der Einsatz der Software gefährde die digitale Souveränität Deutschlands.
„An der Grenze zur Verfassungswidrigkeit“
Jenseits der Kritik an den konkreten geplanten Überwachungsmaßnahmen kritisieren die Organisationen die politische Stoßrichtung der Bundesregierung: Die Maßnahmen stünden insgesamt in keinem angemessenen Verhältnis zu dem vermuteten Gewinn an Sicherheit. Außerdem loteten sie rechtliche Grauzonen aus. „Als Zivilgesellschaft haben wir die Erwartung, dass die Bundesregierung Gesetze vorlegt, die nicht ständig an der Grenze der Verfassungswidrigkeit und des Europarechts – und sogar darüber hinaus – segeln.“ Solche Gesetze führten auch zu jahrelanger Rechtsunsicherheit für die Strafverfolgungsbehörden.
Vor dem Hintergrund erstarkender rechtsextremer Parteien sollten „demokratische Kräfte“ die Möglichkeiten des Machtmissbrauchs verhindern und keine Überwachungsinfrastruktur aufbauen.
Das „Sicherheitspaket“ ist aktuell noch in einem frühen Stadium. Das Haus von Alexander Dobrindt hat die Entwürfe zur Vorabstimmung an andere Ministerien verschickt. Danach folgt die Länder- und Verbändebeteiligung und die offizielle Ressortabstimmung, bevor das Kabinett das Paket beschließt und an den Bundestag schickt. Zum weiteren Zeitplan wollte sich das BMI nicht äußern.
Das Bamf darf das seit letztem Jahr schon (§15 AsylG). Damals war der Aufschrei aber nicht so groß. Die jetzt geplante Änderung ist nur eine weitere Verschärfung im Umgang mit geflüchteten Menschen.
„öffentlich zugänglichen Daten aus dem Internet“ und GG5 (1).
Wir war das nochmal mit der digitalen Öffentlichkeit?
Brauchtum und Masken könnten eine Lösung sein:
https://de.wikipedia.org/wiki/Datei:Venezia_carnevale_7.jpg
Also zwei Möglichkeiten:
Option 1: keine audiovisuellen Inhalte mehr öffentlich posten
Option 2: vor dem Upload sämtliche Stimmen und Gesichter im Bild durch KI-generierte Pendants austauschen.
Oder wie…?
Man stelle sich nur mal den Fall vor, eine Person dreht draußen ein Video, dass sie auf Social Media oder irgendeiner anderen Webseite veröffentlichen will und währenddessen läuft im Hintergrund eine Vielzahl unbeteiligter Personen vorbei…
Option 1 verfolge ich seit Snowden und wurde immer für total bescheuert erklärt. Leider existiert in DE kein Konzept von Freiheit, weil die Leute denken es träfe immer nur „die Richtigen“, aka „Straftäter“.
Alles schön und gut. Nur wie verhindern, was andere über einen hochladen ohne für „komisch“ gehalten zu werden?
Egal. Der Drops ist eh gelutscht. Palantirs eigene LLMs werden alles aufsaugen und Rückschlüsse auf die Quelle unmöglich machen – das ist das tolle an dieser Form von KI.
Der Artikel reißt die Kritik sehr gut und angemessen an. Doch der Kern der Sache ist eigentlich nicht direkt der Aufbau von Datenbanken mit der resultierenden Überwachung.
Der Kern ist der überproportionale Machtzuwachs der Exekutive und die damit verbundene Schwächung der Gewaltenteilung. Eine Regierung, die nicht mehr kontrolliert werden kann, dafür aber einseitig jeden Bürger bei Bedarf durchleuchten (oder wie ich befürchte, sogar kriminalisieren) kann und dann noch bestimmt, wer nicht Verfassungsrichterin werden darf, ist inakzeptabel. Das erinnert schon sehr an die USA heute.
Möglicherweise steht Dobrindt ja noch auf dem Boden des Grundgesetzes, so gerade noch. Wir werden sehen. Doch die Tendenz bereitet mir Sorgen. Wollen wir hoffen, dass Dobrindt nicht irgendwann Asyl in einem anderen Land suchen muss, so wie es tausende Deutsche schon einmal tun mussten.
Wird über China geredet, ist die Empörung groß, DAS würde es hier nicht geben.
Aber scheinbar wird das Misstrauen des Staates gegenüber seinen „freien“ Bürgern immer größer.
So bedient sich die Exekutive auch solcher Werkzeuge.
Heißen vielleicht anders, aber im Prinzip geht es auch um Überwachung.
Es mag sein, dass es „notwendig“ ist, aber es sollte sich kein Politiker über das Misstrauen „seiner“ Bürger gegenüber dem Staat mehr wundern.
Sind biometrische Daten wie sie z.B. von europäischen Urlaubern außerhalb Europas gespeichert werden, nicht sehr wahrscheinlich längst bei den einschlägigen Privatunternehmen hinterleg?