Die Ampel-Regierung will in ihrem „Sicherheitspaket“ das Bundeskriminalamt mit einer neuen Fahndungsmöglichkeit ausstatten: Die Polizei hat ein Foto oder die Aufzeichnung der Stimme einer Person und möchte wissen, wo diese Person sonst noch überall im Netz zu finden ist. Darüber soll das BKA Hinweise für die Fahndung bekommen.
Doch um diese biometrische Internetfahndung zu machen, muss man Milliarden von Bildern und Videos aus dem Netz scannen und biometrisch auswerten. Dafür ist eine Superdatenbank nötig, in der unbescholtene Menschen ohne ihre Zustimmung mit ihren biometrischen Merkmalen gespeichert werden. Der europäische Datenschutz und die EU-Verordnung zur Künstlichen Intelligenz verbieten diese Anwendung von Technologie – die Ampel möchte sie trotzdem einführen.
Wir erklären, wie das alles geht und wo die Probleme liegen:
- Wie funktioniert die biometrische Suche im Netz?
- Warum halten Fachleute das für gefährlich?
- Warum ist die Technologie laut den neuen EU-Regeln zu Künstlicher Intelligenz verboten?
- Mit welchen Technologien kann das BKA die Suche umsetzen?
- Welche Rolle hat die biometrische Suche bei der Festnahme von Daniela Klette gespielt?
- Was soll das Bundeskriminalamt mit der biometrischen Suche tun dürfen?
Wie funktioniert die biometrische Suche im Netz?
Gesichtersuchmaschinen eröffnen ein Szenario, das nach Science Fiction klingt: nach einem Gesicht suchen und alle möglichen Treffer zu diesem Gesicht im öffentlichen Internet finden – egal wie alt, schlecht aufgelöst oder gut versteckt die Bilder sind. Man lädt ein Foto hoch und bekommt danach eine Übersicht der Treffer angezeigt, die eine hohe Ähnlichkeit aufweisen, zusammen mit Links zu den Fundstellen im Netz.
Um diese Art von Suche anzubieten, durchsuchen und indexieren die Anbieter massenweise Fotos und Videos im öffentlichen Internet. Sie scannen dafür Instagram, Facebook, YouTube und Millionen von Webseiten. Die dort gefundenen Gesichter von Menschen vermessen sie anhand ihrer einzigartigen Beschaffenheit: den Abstand von Augen, Nase und Mund etwa.
Unternehmen wie Clearview AI oder PimEyes geben zu, dass ihre Datenbanken auf diese Weise Daten zu Milliarden von Gesichtern aus dem Netz umfassen. Eine Einwilligung bei den betroffenen Menschen oder bei den Fotografen oder Plattformanbietern holen die Unternehmen dafür nicht ein.
Sucht man nun eine Person, dann lädt man ein Bild in die Suchmaschine hoch. Dort wird die abgebildete Person selbst auf seine biometrischen Merkmale vermessen und dann mit den in der Referenzdatenbank gespeicherten Milliarden Daten verglichen.
Warum halten Fachleute das für gefährlich?
Technologien, die Menschen anhand ihres Gesichtes identifizieren, galten lange als Tabu. Selbst den großen Tech-Konzernen war klar, wie radikal sie die Privatsphäre und das Recht auf Anonymität aushöhlen würden. Der Facebook-Konzern Meta hat eine firmeninterne App zur Gesichtserkennung deswegen bewusst nicht öffentlich gemacht. Auch Google bezeichnete die Technologie 2011 als „zu gruselig“.
Wie schwerwiegend die Konsequenzen sind, zeigte sich, als Start-ups wie PimEyes und Clearview AI mit weniger ethischen Skrupeln in den Markt traten. Faktisch bedeuten diese Suchmaschinen das Ende der Anonymität. Ob auf der Straße, im Supermarkt oder auf der Demo: Der Schnappschuss eines Gesichtes oder selbst ein jahrzehntealtes Foto reichen aus, um damit weitere Bilder dieser Person im Netz zu finden.
Das beutetet nicht automatisch, dass man auch den Namen, das Geburtsdatum oder die Arbeitsstelle einer Person erfährt. In der Praxis findet man diese Informationen aber häufig zusammen mit dem Foto im Netz. Selbst Menschen ohne eigenen Online-Auftritt können nicht verhindern, dass andere sie fotografieren und die Bilder hochladen. So geraten alle potentiell ins Visier dieser umfassenden Online-Rasterfahndung.
Datenschützer:innen kritisieren, dass Firmen wie PimEyes einfach Bilder aus dem Netz scannen und Gesichter von unbescholtenen Menschen ohne Einwilligung biometrisch auswerten und milliardenfach abspeichern. Die Praxis widerspricht der EU-Datenschutzgrundverordnung und ist in Europa verboten. Unternehmen wie PimEyes haben ihren Firmensitz ins außereuropäische Ausland verlagert.
Warum ist die Technologie laut den neuen EU-Regeln zu Künstlicher Intelligenz verboten?
Im Mai hat die EU neue Regeln für die Entwicklung und den Einsatz von sogenannter Künstlicher Intelligenz verabschiedet. Die KI-Verordnung enthält auch eine Liste von Anwendungen, die in der EU verboten sind, darunter „die Verwendung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsmaterial erstellen oder erweitern“.
Genau das müsste das BKA aber tun, um eine Referenzdatenbank nach dem Vorbild von PimEyes oder Clearview zu erstellen und damit nach biometrischen Treffern im Netz zu fahnden. In einer Anhörung auf das Problem angesprochen, konnte die Vizepräsidentin des BKA nicht sagen, wie dieses Problem technisch und rechtlich gelöst werden soll.
Mit welchen Technologien kann das BKA die Suche umsetzen?
Das BKA besitzt bislang keine solche Datenbank. Es ist auch kaum vorstellbar, dass das Bundeskriminalamt eine biometrische Superdatenbank aller Menschen im Internet selbst programmieren lassen wird. Stattdessen könnte es diese Dienstleistung bei kommerziellen Anbietern wie dem umstrittenen Überwachungsriesen Palantir oder einem anderen Unternehmen einkaufen und nutzen.
Welche Rolle hat die biometrische Suche bei der Festnahme von Daniela Klette gespielt?
Anfang des Jahres hatten Journalist:innen die mutmaßliche RAF-Terroristin Daniela Klette mit Hilfe der Gesichtersuchmaschine PimEyes auf Facebook entdeckt. Jahrzehntelang hatten Ermittlungsbehörden zuvor nach Klette gesucht. Die Journalist:innen fanden sie binnen Minuten mit einem alten Fahndungsfotos auf den Bildern eines Berliner Capoeira-Vereins.
Kurz darauf nahm die Polizei Klette in ihrer Kreuzberger Wohnung fest. Welche Rolle die Hinweise über die Gesichtersuche dabei spielten, sagte sie nicht. Trotzdem wurde daraufhin diskutiert, warum Strafverfolgungsbehörden diese Möglichkeiten nicht ebenfalls nutzen können. Auch jetzt wird genau dieser Fall in den Beratungen der Ampel angeführt, um zu belegen, dass die Polizei diese Technik brauche.
Dabei wird in der Diskussion unterschlagen, dass man für eine solche biometrische Internetfahndung alle im Netz verfügbaren Bilder und Videos biometrisch katalogisieren muss, um eine Referenzdatenbank zu erstellen. In diese gelangen Millionen unbescholtene Menschen, die ihrer biometrischen Vermessung und Verarbeitung nie zugestimmt haben.
Was soll das Bundeskriminalamt mit der biometrischen Suche tun dürfen?
Mit der biometrischen Internetfahndung sollen das Bundeskriminalamt und die Bundespolizei laut dem Sicherheitspaket nach mutmaßlichen Straftäter:innen, aber auch etwa nach Opfern suchen dürfen. Die Fahndung soll für „besonders schwere Straftaten“ erlaubt sein, die laut Strafprozessordnung etwa auch das staatliche Hacken eines Smartphones rechtfertigen. Dazu zählen Mord, Geldwäsche, Bandendiebstahl und Vergewaltigung, aber auch das „Einschleusen von Ausländern“ sowie Drogenhandel oder die Unterstützung bei Betrug im Asylantrag. Schon der Verdacht, dass eine solche Tat begangen wird, reicht aus.
Eine Fahndung sollen die Präsident:innen von Ermittlungsbehörden oder deren Vertretung anordnen dürfen. Zuvor bedarf es einer richterlichen Genehmigung. Bei „Gefahr im Verzug“ sind hier allerdings Ausnahmen für die Dauer von bis zu drei Tagen möglich. Dann kann die oberste BKA-Führungsebene auch ohne Richter:in eine biometrische Fahndung anordnen. Fahnden darf das BKA mit der Methode nach mutmaßlichen Straftäter:innen und Opfern von Straftaten, aber nicht mehr nach Zeug:innen, wie es die Ampel zuvor noch geplant hatte.
Vielleicht sollten wir schonmal für eine Verfassungsklage sammeln, wenn das im Gesetzblatt verkündet wurde.
Vieleicht sollten wir mal drüber nachdenken , dass heutzutage jeder jeden filmt . Scheint jedoch egal zu sein solange es nicht vom bösen Staat kommt .
Mit der Aussage „Überwachungsstaat“ sollte man sich grundsätzlich sehr zurückhalten, aber dieses Sicherheitspaket mit all den Maßnahmen ist nichts anderes als das Fundament für die staatliche Totalüberwachung. Da gibt es nichts mehr schön zu reden.
Naja, je wichtiger Überwachung durch besonders wichtige Vorhaben gemacht wird, und je umfassender sie wird, desto überwachender wird der Staat in sich.
Größte Gefahr bei solchen mega Datenbanken sind die false positives. Also Treffer, die gar keine sind.
Man kann sich sehr leicht vorstellen, wie die Situation dann ist, wenn der Fahndungsdruck hoch, aber die Faktenlage dünn ist.
Irgendwo in der Datenbank wird schon jemand sein, der dem unscharfen und pixeligen Bild der Überwachungskamera aus dem vorbeifahrenden Bus nahe kommt.
Viel ‚Spaß‘ den SEK-Besuch der Frau, dem Chef oder den Kirchgemeinde zu erklären.
Sowie die Ausweitung und Speicherdauern.
Es gibt mindestens zwei Speicherdauern:
1. Treffer
2. Alle, falls Treffer kommen, bzw. für Debugging/Postmortem.
Zu bedenken ist die Tendenz, die Art der Vergehen immer weiter auszuweiten, wenn es solche Mittel erst mal gibt. Dann sind wir irgendwann bei Ordnungswidrigkeiten mit Verhaltensanalyse, also „könnte diese Person vielleicht heute noch falsch parken“, mögliche Zeugen, mögliche Beteiligte, „war in der Nähe, stellt sich vielleicht später heraus, ob was mit X zu tun“, u.ä.
Als Sahnehäubchen sickert dann mit der Zeit vielleicht noch „das Regime“ ein. Dabei braucht es Hilfsmittel, z.B. die Polizei, um Kritiker zum Schweigen zu bringen, um zu finden und Repression anzuwenden, um das Stimmungsbild allmählich zu kontrollieren, sowie Bürger von Beteiligung an Politik abzuhalten (vgl. Russland und USA).
Wenn viele „false positives“ Personen ausfindig gemacht werden in verschiedenen Städten, können schnell mehrere (100) Personen festgenommen werden wegen des Verdachts der gleichen Straftat. Da möchte ich nicht Richter sein, wenn vor mir 100 Verdächtige sitzen, denen allen der gleiche Name zugeordnet ist.
Und wenn Islamisten z.B. mein Bild für Fake Profile klauen dann bin ich plötzlich verdächtig weil das irgendwo auftaucht wo ich nie war. Oder per Deep Fake in einen Kinderporno montiert wurde mit dem ich nie was zu tun hatte. Geht ja heutzutage photo realistisch…
Halte das daher alles schon für ziemlich gefährlich !
Wer mit verbundenem Mobiltelefon öfter mal in einem migrantisch geprägten Stadtteil im passenden Café sitzt, ist vermutlich ohnehin schon in eine „potentieller Terrorkontakt“ Liste. Seit Jahren.
ach, du hast diese Listen gesehen und seit Jahren nix gesagt? Verschwörungstheorien sind nicht konstruktiv.
„ach, du hast diese Listen gesehen und seit Jahren nix gesagt? Verschwörungstheorien sind nicht konstruktiv.“
Also ich nicht, aber es gibt so ähnliche Fälle immer wieder, mit der Spezialvariante, wenn es nur um Zeugen geht. Erschreckend ist aber, wie viel vom Denkbarem (Dümmsten, Schädlichsten, etc. p.p.) realiter bereits versucht wurde, und wieviel es tatsächlich ja auch schon in Gesetzesform geschafft hat. D.h. hier würde ich Existenzfrage sowie Quantifizierung in den Vordergrund stellen, egal wie abstrus eine These klingt. Denn Verschwörung ist schon Käse von Gestern, hier wirken quasi schon physikalische Kräfte! Nee, war’n Witz, de facto gibt es mehrere Verschwörungen gleichzeitig, die nicht alle vordergründig illegal sind, während deren Wirken vielleicht auch einfach nicht bekannt genug ist (wahlweise Ermittlern oder allen), so dass keine relevante Interaktion des demokratischen Systems passieren konnte. Beispiel Datenhandel – hätte man das klargemacht, als Social Media noch nicht so riesig waren, hätte eine vernünftigere Gesetzgebung schon früher eine Chance gehabt. Alleine die Idee „Suchmaschine + Werbung“ muss den Wettbewerbshütern doch schon vom Konzept her in sich Pickel wachsen lassen, egal wie groß das Unternehmen ist.
Welchen Unterschied machen die (AGB und robots.txt rücksichtslosen Bots) für die sogenannten „KI“; und das organisieren einer biometrische Superdatenbank durch die Ampel?
Die Ampel wird auch mit der Beschaffung, eine Rücksichtslosigkeit und Verstöße unterstützen müssen. Oder mit einem Kauf so einer angefertigten Datenbank, werden die rücksichtslosen Machenschaften und Verstoße anderer unterstützt.
Wie auch immer die Beschaffung erfolgen soll, ist diese nicht sauber.
Das Scannen, Speichern, Verarbeiten von Masseninformationen (des Internets), wird ein overkill für Hardware, Energie und CO2 sein. Aber aber Bernd, die werden nur 100% grüne Energie einsetzen. Ja nee klar!
Wie war das noch gemeint? Das Internet soll vergessen können?
Der Titel hat mich an Herr der Ringe erinnert
und warum sagt Netzwelt nicht zu den Problemen mit Kinderpornografie ???
ja das wird gerne unter den Tisch gekehrt um zu sagen die wollen uns nur überwachen, dann wird hakt auch behauptet dass Kipo kein Problem sei.
Fakt ist aber dass es ein Problem ist, warum wird auf dieses leid nicht eingegangen, ist euer Leben so super dass ihr euch nur für euch interessiert und sagt deshalb dass es nicht schlimm ist.
ja es ist kein Thema mit dem man sich gerne befasst, aber wenn man schon mit Überwachung und Kritik kommt muss kan such eben auch kuf Kipo befassen und genau da kann evtl das Problem.
ihr nörgelt und wollt due Meinung der Leute auf eure Seite ziehen, zeigt aber nicht einmal Punkte eines wirklich sinnvoll sein könnte, das ist JH hat seriös und Netzpolitik wird von mir geblockt weil ihr mir River Ignoranz des Themas das leider Kinder kursunterstützt.
schade eigentlich aber Netzpolitik ist eben Bild, genau so wie holen und heise.
Das ist der Schaum vorm Mund gegen Ende in die Tastatur gekommen?
Wer das Leid der Opfer zur Einführung eines Überwachungsstaates und/oder einer Internetzensur missbraucht, ist meiner Ansicht nach genauso widerwärtig wie die eigentlichen Täter.
KiPo-Material ist halt ein Strohmann und nicht das eigentliche Problem. Das eigentliche Problem ist Kindesmissbrauch und Schutz der Kinder.
Aber KiPo-Material mit einer möglichst breiten Definition (Anschein, auch offensichtlich fiktiv, etc) zu kriminalisieren ist halt viel billiger und praktischer für Überwachungs- und Filterforderungen als der Schutz von Kindern. Das ganze ist ziemlich verlogen.
Ja, äh, ich mache es kurz: Spin-BOT.
Ich habe gelesen das die meisten Straftaten dieser Art im familiären Umgeld stattfinden. Also bringst Chatkontrolle nichts. Die Verbreitung geht dann über das Tor Netzwerk. Meiner Meinung nach geht es bei der Chatkontrolle um was anderes. Da steckt die Firma Thorn dahinter.
Frage: Ein Kind kommt in DE zur Welt und es wird die DNA mittels der Nabelschnur ermittelt und gespeichert. 30 Jahre später wird eine tote Frau in einem Wald gefunden, die vor ihrem Tod vergewaltigt wurde. Die gefundene DNA konnte eindeutig dem „Kind“ zugeordnet werden. Meine Mutter hat immer gesagt: Angst haben nur die, welche was zu verbergen haben.
Wer behauptet nichts zu verbergen zu haben, ist wahlweise ein Dummkopf, ein Lügner oder
unterschätzt die Möglichkeiten der Strafverfolgungsbehörden und Nachrichtendienste.
„Angst haben nur die, welche was zu verbergen haben“
Das ist korrekt. Und bis auf die wirklich Reichen und Maechtigen haben alle etwas zu verbergen, aus guten Gruenden und idR voellig legitim.
Öhm, doch doch: Vgl. Musk vs FlightRadar-Heini, der Musks Jetpositionen gebloggt hat. Und benenne mal den Reichtum von Reichen. Jetzt nicht nur Musk und Zuckerberg, sondern ein paar Prozent on top of the rest. Da war doch was mit wo eigentlich das Geld hin ist…
„Fahnden darf das BKA mit der Methode nach mutmaßlichen Straftäter:innen und Opfern von Straftaten, aber nicht mehr nach Zeug:innen, wie es die Ampel zuvor noch geplant hatte.“: Wer bestimmt denn, wer mutmaßlichen Straftäter:innen, Opfern oder Zeug:in, ist? Genau, die Polizei. Dann wird halt kurz einmal ein Zeuge zu einem Verdächtigen und schon gehts los.
Dasselbe gilt analog auch für „Gefahr im Verzug“. Und schon kann das Gesetz jederzeit bei jedermann angewendet werden.
Und noch eins zum Thema „nur bei schweren Straftaten“: Andere Beispiele haben in der Vergangenheit gezeigt, dass es ein leichtes ist, den Umfang auszuweiten. Ist schon öfter geschehen.