Automatisierte Datenanalyse bei der Polizei: Bundesländer nicht scharf auf Palantir

Während Risiken und Gefahren der sogenannten Künstlichen Intelligenz einigen als noch weit entfernt erscheinen, vermarkten die Anbieter ihre Software längst und bringen sie zum Einsatz. So auch bei deutschen Polizeien. Anfang des letzten Jahres erging das sogenannte Palantir-Urteil beim Bundesverfassungsgericht, das den Einsatz von automatisierten Datenanalyse-Werkzeugen bei der Polizei aufgrund von Verletzungen datenschutzrechtlicher Grundsätze beschränkt. Seither sind Art und Umfang der in die Analysesoftware eingespeisten Daten strenger geregelt, die Kennzeichnung der Daten vorgeschrieben und eine effektive Kontrolle der Nutzung der Systeme vorzusehen.

Die Risiken, die mit dem Einsatz solcher Analyseplattformen verbunden sind, wurden im Rahmen der Verfassungsbeschwerde und einer mündlichen Anhörung thematisiert. In der Anhörung wurde deutlich, dass massenhaft Unbeteiligte, Zeugen oder Kontaktpersonen in dem Analysesystem landen und das zwingende Prinzip der Zweckbindung der Daten missachtet wurde. So wurden beispielsweise große Mengen Daten aus Funkzellenabfragen erfasst, die tausende Handy-Nutzer unwissentlich zu Betroffenen machten. Da es möglich ist, dass umfangreiche Persönlichkeitsprofile aus den Informationen zusammengesetzt werden, entstehen für die Betroffenen Gefahren für ihr Grundrecht auf informationelle Selbstbestimmung, denen das Urteil Rechnung trägt.

Der US-Konzern Palantir

Die entsprechenden Datenanalyse-Werkzeuge, um die es in dem Urteil ging, liefert den deutschen Polizeien ein Softwareanbieter. Konkret geht es um den schon 2003 gegründeten US-Konzern Palantir, der wegen „schwerer Menschenrechtsverletzungen“ in der Kritik steht und dessen enge Geheimdienstverbindungen kein Geheimnis sind. Der ungewöhnliche Name geht auf den Sprachwissenschaftler, Lexikograph und Schriftsteller J. R. R. Tolkien und sein Werk „Der Herr der Ringe“ zurück, der mit dem Wort fiktionale „sehende Spionage-Steine“ umschrieb.

Hauptkunden des Konzerns sind Behörden, Regierungsinstitutionen, Geheimdienste und Militärs weltweit, für die Datenplattformen zur Sammlung und Analyse von Informationen angeboten werden. In Deutschland belieferte Palantir die Polizeien in Hessen, Nordrhein-Westfalen und Bayern mit der Software „Gotham“.

Künftiger Palantir-Einsatz

Um einen Überblick zu den Planungen in den einzelnen Bundesländern zu bekommen, haben wir alle Innenministerien angeschrieben und nach ihren Plänen befragt. Wir wollten wissen, ob die Palantir-Software Gotham oder vergleichbare Softwareprodukte bei der Polizei eingesetzt werden sollen oder Testprojekte in Planung sind. Außer Brandenburg und Hessen haben alle Ministerien innerhalb weniger Tage geantwortet.

In den Bundesländern, in denen keine entsprechende Rechtsgrundlage wie in Hessen oder NRW existiert, ist das Bild uneinheitlich: Sachsen-Anhalt gibt an, gegenwärtig „hierzu keine Vorhaben“ mitteilen zu können. Gleichfalls teilen Sachsen, Bremen, Mecklenburg-Vorpommern und Schleswig-Holstein mit, aktuell „keine Planungen“ zu haben. Niedersachsen hat derzeit ebenfalls „keinerlei Überlegungen“. Auch im Saarland und in Rheinland-Pfalz findet „keine Prüfung“ statt.

Anders sieht es im schwarz-rot regierten Berlin aus: Die Pressestelle der Senatsverwaltung für Inneres und Sport teilt gegenüber netzpolitik.org mit, dass Berlin „derzeit die Optionen zur zukünftigen Nutzung einer Software zur automatisierten Datenanalyse bzw. -auswertung“ prüfe. Offenbar liebäugelt man damit, die bayerische Lösung von Palantir mitzunutzen, schließlich müsste sie ja „nur einmal beschafft“ werden.

Das grün-schwarz regierte Baden-Württemberg „prüft aktuell“ ebenfalls, ob man sich der bayerischen Polizeilösung anschließt. Im rot-rot-grün regierten Thüringen sei hingegen „noch offen“, ob man sich an der bayerischen Variante beteiligen wolle.

Direkt betroffen vom Palantir-Urteil war Hamburg, dessen 2019 eingeführte Befugnis zur automatisierten Datenverarbeitung der Polizei nach der Entscheidung nichtig war. Allerdings war sie bis zum Urteil auch nicht angewendet worden. Aktuell sei noch „keine Entscheidung“ über einen künftigen Einsatz getroffen worden, teilt die Behörde für Inneres und Sport gegenüber netzpolitik.org mit.

Palantir in Bayern, NRW und Hessen

Bei der bayerischen Polizei heißt die Software des US-Konzerns Palantir „VeRA“. Das bayerische Landeskriminalamt hatte nach einer Ausschreibung Palantir den Zuschlag erteilt, ohne dass bisher im Freistaat eine gesetzliche Grundlage vorliegt. Die Bundesländer und auch der Bund könnten sich gemäß des geschlossenen Vertrages dem Palantir-System für ihre Länderpolizeien anschließen.

VeRA verknüpft bereits die bayerischen Datenbanken im Testbetrieb, um Daten aus polizeilichen Ermittlungssystemen automatisiert zu erschließen und auszuwerten. Die regierende Koalition aus Christsozialen und Freien Wählern verweist gegenüber netzpolitik.org auf das „klare Bekenntnis zu VeRA“ im Koalitionsvertrag. Die erforderliche Rechtsgrundlage wolle man schaffen. Wann allerdings ein entsprechender Gesetzesentwurf in den Landtag eingebracht werden kann, stehe noch nicht fest. Sicher sei nur, dass es „so schnell wie möglich“ vorangetrieben werden solle.

Im schwarz-grün regierten Nordrhein-Westfalen werden gleich zwei Systeme zur Datenanalyse eingesetzt: Eines davon ist die Palantir-Software DAR, daneben wird auch ein System namens SKALA (System zur Kriminalitätsauswertung und Lageantizipation) betrieben. Es soll Kriminalitätsschwerpunkte darstellen, besonders bei Einbruchdiebstahl in Wohnräumen. Ein Sprecher des NRW-Innenministeriums sagte gegenüber netzpolitik.org, dass keine Einführung weiterer Produkte im Bereich Predictive Policing geplant sei.

Seit 2022 gibt es im Polizeigesetz in NRW eine Rechtsgrundlage für die Software DAR (Datenbankübergreifende Analyse- und Recherche), die von Palantir bereitgestellt wird. Darin werden nach Angaben des Sprechers des NRW-Innenministeriums „alle in polizeilichen Datenbanken vorhandenen Informationen im Wege der Spiegelung und insoweit Vereinheitlichung“ genutzt. Nach dem Palantir-Urteil vom Februar hätte die NRW-Landesregierung dem Karlsruher Gericht mitgeteilt, dass sie prüfen werde, „dem Landtag eine neuerliche Änderung des Polizeigesetzes vorzuschlagen“. Diese Prüfung dauere aktuell noch an.

Es wäre nicht überraschend, wenn sie sich auch noch weiter hinzöge. Denn auch die Verfassungsmäßigkeit der Norm im Polizeigesetz NRW wird beim Bundesverfassungsgericht derzeit geprüft. Einen Termin des Gerichts gibt es allerdings bisher nicht und er ist auch dem NRW-Innenministerium „nicht bekannt“.

Im schwarz-roten Hessen setzt man weiter auf HessenDATA, wie die dortige Palantir-Version heißt, und legt trotz des Palantir-Urteils im gerade geschlossenen Koalitionsvertrag noch einen drauf: Künftig sollen auch noch „IP-, Maut- und sonstige Verkehrsüberwachungsdaten“ in die Auswertung der Künstlichen Intelligenz eingehen. Doch schon ob die derzeitige Rechtsgrundlage der Palantir-Polizei-KI verfassungsgemäß ist, darf aus guten Gründen bezweifelt werden. Die Gesellschaft für Freiheitsrechte (GFF) hat bereits eine Verfassungsbeschwerde angekündigt.