Überwachung

Prognose-Software für die Polizei: Durchleuchtung und Scoring von Menschen

In Fresno, im US-amerikanischen Bundesstaat Kalifornien, kommt eine neue Software mit dem Namen „Beware“ zum Einsatz, die personenbezogene Daten auswertet und das Verhalten von Menschen für polizeiliche Zwecke verdatet und zu berechnen sucht. Das berichtet die Washington Post in dem lesenswerten Artikel von Justin Jouvenal: „The new way police are surveilling you: Calculating your threat ‚score‘“.

Wir finanzieren uns zu fast 100 % aus Spenden von Leserinnen und Lesern. Unterstütze unsere Arbeit mit einer Spende oder einem Dauerauftrag.

Der Trend ist nicht neu: Polizei-Personal wird durch Software beraten und ersetzt, prognostizierende Software für die Polizei gilt den Herstellern als Markt der Zukunft. Mal wieder wurde erst nach Beginn des Einsatzes von „Beware“ angefangen, über Privatsphäre-Aspekte zu diskutieren, wie die ACLU kritisiert. Welche Algorithmen nach welchen Kriterien in dem Softwareprodukt arbeiten, liegt außerdem im Dunkeln. In den letzten Jahren ist zu beobachten, dass wie selbstverständlich Äußerungen aus Social-Media-Zusammenhängen in die Auswertung aufgenommen wird – so auch bei „Beware“ vom Hersteller „Intrado“.

Die Polizei in Fresno hat sagenhafte 600.000 US-Dollar für das als „nerve center“ bezeichnete Rechenzentrum berappt, dessen Beschreibung ein wenig an Science Fiction erinnert:

police social media
Police are now using your social media posts, other data to give you a „threat score“.

On 57 monitors that cover the walls of the center, operators zoomed and panned an array of roughly 200 police cameras perched across the city. They could dial up 800 more feeds from the city’s schools and traffic cameras, and they soon hope to add 400 more streams from cameras worn on officers’ bodies and from thousands from local businesses that have surveillance systems.

„Beware“ errechnet eine Art Gefahrenwert („threat score“) für Menschen, was über kurz oder lang das Problem aufwerfen wird, dass der Score-Wert Entscheidungen über diesen Menschen nach sich ziehen wird. Wird der Score-Wert zusammen mit soziodemographischen Daten in Zukunft mitentscheiden, ob eine Wohnung durchsucht, ein Notruf priorisiert oder eine Anzeige etwas langsamer bearbeitet wird? Und was sagen etwa die Daten des Social-Media-Monitoring wirklich aus? Im Artikel ist dafür ein recht einleuchtendes Beispiel einer Frau, die über ein Spiel mit dem Namen „Rage“ twitterte, was ihren Gefahrenwert hochgezogen hat.

Auch in Deutschland laufen Versuche mit sogenannter Prognosesoftware, die allerdings von einem anderen Kaliber sind, da der Aspekt der Durchleuchtung und des Scoring von Menschen fehlt. Aber neu ist die Idee auch hierzulande längst nicht mehr.

Weitersagen und Unterstützen. Danke!
20 Kommentare
  1. Zitat:“ Im Artikel ist dafür ein recht einleuchtendes Beispiel einer Frau, die über ein Spiel mit dem Namen „Rage“ twitterte, was ihren Gefahrenwert hochgezogen hat.“

    Es ist mal wieder soweit!
    Zu DDR Zeiten musste man auch jedes öffentliche Wort auf die berüchtigte „Goldwaage“ legen!
    Willkommen im Land der neuen Freiheit!
    … DDR 2.0 Global oder auch „Überholen ohne Einzuholen!“ könnte man es benennen!
    Langsam haben diese Leute eine echte Mangelerscheinung, keiner will mehr Terrorist spielen, scheint es!
    … da muss man eben die Menge der potentiellen Gefährder so puschen, das die gemeldete Bedrohungslage, zumindest eine theoretisch reale Grundlage haben könnte!
    … ist wie mit Abdeslam, der anscheinend Protektion hatte oder die Briten hofften, das er in London auch Anschläge machen würde, weil … mit Anschlägen kann man trefflich Politik machen!
    -> http://mobile2.tagesanzeiger.ch/articles/5693a43dab5c377b6e000001

    1. Es ist wieder so weit!
      Eine Meute Hochintelligenter gibt ihre Meinung in schlechtem Deutsch zum Besten!
      „Alles wurde bereits gesagt – Nur halt noch nicht von Jedem!“

      1. @Max:
        Mit dem linken Fuß aufgestanden? Oder warum verbreiten Sie schlechte Stimmung?

        Und wollten Sie eigentlich auch noch was ZUM THEMA beitragen oder einfach nur unerkannt kommentieren?

  2. Ist die Menschheit schon total vertrottelt bzw. unsere Regierungen ? Ist die Bevölkerung – global – plötzlich gemeingefährlich geworden ? Das, was man auf uns abladen will, ist doch (vielfach aus den USA) hausgemacht, zur Versklavung der Menschen. „Terror“ – dieses Wort und die dazugehörigen Taten sind ebenso gezüchtet von Staaten, die ihre Interessen durchsetzen wollen und es auch tun. Kein Preis ist ihnen dafür zu hoch. Gibt es keine anderen Marktlücken, die man gewinnbringend schließen kann ? Wie wäre es mit Kunst, Kultur, bessere Bildung etc. . Das ist es, was der Mensch braucht um das Leben schön zu gestalten und nicht diese ewigen Scharmützel, Kriege, Unfrieden säen und andere Scheußlichkeiten. Ich schaue schon lange keine Nachrichten mehr und lese keine Tageszeitung. Aber was hier geboten wird, ist noch immer unappetitlich genug. Daß diese kranken Manipulierer noch ihr eigenes Spiegelbild sehen können, ohne daß ihnen übel wird, finde ich zunehmend erstaunlicher. Jetzt kann man mir meinetwegen auch gleich ein hohes Gefahrenpotential verpassen. Mir ist es wurscht.

    1. „Ist die Menschheit schon total vertrottelt bzw. unsere Regierungen ?“
      Nein, die Menschheit ist nicht unsere Regierungen.

      „Ist die Bevölkerung – global – plötzlich gemeingefährlich geworden ?“
      Nein, sie war global schon immer gemeingefährlich, siehe Treibahusemissionen, etc.

      „Das, was man auf uns abladen will, ist doch (vielfach aus den USA) hausgemacht, zur Versklavung der Menschen.“
      Ja klar, „die USA“ will explizit Sie, Frau Killer versklaven! Hierfür wurde eigens ein Verklavungsministerium gegründet.

      „„Terror“ – dieses Wort und die dazugehörigen Taten sind ebenso gezüchtet von Staaten, die ihre Interessen durchsetzen wollen und es auch tun.“
      Ebenso, wie was? Oder um es wie Peter Scholl-Latour zu sagen: „Terror ist der Krieg der Armen, Krieg ist der Terror der Reichen.“ Da haben Sie wieder ein Zitat, mit dem Sie beim nächsten Antroposophenstammtisch glänzen können. Vorsicht: Die Sitznachbarin könnte vor Rührung anfangen zu weinen!

      „Kein Preis ist ihnen dafür zu hoch.“
      Wem, der „USA“? Deren Regierung? Der US Bevölkerung? Womit wird bezahlt? Geld?

      „Gibt es keine anderen Marktlücken, die man gewinnbringend schließen kann ?“
      Genug! Einfach eine Verschwörung ausdenken, ein Buch darüber schreiben und dick absahnen! Pro-Tipp: Sich vorher als Journalist bezeichnen und dann den Job kündigen, wirkt einfach viieeel authentischer!

      „Wie wäre es mit Kunst, Kultur, bessere Bildung etc. . Das ist es, was der Mensch braucht um das Leben schön zu gestalten und nicht diese ewigen Scharmützel, Kriege, Unfrieden säen und andere Scheußlichkeiten.“
      Genau, gib‘ dem kleinen Mann seine Bücherei-Freikarte, sonntags Fußball und den Kindern Waldorfschulen – Bäm, keine Kriege und andere Scheußlichkeiten mehr! Das ist ja einfach!

      „Ich schaue schon lange keine Nachrichten mehr und lese keine Tageszeitung.“
      Das Vogel-Strauß-Prinzip. Was ich nicht mitbekomme, existiert nicht. Mit ca. 3-4 Jahren hatte ich auch noch so gedacht!

      „Aber was hier geboten wird, ist noch immer unappetitlich genug.“
      Wo ist hier und warum essen Sie es dann?

      „Daß diese kranken Manipulierer noch ihr eigenes Spiegelbild sehen können, ohne daß ihnen übel wird, finde ich zunehmend erstaunlicher.“
      Das ist wie mit dem Brett vorm Kopf: Kann man ja nicht sehen, weil da ist ja nen Brett vor.

      „Jetzt kann man mir meinetwegen auch gleich ein hohes Gefahrenpotential verpassen. Mir ist es wurscht.“
      Jeah, Aluhüte auf und alles ist wurscht!

  3. Die Prognose-Software und ihre Anwendung reiht sich ein in die lange Liste der Maßnahmen, die die Gesellschaft nach dem behavioristischen Menschenbild (um)formen soll – das Gegenteil eines Menschenbildes, welches den Menschen als Freien sieht. Er soll durch „richtige“, „gute“ Algorithmen mit Zuckerbrot und Peitsche zu seinem Wohl gezwungen („angestupst“/Nudging) werden.

    Politischer Hintergrund ist ein Libertarismus, der in der Wirtschaft monopolistische Strukturen einführen möchte.

    http://www.gfe-media.de/blog/gegen-libertarismus-und-monopolismus/

  4. Vielleicht sollte die kalifornische Polizei die Software auf die eigenen Leute loslassen, um größenwahnsinnige Cops lieber woanders hinzuschicken oder ganz aus dem Verkehr zu ziehen. Vielleicht würde es dann weniger Tote durch Polizeigewalt geben.

  5. Ist das sowas wie die Vorstufe zum nachweislichen Gesinnungsverbrechen? Ich denke also bin ich kriminell?
    Wieso denn nicht die Vorstufe mit Socialmedia überspringen und gleich Keylogger in allen Geräten einbauen die dann in Echtzeit auf den „Gefährder“ reagieren können? Big Data… big shit!
    Ich will eins noch miterleben. Das die Leute, die sich den Scheiss ausdenken selbst Opfer ihres Monstrums aus Algorithmen und Clouddaten werden.
    Schuldig bis das Gegenteil berechnet ist … scheint wohl die Normalität in den besagten Kreisen abgelöst zu haben.

  6. Dann sollten doch alle mal ganz schnell „Bombe, Anschlag usw…“ twittern – ob sie dann tausende Hausdurchsuchungen machen? So eine Aktion würde zumindest zeigen, dass das Tool völlig schwachsinnig ist.

    1. Hast du ansatzweise eine Vorstellung davon wie solche Tools funktionieren?
      Selbst einfache Social Media Tools, die ihre Anwendung in Unternehmen finden, können sowas ausfiltern.
      Beispiel anhand der Software Brandwatch: Mit einer einfachen Abfrage (geschrieben ähnlich wie der SQL Syntax) kann bestimmt werden, dass Wort X im Abstand von Y Zeichen zu Wort Z stehen soll.

      Da hilft reines BOMBE BOME BOMBE ANSCHLAG Twittern nicht viel.

  7. Lesenswert zu diesem Thema: Das Joshua-Profil von Sebastian Fitzek.
    Eigentlich eine gute Sache, wenn die ganzen Daten, die sowieso schon über uns gesammelt werden und für Werbezwecke verwendet werden (behavioral targeting) dazu dienen könnten, echte Verbrechen zu verhindern.
    Aber nicht auszudenken was geschieht, wenn so ein Instrument in die falschen Hände gerät – sofern es dafür überhaupt „die richtigen Hände“ gibt!

  8. Und erkennt diese Software auch Ironie und Sarkasmus?
    Und was, wenn ich in einem Pegida-Forum „Hört auf mit dem Hass!“ in 100 Kommentare schreibe?

    Auf gut Deutsch: Die Software kann die Syntax lesen, aber die Semantik geht komplett an ihr vorbei.

  9. was komischerweise in deutschen Medien kaum angesprochen wird, außer die offensichtlichen sichtbaren tödlich verlaufenden Auswüchse, dass die US-amerikanische Polizeiausbildung einen höchst „robusten“ Umgang mit den Bürgern als völlig normal und angemessen ansieht.

    Die jetzt sehr sehr langsam eingeführten Änderungen hin zu einem mehr zivilen Umgang mit den Menschen werden nur zögerlich eingeführt.

  10. Ich kann gerade gar nicht befreit auftrollen, wo Sie mir nahegelegt haben, dass mein Aluhut wirkungslos sei.
    Eines möchte ich aber zu bedenken geben.
    Meine sprachlich-logische Hirnhälfte hat die musisch-emotionale im Keller an den Heizkörper gekettet.
    Somit profitiere ich auch in diesem Punkt von Zuschreibungsvorteilen und Privilegien, da der Weg zu den Gefühlen über das Ansprechen des Verstandes einen Imagevorteil hat.
    Wir sollten jedoch die Menschen, bei denen das anders ist, nicht immer so fürchterlich verunglimpfen.
    Letzten Endes haben derlei Entwicklungen auch wie erwähnt moralische Implikationen und derlei lässt sich nicht ohne Prämisse logisch begründen.
    Ich will nur sagen, dass die Frage nach einem Interesse an Esoterik in Testverfahren nicht Gegenstand von Intelligenztests ist, sondern zur Evaluierung emotionaler Kompetenz dient.
    Religiöse Menschen sind auch nicht alle dumm und ich will hier nicht den sprichwörtlichen Astrophysiker bemühen, der wieder Platz für Gott hat.
    Derlei sind Wissenssysteme, die auf einer Selbstähnlichkeit zu ihrem Anwender basieren.
    So kann zum Beispiel Gott nur so lieb sein, wie wir ihn lassen, da er uns ja noch als Rechtfertigung für die Grausamkeiten dienen muss, die wir ohnehin begangen hätten, vor deren Gewaltspiralen als Konsequenz wir uns jedoch fürchten, während die Aggression gleichzeitig als einziges Verteidigungsmittel scheint.
    Ben Gurion hat nach dem Sechs-Tage-Krieg gesagt, ihn gewonnen zu haben, sei das Schlimmste, was passieren konnte, noch schlimmer wäre nur gewesen, ihn zu verlieren.
    Religionen sind mimetische Spiegelungen.
    Man will die Gottheit gewogen machen und irgendwann beginnt das neue Testament.
    Alles basiert auf der Erfahrung, dass jeder ungefähre Vorstellungen davon hat, wie die Frage „Was würde Jesus/der Dalai Lama oder sonst wer tun/dazu sagen?“, zu beantworten wäre.
    Emotionale Kompetenz ist die Wahrnehmung der Tatsache, dass alle Menschen gleich sind, auf der Grundlage von Erfahrungen im intersubjektiven Raum, vulgo Mitgefühl.
    Diese Menschen müssen oft ihre Eloquenz nicht so sehr trainieren, da sie unter ihresgleichen wahrgenommen werden und nicht wie der Extremfall meiner Prägung so hilflos gemacht wurden, dass sie den Beruf des Schriftstellers nahegelegt bekommen.
    Notiz am Rande: jeder Autor ist Sadist, selbst wenn er über Mitgefühl oder Kriminologie schreibt. Tatsache.
    Manche Menschen merken so etwas, obwohl sie es nicht an der Uni erzählt bekamen.
    Das „Klischee“ kann man reputierlich auch mit Adorno distinktionstauglich machen („Wer vom Kapitalismus nicht reden will, muss zum Nationalsozialismus schweigen“, oder mit Erich Fromm, „Eine gesunde Wirtschaft braucht kranke Menschen.“
    Ich möchte nur darauf hinaus, dass es im Sinne einer nicht religiösen mimetischen Spiegelung zwischen realen Personen hilfreich ist, eine positive Annahme über deren Absichten und Motive zu treffen, um die schönsten Saiten des anderen zum Klingen zu bringen und konstruktiv sein zu können und das auch anzunehmen.
    Gerade Ironie soll wie der autoritäre Charakter unangreifbar machen und Verachtung den anderen erniedrigen und einen selbst erhöhen.
    Da ist dann die Hybris nicht weit, die mit gewissen Gewissheiten einhergeht.
    Sensitivität ist auch nur die schöne Schwester der Paranoia. 2006 sagte mir ein Informatiker, dass die Netze komplett überwacht würden. Ich habe ihm vertraut, weil er mich gut behandelt und das ist das Gegenteil ängstlicher Paranoia.
    Ich kam mir heute den ganzen Tag über saudumm vor, weil meine Lebenserzählung dekonstruiert war, ich es auch nicht weiß, eigentlich alles ganz einfach ist, aber unermesslich kompliziert, sobald man es teilen möchte. Als ich den Kontrollverlust besser ertragen konnte, staunte ich Menschen an, relativ andächtig.
    Ich will nur sagen, dass wir tatsächlich einen nicht zu rechtfertigenden Preis für alle unsere kleinmütigen Entscheidungen treffen.
    Ich habe auf der Straße mal einen Hogesa-Menschen getroffen. Er kannte nur Kampf, weil er im Alter von neun Jahren bereits deutscher Meister im Boxen war.
    Er hatte mehr Angst davor, was passiert, wenn es nicht den Lauf nimmt, den er von klein auf kennt als vor Gewalt.
    Ich habe mich mit ihm unterhalten.
    Er hat meinen kuscheligen Bart befühlt und ich seine Nase, aus der man das Nasenbein operativ entfernt hatte, um Schläge besser einstecken zu können.
    Natürlich hat das nicht alles gut gemacht, aber in der Situation war es das bestmögliche und wir sind einander begegnet und haben nicht nur Funktionen ausgetauscht.
    Er holte Begleiter und sagte denen: „Mit diesem Menschen habe ich mich gerade unterhalten.“
    Es bedeutete ihm etwas.
    Die beiden anderen haben ihn nur kalt ignoriert, obwohl er so stark und martialisch aussah.
    In unseren Zeiten ist vielleicht wichtig, es einander leichter zu machen, unsere Angst und Aggressionen zu verringern.
    Wir sind ja alle nicht so zufrieden hier, wie wir es gemessen an Zahlen und Gütern sein sollten.
    Das Private kann durchaus Aufschluss über das Politische geben.
    Man lernt nur zu schreiben, wenn man so hilflos war, dass man Sadist wurde und die eigene Hilflosigkeit nur bannen kann, in dem andere, Leser, ausgeliefert sind.
    Meine persönliche Meinung ist, dass ein ungelenker Kommentar besser ist als Zeiten und Technologienutzung zum Diskurs, die mich bemüßigen, einen eigenen Kommentar zu verfassen.
    Seien Sie alle herzlich gegrüßt.
    Schlafen Sie noch ein bisschen.

  11. Für „predictive analytics“ werden immer mehr Daten genutzt, die – wo und wie auch immer – erhoben werden, von irgendwelchen selbstlernenden Algorithmen ausgewertet und damit Persönlichkeitsprofile berechnet. Große Datenauswerter korrelieren alle Informationen, die sie in die Finger bekommen, und deren Kausalzusammenhang sich nun wirklich nicht auf den ersten Blick erschließt (nur z.B. Mondphasen auf Aktienerträge: http://www.iijournals.com/doi/abs/10.3905/jpe.2003.320053) und der bei der statistischen Analyse bewusst nicht berücksichtigt wird.

    Das hat nicht nur Auswirkung auf die Werbung, die einem angezeigt wird. Es beeinflusst, ob man Versicherungs-, Miet-, Kauf- oder Arbeitsverträge abschließen kann, ob man Bankkredite bekommt oder eine Gefahr für die Allgemeinheit darstellt (siehe Artikel). Das Ganze wirkt sich nicht nur auf einen selber aus, sondern auch auf das Umfeld (und damit logischerweise vice versa). Das Prinzip kannte man schon vor 200 Jahren:

    Sage mir, mit wem du umgehst, so sage ich dir, wer du bist.

    Vor diesem Hintergrund verstehe ich einfach nicht, was in den Köpfen von Menschen, wie z.B. Peter Altmaier, abgeht. Wie kann unser Bundesminister „für besondere Aufgaben“ im Interview mit Tilo Jung nur eine solche Aussage machen?

    Ich glaube, dass man einfach wissen muss, dass man viele Dinge gar nicht verbergen kann, nämlich unabhängig davon, ob einen der Nachrichtendienst abhört. Und es ist immer gut, wenn man sich dementsprechend benimmt. Das versuche ich mit meinen bescheidenen Möglichkeiten, und ich glaube, dass ich mich für das, was ich über mein Mobiltelefon sage oder meine E-Mails verschicke, dass ich mich dafür nicht zu schämen brauche.

    Das ist doch einfach nur lächerlich.

  12. Die USA haben ja auch die zweithöchste Inhaftierungsrate der Welt, selbst die in der Ukraine ist fast nur halb so hoch. Da ist es von der Denkstruktur nur konsequent für jedes Insekt ein Profiling anzulegen.

    Es hat schon seinen Grund, warum man weder private Korrespondenz, Unterhaltungen und Räume durchwühlen sollte, da man als Außenstehender weder Satire, Sarkasmus noch Dampfablassen und verbales Abkotzen hinreichend interpretieren kann. Wer den ganzen Tag alle Äußerungen eines Menschen scannt und dann noch zu interpretieren anfängt, wer wann was wie gemeint haben könnte, muss sich zwanghaft von Verbrechern umzingelt sehen und die Maximaltherapie verordnen.

    Wer noch keinen Verfolgungswahn hat, bekommt ihn bei der Aktion. Und dort sammeln sich dann die ganzen Psychopathen und Paranoidiker.

    Cave hominem!

Schreibe einen Kommentar zu Micha Antworten abbrechen

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.