Automatisierte AnklageChina entwickelt „Staatsanwalt mit Künstlicher Intelligenz“

Chinesische Ermittlungsbehörden könnten künftig weitere digitale Unterstützung erhalten. Wissenschaftler:innen aus Shanghai haben ein System entwickelt, das gängige Straftaten erkennen und selbstständig Anklage erheben können soll.

Shanghai Polizei
Ermittlungsbehörden könnten in China bald weitere digitale Unterstützung erhalten. (Symbolbild) – Alle Rechte vorbehalten IMAGO / ZUMA Press

Chinesische Wissenschaftler:innen haben einen „Staatsanwalt mit Künstlicher Intelligenz“ entwickelt, berichtet die South China Morning Post. Die Software könne mit 97-prozentiger Zuverlässigkeit Anklage erheben und sei auf die Erkennung der acht gängigsten Straftaten in Shanghai spezialisiert.

Schon heute setzen chinesische Strafverfolger auf automatisierte Unterstützung, besonders verbreitet ist seit dem Jahr 2019 das sogenannte „System 206“. Dieses transkribiert unter anderem Vernehmungsprotokolle, digitalisiert Akten und soll widersprüchliche Beweise identifizieren. Selbstständige Entscheidungen trifft es allerdings bislang nicht.

Umfangreiches Trainingsmaterial

Das nun vorgestellte System wurde in Shanghai entwickelt und getestet, der größten Staatsanwaltschaft in China. Als Trainingsmaterial dienten mehr als 17.000 Fälle aus den Jahren 2015 bis 2020. Aus den von Menschen erstellen Akten könne das System anhand von 1.000 „Eigenschaften“ Verdächtigte bewerten, so die Zeitung.

Zu den gängigen Straftaten sollen Kreditkartenbetrug und Diebstahl, aber auch Widerstand gegen die Staatsgewalt und Störung der öffentlichen Ordnung zählen. Letzteres werde oft eingesetzt, um abweichende Meinungen zu ersticken, schreibt die Post. Ein Upgrade des Systems sei bereits in Vorbereitung. Dieses könne weitere Straftaten erkennen und mehrere Anklagen gegen einen einzelnen Verdächtigten erheben.

Ganz ohne Kritik dürfte eine Einführung des Systems jedoch nicht ablaufen. „Die Zuverlässigkeit von 97 Prozent klingt vielleicht hoch, von einer technologischen Warte aus gesehen, aber es wird immer das Risiko von Fehlern geben“, zitiert die Post einen ungenannten menschlichen Staatsanwalt aus Guangzhou. „Wer übernimmt dann in solchen Fällen die Verantwortung? Der Staatsanwalt, die Maschine oder die Entwickler des Algorithmus?“ Zudem könne das System nur auf vorhergegangene Fälle aufbauen und dementsprechend neue soziale Entwicklungen nicht berücksichtigen.

Globaler Wettlauf um Künstliche intelligenz

China hatte 2017 einen ambitionierten Entwicklungsplan rund um Künstliche Intelligenz vorgestellt, bis 2030 will das Land zum internationalen Spitzenreiter beim Einsatz der Technik werden. Seitdem geht es rasant voran: Bereits 2020 wurden in China die weltweit meisten wissenschaftlichen Arbeiten und Patente zu Künstlicher Intelligenz eingereicht, schreibt der Wissenschaftliche Dienst des Europäischen Parlaments.

Im Unterschied zu Europa müsse sich China hierbei keine großen Sorgen um Datenschutz und Privatsphäre machen, zudem helfe der riesige heimische Markt bei der Entwicklung. So ist Videoüberwachung mit Gesichtserkennung inzwischen Alltag geworden, seine Überwachungstechnik exportiert das Land zunehmend ins Ausland.

Als Labor für neuartige Repressionstechniken gilt die mehrheitlich muslimische Provinz Xinjiang. Dort verfolgt der chinesische Apparat die Volksgruppe der Uiguren unter anderem mit Videoüberwachung und künstlicher Intelligenz für Racial Profiling, auch Lügendetektoren mit Gefühlserkennung sind im Einsatz. Rund eine Million Uiguren sollen in sogenannten Umerziehungslagern sitzen, wo massive Menschenrechtsverletzungen und Zwangsarbeit an der Tagesordnung sind.

Kritik aus dem Ausland verbittet sich China: Nachdem sich die neue deutsche Außenministerin Annalena Baerbock für einen härteren Kurs gegenüber autoritär regierten Staaten ausgesprochen hatte, mahnte China, die „chinesisch-deutschen Beziehungen objektiv und ganzheitlich“ zu betrachten. Kürzlich hatte Baerbock angekündigt, angesichts der Menschenrechtslage nicht zu den Olympischen Spielen in China zu reisen.

No Tracking. No Paywall. No Bullshit.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.

Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Jetzt spenden


Jetzt spenden

17 Ergänzungen

  1. Völlig verrückt, technisch, gesellschaftlich.

    Ganz leises Potential: korrupte Provinzhirnis werden so umgangen. Das erfordert aber eine „funktionierende“ Beschwerdestelle.

    Nicht spannend :(.

    1. Wobei das erst der Staatsanwalt ist, nicht das Gericht.

      97% bei Terroristenerkennung wäre abgrundtief schlecht. Da brennt dann im Zweifel die Bude. Wobei oftmals dann ein geschulter Mensch draufgucken sollte, dann relativiert sich das wiederum, da es nur ein Hilfsmittel ist.

      1. Vorsicht mit Prozenten!

        „mit 97-prozentiger Zuverlässigkeit Anklage erheben“
        Bedeutet… irgendwas. Who knows. In 3% der Fälle geht die Sprenkelanlage an, oder irgendwie …

        3% False Positives wären schlimm, da bräuchte man sicherlich gepanzerte Autos mit KI-MGs drauf usw. sonst kriegt man schon nicht mal den Bahnhof einer mittleren Stadt in den Griff. 3% False Negatives… so what.

        Im Grunde müsste man sich einen passenden Film suchen, und die jew. 3% da reindenken. Also 3% der Menschenmenge sind Terroristen, wie geht die Story weiter? Oder wenn 3% als welche erkannt werden, aber keine sind ~ Nationalgarde statt Vorstadtermittler, und dann auch mit „robusten Verhörmethoden vor Ort“?
        Das Beispiel hinkt, weil hier keine allgemeine Erkennung passiert, sondern bereits eine Vorauswahl durch Akteneingabe.

        Die Formulierung aus dem Text gibt da also nicht so viel her. Sind die Anklagen denn totsichere Verurteilungen? Kann ja auch 50-50 sein von der Anklage aus. Sicher ist: 97% aller Eingaben aus Akten führen zu einer Anklage, wobei dann offenbar 3% als False Negatives gesehen werden sollen, und gegen Erich Mielke 0 Stimmen angefallen sind. Ich vermute so ein System ist leicht zu narren, wenn man eine Anklage haben will. Die eigentliche Frage ist also, was ab da passiert. Da zeigt der Text nicht so viel von, es gibt Anwälte, aber einen allgemeinen Rechtsstaat?

    2. Das Hilfsmittel wäre in einem funktionierenden Rechtsstaat wahrscheinlich nur bedenklich.

      In einem System, das gänzlich von der Willkür des Machtapparates abhängt (der weder mit künstlicher noch anderer Intelligenz zu funktionieren scheint, sondern mit einer perfiden Systematik, die nichts anderes als die Ausweitung und Sicherung der eigenen Macht anstrebt), ist das Hilfsmittel beängstigend und bedrohlich.

      Selbstschussanlagen im Grenzstreifen waren auch nur ein Hilfsmittel, um illegaler Abwanderung aus der DDR vorzubeugen…

      1. Das war nicht als allgemeine alleseinsaugende Abhandlung über Hilfsmittel gedacht. In der Kürze war die Idee, dass sich 3% False Positives bei folgender Betrachtung durch geschulte Menschen etwas relativieren würde.

        Natürlich ist das ganze Drumherum dann auch essentiell, z.B. ob eine wirksame Verteidigung gegen falsche Vorwürfe möglich ist, ob die Gesetze zivilisatorisch wirksam sind, Beschwerde- und angemessene Entschädigung wirklich zugänglich sind. Auch was passiert, wenn festgestellt wird, dass ein Beamter o.ä. da immer die Leute in einer Datenbank nachgeguckt hat, und den von Links dann gerne mal ein SEK verpasst hat. Bei sowas sind natürlich rigorose Aufarbeitung und Entschädigungen das Minimum. Selbst in DEU-HEU steht es da nicht so 100% gut drum.

        1. Gesichtserkennung: Wie stellt man sich das vor? Sie beobachten den Bahnhof über Wochen, Sie kennen eine Menge Gesichter, muss dieses als False Positive gemeldet werden? Wird überprüft, ob alles sinnvoll eingeordnet und abhehandelt wurde? Kann ein Alarm weggemauschelt werden, oder auf Personenkontrolle durch Kumpel gesetzt, dann aber kein Update der Erkennung getriggert werden?

          Das kann man bestimmt irgendwo nachlesen, das ist ja der Sumpf hinter dem Sumpf von vor dem Sumpf, wo zwischen noch ein Sumpf.

  2. „Globaler Wettkampf um KI“

    Moment! Der Wettkampf ist Reich/Macht gegen Rest. Mittels KI, so die Hoffnung, kann man den selbstwartenden Sklavenpark umsetzen, noch bevor es Roboter gibt, die das für „uns“ machen. „Uns“ heißt im letzteren Szenario: „ihr“ sterbt dann, „wir“ leben mit jeder Menge Robotern, ein paar Günstlingen, ein bis zwei Genpools und jeder Menge Swimmingpools weiter. Um Intelligenz geht es längst nicht mehr, „euer“ bestes Szenario ist inetwa das „Eintreffen“ einer singulären KI, die das Sonnensystem aufräumt, versehentlich oder nicht. Das wiederum ist der Traum anderer Trottel, auf die ich derzeit nicht weiter eingehen will.

    Wettkampf um KI wäre vielleicht noch, die bessere schnell hochziehbare Sorte gebaut zu kriegen, mittels derer alles andere so verschnellert wird, das der letzlich am Besten Verschnellerte „gewinnt“, also im Grunde Atomkrieg 2.0, der dann allerdings auf 1.0 abbildbar ist, weil die anderen dann Atomwaffen einsetzen, Nuklearer Winter funktioniert vermutlich auch, wenn du es auf deinem eigenen Gebiet machst, Gruß an die Atommine. Also eigentlich wie das Chinaproblem: wir setzen wegen „2xwin vs vermeintlich 1xwin“ auf wirtschaftliche Zusammenarbeit, aber müssen am Ende überlegen, wie wir es wieder beenden, weil die aus ihrer vermeintlichen Höhle herausgekrochen kommen. Wir sind konzeptionell nicht so viel weiter als im kalten Krieg. Und nicht glauben, wir hätten uns als Menschheit da durchgewurstelt. Das war vielfach reines Glück, lediglich die Tendenz, Spannungen abzubauen hat langfristig einen Nutzen gebracht.

    1. Na na, nicht so düster!

      Es gibt ein Gegenmodell: das Szenario oben ohne Töten, einfach nur im sicheren abgeschotteten Bereich, z.B. einer Raumstation, oder einer Insel, o.ä., während der Rest der Welt unter Kontrolle gehalten wird. Die bauen also gewissermaßen nur den Zaun wieder auf.

      Oder es lernt sich nach dem nächsten Crash: Beteiligungsprinzip ist doch wichtig, weil sonst die Zaunaufbauabrissspannung entsteht. Merke: Prinzipien der modernen Demokratie etwa doch universell (+- bischen)?

      1. @green & @ hs

        ich versuche es mal so:

        Ein Staat, der seine Gesetze durchsetzt mittels absichtlich unpräzise gehaltener Vorwürfe wie „picking quarrels and provoking trouble“, und dies vornehmlich gegen Regime-Kritiker einsetzt, in dem würde ich nicht leben wollen.

        Und ich hätte wenig dafür übrig, dies als hinnehmbar zu bezeichnen, auch wenn Gerichte dies durchsetzen.

  3. Das System (bzw. das Vorgängermodell) gibt es schon eine ganze Weile (https://www.chinadaily.com.cn/a/201901/24/WS5c4959f9a3106c65c34e64ea.html), aber gut dass jetzt auf einmal jede Lokalzeitung darüber berichtet.

    Schade dass die weltweite Berichterstattung über ein Land wie China mittlerweile anscheinend auf ein paar Dutzend Journalisten zurückführbar ist. Liegt aber natürlich an der Partei und deren immer größer werdenden Restriktionen. Eine NPR-Journalistin meinte irgendwann letztes Jahr, dass es inzwischen wohl nur noch unter hundert Journalisten bekannter nichtchinesischer, englischsprachiger Medien in Peking gibt und denen wird dann ein registrierungspflichtiger chinesischer Helfer zur Seite gestellt. Von der NYT z.B. wurden ja einfach mal alle Journalisten rausgeschmissen. Richtig bitter, die haben ne chinesischsprachige Ausgabe seit 2012. Damals hätte hier kaum ein Chefredakteur überhaupt gewusst wer Xi Jinping oder Hu Jintao sind. Und mittlerweile traut sich auch kein Sinologe mehr, uns solche Sachen zu erklären, weil der will ja vielleicht irgendwann wieder nach China und wir haben 0 Anreizmechanismen, dass Leute mit Ahnung sich zu dem Thema äußern. Aber lasst uns ruhig weiter so tun, als hätte die Art wie China sich entwickelt keinen nennenswerten Einfluss auf uns.

    Nochmal vertiefend zum Thema 97%:
    ML kann für manche Sachen wirklich verbesserte Ergebnisse erzielen, aber dazu braucht man normalerweise Wissen sowohl über ML-Modelle als auch über den Anwendungsbereich. Vor allem braucht man vorher schon eine Vorstellung davon, was ein gutes Ergebnis ist.

    Bei manchen Themen (z.B. Alarmierung bei atypischem Netzverkehr) heißt das für die Vorgehensweise bei der Entwicklung, dass man festlegt, dass alles mit einer false-positive-Rate von über x% Mist ist, und optimiert dann von da aus weiter nach was auch immer für einer Metrik. x=0.00001 bei einer pro-Paket-Entscheidung heißt dann, dass bei 1 Million Paketen pro Sekunde dein Alarm 1 mal pro Sekunde losgeht mit dem zwangsläufigen Ergebnis, dass der Alarm einfach ignoriert wird. Da sind 0% false negatives dann auch egal; man braucht einfach ein extrem kleines x und muss für eine akkurate Wahl eine Vorstellung von den passenden Größenordnungen haben.

    Bei der Staatsanwalt-Software kann ich leider keine Antworten zu den üblichen Fragen zum Thema „wie gut ist das jetzt“ finden, oder auch nur eine Beschreibung wie denn jetzt genau das Vorgehen ist. Klingt aber nach Quark.

  4. Eine „Zuverlässigkeit von 97 Prozent“ – sind die übrigen 3 % dann diejenigen Straftaten, die nicht erkannt werden, oder diejenigen Anklagen, die fälschlicherweise erhoben werden?

    1. Vermutlich letzteres, da ersteres nicht erkennbar waere.

      Dass eine Anklage korrekt erhoben wurde, sagt uebrigens noch nichts ueber eine Verurteilung aus.

    2. Die 97% sind geschönte Daten, da sie interpretiert sind: Einmal im eigenen Hauseingang überfallen und schon sieht man überall Gespenster. Man arbeitet dann mit Unterstellungen und dichtet auf Grund eigener schlechter Erfahrungen Andernen Untaten an, die gar nicht existieren. Dann reicht schon z.B. Haarfarbe, fremdländische Namen oder Aussehen, um mit 97%-iger Sicherheit „zu wissen“, dass diese Person etwas Böses im Schilde führt. So etwas führt ganz schnell zur Sippenhaft.

  5. Das ist doch wirklich sehr ermutigend. Endlich ein Staat, der Strafverfolgung automatisiert. Wenn das bei uns so gehen würde bei illegaler Einreise und Abschiebung, dann könnten die meisten innerhalb von 24 Stunden abgeschoben werden. China ist ein absolutes Vorbild für einen konsequenten Rechtsstaat. Da kommen alle Uighuren sofort ins Arbeitslager und können keinen Schaden anrichten. Von China lernen, heißt siegen lernen. Hongkong haben die schon einkassiert. Taiwan ist als nächstes dran. Einfach super. Die haben eine erstklassige Armee, eine Super-Marine, und Drohnen, von denen Deutschland nur träumen kann. Eine faszinierende neue Großmacht, die sich dort entwickelt. Kauft Kuka in Deutschland auf und den Hafen von Piräus. Und in Nullkommanix ist Europa mit seinen Scheindemokratien abserviert und wir erhalten endlich östliche Demokratie dank unserem großartigen auf Lebenszeit ernannten Führer Xiping.
    Dagegen war Stalin der letzte Husten.

Ergänzung an Anonymous Ergänzung abbrechen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.