Künstliche IntelligenzChina testet Gefühlserkennung an uigurischer Minderheit

Die chinesische Region Xinjiang ist das Versuchsfeld für die extremsten Überwachungsmaßnahmen der Welt. Seit Jahren unterdrückt die Zentralregierung Chinas die muslimische Minderheit mit unterschiedlichsten Methoden. Nun testet sie dort eine moderne Variante des Lügendetektors.

Karte mit Internierungslager in der chinesischen Region Xinjiang
Mehr als 380 Internierungslager gibt es in der chinesischen Region Xinjiang. – Alle Rechte vorbehalten The Xinjiang Data Project

Der chinesische Staat testet Systeme zur Gefühlserkennung an der uigurischen Minderheit. Dafür wurden ein spezielles Kamera- und Softwaresystem in chinesischen Polizeistationen installiert. Die von der Software untersuchten Personen werden auf einen Stuhl in drei Meter Entfernung der Kamera geschnallt, die Systeme überwachen dann bei Befragungen die Reaktionen im Gesicht und sogar die Poren der Haut. Das System soll als eine Art moderner Lügendetektor eingesetzt werden.

Die Nutzung dieses neuen Systems hat ein chinesischer Ingenieur der BBC offenbart. Dafür legte der Ingenieur der BBC Fotos vor und erklärte das System, das mittels Machine Learning trainiert werde. Dem Bericht zufolge wird das System genutzt, um Vorverurteilungen ohne glaubwürdige Beweise vorzunehmen.

Das Gefühlserkennungssystem spuckt nach einer Befragung dann ein Diagramm aus, aus dem hervorgehen soll, wie glaubwürdig jemand ist. Sophie Richardson, China-Direktorin von Human Rights Watch, sagt gegenüber der BBC: „Es ist schockierendes Material. Es geht nicht nur darum, dass Menschen auf ein Kuchendiagramm reduziert werden, es geht um Menschen, die sich in hochgradig erzwungenen Umständen befinden, die unter enormem Druck stehen, die verständlicherweise nervös sind. Das wird dann als Hinweis auf Schuld gewertet, und das ist höchst problematisch.“ (unsere Übersetzung)

Testfeld für den extremen Überwachungsstaat

Die uigurische Minderheit dient der chinesischen Führung seit Jahren als Versuchskaninchen für den Ausbau des Überwachungsstaates. Neben solchen Versuchen und dem Pilotausbau des Überwachungsstaates in der uigurischen Provinz geht China gegen die Minderheit, der sie separatistische Bestrebungen vorwirft, mit aller Härte vor. Etwa eine Million Menschen sind in Umerziehungslagern interniert, es gibt Zwangsarbeit und eine Geburtenkontrolle mit Zwangssterilisationen. Alle Uigur:innen sind in einer Biometrie- und DNA-Datenbank erfasst.

Laut Darren Byler von der University of Colorado müssen Uiguren heute ihr Smartphone immer mit sich führen und können verhaftet werden, wenn sie es nicht tun. Die Daten werden in ein System namens „Integrated Joint Operations Platform“ gespeist, das bei verdächtigem Verhalten Alarm schlägt. Zudem werden mit auf die uigurische Minderheit zugeschnittenen Apps deren Vertreter im In- und Ausland ausspioniert.

Westliche Firmen profitieren

China strebt eine Assimilation der muslimischen Bevölkerung an die Mehrheitsgesellschaft an. Das Land hat dafür ein System der systematischen Unterdrückung, Folter und Menschenrechtsverletzungen gegenüber den Uiguren aufgebaut, konstatiert die Organisation Human Rights Watch. Kritik begegnet der chinesische Staat mit Leugnung, diplomatischer Härte und einem Ausbau der Propaganda.

Das Problem der Unterdrückung ist kein rein chinesisches, sondern hat Nutznießer:innen in den westlichen Demokratien: US-Investoren sind finanziell an chinesischen Überwachungs- und Technikfirmen beteiligt. Aber auch internationale Konzerne wie Volkswagen, Apple oder Siemens geraten ins Visier, weil sie von den Bedingungen in der uigurischen Provinz Xinjiang und der Zwangsarbeit in den Zulieferketten profitieren könnten.

5 Ergänzungen

  1. Eine religiöse Minderheit wird von einem autoritären Regime systematisch verfolgt, von ihren Famillien und Freunden getrennt, in Lager gesteckt und dort gefoltert.
    Das kommt mir irgendwie bekannt vor… Scheint als würde die Geschichte sich tatsächlich manchmal wiederholen.
    Doch müssen wir zuerst einen Weltkrieg gegen China gewinnen um die miserablen Lebensbedingungen von diesen Millionen unschuldiger Menschen verbessern zu können?

    Nein. Wir müssen aber aufhören aus menschheitsverbrecherischen Drecksstaaten Produkte zu kaufen. Produkte, die eine solche Überwachung und Verfolgung mitfinanzieren und uns Konsumenten somit indirekt zu Mitschuldigen machen.

    Doch wird das funktionieren? Schliesslich sind alle nur am Profit an den billigen Arbeitskräften dieses Landes interessiert. Dies zeigen sowohl die grossen Firmen als auch eine zufällige Auswahl von fünf Gegenständen auf meinem Schreibtisch, von denen vier das Insignium „Made in China“ tragen.

    Schlussendlich ist es für uns Käufer ein Konflikt zwischen Gier und Gewissen, zwischen Kapital und Moral. Ich wünschte, ich könnte darauf Vertrauen, dass die Moral siegen würde…

    1. Müssten wir nicht sogar auch die „digitalen Produkte“, die uns und unsere demokratische Freiheit bedrohen, ganz bewußt verweigern?
      Einige (überwiegend Hardware) kommen eben aus China – die reinen Softwareprodukte jedoch überwiegend aus den „westlichen“ Staaten.

      Könnten wir Europäer Hard- und Software nicht auch selbst?

        1. Wir werden da unsere eigene Medizin schmecken.

          1. China wird teurer werden.
          2. Software wird nach Features und Sicherheit bepreist. Also nicht einfach „gut und günstig“.

          Klar ermöglicht das dann irgendwann Konkurrenz, daher wird wohl der Sweet-Spot zu treffen sein. Überhaupt Softwareupdates liefern zu müssen wird schon einige Billigstangebote vom Markt drängen.

Ergänzung an Angela Ergänzung abbrechen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.