Wired über Chinas Social Credit System: Big Data meets Big Brother

Die bisherigen chinesischen Scoring-Systeme bewerten auch soziale Beziehungen, so dass sich schlechte Werte von Freunden auf einen selber auswirken. (Symbolbild) CC-BY 2.0 chesilu / Montage: netzpolitik.org

China will bis zum Jahr 2020 ein verpflichtendes „Social Credit System“ für alle natürlichen und juristischen Personen einführen. Das System soll Daten wie Internetnutzungsverhalten, Kreditwürdigkeit und Zuverlässigkeit gegenüber dem Regime in einem Wert erfassen.

Die britische Ausgabe von Wired hat in einem Longread „Big data meets Big Brother as China moves to rate its citizens“ die Grundstrukturen des Systems zusammengefasst. Die chinesische Regierung entwickelt dieses zusammen mit Unternehmen. Eines davon ist China Rapid Finance, Partner des sozialen Netzwerks Tencent und Entwickler des Messaging-Dienstes WeChat. Die andere Firma ist Sesame Credit, eine Tochterfirma von AliBaba.

Schon heute wirken sich die „Sesame-Scores“ auf das Leben aus, heißt es im Artikel:

Hohe Werte sind schon ein Status-Symbol geworden. Fast 100.000 Menschen haben sie in den ersten Monaten nach Einführung bei Chinas Twitter-Alternative Weibo gepostet. Der Bürger-Score erhöht sogar die Chancen auf ein Date oder einen Ehepartner, denn wer einen höheren Wert hat, wird auf der größten Datingplattform Baihe prominenter platziert.

Mit der Einführung des Social Credit Systems könnte auch der Zugang zu Schulen, Ausbildung, Jobs und vielen weiteren Lebensrealitäten von der Big-Data-Bewertung abhängen. Das System ist damit die ultimative digitale Dystopie, ein Kontroll- und Überwachungsinstrument über mehr als eine Milliarde Menschen.

Über die Einführung des Systems und dessen Hintergründe haben wir schon zu Beginn der Planungen berichtet.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

14 Ergänzungen

  1. Mit der Einführung des Social Credit Systems könnte auch der Zugang zu Schulen, Ausbildung, Jobs und vielen weiteren Lebensrealitäten von der Big-Data-Bewertung abhängen.

    Bei uns ist das abhängig vom Stand der Eltern und der eigenen Angepasstheit.
    Ich bin unschlüssig was mir da lieber ist.

    1. Hey Schatten, immer schön in einen Topf werfen und rühren. Als seien die durchaus vorhandenen sichtbaren und unsichtbaren Grenzen beim Zugang zu Bildung & Co vergleichbar mit einem allgegenwärtigen Überwachungssystem, das dir auf Schritt und Tritt Noten gibt und sozial unter Druck setzt. Mach doch rüber, möchte ich Dir zurufen, wenn du das Scoring in China so viel besser findest.

      1. Wir sollten die Menschen dort Fragen, wie sie es finden. Das wäre auf jeden Fall sinnvoller als es aus unserer Sicht zu bewerten. Das Schlimme ist, dass das was der Artikel beschreibt eigentlich das ist, was als Ergebnis der Nutzung von sozialen Medien und Smartphone zu erwarten ist – überall. Die Chinesen sind uns einfach einen Schritt voraus weil sie Smartphones mehr nutzen und ihr Soziales System mehr ausgeprägt ist als bei uns.

        Über solche Dinge würde ich gerne fundierte Analysen lesen und nicht knappe Meinungsthesen. Zumal China gerade als Propagandaziel angesagt war. Ich sehe kaum einen Unterschied zu dem Scoring welches z.b. von Banken genutzt wird, das kann irgendwann dazu führen das „auch der Zugang zu Schulen, Ausbildung, Jobs und vielen weiteren Lebensrealitäten von der Big-Data-Bewertung abhängen“ wird.

        1. @Romeo:
          Was verstehst du an „unschlüssig“ nicht?
          Ich hab übrigens von Menschen in unserem Land gehört, die ihren Job verloren haben,
          weil sie der falschen politischen Ansicht anhängen.
          Du auch? Oder muss ich Quellen raus suchen?

          @struppi:
          La respondo estas simpla.
          Lernu Esperanton. =)
          Ist aber nur begrenzt eine Lösung.

          @all:
          Ganz generell sind wir uns doch darüber einig,
          dass es in jedem Land Machtstrukturen gibt.
          Die Amerikaner machen das hauptsächlich ökonomisch …
          Die Chinesen wollen das jetzt sozial machen …
          Die Inder haben vermutlich noch geistige Nachwehen vom Kastensystem.
          Und wir haben zweifellos auch unser System.
          Wie das im einzelnen gestaltet ist muss man nicht diskutieren,
          das führt jedes mal zu Streit.
          Aber das es existent ist steht doch wohl außer Frage, oder?

          Und über dieses, uns bestimmendes, System sollte in diesem Land auch diskutiert werden.
          Man kann ja andere Länder als Beispiel heran ziehen.
          zb. „So wie in China will ich das nicht haben, weil …“
          Ich mag auch kein Scoring … wir können die Schufa gerne morgen verbieten.
          Aber ständig zu sagen „China ist scheisse.“,
          „Russenland ist scheisse.“ oder „Amerika ist scheisse.“
          das ist doch etwas platt.

          Hier auf NP lese ich die letzte Zeit ständig wie böse China ist.
          Ich bin aber gar nicht so sicher ob die gesellschaftlichen Fesseln
          in unserer Kultur lockerer sitzen.

          1. @schatten: ich kann nur englisch und deutsch, verstehe daher nicht was du mir sagen willst.

            Aber ich denke wir haben eine ähnliche Sicht der Dinge. Bezüglich China musst du einfach mal das Morgenmagazin von heute schauen. Wir sind die Guten, die die Bösen.

        2. @struppi:
          > Wir sollten die Menschen dort Fragen, wie sie es finden. Das wäre auf jeden Fall sinnvoller als es aus unserer Sicht zu bewerten.

          Wenn Sie die Menschen dort bezueglich Ueberwachung fragen, werden Sie vermutlich die gleiche Antwort bekommen wie hierzulande: „Das betrifft MICH doch nicht und das mit dem ueberwachten Smartphone ist doch alles super.“ Eigentlich muessten Sie die Leute in 15 Jahren nach ihrer Meinung fragen, ob das Scoring- und Ueberwachungssystem nicht doch klitzekleine Nachteile haben koennte. Und man vor 20-25 Jahren nicht einen anderen Weg haette einschlagen sollen. Nur dann ist es eben schon zu spaet…

  2. So – wenn man nun die Nachrichtenkanäle der letzten Tage verfolgt hat, läßt sich erkennen, worum es geht. In China ist Parteitag und das böse System soll möglichst böse dargestellt werden. So weit, so durchschaubar.

    Es ist schade, dass auf einer Seite deren Themenschwerpunkt das Netzpolitische ist sich darin einspannen läßt. Ich möchte auch darlegen warum ich das so sehe.

    Das Thema Big Data und deren Folgen ist die grosse Frage der Netzpolitik und die weitere Entwicklung. Leider ist den meisten Menschen die Auswirkung nicht klar. Aber auf der anderen Seite ist diese Technik da und wird auch weiter Einzug in unser soziales Leben halten. Daher ist es wichtig deren Schaden aber auch Nutzen für die Gesellschaft zu thematisieren.

    Ich möchte deshalb mal einen anderen Blick auf dieses „Social Credit System“ aufzeigen.

    Die Sozialen Netzwerke zeigen uns wie Daten in der öffentlichkeit eine Rolle spielen und wie diese von privaten, aber auch staatlichen Organen genutzt werden. Neben negativen Effekten gibt es auch Positive. Auf der einen Seite werden viele Apps privater Anbieter genutzt und gnadelos intime Daten preisgegeben. Auf der anderen Seite wird, gerade bei uns, immer darüber gejammmert wie Rückständig unsere Verwaltungen bei der Digitalsierung sind.

    Wenn ich lese das dieses Chinesische System Punkte dafür vergibt, ob ich meine Steuern pünktlich bezahle, mich im Strassenverkehr sinnvoll verhalte und sonst nicht negativ auffällig werde und dafür dann belohnt werde, dann freue ich mich doch, oder?

    Denn auf der anderen Seite sollen z.b. Firmen, die sich nicht an Umweltauflagen halten oder ihre Steuer nicht zahlen, bestraft werden. Das erscheint mir ein gerechtes System zu sein, gerechter als es bei uns oft erscheint, wo Firmen mit Hilfe von Lobbyarbeit und Bestechung (die es sicher auch in China gibt) für wohlgefällige Gesetze und Urteile sorgen können.

    Eine gerechte Berichterstattung in den Medien ist so z.b. auch immer abhängig von der Haltung und Meinung ihrer Berichterstatter, aber wer sein soziales Verhalten mit einem neutralen Punktesystem nachweisen könnte, wäre nicht mehr so abhängig davon.

    Denn mal ehrlich, auf der einen Seite wird hier eine Überwaschungstruktur prognostiziert – wo ich im Detail eine positivere Absichten erkenne, als bei der von Facebook und Twitter – und auf der anderen Seite schreibt ihr hier grosse Berichte darüber, wie ihr mit Hilfe von Facebook und Twitter die AFD überwacht. Und bei dieser Art der „Überwachung“ durch euch, geht es in erster Linie um gesellschaftliche Diskreditierung, oder nicht?

    Wie gesagt, das ist eine Sicht der Dinge.

    Mich nervt das in der letzten Zeit immer mehr versucht wird eine Sicht der Dinge zu verbreiten, die eine andere als die ultimative Schlechte darstellt. Ich persönlich fühle mich unter Twitter, Facebook, NSA, BND und SPD/CDU/Grüne/FDP nicht wohl und halte die Entwicklung des Internets zu einem Ort der grossen Verlage und Überwachungskonzerne für fatal. In dieser Situation mit den Finger auf andere zeigen, ohne zu sehen das dort nichts anderes als hier passiert, ist einseitig aber auch dumm. Denn es nimmt uns Möglichkeiten Entwicklungen zu erkennen, die auch positive Aspekte beinahlten. Denn auch wenn wir China blöd finden, es gibt dort vermutlich einen größeren Gemeinsinn und der Staat hat bei wirtschaftlichen Entwicklungen oft mehr die Menschen als nur die Wirtschaft im Blick, als es bei uns der Fall ist.

    Während die Gesetze bei uns das Internet beschränken und immer stärker zu einer Geldmaschine für Medienhäuser wird (z.b. durch sowas wie das Leistungschutzrecht) versucht man in China das Internet für eine Gesamtgesellschaftliche Verbesserung zu nutzen. Big Data macht zwar vielen Angst, ist aber in dem Fall ein Mittel mit dem soziale Kontrolle verallgemeinert werden kann. Also ähnlich wie das, was bei uns oft als Schwarmintelligenz beschönigt wird.

    Man kann das schlecht finden, aber wie gesagt, mir macht es mehr Angst wenn ich in die USA schaue mit wieviel Milliarden dort Überwachung ohne Kontrolle betrieben wird und vor allem ohne Gesellschaftlichen Nutzen.

    Netzpolitik muss auch den Nutzen für die Allgemeinheit im Auge haben. Und der ist in diesem Fall vorhanden, auch wenn das eine US Zeitschrift anders sieht.

    1. Der Vorwurf, dass netzpolitik.org sich nicht um die anderen Themen kümmere, ist doch absurd. Wir schreiben über alle Formen von Überwachung und Einschränkungen der Privatsphäre – ob nun in China, den USA, in Europa oder Deutschland. Der Fokus unserer Berichterstattung liegt dabei auf letzteren beiden. China ist und bleibt Vorreiter in Sachen Kontrolle des Internets, Echtzeit-Zensur und Überwachung seiner Bevölkerung, deswegen ist es auch oft Thema hier im Blog.

    2. Unglaublich guter, augenöffnender Kommentar, der mit aus dem Herzen spricht! Danke dafür!

      Trotz der Komplexität der Thematik, brauchen wir bezüglich KI/Big Data unbedingt ein transparentes, möglichst vielen Menschen (weltweit) zugängliches, leicht verständliches Überwachungssystem, denn:

      Je besser die KI wird, desto unnützer wird der Mensch für wirtschaftliche Zwecke. Je weniger Nutzen der Mensch für wirtschaftliche Zwecke hat, desto weniger kann er an der Firmenpolitik mitwirken und darauf Einfluss nehmen. Ohne Begrenzung durch den Staat, können einige, wenige, Wirtschaftsbosse somit immer mächtiger werden und der Menschheit ihre Regeln aufdrücken (direkt oder indirekt).

      Und wer sich mit psychologischer Forschung auskennt, der weiß welche Art von Menschen (weit überproportional) an der Spitze von Wirtschaftskonzernen steht: Psychopathen (Menschen ohne Empathie/Mitgefühl).

      Alles in allem sehe ich in darin eine sehr gefährliche Entwicklung und bin schon fast froh, dass China „so etwas“ öffentlich macht! Somit wird hoffentlich mehr Leuten bewusst, was bei uns in Europa in Sachen KI eigentlich abgeht – und noch abgehen könnte!

  3. Aus den Guidelines der 50-Cent-Armee:

    1) So weit möglich soll Amerika das Ziel der Kritik sein. Spielen Sie die Existenz Taiwans herunter.

    2) Greifen Sie die (Idee der) Demokratie nicht direkt an, sondern nutzen Sie die Argumentation „Welches System kann tatsächlich Demokratie umsetzen“.

    3) Nutzen Sie so weit möglich Gewalthandlungen und unzumutbare Zustände in westlichen Ländern als Beispiele dafür, dass Demokratie nicht für den Kapitalismus geeignet ist.

    4) Nutzen Sie die Einmischung von Amerika und anderen Ländern in internationale Angelegenheiten, um zu erklären, dass westliche Demokratie tatsächlich eine Invasion anderer Länder ist und wie der Westen die westlichen Werte anderen Ländern aufzwingt.

    5) Nutzen Sie die blutige und schmerzvolle Geschichte der (einst) schwachen Menschen (in China), um parteifreundliche und patriotische Emotionen zu provozieren.

    6) Vermitteln Sie den Eindruck, dass die positive Entwicklung innerhalb von China die (soziale) Stabilität unterstützt.

    1. „Entgegen den Erwartungen vor der Studie scheinen sich die Internetkommentatoren dabei nicht in Diskussionen verwickeln zu lassen und gehen nicht auf Argumente anderer Kommentatoren ein.“

      Dein eigener Link wiederlegt deine These. :>

  4. China zeigt, wohin Massenüberwachung unweigerlich führt, nämlich totale (soziale) Kontrolle. Fiktion (TV-Serie ‚Black Mirror‘ „https://de.wikipedia.org/wiki/Black_Mirror_(Fernsehserie)“, Staffel 3, Episode 1) wird zur Wirklichkeit.

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.