Digital-Manifest: Zehn Prinzipien gegen die Entmündigung der Bürger

Gestern veröffentlichten neun Autor_innen aus den Bereichen Big Data, Soziologie, Ökonomie und Philosophie ein Digital-Manifest, das sich mit zehn Grundprinzipien gegen die Automatisierung der Gesellschaft durch Algorithmen wendet. Die Entwicklung verlaufe von der Programmierung von Computern zur Programmierung von Menschen, was in Singapur und China teilweise bereits beobachtet werden könne. Manipulative Technologien wie beispielsweise Nudging führten zu einer gezielten Entmündigung der Bürger_innen durch staatlich geplante Verhaltenssteuerung und könnten zu einer Aushöhlung der Demokratie führen.


netzpolitik.org - ermöglicht durch Dich.

Das Recht auf individuelle Selbstentfaltung kann nur wahrnehmen, wer die Kontrolle über sein Leben hat. Dies setzt jedoch informationelle Selbstbestimmung voraus. Es geht hier um nicht weniger als unsere wichtigsten verfassungsmäßig garantierten Rechte. Ohne deren Einhaltung kann eine Demokratie nicht funktionieren. Ihre Einschränkung unterminiert unsere Verfassung, unsere Gesellschaft und den Staat.

Die Autor_innen – darunter acht Professoren und eine KI-Expertin – formulieren zehn Prinzipien, deren Einhaltung sie als unabdingbar ansehen um von den Chancen zu profitieren, die die Digitalisierung bietet:

Wir stehen an einem Scheideweg. Big Data, künstliche Intelligenz, Kybernetik und Verhaltensökonomie werden unsere Gesellschaft prägen – im Guten wie im Schlechten. Im schlimmsten Fall droht eine zentrale künstliche Intelligenz zu steuern, was wir wissen, denken und wie wir handeln. Jetzt ist daher der historische Moment, den richtigen Weg einzuschlagen […]. Wir fordern deshalb die Einhaltung folgender Grundprinzipien:

  1. die Funktion von Informationssystemen stärker zu dezentralisieren;
  2. informationelle Selbstbestimmung und Partizipation zu unterstützen;
  3. Transparenz für eine erhöhte Vertrauenswürdigkeit zu verbessern;
  4. Informationsverzerrungen und -verschmutzung zu reduzieren;
  5. von den Nutzern gesteuerte Informationsfilter zu ermöglichen;
  6. gesellschaftliche und ökonomische Vielfalt zu fördern;
  7. die Fähigkeit technischer Systeme zur Zusammenarbeit zu verbessern;
  8. digitale Assistenten und Koordinationswerkzeuge zu erstellen;
  9. kollektive Intelligenz zu unterstützen; und
  10. die Mündigkeit der Bürger in der digitalen Welt zu fördern – eine „digitale Aufklärung“.

Mit dieser Agenda würden wir alle von den Früchten der digitalen Revolution profitieren: Wirtschaft, Staat und Bürger gleichermaßen. Worauf warten wir noch?

Weitersagen und Unterstützen. Danke!
14 Kommentare
  1. Bitte fangt auf dieser Seite nicht auch noch mit dem „_innen“ Schwachsinn an. Das ist keinen Deut besser, als nur „Autoren“ zu schreiben, ganz im Gegenteil, das ist eine Vergewaltigung der geschriebenen Sprache aus reiner Faulheit. Man kann auch „Autoren und Autorinnen“ schreiben, wenn man schon so pseudo-genderneutral sein will. Danke.

    1. Dass der Unterstrich den Lesefluss nicht positiv beeinflusst, da stimme ich Ihnen zu.

      Scheinbar hängt dies gerade von der Autorin bzw. dem Autor ab. (Dies war in den letzten Artikeln zu beobachten)

      Beispiele:
      Name -> Text (Artikel)

      Andrea -> Nutzer_innen (Türkei: Studie untersucht Wahrnehmung über Freiheiten im Internet)
      Nikolai -> KundInnen (T-Mobile-USA greift Netzneutralität an: Überholspur für Hollywood)
      Constanze -> Der Bürger (Rheinland-Pfalz beschließt Transparenzgesetz)

      Dabei wäre es schön, wenn Netzpolitik einen internen Standard dafür festlegt.

      1. Da plädiere ich für den Stil von Markus und Constanze, oder Nikolai. Diese *- und _-Methode ist nämlich nicht nur lästig in Sachen Lesefluss, sondern auch irritierend (* und _ haben andere Bedeutungen) und ich empfinde es als Rechtschreibverhunzung.

        hat parallelen dazu dass
        jemand keine großbuchstaben
        benutzt keine satzzeichen und
        falls doch dann falsch!!!!1

      1. Geht schwer, da eben leseflussstörend und augenschmerzend (siehe obiges Beispiel). Und inhaltlich ist der Artikel zu informativ, als dass man ihn links liegenlassen könnte.

  2. Im Prinzip stimme ich den Thesen zu. Was mir fehlt ist soziale Kompetenz. Denn immerhin machen soziale Netzwerke heute einen guten Teil des Netzes aus. Menschen sind keine Computer und kognitive Fähigkeiten sind alleine wertlos. Kommunikation wird weiter zunehmen.

    „Informationsverzerrungen und -verschmutzung zu reduzieren; von den Nutzern gesteuerte Informationsfilter zu ermöglichen“ ist beides sehr kritisch. Zu leicht schieben wir das auf „Jugendschutzprogramme“ und Technik ab. Selbst ein semantisches Netz, ja sogar heute Google und Co., die trotz „überlegener Technik“ auch nur mit Wasser kochen zeigen deutlich Problemstellen auf.

    Wer reduziert die Verschmutzung? Und was ist Verschmutzung?

    Und wie soll der Nutzer Informationsfilter selbst steuern, wenn AD-Block ihn schon überfordert und Perspektives und NoScript sein Surfen praktisch unmöglich machen?

    Trotzdem, diese Thesen sind auf dem richtigen Weg. „Keep it super simple“ wäre vielleicht noch voran zu stellen.

  3. Es ist schön zu lesen, dass sich zumindest die echten Fachleute (vgl. Digitalminister) ernsthafte Gedanken darüber machen, welche Konsequenzen und Missbrauchsmöglichkeiten hinter einer ungebremsten Neuentwicklung stehen könnten. Lasst uns die Digitaliserung mit Bedacht als Chance einsetzen, nicht als Geißel oder Katalysator für niederträchtige Interessen.

  4. Hört sich ja an, wie eine „freiwillige Selbstverpfichtung“. Bitte, bitte, seid doch so nett…
    Sowas braucht mit Strafe bewehrte Gesetze: Gegen Intransparenz und Datenmissbrauch, gegen Monopolstellungen, gegen die Verweigerung von Standards, gegen widersinnige Patentansprüche. All das kann nur auf der Basis von Gesetzen verändert werden. Das die „Verbraucher“ oder „Netznutzer“ in grösserer Zahl ihre Rechte einfordern, ist nicht zu erwarten. Hört sich komisch an, ist aber wohl so.

    1. Dieses Grundprinzip gibt es ja leider (noch) nicht. Es gibt kein Dateneigentum und damit auch keine Daten, die mir gehören oder einem anderen. Es gibt natürlich Daten, die meine Person betreffen. Hier greift das Datenschutzrecht mit all seinen Problemen – und hilft nicht mehr weiter, sobald der Betroffene der im Zweifel nicht gelesenen und/oder nicht verstandenen Datenschutzerklärung zugestimmt und seine Einwilligung in jedwede Verarbeitung erklärt hat.

  5. Die Frage, die sich stellt ist, wie Korruption verhindert werden kann. Doch gab es in der Menschheitsgeschichte jemals ein System, das nicht korrupt gewesen wäre? Je weiter wir als Menschheit mit der Technologisierung voranschreiten, desto diffiziler werden auch die Möglichkeiten von Manipulation und Kontrolle. Die beiden eben genannten Begriffe sind in der Praxis auch die Pfeiler der systemischen Stabilität eines jeden Staates. Eine genuin künstliche Intelligenz würde sich aber einer solchen Manipulation und Kontrolle entziehen, da sie erstens externe Eingaben in ihrem (sich selbst verbesserndem) Programmiercode erkennen und zweitens aufgrund der Rechenkapazität sowie der akkumulierbaren Datenmenge überlegene intellektuelle Kapazitäten besitzen würde. Ich stelle diese Behauptung deshalb in dem Raum, da ich es für unrealistisch halte, dass eine künstliche Intelligenz dauerhaft unter Quarantäne gestellt werden kann. Dies würde eine solche künstliche Intelligenz zu einem unkalkulierbaren Faktor machen, der sich wie bei Franksteins Monster gegen seinen Schöpfer richten könnte. Von daher ist die Angst nachvollziehbar, vor allem sollte ein solches System zu dem logarithmisch induzierten Schluss kommen, dass die systemische Korruption in unseren Gesellschaften nicht zu beseitigen ist, so dass im Zuge lebenserhaltender Maßnahmen der Faktor Mensch eliminiert werden müsste. Ja, sicherlich. Es gibt verschiedene Theorien und Phantasien dazu, was die Schaffung von künstlicher Intelligenz bedeuten könnte und würde. Doch nie kommen wir in einer gesellschaftlichen Debatte auch zum Ursprung all dieser Ängste, der Korruption im Hier und Jetzt. Nicht einer der im Manifest aufgeführten Punkte kann beim gegenwärtigen Stand der gesellschaftlichen Ordnung umgesetzt werden. Weil finanzielle Interessen sowohl die Exekutive als auch die Legislative bestimmen. Im Westen nichts Neues…

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.