Gestern veröffentlichten neun Autor_innen aus den Bereichen Big Data, Soziologie, Ökonomie und Philosophie ein Digital-Manifest, das sich mit zehn Grundprinzipien gegen die Automatisierung der Gesellschaft durch Algorithmen wendet. Die Entwicklung verlaufe von der Programmierung von Computern zur Programmierung von Menschen, was in Singapur und China teilweise bereits beobachtet werden könne. Manipulative Technologien wie beispielsweise Nudging führten zu einer gezielten Entmündigung der Bürger_innen durch staatlich geplante Verhaltenssteuerung und könnten zu einer Aushöhlung der Demokratie führen.
Das Recht auf individuelle Selbstentfaltung kann nur wahrnehmen, wer die Kontrolle über sein Leben hat. Dies setzt jedoch informationelle Selbstbestimmung voraus. Es geht hier um nicht weniger als unsere wichtigsten verfassungsmäßig garantierten Rechte. Ohne deren Einhaltung kann eine Demokratie nicht funktionieren. Ihre Einschränkung unterminiert unsere Verfassung, unsere Gesellschaft und den Staat.
Die Autor_innen – darunter acht Professoren und eine KI-Expertin – formulieren zehn Prinzipien, deren Einhaltung sie als unabdingbar ansehen um von den Chancen zu profitieren, die die Digitalisierung bietet:
Wir stehen an einem Scheideweg. Big Data, künstliche Intelligenz, Kybernetik und Verhaltensökonomie werden unsere Gesellschaft prägen – im Guten wie im Schlechten. Im schlimmsten Fall droht eine zentrale künstliche Intelligenz zu steuern, was wir wissen, denken und wie wir handeln. Jetzt ist daher der historische Moment, den richtigen Weg einzuschlagen […]. Wir fordern deshalb die Einhaltung folgender Grundprinzipien:
- die Funktion von Informationssystemen stärker zu dezentralisieren;
- informationelle Selbstbestimmung und Partizipation zu unterstützen;
- Transparenz für eine erhöhte Vertrauenswürdigkeit zu verbessern;
- Informationsverzerrungen und ‑verschmutzung zu reduzieren;
- von den Nutzern gesteuerte Informationsfilter zu ermöglichen;
- gesellschaftliche und ökonomische Vielfalt zu fördern;
- die Fähigkeit technischer Systeme zur Zusammenarbeit zu verbessern;
- digitale Assistenten und Koordinationswerkzeuge zu erstellen;
- kollektive Intelligenz zu unterstützen; und
- die Mündigkeit der Bürger in der digitalen Welt zu fördern – eine „digitale Aufklärung“.
Mit dieser Agenda würden wir alle von den Früchten der digitalen Revolution profitieren: Wirtschaft, Staat und Bürger gleichermaßen. Worauf warten wir noch?