Autoplay, Infinite Scrolling & Co.Süchtig machende Designs

Online-Plattformen wie TikTok, YouTube oder Instagram versuchen mit Design-Tricks, Nutzer:innen permanent zu beschäftigen. Das ist gut für ihr Geschäft, kann aber schlecht für die Gesundheit der Menschen sein, sagt eine EU-Abgeordnete. Sie will die Kommission dazu bringen, neue Regeln zu erlassen.

Zigaretten liegen gestapelt auf einem Tisch
Online-Dienste können ähnlich stark abhängig machen wie Alkohol oder Tabak, sagt die EU-Abgeordnete Kim van Sparrentak. – Alle Rechte vorbehalten IMAGO / Panama Pictures

Endloses weiterscrollen, automatisch abgespielte Videos, permanente Benachrichtigungen: Die Liste der Design-Tricks, mit denen Online-Plattformen die Aufmerksamkeit von Nutzer:innen binden wollen, ist lang. Doch derart süchtig machendes Design ist gesundheitsschädlich, sagt die niederländische EU-Abgeordnete Kim van Sparrentak. In einem Berichtsentwurf für das Europäische Parlament [PDF] fordert sie neue Richtlinien der EU, um Nutzer:innen besser davor zu schützen.

Es müsse den Menschen möglich sein, von Online-Diensten zu profitieren, ohne von ihnen manipuliert und abhängig gemacht zu werden, fordert die Politikerin von der Partei GroenLinks. „Wir können uns nicht darauf verlassen, dass eine Industrie gegen ihre eigenen finanziellen Interessen das Problem löst, das sie selbst geschaffen hat.“

Die bestehenden Digitalvorgaben der EU würde das sogenannte Addictive Design bislang nicht adressieren, so van Sparrentak. Deshalb müsse die EU-Kommission tätig werden und neue Richtlinien erlassen. Noch im Oktober soll der Parlamentsausschuss für Binnenmarkt und Verbraucherschutz (IMCO) den Initiativbericht beschließen.

Dopamin-Schübe und sozialer Druck

Kim van Sparrentak definiert süchtig machendes Design in dem Bericht als eine absichtliche Gestaltung von Online-Diensten, die zu verhaltensbezogener digitaler Sucht führen. Darunter würde beispielsweise endloses Scrollen fallen, genauso wie Lesebestätigungen oder Punkte, die erscheinen, wenn jemand eine Nachricht schreibt. Die Design-Entscheidungen führen zu sozialem Druck, erreichbar sein zu müssen, so van Sparrentak.

Streaming-Dienste wie YouTube oder Netflix nutzen standardmäßige Autoplay-Funktionen und Push-Benachrichtigungen, um Nutzer:innen vom Aufhören abzuhalten. Likes in Sozialen Medien würden im Gehirn Dopamin-Schübe auslösen, die süchtig machen. Die Unternehmen setzen derlei Tricks ein, um Nutzer:innen möglichst lange bei der Stange zu halten – vor allem, damit sie möglichst viel Aufmerksamkeit erzeugen, die die Plattformen an Werbekunden vermarkten können.

Gefahren für die psychische Gesundheit seien die Folge, so van Sparrentak. Unter anderem nennt der Berichtsentwurf Depressionen, Angstzustände, hohen Stress und Schlafmangel. Eine übermäßige Bildschirmzeit könne zudem zu Aufmerksamkeitsdefiziten oder neurologischen Entwicklungsstörungen führen. Es reiche nicht aus, Nutzer:innen eine Zeitbeschränkung bei Online-Diensten zu ermöglichen. Dies verlagere „die Last auf Einzelne, anstatt das Kernproblem der absichtlich süchtig machenden Gestaltung aus Profitgründen zu adressieren”.

Blinder Fleck der bestehenden Online-Regulierung?

Der nicht-bindende Initiativbericht fordert die EU-Kommission auf, Regulierungslücken zu schließen. Die EU hatte in den vergangenen Jahren zahlreiche Regeln zur Gestaltung der Digitalen Wirtschaft verabschiedet. Dabei werden bisweilen auch Design-Tricks adressiert. So etwa Dark Patterns, mit denen Nutzer:innen zu bestimmten Entscheidungen bewogen werden, etwa den Klick auf einen farblich hervorgehobenen „Alles akzeptieren“-Button bei Cookie-Bannern.

Doch gesetzgeberische Bemühungen wie der Digital Services Act oder der AI Act beziehen sich nicht auf süchtig machende Faktoren, sagt Kim an Sparrentak.

Konkret fordert ihr Berichtsentwurf, Empfehlungssysteme zu verbieten, die auf Interaktion basieren. Whistleblower hätten gezeigt, dass neutrale Empfehlungssysteme, beispielsweise in chronologischer Reihenfolge, möglich sind. Außerdem fordert der Bericht “ein Recht, nicht gestört zu werden”. Es soll ermöglicht werden, alle aufmerksamkeitssuchenden Benachrichtigungen auf einfachem Wege auszuschalten.

EU-Kommission will Verbraucherschutz verbessern

Am 25. Oktober soll der IMCO-Ausschuss über den Bericht abstimmen. Die Mitglieder des Ausschusses haben diverse Änderungsvorschläge gemacht. So wird etwa darüber diskutiert, ob mehr Forschung in diesem Bereich benötigt wird und wie beteiligte Stakeholder konsultiert werden sollten. Auch die Frage, wie bewiesen werden kann, dass ein Online-Dienst unethisch handelt, steht im Raum. Andere Abgeordnete schlagen zudem vor, dass man erst die Auswirkungen bestehender Gesetze abwarten soll.

Falls der Bericht verabschiedet wird, ist die Kommission trotzdem nicht an die Empfehlungen gebunden. Allerdings begrüßte die Kommission die Initiative des IMCO-Ausschuss bei einer Aussprache grundsätzlich. Zudem verwies sie auf eigene Pläne, das Verbraucherschutzrecht zu aktualisieren. Ein Fitness-Check solle überprüfen, wo das EU-Verbraucherrecht verbessert werden müsse. Dabei geht es zum Beispiel um unlautere Geschäftspraktiken und missbräuchliche Vertragsklauseln. Addictive Designs würden bei der Überprüfung eine wichtige Rolle spielen, so die Kommission.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

12 Ergänzungen

  1. Das hört sich zunächst gut an, aber nur wenn man kein Designer ist.

    Keiner sollte mir vorschreiben können, wie ich meine Webseite zu designen habe. Wie wäre es einfach mal mit Medienkompetenz?

    1. Medienkompetenz wäre super, allerdings ist es bei Veranstaltungen mit Millionen von Nutzern so eine Sache, ob man suchtförderndes bzw. menschausnutzendes Design wirklich erlauben will.

      Alternativ kann man gerne die Werbung zersägen, und halbtotregulieren, ganz allgemein. Das würde einen Teil des Problems auch lösen.

      Nichts machen geht eigentlich nicht. Man sieht ja wie die Konzerne immer noch wüten (können). Das wird kein gutes Ende nehmen.

    2. Was denn? Wir schreiben doch Flugzeugbauern auch vor, wie sie ihre Flugzeugen designen sollen, damit sie nicht abstürzen. Und Flugzeugbauer sind nicht die einzigen denen wir vorschreiben, was sie zu tun und zu lassen haben, um niemanden zu schädigen. Da müssen es Webseitenbetreiber auch hinnehmen, wenn wir ihnen vorschreiben, was sie zu tun und zu lassen haben.

      1. Der vergleich hinkt vorne und hinten. Bei einem Flugzeugabsturz sind die Passagiere auf den Piloten angewiesen und können die Situation nicht einfach verlassen. Eine Webseite kann jederzeit geschlossen werden.

        Außerdem ist Bildung viel wertvoller, da Webseiten sich einfach neue Schlupflöcher suchen und solche Regulierungen einfach nur ein Katalysator für noch aggressivere Methoden sind (auch wenn sie nicht so wirken). Einfach nur ein Katz- und Mausspiel.

        1. > Eine Webseite kann jederzeit geschlossen werden.

          Es geht ja gerade darum, dass Benutzer Suchtverhalten entwickeln und nicht mehr in der Lage sind „jederzeit“ zu beenden. Web-Design ist kein rechtsfreier Raum, auch wenn manche glauben, es sei so.

        2. Naja, ein Flugzeug kann auch jederzeit abstürzen.
          Es geht hier um die Physik. Und die Physik bei Menschen bedeutet nun mal, das suchtfördernde Inhalte Sucht erzeugen können, wenn man es lange genug an Menschen ausrobieren kann. Insofern gilt hier, gerade bei Veranstaltungen mit vielen Benutzern, dass verantwortliches Handeln eingefordert werden muss. Das gilt eigentlich allgemein für jede Form von Macht, bereits bei großer Bruder mit mehr Muskeln vs. kleiner Bruder mit weniger Muskeln.
          Und falls jemand das denkt: Es gibt keine harte Welt da draußen, es gibt eine tote, und eine, die wir noch bauen müssen.

      2. Rechtfertigung des Eingriffs aus Gründen des Gesundheitsschutzes

        Eingriffe in die Dienstleistungsfreiheit können gemäß Art. 62 AEUV nach den Vorgaben des Art. 52 AEUV gerechtfertigt werden. Nach Art. 52 Abs. 1 AEUV können Eingriffe aus Gründen der öffentlichen Ordnung, Sicherheit oder Gesundheit gerechtfertigt werden. Darüber hinaus kann nach der Rechtsprechung des EuGH eine Rechtfertigung auch aufgrund zwingender Gründe des Allgemeininteresses erfolgen. Dies gilt jedoch nur in den Fällen, in denen keine offene Diskriminierung vorliegt und die Vorgaben der Verhältnismäßigkeit gewahrt sind.

        https://www.bundestag.de/resource/blob/972400/fde77098e4959205bd4e80b394f5f1e0/EU-6-047-23-pdf-data.pdf

  2. Nutzung ist auch Mist, z.B. bei Endlosscrolling.

    Meiner Meinung nach ist insgesamt gesehen der Beweis erbracht, das Big Tech nicht nützlich ist.

  3. Super Artikel über ein wichtiges Thema, das kaum Beachtung findet. Das schreit geradezu nach fundierter Fortsetzung. Im Annex des pdf sind Leute und Institutionen, die sicherlich gerne dazu beitragen wollen.

  4. Soziale Netzwerke sollten von unabhängigen, nicht gewinnorientierten Vereinen, die öffentlich finanziert werden (zB EU oder GEZ), betrieben werden. Das würde deutlich mehr Sinn machen als Milliarden ins Rentner- und Fußballfernsehen zu pumpen, denn das ist ein Kropf der kaum noch einen wirklich erreicht oder interessiert der unter dem Rentenalter ist.

    1. > Das würde deutlich mehr Sinn machen als Milliarden ins Rentner- und Fußballfernsehen zu pumpen

      Der Sinn ist aber, Milliarden in ein paar ziemlich privatwirtschaftliche Fernseh-Produktionsgesellschaften zu kanalisieren, für wenige obszöne Gagen zahlen zu können, und Sport-Funktionäre zu alimentieren. Das alles funktioniert prima, solange nur wenige Menschen einen Bildungsgrad erlangen dürfen, um den Zauber am Laufen zu erhalten.

  5. Immer wieder interessant, wie Zustände, die schon seit Langem existieren, plötzlich entdeckt werden. Anfang März ist zum Beispiel der UN ganz plötzlich über 20 Jahre nach 9/11 aufgefallen, dass der „Kampf gegen den Terror“ ein Vorwand für mehr Überwachung ist:

    https://netzpolitik.org/2023/un-bericht-prangert-an-kampf-gegen-terror-nur-vorwand-fuer-mehr-ueberwachung

    Ich warte schon gespannt darauf, welche schon heute seit Langem existierenden Zustände 2043 endlich entdeckt werden.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.