Digitale-Dienste-Gesetz

Algorithmen sollen nicht willkürlich entscheiden dürfen

Nutzer:innen von Diensten wie Google und Facebook müssen mehr Mitsprache bei automatisierten Entscheidungen haben, fordert das EU-Parlament. Ein geplantes Gesetz soll bald neue Regeln aufstellen.

Bots und Androiden
Roboter sind nur eine von vielen möglichen Anwendungen für algorithmische Entscheidungssysteme Gemeinfrei-ähnlich freigegeben durch unsplash.com Alex Knight

Im Vorfeld einer neuen europäischen Gesetzesinitiative zur Regulierung von Internet-Plattformen haben EU-Abgeordnete mehr Mitsprache von Nutzer:innen bei automatisierten Entscheidungen gefordert. Wenn etwa ein Facebook-Konto willkürlich wegen angeblicher Regelverstöße von einem automatisierten System gesperrt wird, müsse es einen Anspruch auf Prüfung und Korrektur möglicher Fehlentscheidungen geben.

Auch müsse es Rechtsmittel gegen Schäden wegen ungerechtfertiger Eingriffe von solchen Algorithmen geben, heißt es in einem Bericht, den der Binnenmarktausschuss des EU-Parlaments am heutigen Montag verabschiedet hat.

Die EU-Kommission möchte am 2. Dezember ihren Entwurf für das Digitale-Dienste-Gesetz vorstellen. Es soll einen grundlegenden europäischen Ansatz zur Regulierung von großen Plattformen wie Google, Facebook und Amazon liefern. Das Gesetzespaket soll die Transparenz von algorithmischen Systemen und den Umgang mit illegalen Inhalten auf Plattformen regeln, aber auch neue Auflagen für den Online-Handel und neue Instrumente im Wettbewerbsrecht schaffen.

Der nun verabschiedete, aber noch nicht veröffentlichte Bericht des Parlamentsausschusses soll in den Gesetzesentwurf der Kommission einfließen, diese ist allerdings rechtlich nicht an die Vorschläge gebunden.

Abgeordnete fordern digitale Rechte

Das EU-Parlament stellt in dem Bericht klar, was es sich vom Entwurf der Kommission erwartet. Der Bericht des maltesischen Abgeordneten Alex Agius Saliba enthält eine Reihe von Forderungen zum Ausbau digitaler Rechte und mehr Transparenz vonseiten der Plattformen. Die stärkeren Kontrolle von automatisierten Entscheidungssystemen müsse bedeuten, dass Nutzer:innen ein Einspruchsrecht vor einer unabhängigen Stelle haben, fordert der SPD-Europaabgeordnete Tiemo Wölken, der im EU-Parlament am Digitale-Dienste-Gesetz mitarbeitet. Die finale Entscheidung müssten die Gerichte haben, nicht die Plattformen.

Abgesehen davon fordert der Bericht, dass Firmen wie Facebook und Google ein Mindestmaß an Transparenz ihrer Algorithmen gewährleisten und sicherstellen, dass diese ihre Nutzer:innen nicht diskriminieren. Wie das genau aussehen kann, dazu hat die deutsche Abgeordnete Alexandra Geese von den Grünen Überlegungen angestellt. „Für die Gesetzgebung bedeutet es, dass wir Zugang zum Code der Empfehlungsalgorithmen und ein abgestuftes Modell mit unterschiedlichen Zugriffsrechten für Aufsichtsbehörden, Wissenschaft und Nutzer*innen brauchen.“, sagt die Abgeordnete.

Aus Sicht der Grünen hätte der Bericht bei der algorithmischen Transparenz allerdings noch weiter gehen können. „Ich hätte mir für den Initiativbericht noch deutlichere Worte in diese Richtung erhofft, aber auch die jetzt beschlossene Untersuchung ist ein strammer Schritt in diese Richtung“, sagt Geese.

Kein Drehen an Haftungsregeln

Ein nach Verhandlungen im Ausschuss eingefügter Zusatzartikel im Bericht pocht darauf, dass die Kommission strengere Regeln für zielgerichtete Werbung und Microtargeting auf Basis persönlicher Profile macht. Wie genau diese Regeln aussehen sollen, macht der Bericht allerdings nicht deutlich.

Recht deutlich positioniert sich der Bericht zu Befürchtungen, das neue Gesetz könnte an den Haftungsregeln schrauben, auf denen das moderne Internet beruht. Die Abgeordneten stellen in dem Bericht klar, dass sich an der eingeschränkten Haftung für Betreiber von Internet-Diensten aus der eCommerce-Richtlinie und dem Verbot einer generellen Überwachungspflicht nichts ändern dürfe. Dass sich daran nichts ändern soll, hat auch bereits die Kommission angedeutet.

Digitalkonzerne lobbyieren fleißig

Um das geplante Gesetzespaket der EU gibt es seit Monaten intensives Lobbying der großen Digitalkonzerne, das teils über undurchsichtige Mitgliedschaften in diversen Thinktanks läuft. Ein Beispiel für das Lobbying liefern etwa hochrangige Besuche von Google-Manager:innen im konzernfreundlichen Irland. Die Digitalkonzerne zeigen sich dabei etwa skeptisch gegenüber härteren Auflagen bei der Datensammlung sowie gegenüber möglichen Änderungen im Wettbewerbsrecht, die ein beständiges Anwachsen ihrer Datenmacht durch strengere Fusionskontrolle einschränken könnten.

Die EU-Kommission von Ursula von der Leyen hat das Digitale-Dienste-Gesetz zu einem ihrer Leuchtturmprojekte erklärt. Auf Details zu dem Gesetz will sich die Brüsseler Behörde bislang kaum festlegen, allerdings stelle etwa jüngst der EU-Digitalkommissar Thierry Breton in Aussicht, gegebenenfalls IT-Konzerne zerschlagen zu wollen. Die Vorstellung des Gesetzesentwurfs Anfang Dezember wird nicht nur in Brüssel mit Spannung erwartet.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

4 Ergänzungen
  1. Mir wurde erst vor einem halben Jahr (mal wieder) die Zahlung per Lastschrift von Amazon abgelehnt und auf Kreditkartenzahlung gedrängt. Und das obwohl ich seit über 15 Jahren meinen Account dort habe und es noch nie Probleme mit der Bezahlung gab (z.B. wegen nicht gedecktem Konto)! Der Kundenservice kann nicht weiterhelfen, weil (O-Ton) „das entscheidet das System automatisch, wir können da auch nichts tun“. Ich hätte dabei wirklich gerne gewusst wie diese Entscheidung zustande kommt, auch um das in Zukunft zu vermeiden …

    1. Da sprichst du das Richtige an. Bei dem Vorstoß handelt es sich doch um die Bürokratisierung bestehender Moderationspraktiken. Praktiken, die regelmäßig genug versagen, weil für die Moderation nur wenig Zeit besteht. Moderation in Masse ist ein futiles Unterfangen.

      Nun sollen die Beschwerden auch noch bei Gerichten Kosten verursachen dürfen. Das scheint mir wie eine Aushebelung der beschränkten Haftung durch die Hintertür. SLAPP könnte leichter werden.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.