Der Supreme Court der USA wird in den kommenden Monaten zwei netzpolitisch wegweisende Fälle behandeln. Im Kern dreht es sich um die Frage, ob Online-Dienste wie Youtube oder Facebook direkt für die Inhalte Dritter verantwortlich gemacht werden können, insbesondere wenn ihre Empfehlungssysteme bestimmte Inhalte vorschlagen. Es ist das erste Mal, dass sich das US-Verfassungsgericht dieser Grundsatzfrage annimmt.
Geklagt hatten die Familien von Terroropfern. In einem Fall geht es um die Studentin Nohemi Gonzalez, die im November 2015 bei einem islamistischen Terroranschlag in Paris getötet wurde. Den Anwälten zufolge hätten Propagandavideos des sogenannten Islamischen Staates eine „entscheidende Rolle“ dabei gespielt, Kämpfer:innen zu rekrutieren und sie dazu anzustacheln, Anschläge zu verüben. Aufgrund der aktiven Rolle, die die Algorithmen von Youtube bei der Verbreitung solcher Inhalte gespielt hätten, würde die Haftungsfreiheit für den Videodienst erlöschen.
Wer ist für Inhalte verantwortlich?
Das sogenannte Providerprivileg stellt Online-Anbieter von der unmittelbaren Haftung für Inhalte von Nutzer:innen frei, die sie auf den Diensten hinterlassen. In den USA regelt das der Abschnitt 230 des Communications Decency Act (CDA), in der EU spielt die E-Commerce-Richtlinie beziehungsweise künftig das Gesetz für digitale Dienste eine ähnliche Rolle. Die für das bisherige Internet zentrale Regelung sorgt dafür, dass Online-Anbieter ihre Dienste rechtssicher betreiben können, ohne für die Inhalte anderer vor Gericht geschleppt zu werden.
Seit einigen Jahren kommt das Prinzip jedoch aus unterschiedlichen Richtungen unter Beschuss. Manche argumentieren, darunter die nun klagenden Parteien, dass es zur Verbreitung schädlicher Inhalte beiträgt. Andere wiederum prangern die „privatisierte Rechtsdurchsetzung“ an, weil die Regelung es den Anbietern überlässt, wie sie mit nutzergenerierten Inhalten umgehen. Die Annahme der beiden Fälle durch das konservativ dominierte Höchstgericht dürfte auch den parteipolitisch geprägten Streit um die Macht der Tech-Konzerne noch befeuern.
Konservativer Angriff auf Providerprivileg
In den USA laufen dagegen vor allem Konservative Sturm, die sich in ihrer Meinungsfreiheit beschränkt fühlen. So hatte etwa der Ex-Präsident Donald Trump eine inzwischen im Sande verlaufene Verfügung erlassen, um Twitter am Faktencheck seiner Kurznachrichten zu hindern. Zugleich hatten mit Florida und Texas zwei republikanisch regierte Bundesstaaten Gesetze erlassen, die sozialen Medien die Moderation bestimmter Inhalte untersagen: Was sie als ihr Recht auf Meinungsfreiheit sehen, ist für andere etwa gefährliche Hassrede. Um beide Gesetze wird derzeit vor Gerichten gestritten, sie könnten ebenfalls vor dem Supreme Court landen.
Die Verteidigung der Online-Dienste dürfte dann ähnlich ausfallen wie im aktuellen Fall. Nutzer:innen posten dermaßen viele Inhalte im Netz, schreibt Google in seiner Eingabe an das Verfassungsgericht, dass es für die Anbieter gar keine Möglichkeit gebe, alle Inhalte auf ihre Rechtmäßigkeit zu prüfen. Zudem stelle der Abschnitt 230 des CDA ausdrücklich klar, dass es sich bei Betreibern von Online-Diensten nicht um „Herausgeber“ (Publisher) handle, die Inhalte Dritter kuratieren würden – und sie für diese Inhalte nicht verantwortlich seien.
Im zweiten vom Supreme Court angenommenen Fall geht es nur indirekt um die bedingte Haftungsfreiheit. Darin werfen die Kläger Twitter, Facebook und Google vor, Islamisten die Nutzung ihrer Dienste erlaubt und damit gegen den Anti-Terrorism Act verstoßen zu haben. Twitter hatte das Höchstgericht gebeten, auch diesen Fall zu behandeln, sollte es den Gonzalez-Fall annehmen.
Sorge um Grundprinzip des Internets
Dass es nun dazu gekommen ist, hat unter Expert:innen Verstörung ausgelöst – auch deshalb, weil der jüngste Rechtsruck des US-Verfassungsgerichts jahrzehntealte Spruchpraxis über Bord geworfen hat. Wie die aktuelle Besetzung des Supreme Courts mit den Haftungsfragen rund um Empfehlungsalgorithmen umgehen könnte, sei „angsteinflößend“, schrieb die Regulierungsexpertin Daphne Keller auf Twitter.
Anderswo mutmaßte das Fachblog Scotusblog, dass dies der Rechtsstreit sei, auf den der erzkonservative Höchstrichter Clarence Thomas gewartet habe. Dieser hatte im Vorjahr am Rande durchblicken lassen, dass er große soziale Medien als „grundlegende Dienste“ (Common Carrier) sieht, die deshalb nicht nach ihren privaten Gemeinschaftsregeln moderieren könnten. „Der gesamte Umfang des Abschnittes 230 könnte auf dem Spiel stehen“, sagte der Universitätsprofessor Jeff Kosseff der Washington Post.
Also wenn Youtube und Facebook mit ihren Algorithmen Rechtsextreme oder Islamistische Inhalte personalisiert empfehlen und somit dem Entstehen von Extremistischen Filterbubbles Vorschub leisten. Dann sollen die auch zu 100% dafür haften und in jedem einzelnen Fall Strafrechtlich belangt werden sowie auch zu Schadensersatz verpflichtet sein.
Diese personalisierten Empfehlungs Mechanismen beruhen ja nicht zuletzt auch auf der Totalüberwachung aller Plattform Nutzer um diese so zu mehr Interaktionen = mehr Werbeprofit zu manipulieren.
Ich würde mich sehr freuen wenn sich der Rechtsrahmen hier so ändert das personalisierte Empfehlungen aufgrund der Haftungsrisiken nicht mehr möglich sind. Dann wäre auch die Überwachung und Manipulation der Nutzer durch die Konzerne ganz im allgemeinen nicht mehr so attraktiv für den Überwachungskapitalismus.
Ja, das wäre ein Fortschritt. Dann noch die Entwicklung hin zu nützlichen Suchmöglichkeiten. Man sollte selbst wählen nach welchen Kriterien empfohlen oder gesucht wird, und welche Daten (sofern vorhanden) dafür genutzt werden dürfen. DAFÜR, nicht für alles mögliche andere.
Meinte: >ad-hoc< genutzt werden. D.h. ich kann MIR meine Daten speichern, und dann für eine ad-hoc-Suche verwenden. Die Idee ist also nicht mehr Datenspuren von Menschen zuordnebar dauerhaft zu speichern.
Lieber „Linux User Number 1337“: Ich würde hier sehr vorsichtig mit solchen Wünschen sein. Bei der „Chatkontrolle“ sehen wir gerade, was sich einige mit bestimmten Argumenten („Kindesmissbrauch“) alles herbeiwünschen, ohne dabei die vollen Konsequenzen zu bedenken.
Sie schreiben von „Rechtsextremen“ und „Islamismus“ – aber in den USA zielt man gerade mit der vollen Breitseite auf nicht näher definierte „schädliche Inhalte“. Da sollte man rational bleiben und genau nachdenken wer/was am Ende alles davon betroffen sei könnte (und stellt dann vielleicht am Ende sogar fest, dass man selbst im Visier stehen könnte).
Bevor man zu viel fordert hilft es meist sich den Status Quo zu vergegenwärtigen und noch einmal nachzulesen was das Provider-Privileg genau bedeutet und warum es existiert. Dann merkt man, dass eine effektive Exekutive (sofortige Strafverfolgung wäre nicht einmal zwingend vorausgegsetzt) das Problem ebenfalls lösen würde – und zwar auch ganz ohne Gesetzesänderungen.
Ein weiteres „Netzwerkdurchsetzungsgesetz“ – gemeinhin „NetzDG“ genannt – brauchen wir sicher nicht. Das wurde nämlich allzuheiß gestrickt, steht jetzt auf wackeligen Füssen – und hier hat Google&Co erst im März ’22 einen Erfolg errunge (https://www.lto.de/recht/nachrichten/n/vg-koeln-6l127721-6l135421-netzdg-verstoss-unionsrecht-google-meta-meldepflichten/)
Freedom of speech erlaubt in den USA sehr extreme Meinungsaeusserungen.
Was zB nicht erlaubt sein koennte sind Aufklaerung ueber Homosexualitaet oder Schwangerschaftsabbruch, denn das sind ja keine Meinungen. Und dann gibt’s natuerlich alle moeglichen Ziviklagen auf Schadensersatz, die entsprechende Filter nach sich ziehen.
The route to hell, ist ja umsonst dieser SCOTUS.
„Ohne dieses Prinzip wäre das heutige Internet undenkbar.“ – na ja, nachdem meine zweiten 15 Jahre Internet einigermaßen unerträglich waren … ich wäre nicht so unfroh wenn das heutige Internet verschwindet.
„ich wäre nicht so unfroh wenn das heutige Internet verschwindet.“
Stecker ziehen. Geht ganz einfach.
>> Stecker ziehen. Geht ganz einfach.
Bezogen auf den einzelnen Anwender geht das so einfach. Die Karawane zieht ohne ihn weiter.
Beim Vorgänger des Internet, dem ARPANET, spielte auch dies eine Rolle:
„The goal was to exploit new computer technologies to meet the needs of military command and control against nuclear threats, achieve survivable control of US nuclear forces, and improve military tactical and management decision making.“
Aktuell besteht die Gefahr, dass das Design empirisch überprüft werden kann.
Mein eigenes Internet-Feeling der letzten 15 Jahre ist, dass mindestens die Hälfte der Zeit drauf geht für digitale Selbstverteidigung. Ökonomisch ist das längst nicht mehr. Für den Rest meines Lebens möchte ich nicht meine Lebenszeit damit verschwenden.
„Mein eigenes Internet-Feeling der letzten 15 Jahre ist, dass mindestens die Hälfte der Zeit drauf geht für digitale Selbstverteidigung. Ökonomisch ist das längst nicht mehr. Für den Rest meines Lebens möchte ich nicht meine Lebenszeit damit verschwenden.“
Erinnert mich an „die Situation“:
– Monopolstellungen von SW und HW Herstellern, vor allem und bis in alle Ewigkeit Microsoft + Intel (bzgl. der Vergangenheit, Teils heute noch, zumindest die Auswirkungen). Inzwischen sicherlich auch Mobil-OS-Hersteller mit ihren Ansprüchen an die Nutzung durch OEM-Geschranze (Android). Gesetzesformung durch solche (vornehmlich externen) Großunternehmungen.
– Bestrebungen seitens Regierungen und Behörden, Sicherheit zu schwächen und schwach zu halten.
– „Wirtschaftsförderung“ (first, „Denken“ second).
– „Aufklärung“ durch Medien, was IT betrifft (nicht, erst vor kurzem leuchteten Verbesserungen auf). Keine Richtlinien („wir googlen mal, wir sind ja auch alle bei Facebook, ich nenne mal ohne Not Unternehmen…“)
– Angleichung statt Gegenmodell („Wir brauchen auch ein…“ ~ Entropie).
– Allgemeine Strategievermeidung, was IT betrifft.
Keine sichere Hardware, keine sichere Software, keine sicheren Standards, stattdessen Pseudozertifizierungen und viele an irgendwas gewöhnte Menschen, (…) Zeitverschwendung.
(Natürlich kann man sich einsetzen. Ehrenhaft und notwendig.)