Digitale GewaltRichter:innen sollen Accounts sperren lassen

Im Koalitionsvertrag hat die Ampel richterlich angeordnete Accountsperren angekündigt. Die Gesellschaft für Freiheitsrechte sieht das als ein gutes Mittel, um Massenüberwachung zu vermeiden – und stellt ihre Ideen auf der re:publica vor. Einige Probleme lassen sich so aber nicht lösen.

Screenshot: Dieses Konto wurde gesperrt
Können Accountsperren digitale Gewalt stoppen? (Symbolbild) – Bild: Pixabay; Montage: netzpolitik.org

Jede Woche neue Todesdrohungen: Manche erleben Hass und Hetze im Netz nicht nur während eines Shitstorms, sondern dauerhaft. Dann wird diese Form von Gewalt zum Teil des Lebens. Wer dagegen etwas tun möchte, kann nur begrenzt auf die Hilfe von Plattformen hoffen. Teils sperren Anbieter wie Facebook und Twitter gewaltsame Accounts selbst, teils nicht. Alternativ können Betroffene mutmaßliche Straftaten wie etwa Volksverhetzung bei der Polizei anzeigen. Doch manchmal passiert daraufhin monatelang nichts, wie jüngst Recherchen des ZDF Magazin Royale gezeigt haben.

Ein anderes mögliches Werkzeug gegen digitale Gewalt könnten „richterlich angeordnete Accountsperren“ sein. SPD, Grüne und FDP haben sich im Koalitionsvertrag vorgenommen, das möglich zu machen. Auf Anfrage von netzpolitik.org schreibt das Justizministerium, es befinde sich zu dem Gesetzgebungsvorhaben in einer „umfassenden Prüfphase“. Das heißt, es steht mindestens auf einer To-do-Liste.

Konkret könnten solche Accountsperren zum Beispiel so aussehen: Wer etwa auf Facebook Todesdrohungen erhält, könnte sich zivilrechtlich gegen den betreffenden Facebook-Account wehren. Richter:innen in Deutschland können dann entscheiden, dass Facebook den Account aufgrund der Posts zumindest zeitweise sperren muss. Dafür wäre es nicht einmal nötig, die Identität der mutmaßlichen Täter:innen zu ermitteln.

GFF will schneller Entwurf vorlegen als Regierung

Richter:innen, die Accounts von Unbekannten sperren lassen – die Gesellschaft für Freiheitsrechte (GFF) verspricht sich davon nicht etwa weniger Freiheit im Netz, sondern mehr. Das klingt zunächst paradox, und genau damit spielt die GFF im Titel ihres Vortrags auf der Digitalkonferenz re:publica: „Sperren für die Freiheit“. Wie soll das gehen?

Digitale Gewalt treffe nicht alle gleich, schreibt die GFF, die sich mit der Marie-Munk-Initative für Rechtssicherheit gegen Hass und Hetze im Netz einsetzt. Für Frauen und andere marginalisierte Menschen sei sie Alltag. „Sie droht ausgerechnet die Menschen auszuschließen, die offene digitale Diskursräume am meisten bräuchten.“ Accountsperren könnten Betroffene schnell vor weiteren digitalen Attacken schützen. Wer hinter dem betroffenen Account steckt, sei zunächst irrelevant. „Damit entfällt auch das Bedürfnis nach immer neuen Formen der Massenüberwachung, insbesondere der Vorratsdatenspeicherung.“

Auf der re:publica haben Ulf Buermeyer und Sina Laubenstein von der GFF am heutigen Donnertag skizziert, wie solche richterlich angeordneten Accountsperren aussehen könnten. Mit ihrem eigenen Gesetzesentwurf möchte die GFF „schneller sein als die Bundesregierung“, sagte Laubenstein.

„Wer mit seinem Auto Mist baut, riskiert auch ein Fahrverbot“

Als mögliche Frist für Accountsperren könne sich die GFF beispielsweise sieben Tage vorstellen, wie Buermeyer erklärt. Das traue er Gerichten zu. Plattformen müssten die Kommunikation mit dem Gericht betroffenen Nutzer:innen mitteilen – und gesperrte Personen sollten ein Recht haben, die Entscheidung anzufechten.

Unerwünschte Accounts sperren, so etwas würde auch autoritären Regimen sicher gefallen. Was, wenn manche Staaten Accountsperren missbrauchen, um marginalisierte Gruppen zum Schweigen zu bringen? Ulf Buermeyer sagte dazu am Rande der re:publica zu netzpolitik.org: „Unrechtsstaaten brauchen keine Vorwände, um Accounts zu sperren. Dass andere Staaten Accountsperren missbrauchen können, ist daher zwar richtig, zugleich aber kein Argument gegen einen rechtsstaatlichen Einsatz.“

Einige große Plattformen sind außerdem wichtige Orte des öffentlichen Lebens. Eine Accountsperre könnte Menschen die Teilhabe an diesen Orten verwehren. Ist das angemessen? „Wer mit seinem Auto Mist baut, riskiert auch ein Fahrverbot“, so Buermeyer. Menschen hätten selbst in der Hand, sich rechtmäßig zu verhalten. „Das ist der Vorteil gerichtlicher Sperren gegenüber den mitunter willkürlichen Sperren der Plattformen.“

bff: Accountsperren sind „elegante Lösung“

Kerstin Demuth ist Referentin für digitale Gewalt beim Bundesverband der Frauenberatungsstellen und Frauennotrufe in Deutschland (bff). Auf Anfrage von netzpolitik.org schreibt sie, Accountsperren seien in vielen Fällen eine deutliche Verbesserung. „Strafanzeigen laufen häufig ins Leere, weil Verfahren eingestellt werden. Wenn doch ermittelt wird, kann es Jahre dauern, bis das Verfahren abgeschlossen ist.“ Gerade bei digitaler Gewalt gehe das an den Bedürfnissen der Betroffenen vorbei.

Auch zivilrechtliche Schritte seien derzeit wirkungslos, solange die mutmaßlichen Täter:innen unbekannt bleiben. „Account-Sperren sind eine elegante Lösung, um zügig handeln zu können, ohne dass beispielsweise Verkehrsdaten unverhältnismäßig lange gespeichert oder Verschlüsselung in Frage gestellt würde.“ Demuth sieht aber auch Grenzen: „Bei Shitstorms sind es oft viele Accounts auf einmal. Muss dann eine Richterin 276 Account-Sperren bewilligen? Das kann kein Mensch leisten, zumal die Justiz eh schon überlastet ist.“ Häufig gebe es hartnäckige Täter:innen, die sich schlicht neue Accounts anlegen.

Die Überforderung von Polizei, Staatsanwaltschaften, Richter:innen sei für Betroffene „ein unglaublich großes Problem“. Es sei schwer vorauszusagen, ob sich etwas verbessert, wenn die Entscheidung zukünftig bei Richter:innen liege. „Es gibt Beispiele, in denen der Richtervorbehalt ins Leere läuft, weil aus Zeitmangel alles durchgewunken wird“, so Demuth. Um das zu verhindern, sei ausreichend Personal und Kompetenz nötig. „Aber deswegen Gesetze, die in die richtige Richtung zeigen, nicht zu verabschieden, wäre falsch.“

HateAid: Hass im Netz als Massendelikt

Die Organisation HateAid setzt sich für die Rechte von Betroffenen digitaler Gewalt ein. „Wir befürworten die gesetzliche Regelung von Accountsperren grundsätzlich“, schreibt HateAid-Juristin Josephine Ballon an netzpolitik.org. Es biete Betroffenen zusätzliche Möglichkeiten, sich zu wehren. Allerdings weist Ballon kritisch auf die Grenzen von Accountsperren hin.

Bei einem zivilrechtlichen Verfahren müssten Betroffene einen Antrag stellen und hierfür die Kosten tragen, so Ballon. „Die wenigsten Menschen fühlen sich einem solchen Verfahren ohne anwaltliche Vertretung gewachsen.“ Hass im Netz sei ein Massendelikt, Betroffene erhielten die Nachrichten teils jede Woche oder alle paar Tage. „Ich kann mir nicht vorstellen, dass die hiervon betroffenen Personen nun wöchentlich mehrere Anträge auf Accountsperrungen stellen und hierfür die Kosten tragen“, schreibt Ballon. Echte Relevanz könnten Sperren dort bekommen, „wo Menschen wirklich hartnäckig von einem Profil drangsaliert werden“.

Um Betroffene digitaler Gewalt besser zu schützen, sieht Ballon an vielen anderen Stellen Handlungsbedarf. Als Beispiele nennt sie unter anderem konsequente Strafverfolgung und bessere Möglichkeiten, Täter:innen zu identifizieren. Ballon fordert außerdem, dass sich Behörden zu digitaler Gewalt fortbilden: „Eine personelle Aufstockung ohne Fortbildung und Sensibilisierung wird jedenfalls nichts verändern.“

Knackpunkt: Aufwand für Betroffene

Leena Simon berät freiberuflich von digitaler Gewalt betroffene Frauen für das Anti-Stalking-Projekt des Frieda-Frauenzentrums in Berlin. In Accountsperren sieht sie „definitiv eine Entlastung“ für Betroffene – zumindest wenn sie dafür nicht allzu viel Aufwand betreiben müssten. Aktuell seien Gerichte jedoch „meist völlig überfordert“, schreibt Simon an netzpolitik.org. Es sei nicht klar, was als gerichtsfester Beweis gelte und was nicht. Oft müssten Screenshots ausgedruckt werden.

Simon kritisiert ebenfalls „völlig überforderte“ Ermittlungsbehörden. „Ob einer betroffenen Person wirklich geholfen wird, ist quasi zu 100 Prozent davon abhängig, ob sie auf jemanden trifft, der/die in der Sache sensibilisiert ist.“ Dieser Missstand müsse „unbedingt schleunigst behoben werden“. Die Polizei brauche mehr IT-Kompetenz und „klar definierte Abläufe für den Umgang mit digitaler Gewalt“.

Digitale-Dienste-Gesetz setzt bei Plattformen an

Eine andere Form von Accountsperren ist bereits im Digitale-Dienste-Gesetz (DSA) vorgesehen, auf das sich die EU im April geeinigt hat. Hier liegt die Verantwortung aber gerade nicht bei Gerichten, sondern bei Plattformen.

Laut Artikel 20 sollen Anbieter von Online-Plattformen solche Nutzer:innen ausschließen, die häufig offensichtlich illegale Inhalte anbieten. Passieren soll das nach vorheriger Warnung und für einen begrenzten Zeitraum. Die Regeln dafür sollen Plattformen klar und ausführlich in ihren allgemeinen Geschäftsbedingungen darlegen. Einzelne Staaten wie Deutschland können aber Gesetze erlassen, die über die EU-Regeln hinausgehen.

Hilfe und Rat finden Betroffene digitaler Gewalt in der bundesweiten Beratungsdatenbank. Die Beratung ist kostenfrei, vertraulich und auf Wunsch auch anonym möglich.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

14 Ergänzungen

  1. „Bei Shitstorms sind es oft viele Accounts auf einmal. Muss dann eine Richterin 276 Account-Sperren bewilligen? Das kann kein Mensch leisten, zumal die Justiz eh schon überlastet ist.“ Häufig gebe es hartnäckige Täter:innen, die sich schlicht neue Accounts anlegen.

    Das ist der springende Punkt, oder? Der Vorschlag bringt auf jeden Fall Kosten, nämlich die zusätzliche Belastung der Justiz. Und gleichzeitig keinen Vorteil, weil die Sperrung eines Profils nichts damit zu tun hat, eine Person von der Plattform auszuschließen.
    Ich sehe hier kein verbleibendes Pro-Argument.

  2. Dann müsste aber auch sicher gestellt werden das die Hetzer und Rassisten sich nicht sofort einen neuen Account zulegen können. z.B. durch eine SMS Verifizierung bei der dann erkannt werden kann wenn ein Täter erneut versucht einen Account anzumelden.

    Dann wären Straftäter auch leichter zu ermitteln um Bußgelder und ähnliches zu verhängen.

  3. Da dürfte der bislang geringe Aufwand ein Nutzerkonto zu erstellen dem erhofften Erfolg entgegenstehen. Einfach einen neuen Account einrichten und weiter haten.

    1. Ich habe das ungute Gefühl die Lösung die hier zu erwarten wäre ist eine flächendeckende Ausweispflicht im Internet. Das lehne ich ab.

    2. Man wird schon dafür sorgen dass der Aufwand steigt. Schon heute wird über Handynummern (die dem Vorwand nach „nur“ zum „verifizieren“ und zur „eigenen Sicherheit“ abgefragt werden) die Account-Anzahl eingeschränkt.
      Woher ich das weiß: als ich eine neue SIM-Karte/Handynummer bekam konnte ich damit keinen Account bei einem Google-Service erstellen. Der bzw. die „Vorbesitzer“ hatte wohl schon 3 oder 4 mit genau dieser Nummer erstellt. Der Kundensupport antwortete „da müssen sie 6 Monate bis ein Jahr warten, dann geht das wieder“.

  4. Ich kann den Grundgedanken nachvollziehen. Allerdings befürchte ich, neben der vermutbaren Wirkungslosigkeit (einen neuen Account einrichten dauert viel weniger lang als eine Gerichtsentscheidung und ist weniger mühsam als die Anzeige), auch aufgrund der nicht vorhandenen Kapizitäten der Gerichte, eine sofortige Verlagerung in die Privatwirtschaft.

    Hier ist dann dem Missbrauch die Tür weit geöffnet. Wo bei einer Anzeige noch Personalien hinterlegt werden müssen, können Screenshots einfach gefälscht und eine „verlässliche“ Authentifizierung hier leichter umgangen werden. Abgesehen mal davon, dass Auth-Daten die Privatwirtschaft nichts angingen und man kaum davon ausgehen kann, dass diese wieder regelhaft gelöscht würden.

    Egal wer die Rechtsdurchsetzung hier macht. Zu Unrecht erfolgte Sperren ließen sich in jedem Fall kaum zeitnah aufheben. Alle großen Dienste arbeiten mit automatisierten Systemen, die eine Rückabwicklung im Regelfall äußerst aufwändig, teils unmöglich machen. Eine Klage wäre bei einer 7-Tage Sperre sinnlos.

    Aber auch, um Accountsperren wirkungsvoll umsetzen zu können, müssten die Nutzer personalisiert auf „allen“ Diensten erfasst werden. Das betrifft dann Mail ebenso.

    Nicht zuletzt sollte man das Risiko bedenken, dass ein Rechtssystem, dass Ansprüche nur in einer geringen Anzahl zeitnah bearbeiten kann, sehr anfällig für DOS Angriffe sein wird. Ablehnungen einens angemeldeten Anspruchs müssen begründet werden und anfechtbar sein. Eine Strafbarkeit wegen der „Meldung nicht eindeutig strafbarer Inhalte“ kann nur sehr eingeschränkt wirksam sein.

    1. Accountvergabe für Sichtbarkeit in einem bestimmten Land nur bei Vorlage eines entsprechenden Ausweisdokumentes dieses Landes. Sperrlisten.

      Das Ziel ist schließlich totale passive wie aktive Kontrolle der Bürger.

  5. re:publica ist ein merkwürdiger Name für einen Ideenwettbewerb, wie man am effizientesten verbieten und zensieren kann.

    Wenn die Polizei nicht bereit ist, bestehende Gesetze gegen Hass und Gewalt durch zu setzen – #Böhmermann – dann heißt die Lösung nicht „schärfere Gesetze“.

    Wenn BKA und Verfassungsschutz Rechtsextremisten durch „V-Leute“-Zahlungen alimentieren, statt sie zu bekämpfen, dann heißt die Lösung nicht Zensur.

    Wenn die Regierung und EU ständig neue Datenschutz- und Zensurgesetze – DSGVO und NetzDG – erlassen, sich aber weigern, diese auch durch zu setzen, dann heißt die Lösung nicht mehr Vollmachten zu Überwachung und Zensur.

    Wir haben mehr als genug Gesetze, um – angebliche! – Probleme des Internets in den Griff zu bekommen.

    Was wir nicht haben, ist auch nur eine minimale Bereitschaft von Regierung und Behörden, die bestehenden Gesetze auch durch zu setzen.

    Im übrigen fehlen bei der gesamten bisherigen Diskussion, und auch im Artikel, belastbare Definitionen und Zahlen, um das Problem über verstehen und einordnen zu können.

    Und es fehlen belastbare Untersuchungen, die Notwendigkeit, Wirksamkeit und Angemessenheit der vorgeschlagenen Maßnahmen abschätzen zu können.

    Es kann nicht sein, dass ständig Grundrechte eingeschränkt werden mit emotionalen Geschichten, bunten Bildern und dem Verweis, dass man gar nicht genug tun könne, um Kinder/Opfer von irgendwas/bedrohte Tiere zu schützen. Unter völliger Missachtung der Tatsache, dass zu dem angeblich dringend notwendigen Schutz Grundrechte und Demokratie massiv ausgehöhlt werden.

    1. Erklärung: Proaktiv alle Accounts sperren! Warum nicht?

      Bestimmt fehlt eine Regelung, unter welchen Umständen die Accounts wieder freigegeben werden müssen, oder welcher Länder Richter sowas mal ad-hoc veranlassen dürfen.

      Immerhin wäre eine echte wirkliche richtige globale Accountsperre, wegen Inhalten, die nur in Deutschland strafbar sind, für einen US-Konzern eine nicht so einfach umzusetzende Angelegenheit.

      Daher wird das wohl ein weiterer Rohrkrepierer a la „Dieser Inhalt ist in ihrem Land nicht sichtbar“, nur halt für alles was einer schreibt für alle Deutschen.

      Das muss die Bildungsoffensive sein. Falls nicht, kommt die eben „rückwärts“ über polnische, ungarische und vielleicht auch demnächst, wer will das nicht, serbische Sperrlisteneinträge.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.