Edit PolicyTelegram sperren? Warum es keine technische Lösung gegen Hass gibt

Eine Sperrung von Telegram wäre grundrechtswidrig und würde viel zu viele Menschen in ihrer völlig legalen Kommunikation treffen. Es gibt bessere Lösungen.

Nächtliche Skyline von Dubai
Telegram sitzt offiziell in Dubai und reagiert nicht auf Post deutscher Behörden. CC-BY-NC 2.0 Walid Mahfoudh

Julia Reda saß von 2014 bis 2019 für die Piraten im Europäischen Parlament und verantwortet heute bei der Gesellschaft für Freiheitsrechte das Projekt „control c“ zu Urheberrecht und Kommunikationsfreiheit. Dieser Beitrag erschien zuerst in ihrer Kolumne auf heise.de und wurde dort unter der Lizenz CC BY 4.0 veröffentlicht.


In einer Telegram-Gruppe wurde laut Berichten von Sicherheitsbehörden ein Mordanschlag auf den sächsischen Ministerpräsidenten Michael Kretschmer geplant. Das ist nur der jüngste Vorfall, der die Rolle des Messenger-Dienstes Telegram für die Vernetzung der verschwörungsideologischen Szene in Deutschland offenbart. Insofern verwundert es nicht, dass eine Debatte um die Regulierung des Dienstes entbrannt ist. Das Bußgeldverfahren gegen Telegram auf Grundlage des NetzDG zieht sich in die Länge, weil der Dienst seinen Sitz in den Vereinigten Arabischen Emiraten hat und bisher nicht mit den deutschen Behörden kooperiert.

Angesichts der Reichweite einiger Telegram-Kanäle ist der Wunsch nach klaren Regeln zur Bekämpfung von Hass und Hetze auf diesem Medium durchaus nachvollziehbar. Doch die aktuelle Debatte droht mehr Schaden anzurichten, als zu einer sinnvollen Lösung beizutragen, weil sie unzureichend zwischen den verschiedenen Kommunikationsangeboten auf Telegram unterscheidet und die Rolle von polizeilicher Ermittlungsarbeit auf der Plattform unterschätzt. Der Ruf nach technischen Lösungen für ein soziales Problem droht zur Gefahr für die Grundrechte zu werden.

Sperrung von Telegram ist grundrechtswidrig

Einige der Vorschläge, die bis hin zu einer Sperrung von Telegram in Deutschland reichen, kennt man sonst nur von autokratischen Regimen wie Russland. Trotz aller Probleme mit dem Dienst wird der Großteil der Kommunikation über Telegram völlig legal sein, eine Sperrung würde also einen erheblichen Eingriff in die Meinungsfreiheit darstellen. Der Europäische Gerichtshof für Menschenrechte hat derartige Sperrungen von Internetdiensten, die wahllos auch legale Inhalte treffen, mit dem Verbot einer Zeitung oder eines Fernsehsenders verglichen und als grundrechtswidrig ausgeschlossen. Es ist erschreckend, mit welcher Selbstverständlichkeit Thüringens Innenminister Georg Maier (SPD) das „Geoblocking“ von Telegram dennoch als letztes Mittel vorschlägt – wobei er Geoblocking als Euphemismus für Netzsperren gebraucht. Auf europäischer Ebene im Rahmen des Digital Services Act über Netzsperren gegen Kommunikationsplattformen diskutiert, die Idee wurde aber aus guten Gründen schnell wieder verworfen.

Ähnlich gefährlich und überflüssig sind die Rufe nach einer Klarnamenspflicht auf Telegram. Es ist nicht nur schleierhaft, warum Telegram bei der Umsetzung einer solchen Pflicht besser kooperieren sollte als bei anderen deutschen Vorschriften. Die Klarnamenspflicht wäre für die Beobachtung und Erforschung von rechten Radikalisierungstendenzen sogar hinderlich: Forschende und Journalist:innen, die die verschwörungsideologische Szene beobachten, müssten dann ebenfalls ihre Identität offenlegen und wären größeren Gefahren ausgesetzt. Außerdem gibt es genügend Beispiele von Personen, die Hass und Hetze auch unter ihren Klarnamen verbreiten, ohne dafür Konsequenzen zu fürchten.

Kein reiner Messenger, kein reines soziales Netzwerk

Das Recht auf anonyme und vertrauliche Kommunikation ist in Gefahr, wenn die Politik vom Messenger-Dienst Telegram die Moderation von privaten Unterhaltungen verlangt. Denn Äußerungen, die einfach pauschal behaupten, Telegram sei ein soziales Netzwerk wie Facebook oder YouTube, greifen zu kurz. Tatsächlich verbergen sich in der App unterschiedliche Funktionalitäten, die unterschieden werden müssen, um zu sinnvollen regulatorischen Ansätzen zu kommen.

Da ist zunächst das Kerngeschäft, das Telegram mit anderen Messengern eint. Zwei Personen kommunizieren direkt miteinander, dabei kommt je nach Voreinstellung ein unterschiedlicher Grad der Verschlüsselung zum Einsatz. Von dieser Funktionalität muss der Gesetzgeber die Finger lassen. Weder sind die Direktnachrichten relevanter Schauplatz für die Hassbotschaften, um die es in der aktuellen Debatte geht, noch ist eine Regulierung von Messenger-Funktionalitäten möglich, ohne auch das Recht auf anonyme und vertrauliche Kommunikation abzuschaffen. Dasselbe gilt für geschlossene Chatgruppen mit mehr als zwei Teilnehmenden, denen man nur beitreten kann, wenn man von einer bereits teilnehmenden Person hinzugefügt wird.

Wer Messengerdienste zur Moderation geschlossener Chats verpflichten will, legt die Axt an das Recht auf verschlüsselte Kommunikation. Das ändert sich auch nicht durch die Tatsache, dass bei Telegram bis zu 200.000 Personen zu einem geschlossenen Chat hinzugefügt werden können. Wenn sich tatsächlich eine Gruppe von Tausenden in einer geschlossenen Chatgruppe organisiert, Hetze verbreitet und Straftaten plant, sollte es den Ermittlungsbehörden durch herkömmliche Polizeiarbeit möglich sein, diese Gruppen zu infiltrieren. Wenn das regelmäßig nicht gelingt, ist das größere Problem als die Existenz geschlossener Chats wohl eher die Vernachlässigung von Ermittlungsarbeit auf Telegram durch die Polizei.

Brüssel ist der deutschen Debatte weit voraus

Eher mit sozialen Netzwerken vergleichbar sind die Kanäle auf Telegram, bei der Kanalbetreibende mit einer unbegrenzten Öffentlichkeit kommunizieren, sowie offene Chatgruppen, deren Chatverlauf gespeichert wird und denen beliebige Personen jederzeit beitreten können. Allerdings sind auch hier Rufe nach einer Ausweitung des NetzDG völlig fehl am Platze. Fakt ist: Bereits heute geht das Bundesamt für Justiz auf Grundlage des NetzDG gegen Telegram vor – das Problem ist also nicht eine Gesetzeslücke, sondern der Mangel an Instrumenten justizieller Zusammenarbeit mit den Vereinigten Arabischen Emiraten, wo Telegram seinen Sitz hat.

Zwar mag es stimmen, dass das NetzDG nicht besonders gut auf die öffentlichen Kommunikationsfunktionen von Telegram zugeschnitten ist. Eine Reform würde aber an den Durchsetzungsproblemen auf internationaler Ebene nichts ändern, sondern sie potentiell schlimmer machen, weil es einer nationalen Zersplitterung der Plattformregulierung Vorschub leistet. Anstatt in Deutschland das Rad einmal wieder neu zu erfinden, sollte sich die deutsche Politik an den bereits weit fortgeschrittenen europäischen Regulierungsdebatten im Rahmen des Digital Services Act beteiligen.

Der Ministerrat hat seine Position zum Digital Services Act bereits verabschiedet und unterscheidet anders als die deutsche Regulierungsdebatte sauber zwischen den geschlossenen und den offenen Kommunikationsfunktionen von Telegram. Ausschließlich für Kanäle und offene Gruppen soll Telegram demnach die Verpflichtung zur Einrichtung eines Meldeverfahrens für illegale Inhalte treffen, ebenso wie Transparenz über die Moderationsregeln. Die Überlegungen des Europaparlaments, dessen federführender Ausschuss gerade seine Position zum Digital Services Act verabschiedet hat, gehen in eine ganz ähnliche Richtung. Die Bedeutung von Ende-zu-Ende-Verschlüsselung von Messengerdiensten hebt die Parlamentsposition sogar noch einmal explizit hervor.

Bereits im Sommer könnten sich Parlament, Rat und Kommission auf einen gemeinsamen Digital Services Act einigen, Ende 2022 könnte er in Kraft treten. Das wäre eine deutlich bessere Grundlage für die Regulierung von Telegram als eine Reform des NetzDG, das bereits jetzt wegen der Datenweitergabe an das Bundeskriminalamt auf verfassungsrechtlich wackeligen Beinen steht. Anders als das NetzDG sieht außerdem der Digital Services Act keine strikten Löschfristen nach Meldung von Inhalten vor, die dem Overblocking Vorschub leisten. Probleme mit der internationalen Rechtsdurchsetzung können durch den Digital Services Act zwar auch nicht völlig ausgeräumt werden. Dennoch ist es wahrscheinlicher, dass sich ein großer kommerzieller Dienst über kurz oder lang an einheitliche europäische Regeln hält, die verhältnismäßig ausgestaltet sind, als wenn jedes Land sein eigenes Süppchen kocht.

6 Ergänzungen

  1. >>> Doch die aktuelle Debatte droht mehr Schaden anzurichten, als zu einer sinnvollen Lösung beizutragen, weil … <<<

    Nun sind auch noch Debatten schädlich. Ein interessanter Aspekt.

    Wie kommt es zu Debatten?
    Wer initiiert Debatten und zu welchem Zweck?
    Wer sind die Beteiligten? Welche Interessen haben sie?
    Wer kämpft um die Deutungshoheit und mit welchen Mitteln?
    Welchen Erkenntnisgewinn kann eine Debatte bringen?
    Gibt es einen Einigungsprozess nach Debatten?
    Kann man sich Debatten sparen?

    Kann eine Debatte überhaupt schädlich sein, und wann wird sie von wem als schädlich bezeichnet?

    1. Ja, Debatten könne schädlich sein, und zwar wenn man sie über Dinge geführt wird, die nicht zur Debatte stehen sollten. Mir ist noch der Schirach-Film von Anfang dieses Jahres in Erinnerung geblieben: da waren am Ende doch erschreckend viele Menschen der Meinung, dass Folter *nicht immer* verboten sein sollte. Ich fand es unglaublich, dass man darüber überhaupt debattieren wollte!
      Wenn hier jetzt über das Verbot eines Messenger debattiert werden soll, dann muss man sich darüber im klaren sein, dass es auch jeder andere Messenger sein könnte. Wir reden also im Grunde gerade über ein allgemeines Messenger-Verbot. (Oder Verschlüsselungs-Verbot? Oder eID-Pflicht bei Internet-Kommunikation?)
      Oder glaubt wirklich jemand, dass die Hetze aufhört, nur weil der Lieblings-Messenger der Hetzer „gesperrt“/“verboten“ wird? Und ich will damit nicht sagen „Man kann eh nix machen, also lasst se halt mache“ – sondern, dass man die Wurzel des Übels bekämpfen muss, und nicht nur Symptome.

  2. „Der Ruf nach technischen Lösungen für ein soziales Problem droht zur Gefahr für die Grundrechte zu werden.“

    Die Technisierung sozialer Probleme ist deshalb so beliebt, weil deren Technisierung, aktuell Digitalisierung, scheinbar die Bearbeitung/Linderung/Beseitigung sozialer Probleme scheinbar überflüssig macht. Schnell mal eine App geschrieben, und Sozialarbeit braucht nicht mal angedacht zu werden. Bei größeren Problemen darf es schon mal eine Chinese Firewall sein.

    So etwas wie Stammtische, zumal im Bierdunst konnte man schon immer als Chance oder Gefahr ansehen. Die „Hoheit über die Stammtische“ zu erlangen war schon immer ein Bedürfnis Bier-affiner Politikrichtungen.

    Chat-Gruppen sind vielfach so etwas wie digitalisierte Stammtische, wobei „digitale Wirte“ kaum jemanden vor die Tür setzen, wenn sie es übertrieben haben. Das Konzept sozialer Kontrolle funktioniert im digitalen Raum nahezu gar nicht, weil Eskalation in digitalen Räumen als kostenfreies Entertainment konsumiert wird.

    China hat die digitale Globalisierung von Kommunikation früh als Gefahr erkannt, die Vorzüge von Digitalisierung im eigenen Staatsinteresse aber perfektioniert. Nationale Gesetzgebung unterliegt nicht nur im Hinblick auf globale Digitalisierung einem zunehmenden Harmonisierungsdruck.

  3. Wozu denn das NetzDG? Private Chatgruppen können infiltriert werden. Öffentliche Kanäle sind öffentlich. In der realen Welt schicken wir an einen Ort Polizisten, wenn der dafür bekannt ist, dass an ihm Verbrechen begannen werden.

    Außerdem sollte doch der eine oder andere Polizist mal privat solch einem Telegram-Kanal begegnen. Da muss doch so ein Polizist mal auf die Idee kommen, mal eine Straftat zu verfolgen.

    Nur weil Polizisten ihre Arbeit nicht machen, kann man doch Telegram nicht gleich sperren. Kann ja auch sein, dass es ein paar Gründe gibt, warum Polizisten ihre Arbeit nicht machen. Die sollten erst einmal beseitigt werden.

  4. „Einige der Vorschläge, die bis hin zu einer Sperrung von Telegram in Deutschland reichen, kennt man sonst nur von autokratischen Regimen wie Russland. “

    „Am Ende der Spirale staatlichen Agierens kann auch das Geoblocking stehen“, führte wiederum der Thüringer Innenminister Maier aus. Durch Geoblocking könnte Telegram in bestimmten Region unerreichbar gemacht werden. Das sei jedoch ein recht weitgehender Schritt, sagte der Thüringer. „Davon sind wir noch weit entfernt.“

    Ist es wirklich aufrichtig die Debatte so zu framen nur weil ein Debattenteilnehmer eine unbedachte Äußerung gemacht hat?
    Geoblocking selbst ist ja eine stinknormale Vorgehensweise was bestimmte Webseiten angeht, wenn die rechtliche Situation es verlangt, selbst beim öffentlichen Rundfunk.
    Und letztlich geht es selbst bei dieser „weit entfernten Maßnahme“ (zu der angeblich nur autokratische Regime greifen) hier nur darum den Zugang für Otto Normalverbraucher ein bißchen zu erschweren wenn Telegramm sich nach wie vor weigert zu kooperieren. Wer auch nur halbwegs Ahnung hat, weiß wie man das umgeht.
    Fakt ist, dass diese Mordaufrufe stattfinden und das nicht hingenommen werden kann.
    Eine technische Lösung behebt nicht das eigentliche Problem, aber die es ist eh die Frage was denn das eigentliche Problem löst.
    Die Autorin hat auch keinen Vorschlag außer einer europäischen Lösung anstatt einer nationalen. Die Überschrift sollte da nochmal angepasst werden in Richtung „Besser wäre eine europaweite technische Lösung“

    1. > „Am Ende der Spirale staatlichen Agierens kann auch das Geoblocking stehen“, führte wiederum der Thüringer Innenminister Maier aus. Durch Geoblocking könnte Telegram in bestimmten Region unerreichbar gemacht werden. Das sei jedoch ein recht weitgehender Schritt, sagte der Thüringer. „Davon sind wir noch weit entfernt.“

      Maier war nicht der einzige und auch nicht der erste, der das Blocking zumindest in Erwägung gezogen hat. In der aktuellen Debatte beispielsweise hat sich Markus Söder ähnlich positioniert (siehe z.B. https://www.augsburger-allgemeine.de/politik/augsburger-allgemeine-live-soeder-fordert-haerteres-vorgehen-gegen-telegram-wegen-hetze-im-netz-id61276956.html). Dem gingen unter Anderem Forderungen nach dem Bannen aus App-Stores voraus.

      > Ist es wirklich aufrichtig die Debatte so zu framen nur weil ein Debattenteilnehmer eine unbedachte Äußerung gemacht hat?

      Ich sehe hier kein Framing, sondern die grundrechtliche Diskussion von Netzsperren im Falle Telegram. Es handelt sich ja auch nicht um einen Vorschlag der Autorin. Weiterhin ist „unbedacht“ eine nicht belegte Annahme (böse Zungen könnten ein solches Attribut als Framing auffassen).

      > Geoblocking selbst ist ja eine stinknormale Vorgehensweise was bestimmte Webseiten angeht, wenn die rechtliche Situation es verlangt, selbst beim öffentlichen Rundfunk.

      „Rechtliche Situation“ heißt in dem Fall Urheberrecht bzw. Vertragsrecht. Auch hier sind Netzsperren ein ultima ratio, und sollten eigentlich(!) nicht zulässig oder notwendig sein (das ist aber eine andere Debatte). Diese als „stinknormal“ zu bezeichnen ist gefährlich, denn es deutet eine Gewöhnung an dieses unsinnige Mittel an. Fachkundige Personen können entsprechende Sperren spielend leicht überwinden, Otto Normalnutzer vermutlich nicht. Derartig sinnbefreite Maßnahmen sollten schlicht und einfach nicht angewendet werden.

      > Die Autorin hat auch keinen Vorschlag außer einer europäischen Lösung anstatt einer nationalen.

      Nur weil keine „bessere“ Maßnahme im gleichen Text vorgeschlagen wird (vielleicht auch, weil noch keine gefunden wurde), sollte nicht die als grundrechtswidrig bekannte Maßnahme eingesetzt werden. Siehe u.A. Vorratsdatenspeicherung (verstößt gegen GG, EU-Recht, …, wurde x-mal von Gerichten kassiert), ein ausuferndes Urheberrecht (Overblocking-Debatte), oder eigentlich fast jedes Überwachungsgesetz der letzten zwei Jahrzehnte.

      Es ist auch nicht zwangsläufig Aufgabe der Kritik Übenden, Vorschläge zu machen. Schlussendlich ist es Aufgabe der Politiker, verfassungskonforme und verhältnismäßige Antworten auf Fragen zu finden.

      Die Analyse ist übrigens auf den Punkt gebracht. Man kann nicht jedes technische Problem juristisch lösen, genausowenig lässt sich jedes Problem der Gesellschaft durch Technik lösen. Dass die rechtlichen Möglichkeiten sogar vorliegen, jedoch aus verschiedenen Gründen nicht zur Anwendung kommen, gibt es ja häufiger im Neuland…

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.