Terrorinhalte im Netz

Deutschland rückt nicht von Uploadfiltern ab

Die Verhandlungen rund um die Terrorverordnung nähern sich ihrem Ende zu. Bis Jahresende soll das umstrittene Gesetz abgesegnet werden. Doch am jüngsten Kompromissvorschlag der deutschen Ratspräsidentschaft scheiden sich die Geister.

Britische Polizist:innen beobachten eine „Extinction Rebellion“-Demonstration. Gemeinfrei-ähnlich freigegeben durch unsplash.com Ethan Wilkinson

Die Bundesregierung versucht den unmöglichen Spagat. Auf der einen Seite streicht sie alle ausdrücklichen Verweise auf „proaktive Maßnahmen“, mit denen Online-Dienste zur Entfernung von terroristischem Material gezwungen werden könnten, aus einem Kompromissvorschlag. Diesen hatte sie im Rahmen der deutschen Ratspräsidentschaft letzte Woche vorgelegt, das Arbeitspapier dient den EU-Ländern als Diskussionsgrundlage.

Auf der anderen Seite will Deutschland die Tür für einen verpflichtenden Einsatz von Uploadfiltern nicht ganz zuschlagen. Es soll keine „allgemeine Überwachungspflicht“ und keine „allgemeine Verpflichtung für den Einsatz automatisierter Werkzeuge“ geben, heißt es zwar in dem Papier, das kürzlich vom französischen Magazin Contexte veröffentlicht wurde. Die Formulierung würde Behörden aber ermöglichen, bestimmten Anbietern trotzdem Uploadfilter aufzuzwingen.

Grundsätzlich könnten Online-Dienste die Werkzeuge selbst bestimmen, mit denen sie gegen solche Inhalte auf ihren Plattformen vorgehen. In Frage kämen allerdings auch „technische Mittel, um terroristische Inhalte aufzuspüren, zu erkennen und zügig zu entfernen“, heißt es in dem Arbeitspapier. Dies gelte auch für Inhalte, die bereits zuvor als „terroristisch“ eingestuft wurden. Das würde darauf hinauslaufen, so der EU-Abgeordnete Patrick Breyer in einer Pressemitteilung, dass „die Anbieter ein (automatisiertes) Werkzeug wählen müssten, also nur die Wahl zwischen verschiedenen Filtertechnologien hätten“.

Lange in der Mache

Das Ringen um die genaue Formulierung geht auf einen Gesetzesvorschlag der EU-Kommission zurück, den sie vor rund zwei Jahren vorgestellt hat. Er richtet sich gegen die Verbreitung von terroristischen Inhalten im Internet und betrifft alle Online-Dienste, auf denen Nutzer:innen Inhalte posten können.

Der Verordnungsentwurf sieht in bestimmten Fällen verpflichtende Uploadfilter, eine Löschfrist von nur einer Stunde und grenzüberschreitende Löschanordnungen vor. Derzeit befindet sich der Entwurf der Verordnung in sogenannten Trilog-Verhandlungen zwischen der Kommission, den EU-Mitgliedstaaten und dem Parlament.

Seit den jüngsten Terroranschlägen in Österreich und Frankreich steigt der Druck auf die Verhandlungspartner, die Verordnung rasch ins Trockene zu bringen. Doch während Kommission und EU-Länder auf möglichst restriktive Regeln pochen, bremst das EU-Parlament.

Parlament will mehr Grundrechtsschutz

Die Abgeordneten wollen mehrheitlich keine Uploadfilter im Gesetzestext sehen, da sie fehleranfällig sind und den Kontext von Inhalten nicht erkennen können. Zudem stellen sie sich bei grenzüberschreitenden Löschanordnungen quer, die womöglich in manchen EU-Ländern unerwünschte Inhalte treffen könnten, die in anderen Ländern legal sind.

Gemeinsam mit der knappen Löschfrist von nur einer Stunde dürfte die Regelung den Druck auf Anbieter erhöhen, ihnen gemeldete Inhalte unverzüglich zu löschen. Deshalb drängen die Verhandler des Parlaments auf möglichst umfassende Sicherungsmechanismen. Vor allem wollen sie erreichen, dass das EU-Land, in dem die Plattform angesiedelt ist, ein Mitspracherecht hat. Und sie wehren sich dagegen, dass solche Löschaufforderungen ohne zwingende rechtsstaatliche Aufsicht, etwa einem Richter, verschickt werden könnten.

Der EU-Kommission und den EU-Ländern zufolge könnten diese Aufgaben auch von administrativen Einrichtungen übernommen werden. Dies würde aber bedeuten, sagt Patrick Breyer, dass „beispielsweise die Orbán-Regierung die Entfernung von Inhalten in der gesamten EU und darüber hinaus anordnen kann, und zwar auf der Grundlage ihres Verständnisses des Begriffs ‚terroristischer Inhalt‘, der politisch motiviert sein kann“.

So könnten etwa tagesaktuelle Nachrichten über Umweltaktivist:innen, die bisweilen als „Ökoterroristen“ bezeichnet werden, aus dem europäischen Internet verschwinden. Selbst wenn die betroffene Plattform oder Nutzer:in sich erfolgreich gegen eine Entfernung wehrt und der Inhalt später wieder hergestellt wird, könnte er dann schon nicht mehr relevant sein.

Löschen mit mangelhafter Kontrolle

Als Kompromiss schlägt die deutsche Ratspräsidentschaft nun vor, dass eine Kopie der Löschanordnung an die zuständige Behörde des EU-Landes geht, in dem die Plattform ihren Sitz hat. Diese hätte dann 24 Stunden Zeit, um die Anordnung gutzuheißen oder ihr zu widersprechen. Der Zugang zum beanstandeten Inhalt müsste trotzdem innerhalb einer Stunde temporär gesperrt werden.

Dagegen sträuben sich jedoch sozialdemokratische, grüne und linke Abgeordnete. Sie hätten sich eine Entfernung erst dann gewünscht, wenn die Behörde des Sitzlandes aktiv zustimmt. Die deutsche Ratspräsidentschaft habe allerdings „sehr klar“ gemacht, dass das für den EU-Rat nicht in Frage kommt, wie aus einem Schreiben der konservativen EVP-Fraktion hervorgeht.

Eine politische Einigung steht in diesem Punkt aus. Und die Verhandler des Parlaments haben angekündigt, auf scharf zu schalten: Sie würden diesen Kompromiss möglicherweise absegnen, wenn Deutschland zusätzliche Sicherungsmaßnahmen einbaut – und in allen noch offenen Punkten der jeweiligen Parlamentsposition zustimmt.

Dazu zählt etwa eine bessere Absicherung, wenn potenziell terroristische Inhalte zu journalistischen, künstlerischen oder wissenschaftlichen Zwecken gepostet werden. Zudem weigert sich der Rat bislang, eine Ausnahmeregelung für kleinere oder nichtkommerzielle Anbieter zu schaffen. Die müssten rund um die Uhr erreichbar sein, um gegebenenfalls einer Löschanordnung fristgerecht nachkommen zu können. Oder sie müssten ihr Angebot einstellen, um sich nicht der Gefahr hoher Geldstrafen auszusetzen.

Ob Deutschland auf diese Forderungen eingeht, bleibt vorerst offen. Länder wie Österreich, Frankreich und Belgien sollen dem Kompromissvorschlag ablehnend gegenüberstehen, ihnen geht er nicht weit genug. In den kommenden Verhandlungsrunden wird es wohl darauf ankommen, wer zuerst blinzelt.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

13 Ergänzungen
  1. Ich habe den Eindruck das es der Politik ganz recht ist wenn kleinere Anbieter, Foren und Blogs verschwinden. Zugunsten von großen Massenmedien und Konzernplatformen welche den alten Volksparteien gegenüber freundlicher gewogen sind, was die Meinungsäußerungen angeht.

    Kleinere und Mittelständische Anbieter werden somit durch kaum erfüllbare Regulierungen platt gemacht oder davon abgehalten überhaupt erst entsprechende Angebote aufzubauen.

    1. Ja, die mangelhafte „Agilität“ der KMUs ist wirklich erschreckend. Daß die es nicht hinbekommen ihr Geschäftsmodell pro Tag wenigsten 10 mal zu wechseln, 3 Millionen Sourcecodezeilen pro Tag zu ändern oder gleich neuzuprogrammieren und pro Tag 36 Stunden zu arbeiten ist wirklich erschreckend.

    2. Politik von Union und SPD ist immer Konzernpolitik, denn das ist am einfachsten und wird nicht bestraft, ganz im Gegenteil: Milliarden fuer obsolete Arbeitsplaetze in der schaedlichen aber konzerneigenen Kohleindustrie sind ok, zehntausende verloren Arbeitsplaetze mit Zukunfstperspektive im mittelstaendischen Wind und Solar sind auch ok. Sagt der Waehler.

  2. Gibt es irgendwo eine verbindliche Definition, was genau „terroristische Inhalte“ sind?

    Großbritannien hat etwa nach 9/11 seinen Sicherheitsbehörden sehr weitreichende Befugnisse im Kampf gegen den Terrorismus eingeräumt. In Rekordzeit haben die Behörden damit praktisch den Rechtsstaat abgeschafft, indem sie alles, was ihnen mißfiel, als „Terrorismus“ klassifizierten.
    Umwelt- und Tierschützer wurden über Nacht zu Terroristen, ebenso der Lebenspartner Glenn Greenwalds, der verdächtigt wurde, eine Kopie der Snowden-Daten mit sich zu führen. Auch Zeitungen und Redaktionen kommen regelmäßig unter Druck, so etwa der Guardian, bei dem ebenfalls eine Kopie der Snowden-Dokumente vermutet wurde.
    Das Bundesverfassungsgericht hat vor einer Weile eine andere Definition von Terrorismus gefordert: Einschränkungen von (Grund-)Rechten sind demzufolge nur zulässig, wenn das gesamte demokratische Gefüge eines Staates bedroht wird. In Deutschland fiele vielleicht die RAF unter diese Definition, in Europa vielleicht die Roten Brigaden oder die IRA.
    Ihnen allen ist gemein, dass sie in diesem Jahrtausend nicht mehr aktiv sind: Nach der Definition des Bundesverfassungsgerichtes gäbe es in Europa seit 20 Jahren keinen Terrorismus mehr! Verabscheuungswürdige Verbrechen durchaus. Aber die kann man mit traditioneller Polizeiarbeit bekämpfen, sei rechtfertigen nicht den Abbau von Grundrechten und schon gar keine Internetzensur!

    1. Was allerdings auf gar keinen Fall Terrorismus genannt werden darf: der Einsatz bewaffneter Drohnen, die absichtliche Misshandlung Schutzsuchender an den Grenzen, die Aufrüstung der sogenannten „inneren Sicherheit“, offensive Cyberwaffen oder die Vernichtung der Umwelt.

      1. Genauso wie unter „Hass und Hetze“ nie Aufrufe von Politiker*innen und Medien fallen, wenn sie zu Aufrüstung und Kriegseinsätzen aufrufen, für mehr Grundrechtseinschränkungen Werbung machen oder gegen Arbeitslose und Bedürftige als „Belastungen“, „sozial Schwache“ und „Unwillige“ hetzen. Da greifen dann NetzDG und Regeln gegen „Hassverbrechen“ nicht.

        1. Mit einem Wort: Doppelmoral.

          Quod libet jovi non licet bovi.

          Siehe auch: geplanter brandgefährlicher Gummiparagraph zum Kriminalisieren der Dokumentation von missratener Polizeiarbeit [1] in Frankreich, während diese ihrerseits kein Problem damit hat, Menschen mit Drohnen zu filmen und einzuschüchtern (!!!!!) [2].

          [1] https://www.thelocal.fr/20201109/france-proposes-bill-to-ban-photos-and-videos-that-identify-police-officers

          [2] https://www.rfi.fr/en/france/20200322-french-police-deploy-drones-helicopters-to-enforce-coronavirus-restrictions-covivd-19-lockdown

          Da ist was im Rollen. Ich würde sagen, ein 40-Tonner, am Steuer ein Zombie. Im Visier hat er die europäische Zivilgesellschaft, und auf ihm steht der Schriftzug „Anti-Terror-Kampf“.

          Nicht täuschen lassen – ausweichen.

    2. Im UK sind (waren?) zumindest Greenpeace und PETA auf der Terror-Watchlist des Inland-Geheimdienstes. In Russland ist „Schwulen-Propaganda“ eine Form des Terror. Soviel dazu. Es ist eben Definitionssache.

  3. Kontrolle über Löschen schön und gut.

    Wieder die Fragen:
    – Was mit den Diensten die Filter nicht selbst bauen können?
    – Was mit extern zugekauften Filtern?
    – Wie ist das rechtssicher zu machen?
    – Was bedeutet das technisch bzgl. Änderung von Videos oder Bildern oder Texten (auch „Posts“).
    – Was bedeutet das für die dadurch beim Filteranbieter anfallenden Daten (Zeitpunkte, Nutzer/Post-ID gefordert? AGB Zustimmung zum Filterbetreiber durch Nutzer gefordert? u.u.u.)

    Das ist ein Loch ohne Fass. Wer ist …

  4. Die deutsche Ratspraesidentschaft beinhaltet die SPD. Nur falls die spaeter wieder darauf verweisen, irgendwo anders folgenlos dagegen gestimmt zu haben: vergesst es.

    1. Das tun sie schon sehr lange, die CDU wird dafuer gewaehlt, die SPD wird dafuer nicht gewaehlt.

      Ironie der Geschichte, dass die SPD in ihrer sozialdemokratischen Phase mal Verlage gruendete, um Medien- und Meinungsmonopole zu brechen.

  5. „Deutschland rückt nicht von Uploadfiltern ab“

    Aber es wurde doch versprochen, dass keine kommen würden.
    Der Staat lügt nie*lol*. Umfassend bekannte Terroristen führen, praktisch unter staatlicher Beobachtung, einen Anschlag aus:
    https://fm4.orf.at/stories/3008930/
    Auf den Terroranschlag folgt EU-Verschlüsselungsverbot
    https://www.heise.de/hintergrund/EU-Regierungen-planen-Verbot-sicherer-Verschluesselung-4951415.html

    Schuld ist natürlich das Internet und private Kommunikation -was sonst.
    Erinnert mich an den Militärkaplan, der, sichtlich nervlich deutlich überangespannt, den ihn fragenden Soldaten, bezüglich des kommenden Atomtests mit ihm als unfreiwilligen Versuchssoldaten, zu überzeugen versucht, dass die Regierung schon weis was sie tut(Geheimakte Atombombe-Bilder der Apokalypse) und alles gaanz richtig harmlos ist. Können diese Regierungsaugen lügen(-:?

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.