Gesetz gegen Terror im NetzDigital-NGOs warnen vor erheblichen Risiken für die Meinungsfreiheit

Zu den Uploadfiltern in der EU-Urheberrechtsreform könnten womöglich bald weitere dazukommen. Diesmal richtet sich die automatisierte Inhaltekontrolle gegen terroristische Inhalte im Netz. Vor dem Abschluss der Verhandlungen warnen nun Digital-NGOs vor erheblichen Einschränkungen von Grundrechten.

Uhr Terreg-Löschfrist
Die Verhandlungen rund um ein EU-Gesetz gegen terroristische Inhalte im Internet nähern sich ihrem Ende. Digital-NGOs warnen vor möglichen Einschränkungen von Grundrechten. Gemeinfrei-ähnlich freigegeben durch unsplash.com RODOLFO BARRETO

Am Donnerstag will die EU ihre lange währenden Verhandlungen rund um ein umstrittenes Gesetz abschließen, das terroristische Inhalte aus dem Netz tilgen soll. Vor der letzten Verhandlungsrunde, dem sogenannten Trilog zwischen EU-Kommission, den Mitgliedstaaten und dem Parlament, appellieren nun deutsche netzaktivistische Organisationen an die deutsche Ratspräsidentschaft: Sie sehen besondere Gefahren für Grundrechte.

Nach terroristischen Anschläge in Frankreich und Belgien Mitte der 2010er-Jahre hatte die EU eine Initiative angestoßen, die schließlich in den aktuellen Gesetzentwurf mündete. Gleichzeitig befand sich damals der sogenannte Islamische Staat auf dem Gebiet des Irak und Syrien auf seinem Höhepunkt und nutzte das Internet, um seine Propagandanachrichten in alle Welt zu verteilen, etwa über soziale Medien oder Textschnipselplattformen.

Im ursprünglichen Vorschlag der EU-Kommission, der für sämtliche in Europa tätigen Online-Dienste gelten soll, waren unter anderem „proaktive Maßnahmen“ beziehungsweise Uploadfilter enthalten, verbindliche und unverbindliche Entfernungsanordnungen sowie eine sehr kurze Löschfrist von nur einer Stunde nach Erhalt eines Löschgesuchs. Vieles davon hat das EU-Parlament zurückgewiesen oder abgeschwächt, in den Trilogverhandlungen droht aber einiges davon wieder zurückzukommen.

„Risiken für die Meinungsfreiheit“

Aus Sicht der Digitalen Gesellschaft, des Chaos Computer Club, von Digitalcourage und SaveTheInternet enthalte der aktuelle Kompromissentwurf weiterhin „erhebliche Risiken für die Meinungsfreiheit, den Datenschutz sowie grundlegende rechtsstaatliche Prinzipien“. Die Kritik der NGOs konzentriert sich insbesondere auf fünf Punkte.

Zwar sei Textpassage zu Uploadfiltern aus dem Kommissionsvorschlag inzwischen abgeschwächt worden, genauso wie es keine „allgemeine Überwachungsverpflichtung“ geben soll. Dennoch könnten Behörden den Einsatz von „notwendigen Maßnahmen“ anordnen, sollte eine Online-Plattform aus ihrer Sicht zu wenig gegen einschlägige Inhalte unternehmen. Dazu könnten auch ausdrücklich genannte „technische Mittel“ gehören, „um terroristische Inhalte aufzuspüren, zu erkennen und zügig zu entfernen“, heißt es in dem offenen Brief der NGOs.

Vor dem Hintergrund von EU-Vertragsverletzungsverfahren gegen Ungarn und Polen, die seit Jahren die Demokratie untergraben, seien grenzüberschreitende Entfernungsanordnungen eine ernsthafte Gefahr für die Grundrechte. Der Gesetzentwurf sieht derzeit vor, dass administrative Behörden von EU-Ländern die europaweite Entfernung von Inhalten binnen einer Stunde anordnen können.

Solche Behörden müssen nicht notwendigerweise von der jeweiligen Regierung unabhängig sein. Diese mangelhafte rechtsstaatliche Kontrolle berge ein „erhebliches Missbrauchspotential“ und lasse befürchten, dass Entfernungsanordnungen genutzt werden könnten, gegen unliebsame politische Meinungen vorzugehen, ohne dass ein effektiver Rechtsschutz gewährleistet sei.

Freie journalistische Berichterstattung gefährdet

Die NGOs sehen zudem den Schutz der Pressefreiheit nicht ausreichend gewahrt. Zwar soll eine Gesetzespassage traditionelle und etablierte Medienverlage schützen, die eine redaktionelle Verantwortung tragen. Dies verkenne aber, dass Blogger, Youtuber und NGOs längst wesentlicher Teil der Medienlandschaft seien. Auch könne sich die vage Definition terroristischer Inhalte auf den Austausch wichtiger Informationen und die Berichterstattung auswirken.

Zuletzt kritisieren die Digital-NGOs die knappe Löschfrist von nur einer Stunde. Zum einen müssten selbst die kleinsten Online-Dienste rund um die Uhr erreichbar sein, zum anderen fördere diese extrem kurze Frist den „freiwilligen“ Einsatz automatisierter Werkzeuge. Dies dürfte vor allem kleinere Online-Dienste vor Probleme stellen. Diese können sich die Entwicklung von Uploadfiltern nur schwer leisten und müssten deshalb entweder ihren Dienst in Europa einstellen oder sich an Tools wie die Hash-Datenbank des Global Internet Forum to Counter Terrorism (GIFCT) anschließen.

Eine Inhaltedatenbank für alle

In dieser Datenbank liegen inzwischen hunderttausende digitale Fingerabdrücke von (vermutlich) terroristischem Material. Uploadfilter von Facebook, Twitter und Co. sorgen dafür, dass sich dieses Material auf den angeschlossenen Plattformen nicht mehr hochladen lässt. Schon seit Jahren drängt die Kommission darauf, dass möglichst viele Plattformen daran teilnehmen, ob freiwillig oder nicht. Über die Probleme, die mit diesem neu entstehenden „Inhalte-Kartell“ einhergehen, haben wir ausführlich berichtet.

Die NGOs fordern nun ausdrücklich, die Verwendung von Uploadfiltern umfassend und ausdrücklich auszuschließen. „Wir weisen erneut darauf hin, dass durch jede Form von Uploadfilter erhebliche Grundrechtseinschränkungen drohen“, heißt es in dem Brief. Jeder noch so „spezifische“ Filter setze die Durchsuchung beziehungsweise Überwachung sämtlicher Uploads voraus.

Auch müssten effektiver Rechtsschutz sichergestellt und die Grundsätze der justiziellen Zusammenarbeit eingehalten werden. Nur Gerichte und unabhängige Behörden dürften Entfernungsanordnungen versenden. Zudem sollte enger definiert werden, was illegale terroristische Inhalte sind. Und damit es nicht zu Öffnungszeiten im nutzergenerierten Internet kommt, sollten die Kapazitäten der Dienste-Anbieter berücksichtigt werden und die einstündige Frist auf „so bald wie möglich“ ausgedehnt werden.

7 Ergänzungen

  1. Im Rahmen der „freiheitlich demokratlichen Neulandverortung“, sollten wir uns einfach nur noch „Republik innerhalb der EU“ nennen, was auch im pro-europäischen Lager andockfähig ist, oder einfach „Republik“, wenn genügend Selbstbewusstsein da ist. Aus dem Fussball wissen wir ja, dass es nur genügend Selbstbewusstseins bedarf, damit die Quadratur des Kreises kreisschlussfähig wird. Und das ist ja offenbar auch die Essenz dessen, was die Politik hier mindestens regierungsseitig im Sinn hat.

    1. Die EU hat gut dokumentierte Demokratiedefizite, aber es ist keineswegs so, dass wir bzw. die Mitgliedstaaten irgendwie „von oben“ regiert würden. Deutschland ist eines der mächtigsten EU-Länder und hat obendrein gerade die Ratspräsidentschaft inne! Zudem ist dieser Gesetzentwurf auch wegen Drucks von UK, Frankreich und – tadaa – Deutschland auf die Kommission entstanden.

      1. Bzw. ja klar :), Demokratie unter Staatsoberhäuptern, manchmal unter Parlamenten, das geht natürlich!

        Aber zu den Menschen hin wird es dünner und dünner. Informations- und Meinungsaustausch sind essentiell. Wir setzen derzeit auf Dorf und Wald.

      2. Eigentlich war die Idee, auf die fachbezogene Logikfähigkeit der Politik (nahezu keine) und die resultierende Demokratiefähigkeit mindestens des Internets anzuspielen (Überwachung, Auslieferung an Cliquen wie z.B. Behörden von EU Staaten, Zensur bzw. Repression).

        Deutschland macht also Digital Star Wars und nimmt dabei die Rolle der Republikbildung ein, am Besten während es sich dabei etwas anderes vorstellt. Die Begründungen sind dabei Kreisschlüsse ohne Fachbezug, oder wenigstens die Quadratur des Kreises, das Ergebnis die Star Wars Republik nach Machtübernahme.

        Ist natürlich Quatsch, außerdem ist die Idee nicht immer das Ergebnis, hihi.

  2. Die Argumentation, der Staat sei ja vertrauenswürdig, lässt einen wesentlichen Existenzgrund der Verfassung verblassen: den Schutz des Individuums vor staatlicher Willkür.

    Magische Filter sind eine Garantie für Willkür, the very definition of…

    Auf billige Weise sucht die Gesetzgeberin sich der Verantwortung zu entziehen, indem die Wirkung des Gesetzes auf die Privatwirtschaft abgeledert wird. Ich kann mir nicht vorstellen, dass die Verfassung so gemeint war.

    IG Farben in Grün, echt jetzt?

  3. Das ist natürlich für sich wichtig, aber den Menschen Filter aufzuzwingen, und die Presse frei zu lassen. Da ist es wieder, das Meinungsbildungsszenario…

Ergänzung an Anonymous Ergänzung abbrechen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.