Filterpflicht für Online-Dienste: Uploadfilter gegen Propaganda

Ein mit Uploadfiltern überwachtes Internet, Nutzerkommentare womöglich nur mehr auf wenigen großen Plattformen und eine weitgehende Auslagerung des Rechtsstaates an private Unternehmen wie Google, Facebook & Co.: Im Kampf gegen Terrorpropaganda im Internet nimmt die EU-Kommission offenbar jeden erdenklichen Kollateralschaden in Kauf. Eine Mehrheit der EU-Mitgliedsstaaten scheint sich nun diesem Vorschlag anzuschließen, wie aus einem kürzlich veröffentlichten Papier der österreichischen EU-Ratspräsidentschaft hervorgeht. Absegnen will der Rat seine Position auf einem Treffen der Innenminister am Donnerstag.

Schon zuvor hatten die Mitgliedstaaten signalisiert, im Großen und Ganzen hinter dem Vorschlag der Kommission zu stehen. Dieser im September von der Brüsseler Behörde vorgelegte Verordnungsentwurf war lange in der Mache und geht zu einem guten Teil auf den Druck zurück, den mächtige EU-Länder wie Deutschland, Frankreich und Großbritannien auf die Kommission ausgeübt hatten. Als Begründung für die weitreichende Regelung wird die anhaltend hohe Terrorgefahr sowie das Mobilisierungspotenzial viraler Internet-Inhalte angeführt. Wie Deutschland im Gesamten sowie im Detail zu der Initiative steht, bleibt vorläufig unklar. Aus deutschen Regierungskreisen hieß es, der zuständige Bundesinnenminister Horst Seehofer (CSU) werde sich spätestens im Rahmen der Sitzung der EU-Innenminister öffentlich zur deutschen Position äußern.

Mit Uploadfiltern gegen Terror

So sollen künftig alle Online-Dienste, auf denen Nutzer Kommentare, Videos oder Bilder veröffentlichen können, innerhalb einer Stunde nach Meldungseingang möglicherweise illegale terroristische Inhalte entfernen. Zudem sollen sie „proaktiv“ – mit der Hilfe von Uploadfiltern, Hash-Datenbanken und Künstlicher Intelligenz – nach solchen Inhalten Ausschau halten, um deren Veröffentlichung schon im Vorfeld zu unterbinden. Kommen die Diensteanbieter diesen Vorgaben nicht ausreichend nach, dann drohen ihnen saftige Strafen von bis zu vier Prozent des weltweiten Umsatzes.

An einigen Stellen bessert das aktuelle Ratspapier geringfügig nach. In einem Erwägungsgrund nimmt der EU-Rat etwa geschlossene Messenger-Gruppen von dem Gesetz aus, in einem anderen erlaubt er es kleineren Diensteanbietern, die Kontaktstelle, die rund um die Uhr verfügbar sein muss, an externe Dienstleister auszulagern. Letztlich bleibt aber der Frontalangriff auf das Internet bestehen, denn die Auflagen sind insgesamt nur von einer Handvoll von IT-Großkonzernen umsetzbar. Doch selbst dann ist zu erwarten, dass im Zweifel zu viel als zu wenig gelöscht wird („Overblocking“) und legale Inhalte in automatisierten und notorisch unzuverlässigen Filtersystemen hängen bleiben werden.

Vorschlag hebelt E-Commerce-Richtlinie aus

„Es besteht die Gefahr, dass nur große Dienstleister den Anforderungen der vorgeschlagenen Verordnung gerecht werden können“, mahnte denn auch jüngst der Bundesrat an. Zwar begrüßt die Länderkammer grundsätzlich den Gesetzesvorschlag, warnt aber vor dem großen Aufwand, der besonders auf kleine und mittlere Unternehmen zukommen würde. Unter anderem seien die vorgeschriebenen Reaktionszeiten, die Schaffung eines Beschwerdemechanismus sowie die Erfüllung der Berichtspflichten mit erhöhten Kosten für die Verwaltung und das Personal verbunden. „Deshalb sollten nur Hostingdiensteanbieter ab einer gewissen Größe in den Pflichtenkreis aufgenommen werden, bei denen eine massenhafte Verbreitung terroristischer Inhalte nicht ausgeschlossen werden kann“, empfiehlt der Bundesrat und fordert ferner Ausnahmen für Business-to-Business-Plattformen und Cloud-Provider.

Zudem sehen die Ländervertreter den Verordnungsentwurf auf Kollisionskurs mit der E-Commerce-Richtlinie. Diese ist das Fundament der europäischen Digitalwirtschaft, da sie Diensteanbieter von der Haftung für auf ihren Plattformen hochgeladene Inhalte freistellt und es den EU-Mitgliedstaaten untersagt, Online-Anbietern eine allgemeine Überwachungspflicht aufzuerlegen. Aus „Gründen der Verhältnismäßigkeit und zur Vermeidung von Widersprüchen mit geltendem EU-Recht“ spricht sich der Bundesrat deshalb dafür aus, den Anti-Terror-Vorschlag an die Richtlinie anzupassen und nicht umgekehrt. So soll die fixe Ein-Stunden-Regelung fallen und der Abschnitt zu den proaktiven Maßnahmen überarbeitet werden, denn derzeit gehe er in „seiner Formulierung nach ausdrücklich davon aus, dass zu den gegebenenfalls von Hostingdiensteanbietern zu ergreifenden proaktiven Maßnahmen auch solche Maßnahmen gehören, mit denen terroristische Inhalte überhaupt erst ermittelt werden“.

Anordnungen aus illiberalen Pseudo-Demokratien

Was aber überhaupt ein „terroristischer Inhalt“ ist, bleibt derweil Auslegungssache. Die Definition von „terroristischen Straftaten“ lagert der Entwurf an die im Vorjahr verabschiedete Anti-Terrorismus-Richtlinie aus. Diese steht jedoch unter starker Kritik der Zivilgesellschaft, da sie voller Gummi-Paragraphen ist und selbst einfache Proteste unter Terrorverdacht geraten können. „Terroristische Inhalte“ regelt der Verordnungsentwurf selbst. Dazu zählen etwa die Befürwortung, die Verherrlichung oder „die Ermutigung, an terroristischen Straftaten mitzuwirken“.

Nun will aber der EU-Rat eindeutig klarstellen, dass „Entfernungsanordnungen“ sowie „Meldungen“, mit denen Ermittlungsbehörden die Plattformen auf potenziell terroristische Inhalte aufmerksam machen und deren umgehende Sperrung respektive Löschung fordern, aus jedem Mitgliedstaat kommen können, unabhängig davon, ob der Diensteanbieter überhaupt in dem jeweiligen Land sitzt. Da aber die zuständige Behörde eines jeweiligen EU-Mitglieds, die solche Meldungen verschickt, sich nicht unbedingt rechtsstaatlich absichern muss, sondern auch lediglich administrativer Natur ohne Richtervorbehalt sein kann, öffnet das Missbrauch Tür und Tor. „Ich glaube, dass das nur zu neuer Verwirrung führen wird, was Kompetenzen und rechtliche Zuständigkeiten betrifft – ungeachtet des Koordinationsmechanismus, den das neue Ratspapier einführt“, sagt Joan Barata, der an der Universität Stanford zu Plattformregulierung forscht und sich schon zum Vorschlag der Kommission kritisch geäußert hat.

Mit Blick auf zunehmend illiberale Pseudo-Demokratien wie Ungarn oder Polen ist die Vorstellung nicht abwegig, dass deren Behörden gegen für sie unliebsame, aber sonst zweifelsfrei legale Inhalte in anderen EU-Ländern vorgehen – und die Plattformen der Aufforderung im Zweifel nachkommen, um sich nicht der Gefahr einer Strafe auszusetzen. Ebenso unklar bleibt noch, welche Behörde in Deutschland diese Aufgabe übernehmen wird, ob das Bundeskriminalamt oder vielleicht sogar der Verfassungsschutz. Dazu äußern will sich das Bundesinnenministerium frühestens nach der bevorstehenden Innenministersitzung.

Bürgerrechtler warnen vor Zentralisierung

„Diese Verpflichtungen sind extrem gefährlich für das gesamte europäische digitale Ökosystem“, warnt die französische Digital-NGO La Quadrature du Net in einem offenen Brief an den Präsidenten Emmanuel Macron. Die wirtschaftlichen, menschlichen und technischen Mittel, um die Verpflichtungen umzusetzen, würden weit außerhalb der Reichweite nahezu aller Diensteanbieter liegen. Ähnlich undurchführbar seien die Maßnahmen zur Überwachung sowie die automatisierten Zensursysteme.

„Um die Auflagen mit den neuen Einschränkungen umsetzen zu können, müssten kleine und mittlere Unternehmen die Durchführung der Verpflichtungen an die wenigen Web-Größen auslagern, zuvorderst an Google und Facebook.“ Diese Auslagerung würde zu einer ökonomischen und technischen Abhängigkeit führen, die die gesamte europäische Internetwirtschaft stark beschädigen würde. Nicht gewinnorientierte und kollaborative Organisationen würden keine andere Wahl haben als ihre Angebote einzustellen, sagen die Bürgerrechtler voraus.

Diese Zentralisierung und Monopolisierung im Netz könnte aber durchaus in Kauf genommen, wenn schon nicht bewusst gefördert werden. So sagte etwa letzte Woche Daniel Holznagel, Referent im deutschen Bundesjustizministerium und einer der Verantwortlichen für das Netzwerkdurchsetzungsgesetz, auf einer Veranstaltung zu Extremismus im Internet, dass aus staatlicher Sicht diese Entwicklung seine Vorteile habe. Halb im Scherz, halb ernsthaft meinte der Jurist, aus Perspektive der Ermittlungsbehörden „ist es eine gute Sache, dass es nur so wenige, große Plattformen anstatt vieler kleiner, dezentralisierter gibt“. Dies würde staatliches Eingreifen deutlich einfacher machen.

Breites Bündnis stellt sich gegen den Vorschlag

„Der Kampf gegen Terror ist ein wichtiges und legitimes Ziel für Politiker“, stellt die europäische Digital-NGO EDRi klar. Aber die in dem Verordnungsentwurf enthaltenen Maßnahmen seien unausgewogen und willkürlich, während der Schutz von Grundrechten zu kurz käme. Der Entwurf müsse grundlegend überarbeitet werden, um mit der europäischen Grundrechtecharta vereinbar zu sein.

Den Forderungen haben sich zahlreiche zivilgesellschaftliche Gruppen angeschlossen, die vom Chaos Computer Club über Reporter ohne Grenzen bis hin zur World Wide Web Foundation reichen. In einem offenen Brief appelliert das Bündnis an die Innenminister, lieber auf evidenzbasierte Maßnahmen zu setzen, um die gewünschten Ziele zu erreichen. „In seiner derzeitigen Form würde die Verordnung ein schwerwiegendes Risiko von Willkürlichkeit einführen“, heißt es in dem Brief. „Dies hätte gewichtige Folgen für die Meinungs- und Informationsfreiheit sowie für zivilgesellschaftliche Organisationen, investigative Journalisten und wissenschaftliche Forscher“.