Öffentlichkeit

Filterpflicht für Online-Dienste: Uploadfilter gegen Propaganda

Von der Öffentlichkeit weitgehend unbemerkt plant die EU, im Kampf gegen „terroristische Inhalte“ eine umfassende Überwachung des Internets einzuführen. Zu dem Vorhaben, das über Netzsperren oder Netzwerkdurchsetzungsgesetz hinausgeht, hat vor der morgigen Sitzung der europäischen Innenminister nun der EU-Rat Position bezogen.

Im Kampf gegen „terroristische Inhalte“ im Netz droht eine erhebliche Einschränkung der Meinungsfreiheit in Europa. Gemeinfrei-ähnlich freigegeben durch unsplash.com Notavandal

Ein mit Uploadfiltern überwachtes Internet, Nutzerkommentare womöglich nur mehr auf wenigen großen Plattformen und eine weitgehende Auslagerung des Rechtsstaates an private Unternehmen wie Google, Facebook & Co.: Im Kampf gegen Terrorpropaganda im Internet nimmt die EU-Kommission offenbar jeden erdenklichen Kollateralschaden in Kauf. Eine Mehrheit der EU-Mitgliedsstaaten scheint sich nun diesem Vorschlag anzuschließen, wie aus einem kürzlich veröffentlichten Papier der österreichischen EU-Ratspräsidentschaft hervorgeht. Absegnen will der Rat seine Position auf einem Treffen der Innenminister am Donnerstag.


netzpolitik.org - unabhängig & kritisch dank Euch.

Schon zuvor hatten die Mitgliedstaaten signalisiert, im Großen und Ganzen hinter dem Vorschlag der Kommission zu stehen. Dieser im September von der Brüsseler Behörde vorgelegte Verordnungsentwurf war lange in der Mache und geht zu einem guten Teil auf den Druck zurück, den mächtige EU-Länder wie Deutschland, Frankreich und Großbritannien auf die Kommission ausgeübt hatten. Als Begründung für die weitreichende Regelung wird die anhaltend hohe Terrorgefahr sowie das Mobilisierungspotenzial viraler Internet-Inhalte angeführt. Wie Deutschland im Gesamten sowie im Detail zu der Initiative steht, bleibt vorläufig unklar. Aus deutschen Regierungskreisen hieß es, der zuständige Bundesinnenminister Horst Seehofer (CSU) werde sich spätestens im Rahmen der Sitzung der EU-Innenminister öffentlich zur deutschen Position äußern.

Mit Uploadfiltern gegen Terror

So sollen künftig alle Online-Dienste, auf denen Nutzer Kommentare, Videos oder Bilder veröffentlichen können, innerhalb einer Stunde nach Meldungseingang möglicherweise illegale terroristische Inhalte entfernen. Zudem sollen sie „proaktiv“ – mit der Hilfe von Uploadfiltern, Hash-Datenbanken und Künstlicher Intelligenz – nach solchen Inhalten Ausschau halten, um deren Veröffentlichung schon im Vorfeld zu unterbinden. Kommen die Diensteanbieter diesen Vorgaben nicht ausreichend nach, dann drohen ihnen saftige Strafen von bis zu vier Prozent des weltweiten Umsatzes.

An einigen Stellen bessert das aktuelle Ratspapier geringfügig nach. In einem Erwägungsgrund nimmt der EU-Rat etwa geschlossene Messenger-Gruppen von dem Gesetz aus, in einem anderen erlaubt er es kleineren Diensteanbietern, die Kontaktstelle, die rund um die Uhr verfügbar sein muss, an externe Dienstleister auszulagern. Letztlich bleibt aber der Frontalangriff auf das Internet bestehen, denn die Auflagen sind insgesamt nur von einer Handvoll von IT-Großkonzernen umsetzbar. Doch selbst dann ist zu erwarten, dass im Zweifel zu viel als zu wenig gelöscht wird („Overblocking“) und legale Inhalte in automatisierten und notorisch unzuverlässigen Filtersystemen hängen bleiben werden.

Vorschlag hebelt E-Commerce-Richtlinie aus

„Es besteht die Gefahr, dass nur große Dienstleister den Anforderungen der vorgeschlagenen Verordnung gerecht werden können“, mahnte denn auch jüngst der Bundesrat an. Zwar begrüßt die Länderkammer grundsätzlich den Gesetzesvorschlag, warnt aber vor dem großen Aufwand, der besonders auf kleine und mittlere Unternehmen zukommen würde. Unter anderem seien die vorgeschriebenen Reaktionszeiten, die Schaffung eines Beschwerdemechanismus sowie die Erfüllung der Berichtspflichten mit erhöhten Kosten für die Verwaltung und das Personal verbunden. „Deshalb sollten nur Hostingdiensteanbieter ab einer gewissen Größe in den Pflichtenkreis aufgenommen werden, bei denen eine massenhafte Verbreitung terroristischer Inhalte nicht ausgeschlossen werden kann“, empfiehlt der Bundesrat und fordert ferner Ausnahmen für Business-to-Business-Plattformen und Cloud-Provider.

Zudem sehen die Ländervertreter den Verordnungsentwurf auf Kollisionskurs mit der E-Commerce-Richtlinie. Diese ist das Fundament der europäischen Digitalwirtschaft, da sie Diensteanbieter von der Haftung für auf ihren Plattformen hochgeladene Inhalte freistellt und es den EU-Mitgliedstaaten untersagt, Online-Anbietern eine allgemeine Überwachungspflicht aufzuerlegen. Aus „Gründen der Verhältnismäßigkeit und zur Vermeidung von Widersprüchen mit geltendem EU-Recht“ spricht sich der Bundesrat deshalb dafür aus, den Anti-Terror-Vorschlag an die Richtlinie anzupassen und nicht umgekehrt. So soll die fixe Ein-Stunden-Regelung fallen und der Abschnitt zu den proaktiven Maßnahmen überarbeitet werden, denn derzeit gehe er in „seiner Formulierung nach ausdrücklich davon aus, dass zu den gegebenenfalls von Hostingdiensteanbietern zu ergreifenden proaktiven Maßnahmen auch solche Maßnahmen gehören, mit denen terroristische Inhalte überhaupt erst ermittelt werden“.

Anordnungen aus illiberalen Pseudo-Demokratien

Was aber überhaupt ein „terroristischer Inhalt“ ist, bleibt derweil Auslegungssache. Die Definition von „terroristischen Straftaten“ lagert der Entwurf an die im Vorjahr verabschiedete Anti-Terrorismus-Richtlinie aus. Diese steht jedoch unter starker Kritik der Zivilgesellschaft, da sie voller Gummi-Paragraphen ist und selbst einfache Proteste unter Terrorverdacht geraten können. „Terroristische Inhalte“ regelt der Verordnungsentwurf selbst. Dazu zählen etwa die Befürwortung, die Verherrlichung oder „die Ermutigung, an terroristischen Straftaten mitzuwirken“.

Nun will aber der EU-Rat eindeutig klarstellen, dass „Entfernungsanordnungen“ sowie „Meldungen“, mit denen Ermittlungsbehörden die Plattformen auf potenziell terroristische Inhalte aufmerksam machen und deren umgehende Sperrung respektive Löschung fordern, aus jedem Mitgliedstaat kommen können, unabhängig davon, ob der Diensteanbieter überhaupt in dem jeweiligen Land sitzt. Da aber die zuständige Behörde eines jeweiligen EU-Mitglieds, die solche Meldungen verschickt, sich nicht unbedingt rechtsstaatlich absichern muss, sondern auch lediglich administrativer Natur ohne Richtervorbehalt sein kann, öffnet das Missbrauch Tür und Tor. „Ich glaube, dass das nur zu neuer Verwirrung führen wird, was Kompetenzen und rechtliche Zuständigkeiten betrifft – ungeachtet des Koordinationsmechanismus, den das neue Ratspapier einführt“, sagt Joan Barata, der an der Universität Stanford zu Plattformregulierung forscht und sich schon zum Vorschlag der Kommission kritisch geäußert hat.

Mit Blick auf zunehmend illiberale Pseudo-Demokratien wie Ungarn oder Polen ist die Vorstellung nicht abwegig, dass deren Behörden gegen für sie unliebsame, aber sonst zweifelsfrei legale Inhalte in anderen EU-Ländern vorgehen – und die Plattformen der Aufforderung im Zweifel nachkommen, um sich nicht der Gefahr einer Strafe auszusetzen. Ebenso unklar bleibt noch, welche Behörde in Deutschland diese Aufgabe übernehmen wird, ob das Bundeskriminalamt oder vielleicht sogar der Verfassungsschutz. Dazu äußern will sich das Bundesinnenministerium frühestens nach der bevorstehenden Innenministersitzung.

Bürgerrechtler warnen vor Zentralisierung

„Diese Verpflichtungen sind extrem gefährlich für das gesamte europäische digitale Ökosystem“, warnt die französische Digital-NGO La Quadrature du Net in einem offenen Brief an den Präsidenten Emmanuel Macron. Die wirtschaftlichen, menschlichen und technischen Mittel, um die Verpflichtungen umzusetzen, würden weit außerhalb der Reichweite nahezu aller Diensteanbieter liegen. Ähnlich undurchführbar seien die Maßnahmen zur Überwachung sowie die automatisierten Zensursysteme.

„Um die Auflagen mit den neuen Einschränkungen umsetzen zu können, müssten kleine und mittlere Unternehmen die Durchführung der Verpflichtungen an die wenigen Web-Größen auslagern, zuvorderst an Google und Facebook.“ Diese Auslagerung würde zu einer ökonomischen und technischen Abhängigkeit führen, die die gesamte europäische Internetwirtschaft stark beschädigen würde. Nicht gewinnorientierte und kollaborative Organisationen würden keine andere Wahl haben als ihre Angebote einzustellen, sagen die Bürgerrechtler voraus.

Diese Zentralisierung und Monopolisierung im Netz könnte aber durchaus in Kauf genommen, wenn schon nicht bewusst gefördert werden. So sagte etwa letzte Woche Daniel Holznagel, Referent im deutschen Bundesjustizministerium und einer der Verantwortlichen für das Netzwerkdurchsetzungsgesetz, auf einer Veranstaltung zu Extremismus im Internet, dass aus staatlicher Sicht diese Entwicklung seine Vorteile habe. Halb im Scherz, halb ernsthaft meinte der Jurist, aus Perspektive der Ermittlungsbehörden „ist es eine gute Sache, dass es nur so wenige, große Plattformen anstatt vieler kleiner, dezentralisierter gibt“. Dies würde staatliches Eingreifen deutlich einfacher machen.

Breites Bündnis stellt sich gegen den Vorschlag

„Der Kampf gegen Terror ist ein wichtiges und legitimes Ziel für Politiker“, stellt die europäische Digital-NGO EDRi klar. Aber die in dem Verordnungsentwurf enthaltenen Maßnahmen seien unausgewogen und willkürlich, während der Schutz von Grundrechten zu kurz käme. Der Entwurf müsse grundlegend überarbeitet werden, um mit der europäischen Grundrechtecharta vereinbar zu sein.

Den Forderungen haben sich zahlreiche zivilgesellschaftliche Gruppen angeschlossen, die vom Chaos Computer Club über Reporter ohne Grenzen bis hin zur World Wide Web Foundation reichen. In einem offenen Brief appelliert das Bündnis an die Innenminister, lieber auf evidenzbasierte Maßnahmen zu setzen, um die gewünschten Ziele zu erreichen. „In seiner derzeitigen Form würde die Verordnung ein schwerwiegendes Risiko von Willkürlichkeit einführen“, heißt es in dem Brief. „Dies hätte gewichtige Folgen für die Meinungs- und Informationsfreiheit sowie für zivilgesellschaftliche Organisationen, investigative Journalisten und wissenschaftliche Forscher“.

18 Kommentare
    1. Der EU geht es weder um Freiheit noch um Sicherheit sondern um totale Macht und Kontrolle.

      Wenn man dann noch bedenkt das die EU Kommission nicht demokratisch gewählt ist, so kann man nur feststellen das die EU ebenfalls eine „Illiberale Demokratie“ ist, falls man da überhaupt noch von Demokratie reden kann.

      1. Totalitäre Demokratie nach Talmon, bitte.

        Jacob Talmon: Die Geschichte der totalitären Demokratie („The Origins of Totalitarian Democracy.“ Secker & Warburg, London 1952–1981)

      2. Richtig, wie Sie ja wissen, ist die einflussreichste Kraft der EU der Rat (European Council), also die Nationalstaaten. Es gibt immer nur soviel EU, wie es die Nationalstaaten zulassen. Also geht es den Nationalstaaten wohl weder um Freiheit noch um Sicherheit sondern um totale Macht und Kontrolle. Es gilt also, in Zukunft das EU-Parlament weiter zu stärken. Also im Mai 2019 wählen gehen!

  1. Ich nutze keine der „sozialen Medien“ Portale. Ich sehe in ihnen keinerlei positiv vertretbaren Nutzwert. Weder für mich selbst, noch für die Kommunikation in sozialen Gesellschaften. Mobilisierung zu politischen Themen funktioniert auch ohne sie. Oft eher besser, substantieller und nachhaltiger. Die sozial schädlichen Effekte „sozialerMedien“ überwiegt in meinen Augen stark eventuelle positiven.
    Warum sollte mich das in dem Artikel beschriebene interessieren?

    1. Es geht hier nicht nur um soziale Medien, sondern um alle Online-Dienste, wo Nutzer Kommentare usw. hinterlassen können. Also auch um die Kommentarfunktion auf News-Seiten oder Blogs (*hint*). Wenn aber kleinere Anbieter den Aufwand nicht stemmen können, dann drehen sie die Kommentare einfach ab – und übrig bleiben dann eben nur mehr die großen Plattformen. Ich glaube, das ist durchaus interessant und relevant. Gerade für jene, die sich fernab von Facebook & Co. frei im Netz entfalten wollen.

      1. Das hieße, im Prinzip wären davon auch Bewertungsplattformen, Beratungs- und Selbsthilfeforen, etc. betroffen, wenn der Nutzerkreis nicht geschlossen ist?
        Das Positive, was ich dem entnehmen könnte, wäre ein Abschied von „diesem“ Internet und eine Zurückverlagerung auf andere, anscheinend und, vielleicht traurigerweise, zeitgemäßere Orte.
        Ich sehe nicht, dass dieses Netz, bei dem dauerhaften Angriff (aus kommerziellen und politischen Interessen), real sinnvoll zu verteidigen wäre.
        War ne gute Idee. Hat nicht geklappt?

    2. Lieber Karl, ich höre Radio, schaue NDR3 und surfe ab seit etwa einem Monat bei Netzopolitik vorbei. Auch hier gibt es ein Forum, in dem Menschen wie Du und ich kommentieren. Auch das ist ein soziales Medium – aber ist es deswegen schädlich? Ich finde nicht. Vielleicht solltest du mehr spazieren gehen, so wie ich das tue. Es entspannt sehr und dann machen so soziale Medien wie Netzopolitik gleich wieder mehr Spaß.

      Kopf hoch, Karl!

  2. Was regt ihr euch alle so auf? Die gute und fürsorgliche EU, unter Leitung der liberal, progressiv, demokratischen Staaten Deutschland und Frankreich, will euch doch nur vor dem zersetzenden Einfluss der Feindsender, die ihre Politik in Frage stellen schützen.

    1. Im Rahmen unserer Schutzverantwortung (Responsibility to Protect) müssen wir dafür Sorge tragen, daß das Völkerrecht zum Schutze des Menschen vor schweren Menschenrechtsverletzungen und Brüchen des humanitären Völkerrechts, durchgesetzt wird.

      Bei der Minimierung nachteiliger Triebkräfte und struktureller Faktoren, die Menschen dazu bewegen, ihre Herkunftsländer zu verlassen, z.B. Autokraten, ist mit diskursivem Widerstand zu rechen, der zum Wohle alles und dem Schutz der Menschenrechte unterbunden werden muß.

      Hieraus ergibt sich die Notwendigkeit der Beseitigung aller Formen der Diskriminierung und Förderung eines auf nachweisbaren Fakten beruhenden öffentlichen Diskurses. Fakten und Diskriminierung definiert der oberste Rat. Im Zweifel Stillschweigen bewahren und erst mal den Diskursführendenschein machen.

      Schreiben Sie sich gefälligst zu einem Kurs in Doppeldenk ein, Krieg ist Frieden und ohne Krieg keine Feinde, es kann also keine Feindsender geben. Dieser Eindruck der Realität ist in Stufe 1 zunächst einmal durch Filtermaßnahmen herzustellen. Ab Beschluß wird zurückgefiltert!

      Weggetreten. :)

  3. Tja, selbst Terroranschläge organisieren und dann im Anschluss den für Demokratien benötigten Debattenraum einschränken. Das nenne ich mal Musterdemokraten. Das Ende eines ca. achtzigjährigen Finanz-Zyklusses nähert sich mal wieder. Die expotentiell ansteigenden (Zinses)Zinsen sind bald nicht mehr zu bezahlen, und wieder ist keiner schlau geworden. Mal schauen, ob die Menschheit den nächsten Reset des Geldsystemes übersteht. Denn: Im Gegensatz zum letzten Reset, haben wir diesmal Atomwaffen.

    Geschichte wiederholt sich immer. Nur warum will sich niemand erinnern?

  4. Internet is a caner. Die Menschen entfernen sich immer mehr von einander.
    Vielleicht ist es ja ein Vorstoß um dieses „Satanswerk“ etwas auszubremsen. Bin ürbrigens kein Reichsbürger oder so!

    1. Ah, ein Fan von Jay Rockefeller! https://youtu.be/Ct9xzXUQLuY?t=60

      Ich bin seit 94 einer von denen, die in Deutschland am kommerziellen Internet mitgebaut haben. Macht mich das zum „Satanisten“? Oder bist Du nur zu weich für Deinen Gott, so daß Du einen Satan brauchst, um ihn Dir reinzuwaschen? Lies mal wieder Deine Bibel, Jesaja 45, 6-9.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.