EU-Innenminister segnen großflächige Internetzensur mit Uploadfiltern ab

Die EU-Mitgliedstaaten ziehen mit der Kommission mit und sprechen sich für Uploadfilter, kaum bewältigbare Löschfristen und privatisierte Rechtsdurchsetzung aus. Im Kampf gegen mutmaßlich terroristische Online-Inhalte riskiert die EU, das Grundrecht auf Meinungsfreiheit erheblich einzuschränken. Nun ist das EU-Parlament am Zug.

Im Kampf gegen mutmaßlich terroristische Online-Inhalte riskiert die EU, das Grundrecht auf Meinungsfreiheit erheblich einzuschränken. – Gemeinfrei-ähnlich freigegeben durch unsplash.com neonbrand

Die EU-Innenminister haben sich gestern für Uploadfilter und sonstige automatisierte Maßnahmen im Kampf gegen „terroristische Inhalte“ im Internet ausgesprochen. Zudem stimmten die EU-Mitgliedstaaten für die knappe Ein-Stunden-Frist, innerhalb der Diensteanbieter auf eine Meldung womöglich illegaler Inhalte reagieren und gegebenenfalls den Zugang dazu sperren oder den betreffenden Inhalt löschen müssen.

Deutschland hat sich der Ratsposition angeschlossen, gegen den Entwurf stellten sich lediglich die Tschechische Republik und Dänemark. Als Hauptverhandler des EU-Parlaments hat überdies der konservative Brite Daniel Dalton die designierte Berichterstatterin abgelöst, die Belgierin Helga Stevens. Bevor die Trilog-Verhandlungen zwischen der EU-Kommission, EU-Rat und dem Parlament beginnen können, muss letzteres noch seine Position klären.

Regelung soll für alle gelten

Gelten sollen die nun auch vom Ministerrat abgesegneten Regelungen für alle Anbieter, die in Europa tätig sind und die nutzergenerierte Inhalte zulassen. „Beispiele hierfür sind Plattformen sozialer Medien, Videostreamingdienste, Video-, Bild- und Audio-Sharing-Dienste, File-Sharing- und andere Cloud-Dienste sowie Websites, auf denen die Nutzer Kommentare oder Rezensionen abgeben können“, stellt ein Factsheet der Kommission klar. Im Unterschied zur – noch nicht endgültig beschlossenen – Urheberrechtsreform sind keine Ausnahmen vorgesehen, etwa für kleinere Anbieter.

Das Internet sei ein „Brandbeschleuniger ins Negative“, sagte ausgerechnet der österreichische Innenminister Herbert Kickl bei der Pressekonferenz nach der Sitzung. Der Rechts-Außen-Politiker, von dem so zurückhaltende Wahlkampfsprüche wie „Abendland in Christenhand“ stammen und der keine Berührungsängste gegenüber identitären Hetzern hat, muss es ja wissen. Es dürfe kein „neuer, virtueller Islamischer Staat“ im Internet entstehen, der Vorschlag soll Lücken schließen, die in der „realen Welt“ bereits abgedichtet seien.

Abgesehen von diesen wenigen Sätzen blieb die weitflächige Internetzensur bloß Randthema bei der Pressekonferenz, die sonst von Migrationsfragen dominiert wurde. Auch der vom deutschen Bundesinnenministerium in Aussicht gestellte Auftritt von Horst Seehofer (CSU) blieb aus, ebenso die Beantwortung unserer Fragen von Anfang der Woche zur offiziellen deutschen Position. Diese bleibt weiterhin unklar, obwohl Deutschland neben Frankreich und Großbritannien zu den Ländern zählt, auf die der Gesetzesvorschlag zurückzuführen ist.

Änderungen nur im Detail

Der nun abgenickte Verordnungsentwurf gleicht weitgehend dem der Kommission, den die Behörde im September vorgestellt hat. Änderungen gibt es nur im Detail. So müssen etwa nur jene Anbieter Transparenzberichte vorlegen, die mit terroristischen Inhalten konfrontiert waren. Geschlossene Messenger-Gruppen nimmt der EU-Rat von den Vorgaben aus und Anbieter dürfen die rund um die Uhr erreichbare Kontaktstelle an externe Dienstleister auslagern. Zudem müssen zuliefernde Behörden wie Europol bei einer Meldung möglichst genau erklären, warum sie den betreffenden Inhalt für terroristisch halten.

Die grundsätzlichen Probleme bleiben aber bestehen: Besonders für kleine Anbieter sind das die kaum umsetzbare Reaktionszeiten. Auch gibt es geltendem EU-Recht widersprechende Überwachungsauflagen durch Uploadfilter, deren Einsatz sogar verpflichtend angeordnet werden kann, sowie ungenügende rechtsstaatliche Absicherung, da die Rechtsdurchsetzung zum großen Teil an private Anbieter ausgelagert wird.

Intransparente Internetzensur

Wie das wohl in der Praxis ablaufen wird, zeigt die bereits scharf geschaltete Hash-Datenbank großer Plattformbetreiber. Darin speichern über ein Dutzend Anbieter, darunter Facebook, Google und Twitter, digitale Fingerabdrücke von einmal als „terroristisch“ markierten Inhalten. Versucht ein Nutzer, die selbe Datei auf einen der beteiligten Dienste hochzuladen, dann unterbindet dies der Uploadfilter. Jüngst verkündete die EU-Kommission stolz, dass die Datenbank mittlerweile fast 100.000 Einträge enthalte.

Welche Inhalte aber in der Datenbank liegen, das weiß die Kommission nicht – und kann es auch nicht herausfinden, da sie keinen Zugang dazu erhält, bestätigte eine Kommissionssprecherin gegenüber netzpolitik.org. Dies gilt auch für Europol, dessen Meldestelle für Internetinhalte aktiv nach einschlägigen Inhalten Ausschau hält und sie den Plattformen meldet. „Die Datenbank wird exklusiv vom Global Internet Forum (GIFCT) betrieben“, teilte uns eine Europol-Sprecherin mit. „Die am GIFCT teilnehmenden Unternehmen sind die alleinigen ‚Besitzer‘ der in der Datenbank enthaltenen Inhalte. Europol hat weder Zugang zur noch Kontrolle über die Datenbank“.

Die Unternehmen selbst wiederum antworten (bislang) entweder gar nicht, bieten Hintergrundgespräche an, die jedoch nicht veröffentlicht werden dürfen, oder verweisen auf veraltete, nicht sonderlich ergiebige Pressemitteilungen. Dass es mit der Transparenz nicht so weit her ist, bemängelte bereits ein Fortschrittsbericht der Kommission im vergangenen Sommer. Ob die im Verordnungsentwurf enthaltenen Sicherungen der Meinungsfreiheit, etwa eine Beschwerdemöglichkeit bei ungerechtfertigten Löschungen, tatsächlich greifen werden, darf bezweifelt werden.

„Schwerwiegende Folgen für die Meinungsfreiheit“

Dagegen laufen zivilgesellschaftliche Gruppen wie EDRi, der Chaos Computer Club oder Human Rights Watch Sturm. In einem jüngst veröffentlichten und von 31 Organisationen unterzeichneten Brief warnen sie vor „schwerwiegenden Folgen für die Meinungs- und Informationsfreiheit“ und fordern eine grundlegende Überarbeitung des Gesetzentwurfs.

Widerstand regt sich auch in der Internetwirtschaft. „Die EU verkennt die massiven Auswirkungen der geplanten Maßnahmen auf kleine und mittelständische Unternehmen“, sagt der Bitkom-Geschäftsführer Bernhard Rohleder. Der Wirtschaftsverband hat sich zudem einem offenen Brief angeschlossen, den unter anderem die Software Alliance, die Computer & Communications Industry Association und der Digitalverband Eco unterzeichnet haben. „Wir empfehlen dringend, die Vorgaben zu streichen, die Diensteanbieter zum Überwachen und Filtern von Daten verpflichten“, schreiben die Wirtschaftsvertreter. „Diese Vorgabe, gemeinsam mit undurchführbaren Fristen und hohen Strafen [von bis zu vier Prozent des weltweiten Umsatzes], würde zu üppigen Löschungen führen“.

Update: Diensteanbieter müssen innerhalb einer Stunde auf eine Entfernungsanordnung reagieren. Im Artikel war ursprünglich von einer 24-Stunden-Frist die Rede. Der Fehler im ersten Absatz wurde korrigiert.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

27 Ergänzungen

  1. „Jüngst verkündete die EU-Kommission stolz, dass die Datenbank mittlerweile fast 100.000 Einträge enthalte.
    Welche Inhalte aber in der Datenbank liegen, das weiß die Kommission nicht – und kann es auch nicht herausfinden, da sie keinen Zugang dazu erhält“

    Das ist doch wunderbar für die Kommission.
    Mehr „Plausible Deniability“ geht gar nicht, wenn (das unvermeidbare) Over- und Falseblocking zuschlägt.
    Dennoch demonstriert sie so, ohne dass es sie Aufwand in irgendeiner Form kostet, gleichzeitig Aktivität gegen Terrorismus, bei der zudem ebenfalls nicht nachweisbar ist, in welchem Maße sie wirkt (Spoiler: gar nicht).
    Win-win, wie Friedrich Merz sagen würde.

  2. Das Beispiel Tumblr hat doch gezeigt, dass Upload-Filter nichts verhindern können. Wer Dreck verbreiten will, fndet immer einen Weg. Bisher wurden Inhalte von deren Anhängern einfach weitergeleitet. Wenn das nicht mehr geht, dann werden halt ständig neue bzw veränderte Inhalte weiterverbreitet.

    Mag sein, dass eine KI auch veränderte Inhalte erkennen kann, aber ich bin auch sicher, dass es bald selbstlernende Programme geben wird, die automatisiert, d.h. v.a. DAU-freundlich und mit einem Mausklick, bestehende Medien komplett umbauen, Bildelemente neu anordnen, usw. Sogar als Video, Deep Fakes läßt grüßen.

    Ein neuer Wettlauf, bei dem es nur Verlierer geben kann, vor allem die Freiheit. Unliebsame Websites und Inhalte können heimlich gesammelt werden, um sie bei Bedarf dann mit einem Mausklick in die Zensurinfrastruktur einzuspeisen. Das ist zuviel potentielle Macht, noch dazu -gegenwärtig- ohne ausreichende Kontrolle. Daher lehne ich Vorabfilterung jeglicher Art komplett ab.

    Der einzige sinnvolle Weg, um extreme Inhalte zu bekämpfen, sind imho aufmerksame Nutzer, Meldebuttons und konsequentes Löschen (von einzelnen Inhalten und ganzen Webseiten oder Foren), wobei ich damit leben könnte, wenn Inhalte NACH einer Meldung mit einer Datenbank verglichen würden, um menschlichen Kontrolleuren die Arbeit zu erleichtern.

    1. Naja, Ben.

      Du weist doch „Wissen ist Macht!“ und Politiker mögen es nunmal nicht, das ein EU-Bürger fundiertes Wissen erlangt!
      Siehe Bildungspolitik.
      Die von den Politikern verkündeten „Wahrheiten“, also „Wissen für den kleinen EU-Bürger“, müssen dem Bürger als Grundlage genügen!

      Bildung ist der natürliche Feind des Terrorismus und der zwischenmenschlichen Gewalt (klar gibt es Ausnahmen, für solche Fälle gibt es die Polizei), aber auch ebenso der aktuell herrschenden Politik, die einem unwissenden Bürger ihre „Wahrheiten“ besser „verkaufen“ können, als einem gut gebildeten Bürger, der sich durchaus genötigt fühlen dürfte, gegen die politische „Wahrheit“ opponieren, da dieser sich z.B. über das Internet über die Rechtmäßigkeit der politischen Wahrheit informieren würde!
      Als Beispiel,
      politische Wahrheit: „Das Internet sei ein „Brandbeschleuniger ins Negative“, … “
      reale Wahrheit: Grundrecht auf Meinungsfreiheit wird erheblich eingeschränkt

      Unsere Politiker heucheln ständig vom „zusammenwachsen“ der europäischen Völker, aber wehe sie verlassen ihre lokalen „Stammtische“ und tauschen Ihre Meinungen und Ansichten untereinander aus?
      Ein solcher Meinungs-/Gedanken-/Wissensaustausch unter den EU-Bürgern ist EU-Politisch nicht gewünscht, weil gefährlich für die gesamte EU-Politik!
      Ein jeweils nationalstaatlich organisiertes „Internet“ (also Deutschnet, Französischnet, Belgischnet oder Östereichnet) ist meinungtechnisch besser zu organisieren, als ein echtes Internet!

    2. Hallo Ben, ich stimme Dir im Wesentlichen zu.

      In Bezug auf Extremismus ist anzumerken:
      Heute werden wir ja schon verfolgt, wenn wir die „Grundwerte der Demokratie“ einhalten und fördern, wie z.B. die „Zwiebelfreund*innen“.

      Weder Verfassungsschutz noch bayerische Exekutive scheint den Unterschied zwischen Radikalität und Extremismus zu kennen.

      Die scheinen – wie der Maassen unter Beweis gestellt hat – sehr schlecht (aus)gebildet zu sein. Und die erhalten nun noch mehr Macht?

      Das wird noch mehr Menschen aus den Netzen treiben. Die einzige wirklich sichere Kommunikation zum Schutz der Privatsphäre wird die f2f-Kommunikation ohne Handy sein.

      Wenn jetzt Millionen die Netze verlassen, würden die IT-Unternehmen ehr protestieren.

      Ich werde nun sofort meinem Provider kündigen und hoffe, dass dies viele tun.

      1. „Ich werde nun sofort meinem Provider kündigen und hoffe, dass dies viele tun.“

        Leg dir Tor und VPN zu, dann klappts auch mit der Privatsphäre.

        Letztenendes wird es bloß mehr Tor Hidden Server von anonymen Betreibern geben, die andere profitorientiert per reverse Proxy (z.B. mit Werbeeinblendung) ins offene Internet spiegeln.

        Digitale Evolution, nächste Runde.

  3. Diese Missachtung klassischer rechtsstaatlicher Prozesse und unserer fundamentalen Bürgerrechte ist unfassbar. Ob auf EU-, Bundes- oder Landesebene: Alle sind für mehr Überwachung und Zensur und für weniger Bürgerrechte. Und dem Wähler ist es egal.

  4. Upload Filter, Leistungsschutzrecht, Forenbetreiberhaftung, etc. Etc.
    Diese digitalen Analphabeten sollen endlich in Pension gehen. Gesetz für Gesetz ein Schlag ins Kontor für Digitalwirtschaft, Meinungsfreiheit und Wettbewerb. Haben schon erfolgreich dafür gesorgt, dass es keine deutschen global player in der Digitalwirtschaft gibt. Den Abstieg der Verlage natürlich nicht verhindern können. Den Niedergang der Kaufhäuser und Einzelhändler auch nicht. Das öffentliche Fernsehen erfolgreich geknebelt und dank Depublizierung gehindert, an der Zukunft teilzunehmen.

    CDU CSU und SPD, vereint in der Vergangenheit sitzend, die Welt nicht mehr verstreut und beratungsresistent ihren Stiefel durchziehend. Damit wenn schon die Spezln ihre Millioneneinkünfte nicht sicher bis zur Bahre haben, wenigstens nichts Neues entstehen kann.

  5. Leute es brennt!
    2009 Gab es die Piraten
    Im Juli gab es saveTHEinternet, die Wind gemacht haben.
    Beide gruppen wurden von Trollen der Dienste des Innenministeriums zersetzt, gespalten und in zahnlose Tiger verwandelt.
    Wenn hier kein grosser öffentlicher Aufschrei wie bei TTIP kommt, dann wars das!

        1. Infiltriert und von innen her zersetzt, in dem man „Falschmeldungen“ über Mitglieder verbreitete, diese Mitglieder waren „angepiss’t“ und verließen die Piraten, statt alles richtig zu stellen!

  6. Klar, geht ja nicht anders als eine Spitze gegen den vielgehassten österreichischen Innenminister zu setzen.
    Wortmeldungen anderer Innenminister anderer Coleur gab es wohl keine, komischerweise haben aber nur wenige Minister dagegen gestimmt, das heißt wohl nicht nur böse Rechte werden darunter gewesen sein. Dass die Internetüberwachung und Zensur ein überparteiliches Interesse ist geht wohl über den linken Horizont des Autors hinaus.

    1. Österreich hat gerade die Ratspräsidentschaft inne, deshalb hat Kickl das der Öffentlichkeit präsentiert. Und deshalb kommt er auch im Artikel vor, Einordnung inklusive. (Neben ihm stand der Kommissar Avramopoulos, der klarerweise nur über Frontex, das Dubliner Abkommen usw. gesprochen hat.) Auf die besondere Rolle der Innenminister von Deutschland, Frankreich und Großbritannien weist dann der folgende Absatz hin. Wir haben sogar mal den geheimen Wunschzettel von Seehofer und Collomb veröffentlicht.

      Und ja, rechte, menschenverachtende Hetzer sind böse.

      1. Deine „Einordnung“ sagt viel mehr über dich als über Kickl aus. Wäre nicht Österreich im Ratsvorsitz, hätte wohl ein andere diese Worte benutzt. Solange nicht begriffen wird, dass der Kampf gegen Internetzensur kein linkes Thema gegen Rechts und auch noch Begrifflichkeiten wie „Hetze“ übernommen werden, die dafür geschaffen wurden um gegen die Meinungsfreiheit im Internet zu Felde zu ziehen, solange wird sich auch keine überparteiliche Bewegung formieren, die dagegen aufsteht und auf die Straße geht. Teilen und Herrschen ist deren Plan, entweder man verbündet sich in der Sache von Links bis Rechts (Zensur betrifft alle), oder der Totalitärismus hat gewonnen.

  7. Ich hoffe, dass sich netzpolitik.org dem nicht so einfach beugen wird und dagegen Klage einreicht, sollte dies tatsächlich Gesetz werden. Ansonsten sehe ich schwarz für die Kommentarfunktion und den freien Meinungsaustausch hier. Abseits einer Klage gäbe es aber auch noch andere Strategien wie man dem begegnen könnte:

    Vorschlag 1)
    Irgend jemand (natürlich niemand von netzpolitik.org) sollte die Kommentarfunktion auf eine onion Domain legen. Natürlich sollten auch die Artikel nach „netzpolitik.onion“ gespiegelt werden. Denn schließlich möchten viele Menschen die Artikel auch lesen können ohne dabei staatlich erfasst zu werden.

    Vorschlag 2)
    „Geschlossene Messenger-Gruppen nimmt der EU-Rat von den Vorgaben aus“
    Das heißt, man könnte die Kommentarfunktion für zahlende Mitglieder unzensiert öffnen. Alle anderen könnten dann weder selbst Kommentare verfassen, noch die Kommentare anderer lesen.
    Wer nicht kommentieren will, macht eine Spende wie bisher. Wer sich austauschen möchte, zahlt einen Mitgliedsbeitrag. Das wäre eine starke Einschränkung wenn Leserkommentare nicht mehr öffentlich zugänglich wären. Allerdings könnte sich ein geschlossenes Forum durchaus positiv entwickeln.

    1. Oder man delegiert die Verantwortung einfach an Disqus o.ä.. Oder man bindet Twitter anstelle der Kommentarfunktion ein. Irgendein Mitglied des Global Internet Forum (GIFCT).

      Darauf soll es m.E. hinauslaufen, die Dienste möchten sich nur mit wenigen Ansprechpartnern herumärgern. Also treiben sie die Webmaster-Schafe in die Umzäunung.

    1. Denen geht es doch nicht wirklich um die Downloadterroristen!
      „Filesharer“ begeben sich auf US-Newsgroups und nunja, es wird eben dort „getauscht“.
      Es gibt in den US&A viele derartige Newsgroupsserver, die fest in „deutscher Hand“ sind!

      Worum es unseren „Herrlichen“ geht, ist die Behinderung der Meinungsfreiheit, nichts weiter!

  8. Ich glaube nicht, dass das was unter dem Begriff politisch rechts zusammengefasst werden kann, auch nur ein irgend geratenes Interesse an der Vermeidung totalitärer Strukturen (unterschiedlicher Ausprägung) haben kann. Oder anderes, die Konstitution einer, von einer politischen Rechten angestrebten Gesellschaftsordnung ist, aus historischer Sicht aureichend mit Beispielen darzustellen, in großem Maße angelegt totalitär, tyrannische Strukturen auszubilden, vielmehr als z.B. eine vielfältige, gleichbemächtigte, demokratisch, soziale Organisation.
    Ich denke man kann ohne große Irrtümer zu begehen, davon ausgehen, dass eine Politik, wie in dem Artikel beschrieben, im treffensten Sinn als genuin rechte Politik zu bezeichnen ist.
    Völlig unabhängig davon aus welcher Partei hier Zustimmung gezeigt wurde.

    1. Der linke „real existierende Sozialismus“ war genauso tyrannisch in seinem Personenkult und totalitär bei der Absicherung seiner Macht.

      Aber Du wirst mir sicher gleich erklären, daß Stalin ein Rechter war, oder ein neoliberaler oder, oder, oder… Alles, nur nicht links. ;)

  9. Zum Lachen der EU-Haufen!

    Genauso, wie das Vorhaben, „Schimpfworte“ aus den Köpfen der Menschen zu „tilgen“ – diese sind bereits verbreitet und jegliche Versuche der Polit-Kaste, die Schimpfworte durch hirnverbrannte Maßnahmen „auszulöschen“, werden bei jedem Einzelnen den Eindruck verstärken, von diesen Schimpfworten Gebrauch machen zu müssen

    1. Nun, was wird gemacht?
      Man stellt „Schimpfworte“ unter Strafe, 95% des Volkes nutzen sie, ungestraft!
      2% der Bevölkerung widersprechen der politischen Meinungsmache und sind somit „Gefährder“.
      Diese Gefährder (Terroristen, Attentäter) benutzen auch nur einmal ein Schimpfwort und werden mit aller Härte des Rrrrrechts-Staates zurrrrr Rrrrrechenschaft gezogen!

  10. Ich finde es lustig, so sieht man wenigstens mal den aufstieg und langsam den Untergang des WWW.

    Jeder der will wird sich zu helfen wissen, nur die Tölpel werden mit dieser Zensur mit untergehen

    Heute reichen wenige schlagworte für diese null Plan, Ja sager Tölpel:
    KiPo, Terror, Sicherheit, Asyl

    Schon sagen die zu allem ja……

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.