Öffentlichkeit

Illegale Inhalte im Netz: EU-Kommission setzt auf die vermeintliche Wunderwaffe „Upload-Filter“

Die EU-Kommission hat heute Leitlinien für Plattformbetreiber vorgestellt, die eine zügige Entfernung von mutmaßlich illegalen Inhalten im Netz vorsehen. Als Allheilmittel gegen Terrorismus, Hassrede oder Urheberrechtsverletzungen im Internet soll eine automatische Erkennung, Entfernung und Filterung solcher Inhalte dienen. Das kann gefährliche Folgen haben.

Automatische Systeme sollen als Wundermittel illegale Inhalte erkennen, entfernen und dauerhaft von Online-Plattformen verbannen. Dabei zerstößt die EU-Kommission die Meinungsfreiheit und das offene Internet. CC0 Katherine Hanlon

Online-Plattformen sollen künftig illegale Inhalte automatisch erkennen, sie so schnell wie möglich entfernen und mit automatischen Upload-Filtern dafür sorgen, dass sie nicht erneut hochgeladen werden. Damit will die EU-Kommission gegen Hassrede, Aufrufen zu Gewalt oder Terrorismus, aber auch gegen Urheberrechtsverletzungen im Internet vorgehen.

Wir finanzieren uns fast vollständig aus Spenden von Leserinnen und Lesern. Unterstütze unsere Arbeit mit einer Spende oder einem Dauerauftrag.

Bei dem heute vorgestellten Maßnahmenpapier (PDF) der Kommission handelt es sich um einen ersten Schritt, der den Plattformbetreibern als Orientierungshilfe dienen soll. Sollte es in den nächsten Monaten zu keinen Fortschritten kommen, seien auch verbindliche Legislativmaßnahmen denkbar, hieß es in einer Pressemitteilung der Kommission.

„Wir können nicht zulassen, dass es in der digitalen Welt wie im Wilden Westen zugeht“, sagte Justizkommissarin Vera Jourová. „Wir müssen handeln.“ Ihre Kollegin, die neue Digitalkommissarin Mariya Gabriel, beklagte die offenbar zu lange Dauer, die zum Löschen solcher Inhalte notwendig sei: „In mehr als 28 Prozent der Fälle brauchen Online-Plattformen mehr als eine Woche zur Entfernung illegaler Inhalte.“ Wenn die Plattformbetreiber nicht bald Ergebnisse liefern würden, dann wäre eben der Gesetzgeber am Zug.

Kontaktstellen für enge Zusammenarbeit

Neben den automatisierten Maßnahmen sieht die Kommission die Einrichtung von Kontaktstellen vor. Diese sollen sicherstellen, dass die Betreiber besser mit den zuständigen nationalen Behörden zusammenarbeiten und illegale Inhalte schneller entfernt werden, sollten die Automatismen nicht greifen. Zudem legt die Kommission den Anbietern eine enge Zusammenarbeit mit „vertrauenswürdigen Hinweisgebern“ nahe, die besondere Fachkenntnissen in der Bestimmung illegaler Inhalte haben, und fordert einfach zugängliche Melde-Tools für Nutzer.

Auf feste Fristen in allen Fällen will sich die Kommission derzeit nicht festlegen, prüft sie jedoch. Zugleich mahnt sie bei den Betreibern Sicherheitsvorkehrungen ein, um übermäßige Entfernung von Inhalten („over-blocking“ und „over-removal“) zu vermeiden. Dabei gibt sich die Kommission technikgläubig und fordert ein, dass die Filter den Kontext der jeweiligen Nachrichten erkennen sollen – etwa bei satirischen, aufklärenden oder dokumentierenden Inhalten. Details bleibt das Papier jedoch schuldig, genauso wie die Frage offenbleibt, wie Nutzer fälschlicherweise als „illegal“ eingestuftes Material wiederherstellen können.

Insgesamt sollen die Leitlinien dazu führen, so die Kommission, dass sich verfahrenstechnische Praktiken durchsetzen, wie mit illegalen Inhalten im Internet umzugehen sei. Gefördert werden soll zudem eine engere Zusammenarbeit zwischen Plattformen und den zuständigen Behörden. Am Ende soll daraus ein europäischer Ansatz entstehen, der zu schneller und effektiver Entfernung solcher Inhalte führt.

Upload-Filter als Allheilmittel

Vordergründig geht es in dem Papier um Inhalte, die die Sicherheit der EU bedrohen würden. Die Forderungen fügen sich jedoch ein in ein ganzes Bündel an Maßnahmen, die auf die Entfernung von illegalen Inhalten jeglicher Art abzielen. Auf Drängen der EU betreiben die Online-Riesen Facebook, Microsoft, Twitter und YouTube mittlerweile eine gemeinsam befütterte Datenbank mit digitalen Fingerabdrücken, um einmal erkannte unerwünschte Inhalte automatisch und dauerhaft („take down and stay down“) von ihren Plattformen zu entfernen.

Die Unternehmen sind Teil des „EU Internet Forum“, einer Arbeitsgruppe der EU-Kommission und Europol, die sich die „freiwillige“ Entfernung „terroristischer Inhalte“ zum Ziel gesetzt hat. Parallel dazu unterhält Europol seit über zwei Jahren eine Meldestelle für Internetinhalte, die Plattformbetreiber über ihrer Einschätzung nach illegale Inhalte benachrichtigt. Schon seit längerem erlaubt die Kinderpornographie- sowie die Anti-Terrorismus-Richtlinie den Nationalstaaten, Upload-Filter einzurichten.

Diese sind nach derzeitigem Stand auch in der geplanten Urheberrechtsrichtlinie enthalten. Zuletzt drückte dabei Estland auf die Tube, das seit Juni die EU-Ratspräsidentschaft innehat und in einem Positionspapier des Rates sogar eine Verschärfung eingefordert hat. Tatsächlich findet sich in der heute vorgestellten Orientierungshilfe der Kommission gleich sieben Mal ein Verweis auf „Copyright“, wo sich automatische Erkennung urheberrechtlich geschützter Inhalte bereits seit Jahren bewährt habe.

„Abwälzen der Verantwortung“

Ebenfalls angedacht ist eine Einschränkung der Haftungsprivilegien für Plattformbetreiber, die laut E-Commerce-Richtlinie nur unter bestimmten Umständen für illegale Inhalte zur Verantwortung gezogen werden können. In eine ähnliche Richtung weist nun auch der aktuelle Kommissionsvorschlag. Gegen die drohende Aushöhlung des bestehenden Haftungsgefüges läuft der deutsche Verband der Internetwirtschaft Sturm: „Ein Abwälzen der Verantwortung bei der Rechtsdurchsetzung auf die Provider sowie die Einführung von automatischen Filtersystemen sind nicht akzeptabel“, sagte eco-Vorstand Oliver Süme.

Geharnischte Kritik kommt von der Bürgerrechtsorganisation European Digital Rights (EDRi), die Widersprüche zur Urheberrechtsrichtlinie und eine Gefahr für die Meinungsfreiheit sieht. Auch das Vertrauen in die „vertrauenswürdigen Hinweisgeber“ sei fehlgeleitet, wie die Erfahrungen mit dem „Trusted Copyright Removal Programme“ von Google gezeigt hätten.

„Viele EU-Mitgliedstaaten drängen große IT-Unternhemen zu pro-aktiven, automatisierten Maßnahmen, um Inhalte zu entfernen“, sagte die liberale EU-Parlamentsabgeordnete Marietje Schaake. „Das ist extrem gefährlich. Die Kommission sollte sich gegen diesen Trend stellen, anstatt ihn zu begrüßen. In der EU kann es keinen Platz geben für Upload-Filter oder Zensur im Vorfeld.“

Algorithmen außer Kontrolle

Die Piratin Julia Reda kritisierte ebenfalls das blinde Vertrauen in automatische Filtertechnologien: „Die Überzeugung der Europäischen Kommission, dass sich komplexe netzpolitische Herausforderungen durch automatische Filter lösen lassen, ist ein gefährlicher Irrweg“, so die stellvertretende Vorsitzende der Grünen-Fraktion im EU-Parlament. „Alle im Internet hochgeladenen Inhalte durch Filtersysteme überwachen zu lassen höhlt Grundrechte aus und führt mit Sicherheit zum irrtümlichen Blockieren legaler Inhalte“. Um ihr Argument zu untermauern, stellte sie eine Liste an haarsträubenden Beispielen ins Netz, die das Versagen von automatischen Inhaltefiltern dokumentiert.

Ihr Fraktionskollege Jan Philipp Albrecht, stellvertretender Vorsitzender des Innen- und Justizausschusses im EU-Parlament, forderte EU-weite verbindliche Standards und warnte vor einer privatisierten Rechtsdurchsetzung: „Wir dürfen es nicht den Plattformanbietern überlassen, ihre eigenen Prinzipien und Definitionen aufzustellen. Stattdessen müsse die EU verbindliche und mit Grundrechten vereinbare Standards für Plattformen setzen.

Was illegal ist, regelt der Vorschlag nicht

Denn der Kommissionsvorschlag geht ausdrücklich nicht darauf ein, was als illegal gelten soll und was nicht – das bleibt weiterhin den EU-Mitgliedstaaten überlassen oder entsprechender EU-Gesetzgebung. So würden Betreiber in die unmögliche Rolle von Richter, Jury und Henker gedrängt, warnte die Provider-Vereinigung EuroISPA. „Die heute veröffentlichten Leitlinien würdigen nicht die Realität, dass es sich beim Internet um einen globalen öffentlichen Raum handelt, der Bürger ermächtigt und Volkswirtschaften wachsen lässt, während die Standards von Illegalität auf einer Land-zu-Land-Basis definiert werden.“

Auf Zustimmung stießen die Leitlinien hingegen bei der Computer and Communications Industry Association (CCIA), die große Plattformen wie Facebook, Google oder Amazon vertritt. „Die CCIA hat sich lange Zeit für wohl durchdachte Leitlinien eingesetzt, die ein Melde- und Abhilfeverfahren (‚Notice and Action‘) einführen. Dieses Kommissionspapier ist eine willkommene Initiative für einen auf gemeinsame Linie gebrachten Ansatz für die Entfernung von gegen das Recht verstoßenden Inhalten innerhalb der EU.“

Mit ihrem Vorschlag positioniert sich die EU-Kommission eindeutig und gibt die Bruchlinie vor, anhand derer sich die künftige Debatte entwickeln wird: Online-Plattformen werden zunehmend in die Pflicht genommen und müssen Inhalte bewerten, noch bevor sie ein Mensch zu Gesicht bekommen hat. Ähnlich dem deutschen Netzwerkdurchsetzungsgesetz (NetzDG) müssen sie dabei möglichst schnell handeln, sonst drohen Sanktionen. Kleine Plattformen, die kaum aufwändige Systeme wie Googles „Content ID“ entwickeln können, müssen darauf hoffen, die Technik wenigstens li­zen­zie­ren zu können – was wiederum die Macht der sowieso schon Großen stärkt. Und wenn sich der Filteransatz durchsetzt und etwa auf Netzbetreiber ausgedehnt wird, dann können wir uns vom Internet und von der Meinungsfreiheit, wie wir sie heute kennen, endgültig verabschieden.

Weitersagen und Unterstützen. Danke!
12 Kommentare
  1. Und wieder entscheiden Leute die die Tragweite ihrer Entscheidungen nicht verstehen über die Zukunft der jüngeren Generationen. George Orwell lässt grüßen usw. In Zeiten von erstarkender Macht Rechtsradikaler sollte man überlegen ob man totalitäre Instrumente weiter ausbaut.

    1. Was willst Du da denn ausbauen? Spamfilter sind seit vielen Jahren normales Tagesgeschäft. KP Bilder werden seit langem aus den Bildersuchen gefiltert, Raubmordkopien von Filmen aus den Youtube Speichern…

      Jetzt werden solche Systeme halt nicht mehr nur vor den Maileingang gehängt, sondern auch vor den Social-Media Eingang. Da wird nichts ausgebaut, da werden vorhandene Systeme umgewidmet.

    1. Mit dem dissen von Politikern wegen Alter oder Ahnungslosigkeit ist es nicht getan.
      Die wissen ganz genau was sie zusammen mit der Industrie tun:
      „Auf Zustimmung stießen die Leitlinien hingegen bei der Computer and Communications Industry Association (CCIA), die große Plattformen wie Facebook, Google oder Amazon vertritt. “
      Politik und Wirtschaft wollen die Deutungshoheit zurückerobern und werden das (leider) auch schaffen

    1. Hallo Evelyn,

      Hier das Original Zitat Martin Niemöllers, vielleicht hilfts ja:

      „Als die Nazis die Kommunisten holten…..“

      Als die Nazis die Kommunisten holten,
      habe ich geschwiegen,
      ich war ja kein Kommunist.

      Als sie die Sozialdemokraten einsperrten,
      habe ich geschwiegen,
      ich war ja kein Sozialdemokrat.

      Als sie die Gewerkschafter holten,
      habe ich geschwiegen,
      ich war ja kein Gewerkschafter.

      Als sie mich holten,
      gab es keinen mehr,
      der protestieren konnte.

      http://martin-niemoeller-stiftung.de/martin-niemoeller/als-sie-die-kommunisten-holten

  2. Gefährliche Folgen? Ganz sicher sogar! Seit sechs Monaten habe ich keinen Cent mehr im Netz ausgegeben, wenn das viele Menschen machen würden…dann…und dann ist da noch die immer besser werdenden Werbekiller, die wirklich alles wegputzen wenn man sie richtig konfiguriert…. ;-)

  3. „Wir können nicht zulassen, dass es in der digitalen Welt wie im Wilden Westen zugeht“, sagte Justizkommissarin Vera Jourová. „Wir müssen handeln“.

    Dann soll sie sich gefälligst dafür einsetzen dass alle Geheimdienste in der EU geschlossen und als kriminelle Untergrundorganisationen verboten werden, inklusive von kommerziellen Hackingtool-Herstellern wie GammaGroup die ihren Mist an repressive Staaten verkaufen. Schließlich haben die mit Rechtsstaatlichkeit absolut nichts am Hut. Die machen ihr eigenes Ding im Verborgenen, kaufen oder/und entwickeln digitale Waffen und sprechen nicht einmal mit Untersuchungsausschüssen offen darüber was sie exakt machen, sondern grinsen Frech, leiden an ich-weiß-nix-kann-mich-nicht-erinnern-und-die-akten-hat-mein-hund-gefressen und schlucken lieber Kaliumcyanid als unter Folter Informationen preiszugeben. Zur gleichen Zeit muss die Polizei in jedem EU-Mitgliedsstaat in ihre Schranken gewiesen werden, denn die eignet sich bereits in gefährlichem Maße geheimdienstliche Fähigkeiten an welche gezielt gegen die Bevölkerung eingesetzt werden und unsere Menschenrechte mit unfassbarer Arroganz abschlachten. Von K.I. gestützter Videoüberwachung und Datenauswertung ganz abgesehen.

    Seh zu,Vera. Du hast verdammt viel zu tun. Räum diesen Saustall auf bevor du anfängst populistische Parolen herumzublasen. Und wenn du endlich begriffen hast dass du als einzelner Mensch nicht viel erreichst, dann sei still und hör den europäischen Völkern zu, denn du weißt überhaupt nicht was gut für uns alle ist. Das wissen nur wir, und wir müssen entscheiden. Nicht du, und nicht deine EU-Kumpels.
    Wenn du mit deinen Kumpels/Kollegen so weiter machst, wird die EU untergehen und Rechtspopulisten werden an die Macht kommen, und dann haben wir alle nichts von diesem angeblichen „Friedensprojekt“, welches immer mehr Länder mit Zwang und Sanktionen zu beglücken versucht.

    Siehe:

    http://www.zeit.de/politik/ausland/2017-06/fluechtlinge-eu-geht-rechtlich-gegen-ungarn-polen-und-tschechien-vor

    MfG

    MitFreundlichenGrüßen

  4. Das Netz war immer ein Sammelbecken für skrupellose Abzocker, Betrüger und organisierte Schwerstkriminelle, das die Bundesrepublik Deutschland da nicht zurückfallen möchte ist nur logisch.

  5. Nun zur Not kann man ja immer noch auf chinesische Platformen ausweichen. Dort darf man zwar nicht böses über die Kommunistische Partei sagen, kann einem als Europäer aber ja egal sein.
    Wenigstens ein bisschen Meinungsfreiheit bleibt so erhalten.
    Kann die Zeit kaum abwarten, wenn wir Xinhua hören wie die Leute in kommunistischen Ländern damals die deutsche Welle.

    1. Hallo,

      soviel Naivität bereitet einem Schmerzen. Vielleicht schaust Du einmal in die Türkei. Dann bekommst Du einen Eindruck von der Richtung in welche sich dieses Land entwickelt. Nicht einen Funken Meinungsfreiheit werden sie übrig lassen! Alles, aber auch wirklich alles werden sie uns nehmen.
      In der DDR sind sie auf die Dächer geklettert und haben die Antennen, die in den Richtung Westen ausgerichtet waren, umgebogen oder ganz zerstört. Oder jungen Männer die langen Haare abgeschnitten. Im Mittelalter haben sie Frauen auf den Scheiterhaufen geworfen, weil diese sich mit Kräutern auskannten. In der Türkei werden Menschen eingesperrt, weil sie vielleicht eine andere Ansicht haben könnten, möglicherweise. Und hier sollen sie Dir ein bisserl Meinungsfreiheit oder Dich in China einkaufen und posten lassen? Den Stecker werden sie ziehen und alle werden schön still sein. Sollte doch einer den Mund aufmachen, geht es ab ins Loch. So einfach ist das. Die Türkei zeigt es, es braucht dafür keinen Richter und/oder Staatsanwalt. Niemand von den Demokraten wendet sich ab. Nun ja, es geht nur ums Geschäft. Es ist nichts persönliches.

      Mit freundlichen Grüßen
      Jonas

Schreibe einen Kommentar zu Mimimi Antworten abbrechen

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.