Illegale Inhalte im Netz: EU-Kommission setzt auf die vermeintliche Wunderwaffe „Upload-Filter“

Online-Plattformen sollen künftig illegale Inhalte automatisch erkennen, sie so schnell wie möglich entfernen und mit automatischen Upload-Filtern dafür sorgen, dass sie nicht erneut hochgeladen werden. Damit will die EU-Kommission gegen Hassrede, Aufrufen zu Gewalt oder Terrorismus, aber auch gegen Urheberrechtsverletzungen im Internet vorgehen.

Bei dem heute vorgestellten Maßnahmenpapier (PDF) der Kommission handelt es sich um einen ersten Schritt, der den Plattformbetreibern als Orientierungshilfe dienen soll. Sollte es in den nächsten Monaten zu keinen Fortschritten kommen, seien auch verbindliche Legislativmaßnahmen denkbar, hieß es in einer Pressemitteilung der Kommission.

„Wir können nicht zulassen, dass es in der digitalen Welt wie im Wilden Westen zugeht“, sagte Justizkommissarin Vera Jourová. „Wir müssen handeln.“ Ihre Kollegin, die neue Digitalkommissarin Mariya Gabriel, beklagte die offenbar zu lange Dauer, die zum Löschen solcher Inhalte notwendig sei: „In mehr als 28 Prozent der Fälle brauchen Online-Plattformen mehr als eine Woche zur Entfernung illegaler Inhalte.“ Wenn die Plattformbetreiber nicht bald Ergebnisse liefern würden, dann wäre eben der Gesetzgeber am Zug.

Kontaktstellen für enge Zusammenarbeit

Neben den automatisierten Maßnahmen sieht die Kommission die Einrichtung von Kontaktstellen vor. Diese sollen sicherstellen, dass die Betreiber besser mit den zuständigen nationalen Behörden zusammenarbeiten und illegale Inhalte schneller entfernt werden, sollten die Automatismen nicht greifen. Zudem legt die Kommission den Anbietern eine enge Zusammenarbeit mit „vertrauenswürdigen Hinweisgebern“ nahe, die besondere Fachkenntnissen in der Bestimmung illegaler Inhalte haben, und fordert einfach zugängliche Melde-Tools für Nutzer.

Auf feste Fristen in allen Fällen will sich die Kommission derzeit nicht festlegen, prüft sie jedoch. Zugleich mahnt sie bei den Betreibern Sicherheitsvorkehrungen ein, um übermäßige Entfernung von Inhalten („over-blocking“ und „over-removal“) zu vermeiden. Dabei gibt sich die Kommission technikgläubig und fordert ein, dass die Filter den Kontext der jeweiligen Nachrichten erkennen sollen – etwa bei satirischen, aufklärenden oder dokumentierenden Inhalten. Details bleibt das Papier jedoch schuldig, genauso wie die Frage offenbleibt, wie Nutzer fälschlicherweise als „illegal“ eingestuftes Material wiederherstellen können.

Insgesamt sollen die Leitlinien dazu führen, so die Kommission, dass sich verfahrenstechnische Praktiken durchsetzen, wie mit illegalen Inhalten im Internet umzugehen sei. Gefördert werden soll zudem eine engere Zusammenarbeit zwischen Plattformen und den zuständigen Behörden. Am Ende soll daraus ein europäischer Ansatz entstehen, der zu schneller und effektiver Entfernung solcher Inhalte führt.

Upload-Filter als Allheilmittel

Vordergründig geht es in dem Papier um Inhalte, die die Sicherheit der EU bedrohen würden. Die Forderungen fügen sich jedoch ein in ein ganzes Bündel an Maßnahmen, die auf die Entfernung von illegalen Inhalten jeglicher Art abzielen. Auf Drängen der EU betreiben die Online-Riesen Facebook, Microsoft, Twitter und YouTube mittlerweile eine gemeinsam befütterte Datenbank mit digitalen Fingerabdrücken, um einmal erkannte unerwünschte Inhalte automatisch und dauerhaft („take down and stay down“) von ihren Plattformen zu entfernen.

Die Unternehmen sind Teil des „EU Internet Forum“, einer Arbeitsgruppe der EU-Kommission und Europol, die sich die „freiwillige“ Entfernung „terroristischer Inhalte“ zum Ziel gesetzt hat. Parallel dazu unterhält Europol seit über zwei Jahren eine Meldestelle für Internetinhalte, die Plattformbetreiber über ihrer Einschätzung nach illegale Inhalte benachrichtigt. Schon seit längerem erlaubt die Kinderpornographie- sowie die Anti-Terrorismus-Richtlinie den Nationalstaaten, Upload-Filter einzurichten.

Diese sind nach derzeitigem Stand auch in der geplanten Urheberrechtsrichtlinie enthalten. Zuletzt drückte dabei Estland auf die Tube, das seit Juni die EU-Ratspräsidentschaft innehat und in einem Positionspapier des Rates sogar eine Verschärfung eingefordert hat. Tatsächlich findet sich in der heute vorgestellten Orientierungshilfe der Kommission gleich sieben Mal ein Verweis auf „Copyright“, wo sich automatische Erkennung urheberrechtlich geschützter Inhalte bereits seit Jahren bewährt habe.

„Abwälzen der Verantwortung“

Ebenfalls angedacht ist eine Einschränkung der Haftungsprivilegien für Plattformbetreiber, die laut E-Commerce-Richtlinie nur unter bestimmten Umständen für illegale Inhalte zur Verantwortung gezogen werden können. In eine ähnliche Richtung weist nun auch der aktuelle Kommissionsvorschlag. Gegen die drohende Aushöhlung des bestehenden Haftungsgefüges läuft der deutsche Verband der Internetwirtschaft Sturm: „Ein Abwälzen der Verantwortung bei der Rechtsdurchsetzung auf die Provider sowie die Einführung von automatischen Filtersystemen sind nicht akzeptabel“, sagte eco-Vorstand Oliver Süme.

Geharnischte Kritik kommt von der Bürgerrechtsorganisation European Digital Rights (EDRi), die Widersprüche zur Urheberrechtsrichtlinie und eine Gefahr für die Meinungsfreiheit sieht. Auch das Vertrauen in die „vertrauenswürdigen Hinweisgeber“ sei fehlgeleitet, wie die Erfahrungen mit dem „Trusted Copyright Removal Programme“ von Google gezeigt hätten.

„Viele EU-Mitgliedstaaten drängen große IT-Unternhemen zu pro-aktiven, automatisierten Maßnahmen, um Inhalte zu entfernen“, sagte die liberale EU-Parlamentsabgeordnete Marietje Schaake. „Das ist extrem gefährlich. Die Kommission sollte sich gegen diesen Trend stellen, anstatt ihn zu begrüßen. In der EU kann es keinen Platz geben für Upload-Filter oder Zensur im Vorfeld.“

Algorithmen außer Kontrolle

Die Piratin Julia Reda kritisierte ebenfalls das blinde Vertrauen in automatische Filtertechnologien: „Die Überzeugung der Europäischen Kommission, dass sich komplexe netzpolitische Herausforderungen durch automatische Filter lösen lassen, ist ein gefährlicher Irrweg“, so die stellvertretende Vorsitzende der Grünen-Fraktion im EU-Parlament. „Alle im Internet hochgeladenen Inhalte durch Filtersysteme überwachen zu lassen höhlt Grundrechte aus und führt mit Sicherheit zum irrtümlichen Blockieren legaler Inhalte“. Um ihr Argument zu untermauern, stellte sie eine Liste an haarsträubenden Beispielen ins Netz, die das Versagen von automatischen Inhaltefiltern dokumentiert.

Ihr Fraktionskollege Jan Philipp Albrecht, stellvertretender Vorsitzender des Innen- und Justizausschusses im EU-Parlament, forderte EU-weite verbindliche Standards und warnte vor einer privatisierten Rechtsdurchsetzung: „Wir dürfen es nicht den Plattformanbietern überlassen, ihre eigenen Prinzipien und Definitionen aufzustellen. Stattdessen müsse die EU verbindliche und mit Grundrechten vereinbare Standards für Plattformen setzen.

Was illegal ist, regelt der Vorschlag nicht

Denn der Kommissionsvorschlag geht ausdrücklich nicht darauf ein, was als illegal gelten soll und was nicht – das bleibt weiterhin den EU-Mitgliedstaaten überlassen oder entsprechender EU-Gesetzgebung. So würden Betreiber in die unmögliche Rolle von Richter, Jury und Henker gedrängt, warnte die Provider-Vereinigung EuroISPA. „Die heute veröffentlichten Leitlinien würdigen nicht die Realität, dass es sich beim Internet um einen globalen öffentlichen Raum handelt, der Bürger ermächtigt und Volkswirtschaften wachsen lässt, während die Standards von Illegalität auf einer Land-zu-Land-Basis definiert werden.“

Auf Zustimmung stießen die Leitlinien hingegen bei der Computer and Communications Industry Association (CCIA), die große Plattformen wie Facebook, Google oder Amazon vertritt. „Die CCIA hat sich lange Zeit für wohl durchdachte Leitlinien eingesetzt, die ein Melde- und Abhilfeverfahren (‚Notice and Action‘) einführen. Dieses Kommissionspapier ist eine willkommene Initiative für einen auf gemeinsame Linie gebrachten Ansatz für die Entfernung von gegen das Recht verstoßenden Inhalten innerhalb der EU.“

Mit ihrem Vorschlag positioniert sich die EU-Kommission eindeutig und gibt die Bruchlinie vor, anhand derer sich die künftige Debatte entwickeln wird: Online-Plattformen werden zunehmend in die Pflicht genommen und müssen Inhalte bewerten, noch bevor sie ein Mensch zu Gesicht bekommen hat. Ähnlich dem deutschen Netzwerkdurchsetzungsgesetz (NetzDG) müssen sie dabei möglichst schnell handeln, sonst drohen Sanktionen. Kleine Plattformen, die kaum aufwändige Systeme wie Googles „Content ID“ entwickeln können, müssen darauf hoffen, die Technik wenigstens li­zen­zie­ren zu können – was wiederum die Macht der sowieso schon Großen stärkt. Und wenn sich der Filteransatz durchsetzt und etwa auf Netzbetreiber ausgedehnt wird, dann können wir uns vom Internet und von der Meinungsfreiheit, wie wir sie heute kennen, endgültig verabschieden.