EU-Innenminister fordern Uploadfilter gegen Hass und terroristische Handlungen

Dank der „unermüdlichen Anstrengungen des bulgarischen Vorsitzes“ macht Europa weiter dicht: Der Europäische Rat, das Entscheidungsgremium der Staats- und Regierungschefs der Europäischen Union, hat am vergangenen Donnerstag und in die Nacht auf Freitag hinein getagt.

Die EU rüstet auf: Das Risiko sind immer die anderen

Die Schlussfolgerungen sind zwar angenehm kurz und bündig zu lesen, enthalten aber eine Menge sicherheitspolitischer Hardliner-Forderungen: Kerngegenstände sind die Verschärfung der Außengrenzen, die Zerschlagung des „Geschäftsmodells der Schleuser“ und die Förderung der Abschiebung, auch bekannt als „humanitäre freiwillige Rückkehr“ so genannter „irregulärer Migranten“. Flankierende Maßnahmen umfassen eine Stärkung der Grenzschutzagentur Frontex und den „sozioökonomischen Umbau des afrikanischen Kontinents (…) nach den Grundsätzen und Zielen (…)  der afrikanischen Agenda 2063“. Zudem soll die europäische Verteidigungsfähigkeit gestärkt werden zur Bekämpfung der hybriden sowie chemischen, biologischen, radiologischen und nuklearen Bedrohungen. Der Europäische Rat ersucht die EU-Kommission, einen über bereits vorgeschlagene Maßnahmen hinausgehenden Aktionsplan gegen Desinformation vorzulegen, „einschließlich geeigneter Mandate und ausreichender Ressourcen für die entsprechenden Teams für strategische Kommunikation des Europäischen Auswärtigen Diensts (EAD)“. Cybersicherheitsbedrohungen von außerhalb der EU sollen durch die „praktischen Anwendung der Cyber Diplomacy Toolbox“ bekämpft werden.

Uploadfilter oder der überholte Versuch einer informationellen Aufrüstung nach innen

Ob der vielfältigen Kriegsrhetorik könnte man leicht eine Floskel übersehen, die den Krieg gegen vermeintliche Feinde nach innen richtet: Der Europäische Rat begrüßt nämlich „die Absicht der Kommission, einen Gesetzgebungsvorschlag zur Verbesserung der Erkennung und Entfernung von Inhalten zu unterbreiten, die zu Hass und zu terroristischen Handlungen anstiften.“ Der Satz kommt scheinbar harmlos daher, denn die seit längerem geplante und diskutierte technische Umsetzung – die Verpflichtung von Informations- und Kommunikationsplattformen auf so genannte Uploadfilter ist brandgefährlich: Hierbei handelt es sich um Software-Systeme, die durch automatisierte Inhalteanalyse potentiell strafbare Netzinhalte vor Veröffentlichung heraus filtern und eine Veröffentlichung verhindern sollen. Was zunächst einleuchtend klingt, hat seine Tücken im Detail.

Warum Upload-Filter bereits bei EU-Urheberrechtsreform das falsche Mittel sind

Bereits im Kontext der EU-Urheberrechtsreform wird die Sinnhaftigkeit solcher technischer Hilfsmittel zur Umsetzung geltenden Rechts breit debattiert – mit dem Ergebnis eines breiten gesellschaftlichen Widerstands, der sogar in den Koalitionsvereinbarungen ihren Niederschlag fand.

Zu Recht – denn Uploadfilter sind unverhältnismäßige Maßnahmen: Es handelt sich um den privatisierten Aufbau einer flächendeckenden, intransparenten Zensurinfrastruktur, der Grundrechte wie Meinungs- und Informationsfreiheit ebenso gefährdet wie rechtsstaatliche Prinzipien. Nach denen dürfen nämlich Meinungs- und Informationsfreiheiten nur auf Basis präziser Normen und einem demokratisch legitimierten Verfahren eingeschränkt werden, die Widerspruchsrechte und Kontrollmöglichkeiten des demokratischen Souveräns vorsehen – in jedem Einzelfall.

Außerdem sind vielfältige Fehler dieser Technologien bekannt, die nicht zuletzt die Netzkultur – Memes und Satire – elementar bedrohen. Kritiker befürchten zudem, dass die Verpflichtung auf Uploadfilter v.a. die Monopolstellung der großen Online-Plattformen verstärkt, denn die Entwicklungskosten für solche Filtersysteme sind so hoch, dass es unwahrscheinlich ist, dass nicht-kommerzielle Plattformen wie die Wikipedia sie tragen können – hier bliebe die Alternative, durch den Erwerb von Software-Lizenzen rechtskonform zu arbeiten. Folgerichtig lehnen Digitalpolitiker aller deutschen Fraktionen die Maßnahme ab und fordern das EU-Parlament auf, am kommenden Donnerstag, dem 05. Juli 2018 gegen die die Verpflichtung (Art. 13) zu stimmen – gegen das Votum des Rechtsausschusses, dass nur mit den Stimmen der konservativen und rechtspopulistischen Parteien zustande kam.

Warum das falsche Mittel der Uploadfilter auch bei Terrorbedrohung falsch bleibt

In diesem Kontext nun hat laut Insiderberichten das deutsche Innenministerium unter der noch anhaltenden, planlosen Führung von dem Horst Seehofer dafür gesorgt, dass die Upload-Filter also als Mittel gegen Hassinhalte und terroristische Inhalte ihren Weg in die EU-Gesetzgebung finden. Überraschend kommt das nicht: Wir haben bereits vor einem Monat den Wunschzettel von Horst Seehofer an die EU-Kommission veröffentlicht, wo dieser die Ausweitung von Uploadfiltern forderte.

Ist das nun Ignoranz gegenüber den technischen und gesellschaftlichen Bedenken, Unkenntnis oder ein strategischer Zug, die Koalitionsvereinbarungen auch in diesem Bereich in Frage zu stellen? Nun, die sahen die Ablehnung von Upload-Filtern nur im Kontext von Urheberrechten vor. Hier rächt es sich, dass die Digitalpolitiker in den Koalitionsverhandlungen nur diesen spezifischen Kontext im Blick hatten, aber nicht die Entwicklung, dass Uploadfilter auf vielen Feldern als Wundermittel angesehen werden. Aber stellen Hass und globale Hetze einen besseren Grund dar? Werden die technischen Bedenken ausgeräumt? Mitnichten.

Wie wir bereits berichteten, passieren auch den besten Plattformen viele grobe Fehler bei der automatisierten Content-Regulierung. Beispielsweise löschte Youtube im Kampf gegen terroristische Inhalte etwa die Dokumentationen der Kriegsverbrechen in Syrien, die Aktivisten sammelten, um zu einem späteren Zeitpunkt Beweismaterial für internationale Strafprozesse vorzuhalten. Völlig unklar ist allerdings momentan die Rolle Künstlicher Intelligenz bei der Angelegenheit: Mithilfe selbstlernender Algorithmen soll sie durch die Analyse großer Mengen an Daten dazu beitragen, neue Erkenntnisse zu generieren. Was ist das Ergebnis im Bereich von Netzinhalten?

Die Einordnung von Inhalten durch Algorithmen ist meist schwer nachvollziehbar. Etwa wenn 10.000 Kommentare als Hate Speech gekennzeichnet werden oder 10.000 Kommentare wie bei Jigsaw (Alphabet Inc.) in einer Toxizitätsskala danach verortet werden, wie hoch das Risiko ist, dass ein Teilnehmer die Debatte verlässt – und diese Kommentare einer Maschine zur Auswertung der zusammenhänge überlassen werden. Welche Zusammenhänge lernt die Maschine, wonach entscheidet sie was strafbar oder toxisch ist? Wahrscheinlich verschiebt sich der Fokus von der Idee hin zur Sprache, zum Ausdruck an sich. Möglicherweise kommen aber ganz andere Variablen ins Spiel – Variablen, über deren Angemessenheit Techniker und Geschäftsleute entscheiden anstelle von Richtern, Politikern oder Soziologen.

Alle großen Plattformen experimentieren derzeit mit Formen automatisierter Inhalte-Regulierung in verschiedenen thematischen und medialen Bereichen, die mitunter ganz neue Erkenntnisse über menschliche Debatten und Interventionsmöglichkeiten generieren dürfte. Aber wie gesagt: Zum gegenwärtigen Zeitpunkt ist all dies noch (hoch-)experimentell. So schätzte Facebook-Chef Mark Zuckerberg bei seinen Anhörungen zum Cambridge-Analytica-Skandal im US-Kongress gleichermaßen optimistisch wie unscharf, es dauere noch rund 5-10 Jahre, bis Facebook „Hassrede“ zuverlässig erkennen könne.

Wie kann es dann sinnvoll oder gerechtfertigt sein, Online-Plattformen zum jetzigen Zeitpunkt auf Upload-Filter samt Künstlicher Intelligenz zu drängen – wo doch noch gar nicht klar ist, was deren Ergebnis ist? Und wo es dafür keinerlei wirksamen demokratischen Kontrollmöglichkeiten gibt?