Demokratie

EU-Innenminister fordern Uploadfilter gegen Hass und terroristische Handlungen

Die Uploadfilter im Rahmen der Urheberrechtsreform sind erst der Anfang. Die EU-Regierungen fordern jetzt ein Gesetz zur Ausweitung der umstrittenen Zensurtechnologie auf Hass und terroristische Inhalte. Die Formulierung landete wohl wegen Horst Seehofer in dem Beschluss.

40.000 „illegale Inhalte“ sind bereits im Uploadfilter der großen Internetfirmen hinterlegt, „Hunderttausende“ sollen folgen. CC-BY 2.0 Delete

Dank der „unermüdlichen Anstrengungen des bulgarischen Vorsitzes“ macht Europa weiter dicht: Der Europäische Rat, das Entscheidungsgremium der Staats- und Regierungschefs der Europäischen Union, hat am vergangenen Donnerstag und in die Nacht auf Freitag hinein getagt.

Wir finanzieren uns fast vollständig aus Spenden von Leserinnen und Lesern. Unterstütze unsere Arbeit mit einer Spende oder einem Dauerauftrag.

Die EU rüstet auf: Das Risiko sind immer die anderen

Die Schlussfolgerungen sind zwar angenehm kurz und bündig zu lesen, enthalten aber eine Menge sicherheitspolitischer Hardliner-Forderungen: Kerngegenstände sind die Verschärfung der Außengrenzen, die Zerschlagung des „Geschäftsmodells der Schleuser“ und die Förderung der Abschiebung, auch bekannt als „humanitäre freiwillige Rückkehr“ so genannter „irregulärer Migranten“. Flankierende Maßnahmen umfassen eine Stärkung der Grenzschutzagentur Frontex und den „sozioökonomischen Umbau des afrikanischen Kontinents (…) nach den Grundsätzen und Zielen (…)  der afrikanischen Agenda 2063“. Zudem soll die europäische Verteidigungsfähigkeit gestärkt werden zur Bekämpfung der hybriden sowie chemischen, biologischen, radiologischen und nuklearen Bedrohungen. Der Europäische Rat ersucht die EU-Kommission, einen über bereits vorgeschlagene Maßnahmen hinausgehenden Aktionsplan gegen Desinformation vorzulegen, „einschließlich geeigneter Mandate und ausreichender Ressourcen für die entsprechenden Teams für strategische Kommunikation des Europäischen Auswärtigen Diensts (EAD)“. Cybersicherheitsbedrohungen von außerhalb der EU sollen durch die „praktischen Anwendung der Cyber Diplomacy Toolbox“ bekämpft werden.

Uploadfilter oder der überholte Versuch einer informationellen Aufrüstung nach innen

Ob der vielfältigen Kriegsrhetorik könnte man leicht eine Floskel übersehen, die den Krieg gegen vermeintliche Feinde nach innen richtet: Der Europäische Rat begrüßt nämlich „die Absicht der Kommission, einen Gesetzgebungsvorschlag zur Verbesserung der Erkennung und Entfernung von Inhalten zu unterbreiten, die zu Hass und zu terroristischen Handlungen anstiften.“ Der Satz kommt scheinbar harmlos daher, denn die seit längerem geplante und diskutierte technische Umsetzung – die Verpflichtung von Informations- und Kommunikationsplattformen auf so genannte Uploadfilter ist brandgefährlich: Hierbei handelt es sich um Software-Systeme, die durch automatisierte Inhalteanalyse potentiell strafbare Netzinhalte vor Veröffentlichung heraus filtern und eine Veröffentlichung verhindern sollen. Was zunächst einleuchtend klingt, hat seine Tücken im Detail.

Warum Upload-Filter bereits bei EU-Urheberrechtsreform das falsche Mittel sind

Bereits im Kontext der EU-Urheberrechtsreform wird die Sinnhaftigkeit solcher technischer Hilfsmittel zur Umsetzung geltenden Rechts breit debattiert – mit dem Ergebnis eines breiten gesellschaftlichen Widerstands, der sogar in den Koalitionsvereinbarungen ihren Niederschlag fand.

Zu Recht – denn Uploadfilter sind unverhältnismäßige Maßnahmen: Es handelt sich um den privatisierten Aufbau einer flächendeckenden, intransparenten Zensurinfrastruktur, der Grundrechte wie Meinungs- und Informationsfreiheit ebenso gefährdet wie rechtsstaatliche Prinzipien. Nach denen dürfen nämlich Meinungs- und Informationsfreiheiten nur auf Basis präziser Normen und einem demokratisch legitimierten Verfahren eingeschränkt werden, die Widerspruchsrechte und Kontrollmöglichkeiten des demokratischen Souveräns vorsehen – in jedem Einzelfall.

Außerdem sind vielfältige Fehler dieser Technologien bekannt, die nicht zuletzt die Netzkultur – Memes und Satire – elementar bedrohen. Kritiker befürchten zudem, dass die Verpflichtung auf Uploadfilter v.a. die Monopolstellung der großen Online-Plattformen verstärkt, denn die Entwicklungskosten für solche Filtersysteme sind so hoch, dass es unwahrscheinlich ist, dass nicht-kommerzielle Plattformen wie die Wikipedia sie tragen können – hier bliebe die Alternative, durch den Erwerb von Software-Lizenzen rechtskonform zu arbeiten. Folgerichtig lehnen Digitalpolitiker aller deutschen Fraktionen die Maßnahme ab und fordern das EU-Parlament auf, am kommenden Donnerstag, dem 05. Juli 2018 gegen die die Verpflichtung (Art. 13) zu stimmen – gegen das Votum des Rechtsausschusses, dass nur mit den Stimmen der konservativen und rechtspopulistischen Parteien zustande kam.

Warum das falsche Mittel der Uploadfilter auch bei Terrorbedrohung falsch bleibt

In diesem Kontext nun hat laut Insiderberichten das deutsche Innenministerium unter der noch anhaltenden, planlosen Führung von dem Horst Seehofer dafür gesorgt, dass die Upload-Filter also als Mittel gegen Hassinhalte und terroristische Inhalte ihren Weg in die EU-Gesetzgebung finden. Überraschend kommt das nicht: Wir haben bereits vor einem Monat den Wunschzettel von Horst Seehofer an die EU-Kommission veröffentlicht, wo dieser die Ausweitung von Uploadfiltern forderte.

Ist das nun Ignoranz gegenüber den technischen und gesellschaftlichen Bedenken, Unkenntnis oder ein strategischer Zug, die Koalitionsvereinbarungen auch in diesem Bereich in Frage zu stellen? Nun, die sahen die Ablehnung von Upload-Filtern nur im Kontext von Urheberrechten vor. Hier rächt es sich, dass die Digitalpolitiker in den Koalitionsverhandlungen nur diesen spezifischen Kontext im Blick hatten, aber nicht die Entwicklung, dass Uploadfilter auf vielen Feldern als Wundermittel angesehen werden. Aber stellen Hass und globale Hetze einen besseren Grund dar? Werden die technischen Bedenken ausgeräumt? Mitnichten.

Wie wir bereits berichteten, passieren auch den besten Plattformen viele grobe Fehler bei der automatisierten Content-Regulierung. Beispielsweise löschte Youtube im Kampf gegen terroristische Inhalte etwa die Dokumentationen der Kriegsverbrechen in Syrien, die Aktivisten sammelten, um zu einem späteren Zeitpunkt Beweismaterial für internationale Strafprozesse vorzuhalten. Völlig unklar ist allerdings momentan die Rolle Künstlicher Intelligenz bei der Angelegenheit: Mithilfe selbstlernender Algorithmen soll sie durch die Analyse großer Mengen an Daten dazu beitragen, neue Erkenntnisse zu generieren. Was ist das Ergebnis im Bereich von Netzinhalten?

Die Einordnung von Inhalten durch Algorithmen ist meist schwer nachvollziehbar. Etwa wenn 10.000 Kommentare als Hate Speech gekennzeichnet werden oder 10.000 Kommentare wie bei Jigsaw (Alphabet Inc.) in einer Toxizitätsskala danach verortet werden, wie hoch das Risiko ist, dass ein Teilnehmer die Debatte verlässt – und diese Kommentare einer Maschine zur Auswertung der zusammenhänge überlassen werden. Welche Zusammenhänge lernt die Maschine, wonach entscheidet sie was strafbar oder toxisch ist? Wahrscheinlich verschiebt sich der Fokus von der Idee hin zur Sprache, zum Ausdruck an sich. Möglicherweise kommen aber ganz andere Variablen ins Spiel – Variablen, über deren Angemessenheit Techniker und Geschäftsleute entscheiden anstelle von Richtern, Politikern oder Soziologen.

Alle großen Plattformen experimentieren derzeit mit Formen automatisierter Inhalte-Regulierung in verschiedenen thematischen und medialen Bereichen, die mitunter ganz neue Erkenntnisse über menschliche Debatten und Interventionsmöglichkeiten generieren dürfte. Aber wie gesagt: Zum gegenwärtigen Zeitpunkt ist all dies noch (hoch-)experimentell. So schätzte Facebook-Chef Mark Zuckerberg bei seinen Anhörungen zum Cambridge-Analytica-Skandal im US-Kongress gleichermaßen optimistisch wie unscharf, es dauere noch rund 5-10 Jahre, bis Facebook „Hassrede“ zuverlässig erkennen könne.

Wie kann es dann sinnvoll oder gerechtfertigt sein, Online-Plattformen zum jetzigen Zeitpunkt auf Upload-Filter samt Künstlicher Intelligenz zu drängen – wo doch noch gar nicht klar ist, was deren Ergebnis ist? Und wo es dafür keinerlei wirksamen demokratischen Kontrollmöglichkeiten gibt?

Weitersagen und Unterstützen. Danke!
9 Kommentare
  1. Man stelle sich ein KI vor, die Hasspostings erkennen soll und die man darauf trainiert hat, Postings wie von Julian Reichelt, Dobrindt und Konsorten durchzulassen. Dann braucht man sich nicht mehr fragen, warum unsere etablierten Parteien das unbedingt wollen.

  2. Was genau wollen Hr. Dobrindt & Hr. Söder? Nur die Innengrenzen schützen? Oder vielmehr den Abschuss von Frau Dr. Merkel?
    Frau Merkel hat in den letzten 14 Tagen unmenschliches geschafft, um Menschenleben zu retten. 28 Europäische Staaten stehen fest hinter ihr um zu helfen.
    doch diesen Egomanen aus Bayern reicht es immer noch nicht! es geht nicht um die Grenzen! Es ist vorgeschoben!
    Was wollen sie wirklich! Den Zerfall der Union! So kurzsichtige Politik können wir in Deutschland nicht gebrauchen!
    Und schon gar keine Personen, die nur an SICH! denken…

    1. Sie scheint wohl eher Bevollmächtigste von Herrn Soros zu sein…….viele EU Staaten haben Merkels Ausagen dementiert……es wird alles nach Deutschland durchmaschieren und das führt zu Destabilisierung….aber das begreifen liberale Gutmenschen nicht….vielleicht hat es die Sahra Wagenknecht verstanden.

  3. „28 Europäische Staaten stehen fest hinter ihr um zu helfen“

    Vielleicht informieren Sie sich nochmal, mit wem verhandelt wurde und wer welche Zusagen gemacht hat (Ergänzung: es zählt nicht, von wem Frau Merkmel BEHAUPTET hat, dass er eine Zusage gemacht hätte)

  4. An sich ist gegen das Unterdrücken von Hass- und Terrorismus-Blocks nichts einzuwenden – aber wo sind die Grenzen? Reicht es, die Frau Merkel eine dumme Kuh zu nennen (Was sie bestimmt nicht ist; das ist ja das Desaster: sie handelt wider besseres Wissen.) ?
    Wäre dieser Kommentar auch schon indizierbar?

    1. Na klar, „Desaster, Wissen, Handeln, Wider“ reicht schon, dann prüft ein Mitarbeiter einer ethnisch anderen Konfession (zumeist ein unparteiischer Inder) den Inhalt und gibt ihn frei, falls der/die Prüfende das Geschriebene nicht richtig einordnen kann, gibt er/sie es an einen Mitarbeiter/in weiter, der diese ethnischen Besonderheiten nichts fremdes sind!

  5. Die anfangs komplizierte Formel wird im Laufe einer salamitaktischen Zeitspanne auf das wesentliche verkürzt:

    1. Kritik an Politischen/sozialen Entscheidungen bzw. Meinungen = Hass
    2. Aufruf/Organisation zur einer Demonstration gegen entsprechende Missstände (siehe 1.) = terroristische Handlung/en

    Wird so kommen, dafür werden diese Gesetze erlassen!

  6. Hassposts sind per Definition Menschen mit anderen Meinungen die mir unangenehm sind. Derzeit auch bekannt als „Populismus“. Kein Wunder das alle Beifall klatschen und diesen „Hass“ entfernen wollen. Aber keiner davon denkt weiter als bis zur Nasenspitze. Ich sag nur Türkei… Oder was passiert wenn diese „Populisten“ ein solches System in die Finger bekommen? Dann klatscht hier niemand mehr Beifall.

    Was Hass und Hetze ist, haben Richter zu entscheiden (nicht Politiker, nicht Firmen, keine KI und besonders auch keine Journalisten) und dem Betroffenen muss die Möglichkeit zur Anfechtung geboten sein. Alles andere hat mit einer Demokratie nichts mehr zu tun.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.