„EU-Internetforum“: Viele Inhalte zu „Extremismus“ werden mit Künstlicher Intelligenz aufgespürt

Google, Facebook und Twitter setzen in zunehmendem Maße auf Künstliche Intelligenz zur Erkennung und Entfernung von Internetinhalten. Dies erklärten die Unternehmen auf dem „EU-Internetforum“, das gestern zum dritten Mal in Brüssel stattfand. Die meisten Inhalte werden demnach bereits gelöscht, bevor sie überhaupt online gehen. Darunter befinden sich viele Videos, die erstmals hochgeladen werden und weder bei den Firmen noch bei Polizeibehörden mit einer Aufforderung zur Löschung hinterlegt sind.

Das „EU-Internetforum“ wurde in 2015 von der Europäischen Union gestartet und soll die Internetfirmen zu mehr Kooperation bei der Kontrolle „terroristischer und extremistischer Internetinhalte“ bewegen. Außer der Einschränkung des Zugangs zu bestimmten Inhalten sucht das „EU-Internetforum“ PartnerInnen aus der Zivilgesellschaft, mit deren Hilfe das Internet mit „schlagkräftigen alternativen Diskursen“ gefüllt werden könnte.

Eingeladen waren die Polizeiagentur Europol, das EU-Aufklärungsnetzwerk gegen Radikalisierung, das Europäische Netzwerk für „strategische Kommunikation“ sowie der Ausschuss der Vereinten Nationen zur Bekämpfung des Terrorismus. Erstmals nahmen an dem Treffen die Anbieter Justpaste.it, Snap, WordPress und Yellow teil. Auch einige Mitgliedstaaten schickten VertreterInnen, aus Deutschland reiste beispielsweise der Staatssekretär Hans-Georg Engelke an.

Google, Facebook und Twitter gründen eigenes Anti-Terror-Forum

Die Mitarbeit der Unternehmen war im „EU-Internetforum“ zunächst freiwillig. Allerdings drängen immer mehr EU-Mitgliedstaaten auf kürzere Löschfristen anstößiger Inhalte und drohen mit hohen Strafen. In einem Interview mit der Berliner Morgenpost hat der britische EU-Sicherheitskommissar Julian King heute bekräftigt, dass „wenn sich die Dinge nicht schnell genug entwickeln“, der „europäische Gesetzgeber“ tätig werden müsse. Dann könnten beispielsweise kleinere Firmen zur Mitarbeit gezwungen werden.

Die großen Firmen zeigen sich derzeit äußerst kooperativ. Google, Facebook und Twitter haben mittlerweile selbst ein „Global Internet Forum to Counter Terrorism“ (GIFCT) gegründet, das erstmals auf dem jüngsten Treffen der G7-Innenminister in Erscheinung trat. Bei Facebook werden laut eigener Aussage mittlerweile 83 Prozent der als anstößig gemeldeten Postings innerhalb einer Stunde entfernt. Google will die Zahl seiner MitarbeiterInnen, die „gegen problematische Inhalte vorgehen“, in 2018 auf 10.000 erhöhen.

Uploadfilter ist voll funktionsfähig

Zur Vernetzung von Strafverfolgern und Internetfirmen hat Europol zudem das Portal „Shaping Internet Research Investigations Unified System“ (SIRIUS) gestartet. Es enthält unter anderem Angaben darüber, wo die Polizeibehörden bei den Internetfirmen eine Anfrage zur Entfernung von Inhalten stellen können und welche Regelungen dabei zu beachten sind. Manche Anbieter geben beispielsweise unbürokratisch Verkehrs- oder Nutzerdaten an die anfragenden Behörden heraus, andere verlangen dafür die Einhaltung der Verfahren zur internationalen Rechtshilfe.

Zwar existieren bereits Listen solcher Kontaktstellen, diese sollen jedoch nun bei Europol gebündelt werden. Zuständig ist dort die „Meldestelle für Internetinhalte“, die ebenfalls das Internet auf anstößige Inhalte durchsucht und deren Entfernung bei den Anbietern anregt. Fast alle dieser Ersuchen werden erfüllt.

Kern der Anstrengungen der großen Internetunternehmen ist ein Uploadfilter, der das erneute Hochladen bereits entfernter Inhalte automatisch verhindern soll. Laut Aussage der Firmen ist das System inzwischen voll funktionsfähig. Der Filter basiert auf einer Datenbank mit Hashwerten, in der einmal entfernte Postings zur Löschung bei einem erneuten Upload (auch bei anderen Plattformen) hinterlegt sind. Derzeit sind dort Hashes für 40.000 bekannte „terroristische Videos und Bilder“ gespeichert. Jetzt sollen sich weitere, kleinere Internetfirmen an dem Filtersystem beteiligen.

„Textbasiertes maschinelles Lernen“

Doch auch ohne den Uploadfilter werden viele inkriminierte Dateien bereits beim Hochladen erkannt. Der Europasprecher von Google, Matt Brittin, lobt die „Geschwindigkeit und Genauigkeit unserer Entfernungsvorgänge“. 98 Prozent der Videos, die YouTube wegen „gewalttätigem Extremismus“ entfernt, würden inzwischen von „Algorithmen für maschinelles Lernen“ gemeldet. Vor einigen Monaten habe diese Zahl noch bei 75 Prozent gelegen. Diese Woche hatte der Konzern mitgeteilt, dass die künstliche Intelligenz die Arbeitskraft von 180.000 menschlichen ModeratorInnen ersetze.

Bei Facebook würden laut der „Regelchefin“ Monika Bickert 99 Prozent aller mit ISIS und al-Qaida in Verbindung gebrachten terroristischen Inhalte entdeckt, bevor sie von Facebook-NutzerInnen gemeldet würden. In einigen Fällen würden sie sogar von der Software erkannt, bevor sie auf der Facebook-Website erscheinen. Genutzt würden automatische Systeme, darunter „textbasiertes maschinelles Lernen“ und ein Foto- und Videoabgleich.

Die Anzahl der entfernten Postings nennt Facebook nicht. YouTube hat nach eigenen Angaben seit Juni 2017 mehr als 150.000 Videos gelöscht. Betroffen sind auch komplette Nutzerkonten. Twitter berichtete auf dem „EU-Internetforum“, dass zwischen Januar und Juni 2017 300.000 Accounts gesperrt wurden. Drei Viertel davon wurden stillgelegt, bevor sie überhaupt einen Tweet abgesetzt haben.