Überwachung

88.000 Dateien im Uploadfilter zur „Bekämpfung von Radikalisierung“

13 Internetfirmen betreiben eine Datenbank mit Videos und Bildern, deren Upload verhindert werden soll. Die Informationen zu den Dateien stammen von Polizeibehörden. Viele Firmen reagieren prompt auf Meldungen zur Löschung, trotzdem droht die Kommission mit gesetzlicher Regulierung. „Illegale“ Inhalte sollen zukünftig „vorausschauend“ erkannt und entfernt werden.

Bei den kleineren Internetunternehmen werden nur 61% der gemeldeten Inhalte gelöscht. Der EU-Kommission ist das zu wenig. CC-BY 2.0 Delete

Ein Uploadfilter gegen die „Verbreitung von terroristischen Inhalten“ enthält derzeit 80.000 Bild- und 8.000 Videodateien. So steht es im aktuellen „Fortschrittsbericht auf dem Weg zu einer wirksamen und echten Sicherheitsunion“, den die Europäische Kommission mittlerweile regelmäßig herausgibt. Die zu entfernenden Inhalte befinden sich in einer Datenbank mit Hashwerten, die von derzeit 13 Internetfirmen, darunter Facebook, Google und Youtube, betrieben wird. Die Zahl der dort gespeicherten Inhalte hat sich in einem halben Jahr mehr als verdoppelt.


Netzpolitik.org ist unabhängig, werbefrei und fast vollständig durch unsere Leserinnen und Leser finanziert.

Kleinere Firmen löschen nicht gern

Die Entfernung von Internetinhalten firmiert auf EU-Ebene als „Bekämpfung von Radikalisierung“. Alle Internetfirmen, die in der Europäischen Union Dienste anbieten, sind zur Befolgung entsprechender Maßnahmen aufgerufen. Die Firmen sollen der Kommission und Europol über die Wirksamkeit des Uploadfilters regelmäßig Bericht erstatten und hierfür Indikatoren nutzen, die im Rahmen des „EU-Internetforums“ vereinbart wurden. Die geforderte Transparenz zu den Zensurmaßnahmen funktioniert jedoch laut dem „Fortschrittsbericht“ nur mittelmäßig.

Die bei den Firmen geführte Datenbank mit Hashwerten speist sich unter anderem aus polizeilichen Meldungen aus den Mitgliedstaaten. Die meisten Ersuchen zur Löschung stammen jedoch von der Europol-Meldestelle für Internetinhalte, die selbst aktiv im Internet nach strafbaren oder extremistischen Inhalten sucht. Innerhalb von zwei Jahren nach ihrer Gründung im Jahr 2016 hatte die Meldestelle rund 41.000 „terroristische“ oder „extremistische“ Inhalte an insgesamt 80 Internetplattformen zur Entfernung gemeldet. Im ersten Quartal 2018 kamen allein 5.708 Meldungen „an eine größere Anzahl kleinerer, weniger bekannter Unternehmen“ hinzu.

Kriterien sind unbekannt

Die Meldestelle für Internetinhalte widmet sich inzwischen auch der Verfolgung irregulärer Migration. Der Kommission zufolge wird der Uploadfilter jedoch nur gegen islamistischen Terrorismus und Extremismus genutzt. Rund 90% der an die großen Internetunternehmen gemeldeten Inhalte werden tatsächlich gelöscht. Bei den kleineren Firmen führen nur 61 % der weitergeleiteten Meldungen zur Entfernung. Bislang ist unbekannt, nach welchen Kriterien Dateien eingestuft und entfernt werden. Trotzdem wird der Filter laut der Kommission „sowohl hinsichtlich der Mitglieder als auch hinsichtlich der Menge der in der Datenbank erfassten terroristischen Inhalte weiter ausgebaut“.

Zu den Defiziten zählt der aktuelle „Fortschrittsbericht“ die oft mangelnde Rückmeldung auf die eingegangenen Meldungen zur Löschung. Lediglich ein (nicht genanntes) Unternehmen liefert „vollständige Informationen über Empfang, Zeitpunkt und Maßnahmen“. Für die eingehenden Meldungen zu „terrorismusbezogenen“ Inhalten betreibt die Europol-Meldestelle eine „Internet Referral Management Application“ (IRMA). Dort ist vermerkt, welche Dateien bereits bekannt sind, an die Firmen zur Entfernung gemeldet und schließlich gelöscht wurden. Laut der Kommission beteiligen sich außer Europol lediglich drei Mitgliedstaaten an der Plattform.

Reaktionszeit soll auf eine Stunde verkürzt werden

Unterschiede existieren auch in der Reaktionsgeschwindigkeit der Unternehmen, die laut der Kommission „von unter einer Stunde bis zu Tagen“ reichen. Die Firmen werden deshalb aufgerufen, die Reaktionszeit auf eine Stunde zu verkürzen. Die Kommission hat hierzu im März eine „Empfehlung“ vorgelegt und droht regelmäßig mit einem verbindlichen Gesetzesvorschlag. In einer Folgenabschätzung soll jetzt geklärt werden, welche zusätzlichen Maßnahmen „erforderlich sind, um illegale Online-Inhalte rasch und vorausschauend zu erkennen und zu entfernen“.

In keinem der „Fortschrittsberichte“ hat die Kommission je erklärt, was sie unter „vorausschauend“ versteht. Vermutlich sind Algorithmen gemeint, die mithilfe künstlicher Intelligenz nach mutmaßlich extremistischen oder terroristischen Inhalten suchen. Dem Bericht zufolge ergreifen immer mehr Unternehmen solche „vorausschauenden Maßnahmen“, um entsprechende Bilder oder Videos zu identifizieren. Eine „größere Menge solcher Inhalte“ wird demnach auch entfernt. Firmen, die „automatisierte Werkzeuge“ zum Durchsuchen bereits online verfügbarer Inhalte entwickelt haben, konnten laut der Kommission die Geschwindigkeit der Identifizierung und Löschung deutlich erhöhen.

Weitersagen und Unterstützen. Danke!
7 Kommentare
  1. Es sieht nicht gut aus. Die Zeichen stehen wieder auf Rückschritt.
    Zurück zu Zensur und Bevormundung.
    Die ACLU, us-amerik. Bürgerrechtsvereinigung, die bisher demonstrativ die unbeschränkte Meinungsfreiheit immer verteidigt hat, will neuerdings auch zurück zur Zensur. Irgendwas mit hate-speech und mimimi.
    Die meisten scheinen sich am wohlsten in geistiger bevormundeter und eingezäunter Embryonalstellung wohlzufühlen und die Massenmedien bestärken das bevorzugt. Zu echten langen und auch harten Diskussionen hat keiner mehr Lust. Ein falsches Wort in der Kuschelzone und sie rufen laut nach Mami, Staat und den tatütata.
    Statt zu ignorieren oder zurückzufeuern ein Geheule nach Zensur.
    Krasse Problemthemen ausserhalb des medialen Hauptstroms scheinen nicht mehr zu interessieren.
    Das finde ich inzwischen richtig heftig lächerlich, und trotzdem scheint das Usus.

    1. Der Hass, den grosse deutsche Medien, wie z.B. Bildzeitung und Spiegel verbreiten, wird sicherlich nicht betroffen sein. Insbesondere, wenn ein ausersehener aeusserer Feind der Addressat ist. Und die ÖR-Sender sind sowieso ueber jeden Zweifel erhaben.

      Informationen aus erster Hand aus Laendern, deren Wirtschaft und Politik durch das euro-amerikanische Grosskapital gekapert wurden, werden es bald nicht mehr nach Europa schaffen.

      Stellt Euch vor, in Afrika verrecken 10.000.000 Menschen und hier bekommt man davon nullkomma gar nix mehr mit. Der maximal diffuse Informationsnebel, laesst jetzt schon kaum erkennen, was anderswo wirklich passiert. Wenn erstmal maechtige KI ihr schmutziges Handwerk perfektioniert haben, werden wir komplett in der Traumwelt aus Einfamilienhaus, sexy Hoeschen und heissen Schlitten versinken.

  2. Der Hass, den grosse deutsche Medien, wie z.B. Bildzeitung und Spiegel verbreiten, wird sicherlich nicht betroffen sein. Insbesondere, wenn ein ausersehener aeusserer Feind der Addressat ist. Und die ÖR-Sender sind sowieso ueber jeden Zweifel erhaben.

    Informationen aus erster Hand aus Laendern, deren Wirtschaft und Politik durch das euro-amerikanische Grosskapital gekapert wurden, werden es bald nicht mehr nach Europa schaffen.

    Stellt Euch vor, in Afrika verrecken 10.000.000 Menschen und hier bekommt man davon nullkomma gar nix mehr mit. Der maximal diffuse Informationsnebel, laesst jetzt schon kaum erkennen, was anderswo wirklich passiert. Wenn erstmal maechtige KI ihr schmutziges Handwerk perfektioniert haben, werden wir komplett in der Traumwelt aus Einfamilienhaus, sexy Hoeschen und heissen Schlitten versinken.

  3. Kann man den Inhalt dieser Datenbanken erweitern? Werde ich Verstöße melden können? So als Gedankenbeispiel: Politiker benutzen gerne Phrasen und so kann ich eine Rede von Bundeskanzlerin Angela Merkel sperren, weil Teile der Rede aus dem Munde der Umweltministerin Dr. Merkel stammen.
    „Not Heidis Girl: Wie Youtube eine Kampagne gegen Sexismus ausbremste“ wurde hier bereits thematisiert, aber ich würde einen Schritt weitergehen.

  4. Ein Beispiel aus der Praxis, wie solche Anfragen ablaufen:

    Institutionen wie die britische Counter-Terrorism Internet Referral Unit (eine öffentlich-private Partnerschaft aus Cops und Wirtschaft) verschicken Mails, dass sie gegen „terroristische“ Inhalte vorgehen, die oft unter ein britisches Gesetz fallen. Provider, bei denen Inhalte gefunden werden, sollen diese runter nehmen, auf Basis ihrer AGB.

    Das war’s. Kein „das ist illegal“. Kein „das ist illegal in Deutschland“. Kein „nehmt es runter, SONST…“. Nur: „Bitte nehmt das runter.“

    (Auf Basis solcher Massenmails wurde übrigens auch schon der CCC gesperrt.)

    Ich hoffe, Europol prüft das gewissenhafter und auch auf konkrete Strafbarkeit im Einzelfall im Hosting-Land.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.