Facebook, Twitter & Co: Upload-Filter gegen „Terrorismus und Extremismus“ gestartet

Eine gemeinsam von Facebook, Microsoft, Twitter und YouTube errichtete Datenbank hat ihren Betrieb aufgenommen. Der Prototyp soll dazu dienen, „terroristische und radikalisierende“ Inhalte automatisch zu erkennen und von den Plattformen zu entfernen.

- - in Öffentlichkeit - 25 Ergänzungen
Der erster Prototyp eines von großen IT-Konzernen betriebenen Upload-Filters ist an den Start gegangen.
CC0 1.0, via Unsplash/Siebe

Seit spätestens letzter Woche ist der Prototyp eines Mechanismus im Einsatz, der das Verbreiten von „gewalttätigen terroristischen Inhalten“ auf Plattformen wie Facebook oder Twitter verhindern soll. Das verlautbarte EU-Innenkommissar Dimitris Avramopoulos, der sich am vergangenen Freitag mit VertreterInnen von Facebook, Twitter und Youtube traf, um über „bisher erzielte Fortschritte bei der Entfernung terroristischer Inhalte“ zu reden.

Datenbank soll „terroristische Inhalte“ aussondern

Konkret geht es bei dem Prototypen um eine von Facebook, Youtube, Twitter und Microsoft gemeinsam betriebene Datenbank, in der „digitale Fingerabdrücke“ (Hashes) von „terroristisch“ oder „extremistisch“ markierten Inhalten landen. Derart gekennzeichnete Fotos oder Videos lassen sich anschließend nicht mehr auf die jeweiligen Plattformen hochladen. Insgesamt sollen die Upload-Filter dafür sorgen, dass unerwünschte Inhalte schneller erkannt und entfernt werden.

Die Firmen sind Teil des sogenannten EU Internet Forum, das zuletzt im vergangenen Dezember zum zweiten Mal zusammengekommen war. Mit dieser Initiative zur Terrorismusbekämpfung will die EU-Kommission die Internet-Unternehmen unter anderem dazu bringen, Inhalte auf ihren Plattformen stärker zu kontrollieren.

Direktzugriff auf Daten in der „Cloud“

Neben der Entfernung von Inhalten werden im EU Internet Forum weitere Maßnahmen im Bereich der Cybersicherheit und der Herausgabe elektronischer Beweismittel beraten. Die Innenministerien der EU-Mitgliedstaaten fordern, in Ermittlungen zukünftig vermehrt Direktanfragen bei den Firmen zu stellen und damit den mitunter langwierigen Weg der internationalen Rechtshilfe zu umgehen.

Dabei geht es vor allem um die Betreiber von Cloud-Diensten in den USA. Derzeit prüft die Kommission, ob die US-Firmen unter den Geltungsbereich der Europäischen Ermittlungsanordnung fallen könnten. Die entsprechende Richtlinie könnte dahingehend erweitert werden, dass auch Betreiber davon erfasst würden, die zwar in einem Drittstaat ansässig sind, ihre Dienste jedoch in der Europäischen Union anbieten.

EU-Anti-Terror-Koordinator bei Facebook, Twitter und Youtube

Seit der Gründung des EU Internet Forum im Dezember 2015 steht der Zugang von Ermittlungsbehörden zu verschlüsselter Telekommunikation auf der Agenda. Anfangs hatte sich die Europäische Kommission laut dem deutschen Bundesinnenministerium hierzu zurückgehalten. Beim Treffen letzte Woche wurde das Thema „Verschlüsselung“ laut einer Pressemitteilung der Kommission jedoch behandelt.

Mit von der Partie war der EU-Koordinator für die Terrorismusbekämpfung, Gilles de Kerchove, der seit zwei Jahren in mehreren Papieren auf die Mitarbeit der Firmen bei der Entschlüsselung drängt. De Kerchove gehört nicht zur Kommission, sondern zum Rat der Europäischen Union. Sein Posten wurde eingerichtet, um im halbjährlichen Rhythmus neue Handlungsbereiche zur Bekämpfung von Terrorismus und Extremismus vorzuschlagen.

„Positive Narrative“ werden höher gewichtet

Ebenfalls unter dem Dach des EU Internet Forum startet die Kommission gerade ein „Programm zur Stärkung der Zivilgesellschaft“ („EU Civil Society Empowerment Programme“). Es wird vom „Aufklärungsnetzwerk gegen Radikalisierung“ („Radical Awareness Network“) der Europäischen Kommission betreut, das als „Exzellenzzentrum“ vor einem Jahr seinen vollen Betrieb aufnahm.

In früheren Veröffentlichungen hatte die Kommission angekündigt, das Programm mit 10 Millionen Euro auszustatten. Damit sollen „die Zivilgesellschaft, Graswurzelgruppen und glaubhafte Stimmen“ unterstützt werden, das Internet mit „positiven Narrativen“ füllen. Besonderes Augenmerk liegt auf „Kapazitäten und/ oder Ressourcen“ zur Verbreitung entsprechender Botschaften. Die Teilnehmenden sollen hierzu zusammen mit Internet-Unternehmen Kampagnen entwickeln.

Weitere Inhalte des „Programms zur Stärkung der Zivilgesellschaft“ sind nicht bekannt. Eine entsprechende Webseite der Kommission ist derzeit nur über den Google Cache mittlerweile hier erreichbar. Dort war zu lesen, dass am Mittwoch eine Auftaktveranstaltung mit Internetfirmen und „Marketingexperten“ stattfinden soll. Anschließend würden Kampagnen gestartet, zu denen ebenfalls noch keine Details mitgeteilt werden. Letztes Jahr hatte es geheißen, dass Twitter im Gefolge von Anschlägen beispielsweise Tweets mit „Gegenerzählungen“ höher platzieren könnte, ohne hierfür die übliche Gebühr zu verlangen.

Weitere Artikel
Leuchtreklame in einer Straßenszene
Nutzerrechte

Digital Fairness Act: EU-Gesetz soll Internet verbraucherfreundlicher machen

Für Verbraucher:innen birgt das Netz einige Probleme: Dark Patterns manipulieren Entscheidungen, Apps sind suchterzeugend gestaltet, die Werbeindustrie sammelt extrem viele persönliche Daten. Die EU will mit einem Gesetz gegensteuern. Zivilgesellschaftliche Organisationen fordern, personalisierte Werbung komplett zu verbieten.

Lesen Sie diesen Artikel: EU-Gesetz soll Internet verbraucherfreundlicher machen
Mann mit schwarzer Kappe steht an Pult und reißt die Arme hoch
Öffentlichkeit

Elon Musk: Vom Twitter-Despoten zum Regierungsberater

Der Tech-Milliardär Musk bekommt einen Top-Posten als Berater des künftigen US-Präsidenten Donald Trump. Er soll etwas leiten, das Trump als „Department of Government Efficiency“ ankündigt und beim Streichen von Kosten und „überflüssigen Vorschriften“ beraten. Doch nicht nur der Name der neuen Abteilung lässt viele Fragen offen.

Lesen Sie diesen Artikel: Vom Twitter-Despoten zum Regierungsberater

25 Ergänzungen

  1. schöne Scheisse…….iss ja jegen Derorismos…….das iss ja jut…..oder gegen wen ist es gerichtet?

  2. Wie genau kommt ein Inhalt auf diese „Blacklist“? Gibt es dafür jeweils Abteilungen in den Firmen?

    PS: Oben steht erst „Facebook, Youtube, Twitter und Microsoft“ und dann „die drei Firmen“. Sind es jetzt vier oder drei?

    1. 3 Contentverteiler und 1 Softwareladen…
      Microsoft ist vermutlich für die Datenbank im Boot.

    2. Danke, ist korrigiert. (An der Datenbank arbeiten die vier erwähnten Firmen, in der Presseaussendung waren nur drei davon erwähnt).

      Die Plattformen entscheiden (weitgehend?) selbst, welche Inhalte in der Datenbank landen und ebenso, ob sie die Inhalte dann löschen. Als wir um Details gefragt haben, hieß es:

      Diese Intransparenz zeigt sich schon bei unseren konkreten Nachfragen zu der neuen Datenbank bei den jeweiligen Pressestellen. Keines der vier Unternehmen gab eine konkrete Antwort darauf, ob in Zukunft auch staatliche Institutionen die Zensurdatenbank füttern werden. Und das, obwohl es schon im April hieß, dass Europol an so einer Meldestelle Interesse habe und auf EU-Ebene mit dem „EU Internet“-Forum genau an solchen Kooperationen gearbeitet wird. Stattdessen gab es aus den Pressestellen Nicht-Antworten oder Hinweise auf die Allgemeinen Geschäftsbedingungen oder die ohnehin schon online stehende Pressemitteilung. Teilweise garniert mit der Ansage, dass man diese blutleeren Antworten nicht zitieren dürfe, da es sich um „Hintergrund“ handeln würde.

  3. Auch das ist sehr gut, damit wird das private Internet vielleicht wiederbelebt (Homepages). Die Zentralisierung durch IT-Konzerne ist mir seit Jahren suspekt.

  4. Erfahrungsgemäß legen die meisten privaten Homapagebetreiber sehr großen Wert auf Qualität und Inhalt. Klasse statt Masse halt. Zudem arbeiten da noch normale Menschen an den Inhalten mit denen man auch normal kommunizieren kann. ?

  5. Und wenn ich mal so überlege wie viel Ressourcen ich benötige um den unnötigen Müll zu killen den diese Dummköpfe so produzieren. Werbe- und Inhaltsfilter u.s.w. Puhh

  6. Das muss hier eine Fake-News sein. Denn im Prozeß des Syrers Anas M. gegen Facebook wg. des Selfies war ja wohl ein wesentliches Argument, dass FB nicht präventiv solche Fotos heraussuchen könne. Und ich kann mir natürlich nicht vorstellen, dass FB vor Gericht wahrheitswidrigen Sachvortrag macht.

  7. Wir haben also eine EU-gefoerderte Vorzensurinfrastruktur und eine EU-gefoerdete Propaganda-Wirtschaft, beides intransparent im Privaten organisiert?

    Aber alles kein Problem, Martin Schulz hat ja die digitalcharta, das muss also alles ein Missverstaendnis sein %-)

  8. Wie kann geprüft werden, ob es sich um eine ähnliche Nachricht handelt? Der hash ist doch bei der geringsten Veränderung komplett anders, oder?

    1. Ich gehe mal davon aus, dass das was hier berichtet wird (und was FB angeblich zu leisten nicht im Stande ist – siehe meinen Kommentar etwas weiter oben) sich „nur“ bezieht auf Fotos und Videos.

  9. Hat schon jemand versucht, Karl Marx hochzuladen?
    Der kann ja erwiesenermaßen radikalisierend wirken.

    Oder Ghandi.
    Oder Frauenwahlrechtler.
    Martin Luther King!
    Von den Beatles ganz zu schweigen, diesem Untergang des Abendlandes und der Menschlichkeit!

  10. Ah,verstehe…radikalisierende,sprich…regierungskritische Kommentare.
    Wohlfühldiktaturen im Anmarsch.Jeder soll sich gezwungenermaßen wohlfühlen und auch so tun,und wehe wenn nicht.
    Regierungen,Multi-Nationale Unternehmen und zunehmend auch kleineres Geschmeiß machen uns allen überall auf der Welt immer mehr zu schaffen.
    Mir kam auch sogleich das eine Gesetz wieder in Erinnerung,wo man bereits Jugendliche als potenzielle Gefährder betrachtet.Diese widerlichen Kreaturen sichern sich echt an jeder Front gegen einen möglichen Aufstand ab.Alles und jeden kriminalisieren und ersticken und wenn einer DANN den Mund aufmacht ist er gleich Geschichte.
    Das Finale Schlachtfelt ist jedoch unser Verstand.Die verlegen geschickt schalter.Passt bloß auf das auf was man euch erzählt und was ihr glaubt,hinterfragt jeden Mist,sonst wird das für uns böse enden.

  11. Ganz ehrlich .. die Firmen wollen auf Hashwerte prüfen ? :D Das wird ja bestimmt technisch total erfolgreich. Dann gibt es halt Tools die einen Pixel im Bild oder Video ändern und schon hat sich das mit dem Uploadfilter wieder. Im vergleich zu den kosten dürfte der Effekt ja gegen 0 laufen. Aber vielleicht hilft es ja die dööfsten Nutzer zu Filtern.

    1. Das sind zwar Hashes, aber die werden nicht arithmetisch ermittelt, sondern geometrisch (oder so), so dass ein geändertes Pixel oder eine andere Auflösung den Hash nicht ändern.

    2. Es gibt mittlerweile effiziente Verfahren um sogenannte „near duplicates“ zu erkennen; d.h. auch Bilder zu identifizieren die sich nur leicht unterscheiden oder das gleiche Objekt aus verschiedenen Blickwinkel abbilden.

      Literatur-Beispiel: Paper „Near Duplicate Image Detection:
      min-Hash and tf-idf Weighting“ https://www.robots.ox.ac.uk/~vgg/publications/papers/chum08a.pdf

      Bild-Beispiele gibt es auf Seite 9.

  12. 1. Bild von Mutti raussuchen das man loswerden will.
    2. Hash ermitteln.
    3. anstössiges Bild mit selben Hash erstellen.
    4. Bild hochladen und melden.
    5. Nie wieder Raute ertragen.

    Wäre das tech. möglich?

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.