Öffentlichkeit

Internet-Filter für „radikalisierende“ Inhalte: Privatisierung von Rechtsdurchsetzung mit Uploadfiltern von Microsoft

Betreiber von Online-Plattformen sollen künftig selbstständig mittels Uploadfiltern gegen „terroristische Propaganda“ vorgehen. Das befördert die Privatisierung von Rechtsdurchsetzung – private Akteure sollen entscheiden, welche Inhalte zulässig sind oder nicht. Schon jetzt nutzt das BKA die Funktionen von Uploadfiltern in eigenen Tools.

Betreiber von Online-Plattformen sollen künftig selbstständig und aktiv gegen unliebsame Inhalte vorgehen. CC BY-NC-ND 2.0, via flickr/Lee Royal

Im Zuge der Terroranschläge der vergangenen Monate ist die Verbreitung von „extremistischen“ und „radikalisierenden“ Inhalten im Netz in den Fokus gerückt. So forderte Bundesinnenminister Thomas de Maizière letzte Woche Betreiber von Internetplattformen auf, mehr Verantwortung für terroristische Inhalte zu übernehmen und diese in Eigenregie zu löschen.

Wir finanzieren uns fast vollständig aus Spenden von Leserinnen und Lesern. Unterstütze unsere Arbeit mit einer Spende oder einem Dauerauftrag.

Mit Uploadfiltern gegen Terrorismus

Auch auf europäischer Ebene wird das Thema diskutiert. Das Europäische Parlament debattierte in den vergangenen Wochen über eine neue Terrorismus-Richtlinie, die für den Fall der Nichtlöschung von terroristischen Inhalten Netzsperren vorsieht. Die Mitgliedstaaten tauschen sich im nichtöffentlichen EU-Internet-Forum mit Betreibern von Internetplattformen wie Facebook, Google und Twitter über das „freiwillige“ Filtern des Netzes aus. Die Idee: die Betreiber sollen „rechtswidrige“ oder „problematische“ Inhalte von ihren Seiten möglichst schon beim Upload erkennen und löschen.

Die technischen Möglichkeiten für Uploadfilter gibt es seit mehreren Jahren. Das von Microsoft entwickelte PhotoDNA erstellt einen digitalen Fingerabdruck von einer Datei, einen sogenannten Hash. Anhand des Hashes kann die Software Audio- und Videodateien auch dann wiedererkennen, wenn diese verfremdet oder nachbearbeitet wurden. Im zweiten Schritt vergleicht PhotoDNA die Datei mit einer privaten oder behördlichen Datenbank. Ist die Datei dort bekannt, kann das Hochladen blockiert werden und die Ermittlungsbehörden erhalten eine Benachrichtigung.

Microsoft entwickelte PhotoDNA ursprünglich zur Bekämpfung von Kinderpornographie. Neben dem Software-Konzern setzten auch Facebook und Twitter PhotoDNA ein. Jetzt soll die Erkennung auch auf terroristische Propaganda ausgeweitet werden. Hier kommt das EU-Internet-Forum ins Spiel: Es soll die Einrichtung einer öffentlich-private Datenbank mit bereits gefundenen bzw. entfernten Inhalten koordinieren.

BKA nutzt PhotoDNA-Funktionen

Doch wie sieht es auf deutscher Ebene aus? Nutzen deutsche Sicherheitsbehörden PhotoDNA bei ihren Ermittlungen? Dazu hat die Bundestagsfraktion der Linken eine Kleine Anfrage gestellt.

Das Bundeskriminalamt (BKA) interessierte sich schon 2012 für PhotoDNA und beschaffte die Anwendung zu Testzwecken. Laut Antwort der Bundesregierung wurde PhotoDNA aber nicht vom BKA direkt eingesetzt, sondern es seien „lediglich einzelne Funktionalitäten zur Ähnlichkeitensuche von Bilddaten [aus dem Quellcode] entnommen“ worden. Soll heißen: Ja, das BKA nutzt die wichtigste Funktion von PhotoDNA – die Identifikation von ähnlichen Bildern -, aber nicht in ihrer ursprünglichen Form. Stattdessen hat das BKA die Hauptfunktion von PhotoDNA in ihre eigenen „forensischen Tools“ implementiert. Zur Erkennungsquote der Ähnlichkeitssuche könne die Bundesregierung keine Angaben machen, heißt es weiter in der Antwort. Laut den Entwicklern von PhotoDNA liegt sie bei 98 Prozent.

2015 berichtete der IT-Anwalt Udo Vetter von einem Fall, in dem amerikanische Behörden das BKA auf einen deutschen Nutzer der Microsoft-Cloud OneDrive aufmerksam machten, der ein kinderpornographisches Bild hochgeladen haben soll. Dieses wurde durch PhotoDNA erkannt. Jetzt schreibt die Bundesregierung, von keinen Fällen zu wissen, in denen Bundesbehörden Hinweise von ausländischen Behörden nach Treffern von PhotoDNA erhalten haben. Wie das mit dem von Vetter beschriebenen Fall zusammenpasst, ist unklar.

Das Ziel: Privatisierte Rechtsdurchsetzung

Auf EU-Ebene ist außerdem die Einrichtung einer gemeinsamen Meldestelle von Internetunternehmen und Europol geplant. Die Bundesregierung erklärt, dass sie keine Erkenntnisse darüber habe, ob dort PhotoDNA eingesetzt werden soll und gibt sich wortkarg. Es bleibt also weiterhin unklar, ob es zu einer automatisierten Erkennung von terroristischen Inhalten (mittels PhotoDNA) kommt und wo die für die automatisierte Erkennung benötigte Datenbank angesiedelt wird.

Fest steht: Nach dem CleanIT-Projekt arbeiten Brüssel und Berlin zum zweiten Mal an einer Privatisierung der Rechtsdurchsetzung. Statt die bestehende Praxis des Notice-and-Take-Down-Verfahrens zu stärken, sollen künftig private Akteure und Firmen entscheiden, welche Internetinhalte gelöscht werden.

Weitersagen und Unterstützen. Danke!
10 Kommentare
  1. Das ist eine wirklich gute Idee! Denn dann kann man bald auch alle anderen Arten der unerwünschten Meinungsäußerung unterdrücken, und wenn sich jemand darüber beschwert (falls das dann überhaupt noch möglich ist), dann war das eben nur ein Fehler eines Unternehmens, und die Demokratie des Staatswesens selbst steht nicht in Frage.

    Und wer seine Meinung trotzdem weiterhin ungefiltert verbreiten will, der hat ja immer auch andere Kanäle. Zum Beispiel kann er Flugblätter in der Fußgängerzone verteilen, usw.

      1. leider wird man im darknet nicht viele Menschen bzw. ohnehin schon gleichgesinnte erreichen.
        die breite masse, die relevant für unser demokratisches system ist, wird man so nicht erreichen. (filterbubble)

      2. Das Produkt „Sicherheit“ nimmt langsam Formen an … die Sicherheit vor dem Terrorismus, die der Staat aufgrund des Terrorismus bietet … die Sicherheit, die von Privatfirmen geboten wird!
        Beide verursachen Kosten, beide Kostenposten müssen bedient werden … was ist uns unsere Sicherheit wert?
        Wir geben dem Staat hat ja eigentlich für unsere Sicherheit zu sorgen … statt dessen kauft er sich „Berater“ aus der Privatwirtschaft ein … diese verkaufen dem Politiker Ideen, eine davon ist, das der Staat einen Haufen Geld einsparen könne, wenn dieser auf elektronische Überwachung/Prävention setzen würde!
        Die Einsparungen beim Polizeipersonal könnten langfristig die Kosten der Überwachung nicht nur decken, sondern überträfen langfristig auch die Investitionen!
        Wie das gehen soll?
        Wären doch nur die Bewegungen der Bürger, nur für den Staat versteht sich, permanent abrufbar, könnten Zusammenhänge mit Straftaten geknüpft werden, auch könnten Abweichungen von Bewegungsmustern als Alarmzeichen (z.B. bei Kindern) gewertet werden, so das es fast unmöglich gemacht würde z.B. Kinder zu entführen, außerdem wüsste man auch sofort, wer Zeuge bzw. Täter in einem solchen Fall sein könnte … oder sich auch der unterlassenen Hilfeleistung schuldig gemacht haben könnte!
        Perfekt, nicht?
        Wäre da nicht das Grundgesetz … leider!
        Was aber wenn die Polizei soweit abgebaut würde, das es bei Notfällen bzw. bei genehmigten Demonstrationen zahlenmäßig unterlegen ist?
        Guter Einwand, lieber Politiker!
        Sie haben da doch die Bundeswehr, nicht?
        Die sitzt doch zu 100000 in den Kasernen rum!
        Die kleine Grundgesetzänderung, sollte doch nicht so schwer sein, nicht?
        … und stellen sie sich mal vor, ihre Partei hätte genaue Bewegungsprofile ihrer Gegner!
        Was man damit alles machen könnte … das Fremdgehen, zur passenden Zeit, an die Presse lancieren z.B.!

        … schöne neue heile Welt!
        Keine Schimpftiraden mehr im Internet, von Siri, Cortana, Googeel … schon gefiltert!
        Ja, die Umgangssprache ist schwierig … und die Unternehmen bieten mit den Daten aus der Umgangssprache, für viel Geld, ihre Dienste an, die wir dann sicher auch bald beim Posten bezahlen dürfen … weil … auch verbale Sicherheit kostet schließlich Geld!

        1. Ja, die Mächtigen haben mächtig Angst um ihre Sicherheit. Allein was man alles Feines mit der VDS machen kann, kann man gerade jetzt schön in der Türkei sehen, tausende Richter, Staatsanwälte, Polizisten, eingesperrt, weil ihre Kinder die falschen Freunde hatten, weil sie in die falsche Moschee gegangen sind, der Partner den falschen Chef hatte, oder mit der Bundeswehr im Inneren, für Feinschmecker.

          Bundeswehr im Inneren, ganz saiba? Unsere Jungs, in schnieker Uniform jagen sie den Feind, bis sie ihn seiner gerechten Strafe zuführen, das hat was, fesch sinds fei scho.

          Die Polizeigewerkschaftsvertreter weisen ja ständig darauf hin, dass die deutsche Polizei blind, unfähig und überfordert ist, da ist es nur konsequent, sie durch das Militär zu ersetzen.

          Als es 2015 um die Wiedereinführung der Vorratsdatenspeicherung (VDS) ging hat man der Polizei vorgeschlagen, 10000 zusätzliche Polizisten einzustellen anstatt VDS zu machen, die Antwort der Polizeigewerkschaft: wir haben genügend Polizeibeamte, wir wollen VDS.

          Jetzt, wo die Politiker die selbst verursachte Situation nicht mehr unter Kontrolle bekommen wird der Ausbau der Polizei gefordert, die Polizisten sollen für die Politiker die Kohlen aus dem Feuer holen und dabei ihren Kopf hinhalten.

  2. Ich bin mir sicher Microsoft, Google und co. geht das am Arsch vorbei was wo als unerwünschter Inhalt gilt. Aber das Wissen darum Datenbanken zusammen zu tragern mit „DATEN-DNA“ ist ja eben nicht auf Bilddatein beschränkt, und wer was davon kosumirt ist dehren wahre Mutivation.

    Aber noch etwas Anderes: Wenn Inhalt A in Land A verboten ist aber in Land B legal. Leuft das dann ähnlich der GEMA? „Der Inhalt ist in deiner Region sowol als Up/Down nicht verfügbar?

    Und wo wüde dieser Filter eigentlich ansetzen direkt bei den beteiligten Diensten wie F-Book oder schon beim Internet Provider ?

      1. Der Filter ist definitiv in die DAU-Cloudfalle von Microsoft eingearbeitet. Ob lokal auch, wird schwierig zu beurteilen, da Microsoft seine heimlichen Telemetriedaten verschlüsselt.

        1. Hast du die Rechtschreibkorrektur im Browser an?
          Nun … diesen könnte man ja im ersten Schritt zu einem Formulierungscontentfilter erweitern und im zweiten staatlich zentralisieren!
          Weil, die verbal Terroristen, den Filter abschalten könnten!
          Klar, wenn das zentralisiert ist werden die staatlich finanzierten Terroristen weiterhin ihre Anschläge verüben dürfen, um der Politik die Begründungen an die Hand zu geben unsere Freiheit in Wort und Schrift weiter einzuschränken!
          … natürlich nur zu unserer Sicherheit!

    1. zusammen zu tragern
      Bilddatein
      wer was davon kosumirt ist dehren wahre Mutivation.
      Leuft das dann ähnlich der GEMA?
      sowol als Up/Down nicht verfügbar?
      Und wo wüde dieser Filter eigentlich ansetzen

      Der Filter würde direkt die größten Hohlköpfe wegfiltern.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.