Überwachung

Telegram kooperiert mit EU-Sicherheitsbehörden beim Löschen von Terror-Propaganda

Etwa 20 Unternehmen treffen sich im Rahmen des EU-Internet-Forum mit EU-Sicherheitsbehörden, um über freiwillige Maßnahmen zur Bekämpfung von Terror-Propaganda im Netz zu sprechen. 17 Unternehmen setzen dafür mittlerweile die von Seiten der EU geforderten Uploadfilter ein. Diese Privatisierung der Rechtsdurchsetzung leidet leider unter fehlenden demokratischen Kontrollmöglichkeiten.

Bei den kleineren Internetunternehmen werden nur 61% der gemeldeten Inhalte gelöscht. Der EU-Kommission ist das zu wenig. CC-BY 2.0 Delete

Am 3. Oktober veranstaltete die EU-Polizeiagentur Europol einen „Joint Referral Action Day” zur Entfernung von Internetinhalten. Das muss man sich wohl so vorstellen, dass die Ermittlungsbehörden sich mit einem oder mehreren Plattformbetreibern zusammensetzen und gemeinsam das Erkennen, Melden und Löschen von womöglich illegalen Inhalten üben. Also vergleichbar mit Aktionstagen, wo Auto- oder Fahrradfahrer schwerpunktmäßig überprüft werden.


netzpolitik.org - unabhängig & kritisch dank Euch.

In der dazugehörigen Pressemitteilung verkündete Europol, dass dieser Aktionstag dem Messenger Telegram gewidmet war und das Unternehmen diesen personell begleitet und gemeldete Inhalte gelöscht habe:

During the Referral Action Day, the specialised law enforcement units performed a qualitative assessment of several hundreds of pieces of suspected terrorist propaganda on Telegram services detecting patterns in how terrorist groups abuse the platform’s services. The findings were shared with Telegram, which attended part of the event, to allow them review the detected content disseminated online by terrorist groups. The final removal of the referred material is a voluntary activity by the concerned social media platforms, taking into consideration their own terms and conditions.

Übersetzung:

Die spezialisierten Strafverfolgungsbehörden gaben während des Referral Action Day eine qualitative Einschätzung mehrerer hundert Inhalte, die über Telegram verbreitet wurden und bei denen terroristische Propaganda vermutet wird. Daraus wurden Muster abgeleitet, wie terroristische Gruppen die Dienste der Plattform (für ihre Zwecke) missbrauchen. Die Ergebnisse wurden Telegram mitgeteilt, das ebenfalls an der Veranstaltung teilnahm, damit die gefundenen Inhalte, die von terroristischen Gruppen verbreitet wurden, überprüft werden können. Die endgültige Entfernung der übermittelten Inhalte geschieht auf freiwilliger Basis der sozialen Netzwerke und unter Berücksichtigung ihrer Allgemeinen Geschäftsbedingungen.

Der Bundestagsabgeordnete Andrej Hunko (Die Linke) hat diese Pressemitteilung zum Anlass genommen und in einer kleinen Anfrage die Bundesregierung nach Details zu Löschung von möglichen Terrorpropaganda-Inhalten bei Telegram gefragt und zugleich aktuelle Informationen rund um das EU-Internet-Forum erhalten.

Löschen auf Zuruf

Herausgekommen ist, dass Telegram auf Zuruf von Sicherheitsbehörden Inhalte entfernt – zumindest im Rahmen von Aktionstagen. Ob das Unternehmen jeden einzelnen Wunsch rechtlich prüft, ist ebenso nebulös wie die Frage, ob jeder dieser Inhalte auch tatsächlich strafrechtlich relevant – oder lediglich unerwünscht – war.

Deutschland hat insgesamt 108 Links gemeldet, davon 92 Links zu Videos von Al-Qaida und 14 Links zu Fotos von IS-Propagandamaterial sowie zwei Links zu einem PDF-Bericht von Al-Shabab.

Das Bundesinnenministerium hat aber leider keine Erkenntnisse, ob Telegram den Lösch-Anfragen nachkam.

Hunko fragte auch, ob die Sicherheitsbehörden mittlerweile einen Kontakt bei Telegram hätten. Das Unternehmen verschleiert seinen Firmensitz, unter anderem mit der Begründung, man wolle Regierungen keine offizielle Zustelladresse bieten. Dass dies möglicherweise nur vorgeschoben ist, zeigen nicht nur die Teilnahme von Telegram am „Joint Referral Action Day”, sondern auch Berichte in vielen repressiven Staaten wie dem Iran, wo Sicherheitsbehörden offensichtlich mit dem Unternehmen kooperieren, um gegen Dissidenten vorzugehen.

Die Bundesregierung kann aber leider nicht sagen, wie der Kontakt zustande kommt, denn die Informationen, wie man den bekommen hat, unterliegt der Geheimhaltung (kein Scherz):

Die Antwort zu Fragen 3, 3a und 3b würde spezifische Informationen zur Tätigkeit, insbesondere zur Methodik und den konkreten technischen Fähigkeiten der Sicherheitsbehörden einem nicht eingrenzbaren Personenkreis – auch außerhalb der Bundesrepublik Deutschland – zugänglich machen. Dies wäre für die wirksame Erfüllung der gesetzlichen Aufgaben der Sicherheitsbehörden und damit für die Interessen der Bundesrepublik Deutschland nachteilig. Die Bundesregierung ist nach sorgfältiger Abwägung zu der Auffassung gelangt, dass die Fragen aus Geheimhaltungsgründen nicht in dem für die Öffentlichkeit einsehbaren Teil beantwortet werden.

20 Unternehmen beim EU-Internet-Forum, 17 nutzen Uploadfilter

Neue Erkenntnisse gibt es zum EU-Internet-Forum, das wir detailliert seit Langem beobachten. Das „EU-Internetforum“ wurde im Jahr 2015 von der Europäischen Union gestartet und soll die Internetfirmen zu mehr freiwilliger Kooperation bei der Kontrolle „terroristischer und extremistischer Internetinhalte“ bewegen. Hierbei üben die Sicherheitsbehörden Druck auf die großen Plattformen aus, „freiwillig“ zu kooperieren, da alternativ Gesetze geschaffen würden. Diese Privatisierung der Rechtsdurchsetzung führt aber auch dazu, dass keine ausreichenden demokratischen Kontrollen eingebaut sind und Unternehmen auf Zuruf Inhalte entfernen, ohne dass ein Richter oder generell der Rechtsstaat involviert war.

Bisher waren nur die großen US-Plattformen Microsoft, Twitter, Google und Facebook neben ask.fm, justpaste.it, snap, WordPress und Yellow als Teilnehmer von Seiten der Unternehmen bekannt. Mittlerweile hat sich der Kreis der beteiligten Unternehmen auf „etwa 20“ ausgeweitet, wie das Bundesinnenministerium in der Antwort auf die kleine Anfrage mitteilt. Unklar ist, warum nur ein Teil davon explizit genannt wird und wer die restlichen sind:

„Am EU-Internet-Forum beteiligen sich derzeit etwa 20 Unternehmen, darunter Facebook, Twitter, Google/Youtube, Microsoft, Internet Archive, Justpaste.it, WordPress, snap, Soundcloud, Baaz, Dropbox, Mega, Userscloud und Telegram.“

Wir haben das Bundesinnenministerium sowie die EU-Kommission angefragt, uns die restlichen Unternehmen zu nennen, bisher aber keine Antwort bekommen.

Neu ist auch die Zahl, dass „derzeit etwa 17 Unternehmen Technologien einsetzen, um terroristische Inhalte auf ihren Plattformen zu vermeiden“. Vor einem halben Jahr waren es noch 13. Aber auch hier kennt man keine Details:

Um welche Unternehmen es sich handelt, und inwieweit es sich bei den eingesetzten Technologien um Uploadfilter handelt, ist der Bundesregierung nicht bekannt.

Andrej Hunko erklärte gegenüber netzpolitik.org:

„Das ist hochproblematisch, denn allen Löschaktionen, auch den „Aktionstagen“, gingen keine richterlichen Beschlüsse voraus. Es ist also völlig unklar, inwiefern die Inhalte überhaupt strafbar waren. Das bestätigt auch die Bundesregierung. Das wilde Großreinemachen im Internet bewegt sich also am Rande der Legalität. Die Kommission plant jetzt einen Gesetzesvorschlag, um die Internetfirmen zu noch mehr und schnellerem Löschungen zu zwingen. Wir lehnen das ab, denn die geforderten Uploadfilter für unerwünschtes Material stellen einen nie dagewesenen Eingriff in die Freiheit des Internet dar.“

EU-Kommission will Terror-Propaganda mit Upload-Filtern und automatischen Systemen bekämpfen

Das EU-Forum-Internet kann man übrigens als Übungsplatz für den aktuell diskutierten Gesetzesvorschlag der EU-Kommission zur Bekämpfung von Terrorpropaganda einordnen. Die EU-Kommission will damit die Ausbreitung von „terroristischen Inhalten“ im Internet mit Uploadfiltern, Künstlicher Intelligenz und privatisierter Rechtsdurchsetzung eindämmen. Eine „große Mehrheit“ der EU-Mitgliedstaaten unterstützt den Plan der EU-Kommission, Online-Dienste zu einer Vorab-Filterung aller angebotenen oder von Nutzern hochgeladenen Inhalte zu zwingen. Das geht aus einem aktuellen Ratspapier hervor, das wir vor drei Wochen veröffentlicht haben.

Bereits im Juni hatten wir über einen gemeinsamen Brief der Innenminister Deutschlands und Frankreichs, Horst Seehofer (CSU) und Gérard Collomb (PS, Sozialdemokraten) an die EU-Kommission berichtet, in dem diese eine gesetzliche Regelung und Reaktionszeiten von unter einer Stunde forderten. Eine solche Regelung ist jetzt auf dem Weg, die Bundesregierung aber wohl noch nicht ganz festgelegt.

Während die großen Plattformen bereits jetzt schon freiwillig und motiviert mit den Sicherheitsbehörden kooperieren, wird vor allem eine gesetzliche Regelung den Druck auf kleinere Plattformen verstärken, ebenfalls Uploadfilter einzubauen. Der im September präsentierte Gesetzesentwurf ist so formuliert, dass auch unsere Webseite darunterfallen und wir verpflichtet werden könnten, Uploadfilter einzubauen, wenn eine Sicherheitsbehörde dies für notwendig hält.

Die dafür notwendige Uploadilter-Datenbank wird von Sicherheitsbehörden gefüllt, es gibt keine demokratischen Kontrollen, dass diese nicht als Zensur-Datenbank missbraucht werden kann. Das ist vergleichbar mit Netzsperren, nur eben auf einem anderen Netzwerk-Level.

13 Kommentare
  1. Der Artikel lässt mich ratlos zurück. Wenn einige Unternehmen hier freiwillig tätig werden, warum wird dann Telegram in die Überschrift genommen?
    Und wie soll eine demokratische Kontrolle über eine freiwillige Maßnahme ausgeübt werden? Eine Rundfrage in der entsprechende Gruppe, wer zustimmt, das etwas gelöscht wird?

  2. Wie könnte denn eine „Zensur-Datenbank“ einer demokratischen Kontrolle unterliegen? Meinungsäußerungen sind nun mal nicht im demokratischen Sinne mehrheitsfähig. Sie können somit auch nicht demokratischer Kontrolle unterliegen.

    Eine rechtliche Kontrolle wäre möglich und ein Rechtsschutzsystem. Wenn die Upload-Datenbanken von Behörden „gefüllt“ werden, dann gibt es dagegen nach deutschen Recht auch Rechtsschutz. Denn alle Behörden bedürfen für ihr Eingriffshandeln einer Eingriffsermächtigung und deren Rechtmäßigkeit und rechtmäßige Anwendung unterliegt voller richterlicher Kontrolle – jedenfalls in Deutschland.

    Wenn dieser Upload-Filter auf EU-Recht beruht, dann wird sich noch zeigen müssen, inwieweit die EU rechtssaatlichen Grundsätzen folgt. Das tut sie oft nicht! (Z.B. Mit den „Handreichungen“ der ECHA, die sogenannte Nonpapers darstellen, aber sehr wohl belastende Wirkung haben können,)

  3. Wer definiert „Terror“ und andere Inhalte für den Filter, und wer überwacht diejenigen, die die Definition übernehmen?

    Ich bin mir unsicher, was mittelfristig (zwei Bildungsgenerationen) das kleinere Übel ist: ungefilterte Meinungsäußerung oder überwachte Meinungsäußerung.
    („Meinung“ ist hier ohne Wertung, ganz allgemein verwendet)

  4. Gibt es eigentlich irgendwelche Informationen wo Terror-Propaganda beginnt und aufhört?
    ISIS, Al Qaida und Al Shahab sind ja noch die eindeutigsten Terrororganisation wo nicht viel diskutiert werden muß, aber was ist zum Beispiel mit der PKK, deren Verbot auf EU-Ebene von ’14 bis ’17 für nichtig erklärt wurde vom EuGH? Oder Propagandamaterial von irgendwelchen längst entwaffneten und faktisch aufgelösten Organisationen wie der provisorischen IRA, den unionistischen Milizen wie der UVF oder der UDA, oder der baskischen ETA?
    Hat die Redaktion irgendwelche Informationen was bisher das Internet Archive in der ganze Geschichte gemacht hat?
    Das Zensieren von neuen Postings ist die eine Scheußlichkeit, das Löschen von Archivgut eine noch fast noch mehr Besorgniserregende.

    1. Wenn es Terroristen äußern, ist es Terror-Propaganda.

      Terroristen sind Leute die von Geheimdiensten ausgebildet und durch staatliche Mittel finanziert und bewaffnet werden, um temporär Gegenden zu destabilisieren oder politische Ziele (idR. fern der Heimat der Unterstützer) umzusetzen.

      Wenn sich Ziele ändern, die Terroristen an anderen Orten als ausgemacht agieren usw., dann werden die Terroristen als solche markiert und kommen auf die „Das sind Terroristen – knallt sie alle ab!“ Liste.

      Ihre Nachrichten selbst werden dadurch automatisch zu Terror-Propaganda.

  5. Das ist ein sehr schwieriges Thema:

    Die Begriffe „Terror“ und „Propaganda“ sind nicht definiert und ihre Inhaltsbestimmung wird wohl auch nur im Zusammenhang mit einer „polizeilichen Lage“ möglich sein und dann dazu führen, die Quelle der Terrorpropaganda zu sperren.

    Es geht dabei aber auch um ganz neue Formen der Kommunikation, die gar nicht mehr als Propaganda oder Aufruf zum Terror erkennbar sind. Statt mit Worten wird über Videos, Bilder und Musik suggestive Emotion vermitteln, wie Stolz, ein Wir-Gefühl, verbunden minder Darstellung von Machtstrukture. Unterschwellig werden dabei Feinbilder gegen Dritte aufgebaut, Begrifflichkeiten verfestigt – versteckt in moderner RAP-Musik – die auch versteckte Befehle beinhalten können, die Aussenstehende gar nicht also solche erkennen. Mit derartigen Methoden bauen kriminelle Clans erfolgreich ihre mafiösen Strukturen aus. Man könnte diese Art der Manipulation sogar als Kunstform missverstehen und sie gem. ART 5 III GG schützen wollen.

    Vor diesem Hintergrund finde ich es einen guten Ansatz, wenn sich private Plattformbetreiber (denen ja sowieso ein „Hausrecht“ zusteht) mit den Behörden abstimmen. Selbstverständlich müsste dieser Prozess irgendwie transparent gemacht wird.

    Der Gefahren für die freie Meinungsbildung bin ich mir bewusst. Neue Arten von Kriminalität brauchen auch neue Methoden, gegen sie vorzugehen. Ich fürchte, wir müssen neue freiheitsbeschränkende Massnahmen hinnehmen, können aber auf der Gegenseite diskutieren, wie diese wiederum angemessene Schranken finden.

    Was sonst tun, wenn die Freiheiten eines liberales Rechtssystem in zunehmenden Masse professionell genutzt werden, sich unrechtmässigen eigenen Vorteil zu verschaffen?

    1. wenn man sich den wiki Eintrag ansieht, dann kann Terror nur durch den Staat (Regierung) geschürt werden. Herrschen durch Angst und Schrecken.
      Zitat:
      In einem „Tugendstaat“ seien das Volk durch Vernunft zu leiten und die Feinde des Volkes durch „terreur“ zu beherrschen, so Robespierre am 5. Februar 1794 vor dem Konvent: „Terror ist nichts anderes als rasche, strenge und unbeugsame Gerechtigkeit. Er ist eine Offenbarung der Tugend. Der Terror ist nicht ein besonderes Prinzip der Demokratie, sondern er ergibt sich aus ihren Grundsätzen, welche dem Vaterland als dringendste Sorge am Herzen liegen müssen. (Ende)
      Was also die Moslems in den südlichen Ländern machen, ist nur, ihre Resourcen gegen den umsich greifenden Kapitalismus zu verteidigen und diesem im eigenen Reich empfindliche Nadelstiche zu verpassen. Auch der Glaubenskrieg zwischen Christen und Moslems wütet schon 1000ende Jahre.

    2. Bevor Du voreilig bereit bist, noch mehr „freiheitsbeschränkende Massnahmen“ hinnehmen zu wollen, sieh bitte noch mal kurz nach, was §106 StGB der DDR meinte und bewirkte oder wie heute in der Türkei mit „Terrorpropaganda“ umgegangen wird.

  6. Typisch für „das System“ ist es nicht über die Ursachen / die Verursacher von Terrorismus nachzudenken und hier etwas zu ändern sondern nach Wegen zu suchen, wie man den Widerstand gegen das System / seine Fehler / sein Fehlverhalten so schwierig wie möglich zu machen.

  7. Wir brauchen mehr dezentrale Netze über TOR oder I2P. Jeder kann dafür einfach eine non exit node daheim betreiben oder auf einem kostengünstigen Vserver. Hier ist jeder einzelne gefragt freie Infrastrukturen aufzubauen welche sich nicht so einfach zensieren lassen.

  8. Messenger?

    Ich ging immer davon aus, Telegram sei ein Messenger – wie erhalten die Behoerden ueberhaupt Kenntnis ueber derartige Inhalte bei Telegram?

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.