Automatisiertes „Erkennen von Propaganda“: Meldestelle für Internetinhalte bei Europol soll weiter wachsen

Illustration des inzwischen beendeten EU-Forschungsprojekts „Gemeinschaftliche Information, Beschaffung, Verarbeitung, Verwertung und Meldung“ von Informationen aus Sozialen Medien".
Illustration des inzwischen beendeten EU-Forschungsprojekts „Gemeinschaftliche Information, Beschaffung, Verarbeitung, Verwertung und Meldung“ von Informationen aus Sozialen Medien“ (CAPER). – Alle Rechte vorbehalten AA+W / Fotolia

Die EU-Mitgliedstaaten sollen noch mehr Geld und Personal für die Entwicklung der Meldestelle für Internetinhalte („EU Internet Referral Unit“, EU-IRU) aufbringen. So schildert es der EU-Anti-Terror-Koordinator Gilles de Kerchove in einem Strategiepapier, das die britische Bürgerrechtsorganisation Statewatch heute veröffentlichte.

Die luxemburgische Ratspräsidentschaft wird aufgefordert, der Meldestelle einen Platz in der gegenwärtig diskutierten Neuauflage der Europol-Verordnung einzuräumen. Dies beträfe vor allem den Austausch von Personendaten „mit dem Privatsektor“. Schon jetzt ist Europol „Partnerschaften“ mit nicht näher genannten Internetunternehmen eingegangen. Die Polizeiagentur soll nun „technische Wege“ finden, diese Kooperation auszubauen.

Der Aufwuchs soll so schnell wie möglich stattfinden. Ab Januar 2016 ist dann die volle Einsatzbereitschaft geplant. Für den Anfang erhielt die Meldestelle ein Sonderbudget von 99.000 Euro. Laut Kerchove hinkt nun die Planung, weil das Europol-Budget für 2016 noch nicht beschlossen ist. Auch seien die kurzfristig aus den Mitgliedstaaten abgeordneten „Experten“ zunächst nur für das laufende Jahr zugesagt.

Aufforderung zur Löschung zu 90% erfolgreich

Die „Meldestelle“ verfolgt in ihrer Pilotphase zunächst zwei Ziele: Zum einen können die Polizeibehörden der Mitgliedstaaten (vor allem visuelle) Internetpostings melden, deren Entfernung Europol dann bei den großen Providern Twitter, Google Drive, Facebook und Youtube verlangt. Zum anderen führt Europol ein Register, mit dem jede einzelne Meldung abgeglichen wird. So können Polizeidienststellen erfahren, ob gegen bestimmte Webseiten bereits Maßnahmen ergriffen wurden oder ob der fragliche Content auch auf anderen Internetplattformen festgestellt wurde. Die Meldestelle benutzt dafür automatisierte Verfahren zur Bilderkennung, wie sie bislang zum Aufspüren von Kinderpornografie zum Einsatz kamen. Inhalte werden auch auf die Vertonung mit verschiedenen Sprachen gescannt.

Die bei der Polizeiagentur Europol geführte Abteilung ist gerade einmal drei Monate alt, auch ihre Gründung wurde erst im Frühjahr beschlossen. Zu den maßgeblichen Initiatoren gehören Großbritannien und die Niederlande, die selbst über ähnliche Einrichtungen verfügen. Derzeit arbeiten bei der Meldestelle neun Polizeiangehörige aus den Mitgliedstaaten. In den nächsten drei Monaten sollen drei weitere hinzukommen.

Seit dem 1. Juli hat die Meldestelle laut dem Kerchove-Papier bereits 500 inkriminierte Seiten an die Internetdienstleister gemeldet. In mehr als 90 % seien diese der Aufforderung zur Löschung des „markierten Inhalts“ nachgekommen. Die Meldestelle habe außerdem bei Ermittlungen zu „kürzlich erfolgten Terroranschlägen“ geholfen. Um welche es sich dabei handelte, erklärt Kerchove nicht.

Überwachung einer „Begünstigung illegaler Einwanderung“ bereits begonnen

Die Meldestelle für Internetinhalte gehört nicht zur Abteilung für Cyberkriminalität bei Europol, sondern ist der Abteilung zur Terrorismusbekämpfung untergeordnet. Erst kurz vor der Inbetriebnahme wurden aber Pläne bekannt, dass die Einrichtung auch zur Löschung von Inhalten genutzt werden soll, mit denen Netzwerke von FluchthelferInnen die Migration in die Europäische Union erleichtern.

Zunächst war von Postings die Rede, die Geflüchtete und MigrantInnen „anlocken“ würden („removal of internet content used by traffickers to attract migrants and refugees“). Im jetzt öffentlich gewordenen Papier des Anti-Terror-Koordinators wird der Begriff „Begünstigung illegaler Einwanderung“ genutzt.

Das Bundesinnenministerium hatte zuletzt im August erklärt, keine konkreten „Maßnahmen und Methoden“ zur „Ermittlung von Internetinhalten, mit denen Schlepper Migranten und Flüchtlinge anlocken“, zu kennen. Der Staatssekretärin Emily Haber war demnach lediglich bekannt, dass eine Erweiterung „auf den Bereich Schleusungskriminalität“ geplant sei. Das ist kaum glaubhaft, denn das Bundeskriminalamt (BKA) gehört zu den Gründungsmitgliedern der Meldestelle. Laut Kerchove werden dort schon jetzt rund um die Uhr („7/7“) entsprechende Soziale Netzwerke analysiert.

Vermutlich soll die EU-Grenzagentur Frontex eine wichtige Rolle in der Zusammenarbeit gegen „illegale Migration“ spielen. Kerchove dringt darauf, dass Europol und Frontex ein Abkommen zum Tausch von Personendaten schließen. Geplant ist aber auch, Staaten außerhalb der Europäischen Union anzubinden. Hierzu gehören die potentiellen EU-Beitrittskandidaten des Balkans. Demnächst soll Europol deshalb Workshops in den Ländern durchführen.

Welche „Internetauswertungsgruppen“ schließen sich in „Internetauswertungskoordinierungsgruppe“ zusammen?

Laut Kerchove nimmt die Meldestelle an drei Sicherheitsforschungsprojekten des EU-Programms „Horizon 2020“ teil. Diese sollten dazu dienen, die Auswertung offener Quellen und das „Erkennen von Propaganda“ („propaganda detection“) im Internet zu automatisieren. Um welche Projekte es sich dabei handelt, bleibt offen.

In einem der unveröffentlichten Europol-Aktionspläne für das Jahr 2015 ist die Einrichtung einer „Internetauswertungskoordinierungsgruppe“ angekündigt. Außerdem sind bei Europol „Maßnahmen gegen inkriminierte Kommunikationsplattformen“ vorgesehen. Beide Arbeitsgruppen werden vom BKA geleitet. Allerdings ist unbekannt, welche Verfahren erprobt, erforscht oder entwickelt werden. Auch ist nicht berichtet, inwiefern diese aus dem Programm „Horizon 2020“ finanziert werden.

Bereits beschrieben ist jedoch, dass das BKA an einem anderen EU-Projekt als Beobachter teilnahm, das die „Gemeinschaftliche Information, Beschaffung, Verarbeitung, Verwertung und Meldung“ von Informationen aus Sozialen Medien besorgte. Geforscht wurde an Methoden, Informationen von „Open Source Intelligence“ per Data Mining mit „Close Source Intelligence“ (etwa Informationen aus Polizeidatenbanken) abzugleichen.

Die EU-Abgeordnete Cornelia Ernst hatte sich vor fast drei Monaten erkundigt, welche „Internetauswertungsgruppen“ welcher Behörden aus Deutschland, Spanien, Norwegen, der Schweiz und von Europol an der „Internetauswertungskoordinierungsgruppe“ bei Europol beteiligt sind und welches Ziel überhaupt verfolgt wird. Nun hat die Kommission geantwortet und hält alle weiteren Details dazu geheim. Auch welche Polizeidienststellen an dem Projekt „Maßnahmen gegen inkriminierte Kommunikationsplattformen“ beteiligt sind, behält die Kommission für sich. Bekannt ist lediglich, dass außer dem BKA Behörden aus Griechenland, Spanien sowie Europol mitarbeiten.

13 Ergänzungen

  1. Automatische Erkennung unerwünschter Inhalte ist doch nur die Schaffung der Voraussetzung eben diese bei Bedarf jederzeit zensieren zu können, genau so wie dies in China bereits der Fall ist.

    1. Schnellmerker! Nein, ist nicht bös gemeint. Du sagst nur das Offensichtliche.

      Es ist genau das, was (nicht nur ich) von Anfang an gesagt habe: Wer der Regierung auch nur einen haarbreiten Spalt in die Regulierung des Internets öffnet, hat im nächsten Moment eine ausgehängte Tür.

      Und das ist eine Binsenweisheit, die man auch bei Netzpolitik.org bis heute nicht kapiert hat.

    2. Und jetzt schaut noch unter welcher Domain das SDN Projekt des Decix läuft, dann sollte klar sein, was läuft, Abhören as a service: h2020-endeavour.eu, da grüßt der Horizont 2020 gleich ganz vorne.

      Und irgendwo müssen sie die „propaganda detection“ ja anflanschen.

      Gehört wohl zum Forschungs-Sachgebiet „Sichere Gesellschaften“, Fördermittelumfang 1,695 Milliarden Euro. Wieviel „Sicherheit“ noch im Industrie- und MPI-Teil steckt, keine Ahnung.

  2. Eine tolle Vorbereitung. Jetzt müssen nur noch die „selektoren“ etwas erweitert werden, sagen wir z.B. Regierungsgegner, Demonstranden…. naja die Regierung wird das hinkriegen !

  3. Es sind immer die gleichen Typen. Haben immer nur auf Befehl gehandelt und konnten nicht anders. Dass es ihnen dabei auch immer spaß gemacht hat, wird dabei schön verschwiegen. Beliebtes Spiel dabei sich herauszureden ist der Befehlsnotstand. Deswegen bin ich auch fest davon überzeugt, dass Polizisten hier in Deutschland auf Demonstanten schießen, wenn der Befehl kommt.

    1. So leid es mir tut – auch mein schöner Sender, das ZDF, wird da wohl nicht so gut wegkommen.

      Ich entschuldige mich in aller Form bei denen, die wir per Gerichtsvollzieher zur Zahlung der GEZ-Gebühr zwingen mussten. Aber auch dieses lasche Dasein hier hat seinen Preis.
      Ukraine Berichterstattung im Sinne unserer amerikanischen Freunde – das geht mal nicht eben so… und wie Nachrichten solls ja auch wirken: also dann finden sie mal 5 Jahre alte Footage, peppen das Zeug auf und schicken es auf die Glotzen da draußen …

  4. das Melden von fremdenfeindlichen Kommentaren könnte dadurch verbessert werden.
    Allerdings werden viel Nazis im Netz straffrei davon kommen, weil die Provider die Verbindungsdaten nicht lange genug speichern. Eine Vorratsdatenspeicherung könnte das verhindern.

    1. Beim Löschen fremdenfeindlicher Kommentare fängt es an und wo hört es auf?
      Ich möchte keine Zensurwillkür. Nein, ich möchte gar keine Zensur.
      Ihre Sätze wirken wie direkt aus dem Argumentationskatalog des Innenministeriums entnommen.
      Sollte das also keine Satire sein, habe ich einen ziemlich starken Verdacht…

      1. Ohne konsensfähige Mindestregeln gibt es kein auskömmliches Miteinander aber auch keine intellektuelle Auseinandersetzung..

        Wer uneingeschränkte „Meinungsfreiheit“ fordert, der kennt nicht die Grenzen von Anstand, Moral und Gesetz oder möchte sie beseitigen. In Internet-Foren oder Kommentaren ohne jegliche Moderation bedeutet das in der Praxis, dass Beleidigungen, Hetze und kriminelles Verhalten schnell Raum nehmen.

        Jeder Betreiber, der anderen Gelegenheit zur Meinungsäußerung bietet, kann die Regeln selbst festlegen, innerhalb derer dies möglich ist. Netzpolitik.org hat ihre Regeln hier offengelegt:

        https://netzpolitik.org/faq-fragen-und-antworten/

    2. Fremdenfeindlichkeit ist nicht nur keine Schwerste Straftat, sondern überhaupt keine Straftat (ist übrigens weit verbreitet unter hier seit längerem integrierten ehem. Migranten). Aber das Beispiel zeigt sehr gut eine der großen Gefahren der VDS.

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.