„Crawlen, Überwachen und Sammeln“: EU forscht an Suchmaschine für kriminelle Internetinhalte

Im Sicherheitsforschungsprogramm „TENSOR“ entwickelt die Europäische Union die automatische Erkennung von kriminellen Inhalten im Internet. Die Technik soll im automatisierten Verfahren „Material zur Förderung terroristischer Gewalt und Radikalisierung“ aufspüren. Auf der Projektwebseite wird dies als „Crawlen, Überwachen und Sammeln“ bezeichnet. Die Software soll sich auch mehrsprachig in sozialen Medien bewegen und „dialoggestützte Bots“ mit Künstlicher Intelligenz nutzen. Gefundene kriminelle Inhalte werden anschließend kategorisiert und interpretiert, damit sie von Strafverfolgungsbehörden genutzt werden können. Die Software zur „Internetdurchdringung“ soll auch im Darknet ermitteln.

Das Projekt ist die technische Umsetzung der Forderung nach einer „Früherkennung terroristisch organisierter Aktivitäten, Radikalisierung und Rekrutierung“, wie sie der Rat der EU-Staaten vor zwei Jahren in Schlussfolgerungen und die EU-Kommission in einer Mitteilung gefordert hatten. Dort wird nicht nur die schnelle Entfernung „illegaler Online-Inhalte“ angemahnt, sondern auch deren „proaktive Erkennung“.

Beratung von der Hochschule der Polizei

„TENSOR“ wird von der Polizei aus Nordirland geleitet. Neben weiteren europäischen Polizeibehörden sind mehrere Rüstungskonzerne und Forschungsinstitute beteiligt. Deutsche Teilnehmer sind das Cybercrime Research Institute in Köln und die Hochschule für den öffentlichen Dienst in Bayern. Beraten werden die ForscherInnen von der Deutschen Hochschule der Polizei, den Vereinten Nationen und von Interpol. Die internationale Polizeiorganisation könnte die Ergebnisse von „TENSOR“ anschließend weltweit bekannt machen und Polizeibehörden in der Anwendung trainieren.

Im September hatte die Kommission ihren Vorschlag zur Verhinderung der Verbreitung terroristischer Online-Inhalte vorgelegt. Die darin geforderten Uploadfilter für „extremistisches“ oder „terroristisches“ Material sollen auf eine Datenbank zurückgreifen, die YouTube, Google, Twitter und Facebook gestartet haben. Dort werden keine ganzen Dateien gespeichert, sondern deren Hashwerte. Forschungen wie in „TENSOR“ gehen darüber hinaus und sollen bislang unbekannte Inhalte entdecken. Diese könnten dann ebenfalls in den Uploadfilter aufgenommen werden.

Die Hash-Datenbank der großen Internetfirmen wird auch von europäischen Polizeibehörden gefüttert. Die Polizeiagentur Europol betreibt dazu in Den Haag eine „Meldestelle“ für Internetinhalte, die selbst das Internet nach mutmaßlich kriminellen Inhalten durchsucht und anschließend Entfernungsanordnungen an die Firmen versendet. Dabei handelt es sich nicht um Inhalte oder Accounts, die von Gerichten oder Staatsanwaltschaften als strafbar eingestuft werden, sondern um Einschätzungen der Polizeibehörden.

Speicherung in Europol-Analysedatei

Bei Europol würde vermutlich auch die Suchmaschine aus „TENSOR“ eingerichtet. Damit sie für die Strafverfolgung nutzbar sind, müssen alle Inhalte, die Europol als kriminell erachtet, heruntergeladen werden. In Den Haag werden sie in der Europol-Analysedatei „Check the Web“ gespeichert, die aus einem Projekt des Bundeskriminalamts (BKA) hervorging.

Zur Verwaltung von Entfernungsanordnungen betreibt die „Meldestelle“ bei Europol eine „Internet Referral Management Application“ (IRMA). Die Datenbank soll Accounts oder Inhalte verwalten, die bereits zur Entfernung gemeldet wurden, sodass eine zweite Anordnung nicht mehr nötig ist. Manche Internetinhalte werden jedoch von Polizei oder Geheimdiensten beobachtet und sollen deshalb online bleiben. Auch diese im Widerspruch stehenden Ersuchen werden über IRMA moderiert. Im Rahmen eines Pilotprojekts wurden Frankreich, die Niederlande sowie Belgien an die IRMA angeschlossen, vor wenigen Wochen folgte das BKA.

Zur Erleichterung von Ermittlungen im Internet hat Europol das Portal SIRIUS online gestellt. Es enthält „Leitfäden, Tipps, Foren, Fragen & Antworten sowie Tools der Strafverfolgungsbehörden“. Dort erfahren ErmittlerInnen, über welche Kontaktstelle bei Internetfirmen die Entfernung von Inhalten beantragt werden kann. SIRIUS enthält auch Anleitungen über „Arten von Daten“, die im Rahmen von Ermittlungen als Beweismittel „direkt von den Diensteanbietern abgerufen werden können“. Zur Vereinfachung grenzüberschreitender Abfragen „elektronischer Beweismittel“ haben sich der Rat und das Europäische Parlament kürzlich auf eine gemeinsame Verordnung verständigt.

Mehr als „Clean IT“

Viele der Maßnahmen, mit denen jetzt das Internet kontrolliert und überwacht wird, basieren auf dem früheren EU-Forschungsprojekt „Clean IT“. Unter niederländischer Leitung sollte es die Erkennung und Entfernung von „gewalttätigen oder –befürwortenden Formen des Terrorismus und Extremismus“ verbessern. Die im Abschlussbericht vor sechs Jahren genannten Schlussfolgerungen und Empfehlungen sind weitgehend umgesetzt. So empfahl „Clean IT“ beispielsweise die Einrichtung von privaten und polizeilichen Meldestellen, ein System vertrauenswürdiger Hinweisgeber und einer gemeinsamen Datenbank für bekannte terroristische Inhalte. Die Installation von Uploadfiltern, wie sie die Kommission jetzt fordert, war in „Clean IT“ nicht vorgesehen. Die ForscherInnen rieten stattdessen zu nutzerbasierten Werkzeugen („end-user controlled filters“). Eine Entfernung von Inhalten sollte demnach stets auf dem Rechtsweg erfolgen. Heute entscheiden hierüber jedoch die Firmen.

Für die Forschungen in „TENSOR“ zahlt die Europäische Kommission rund 5 Millionen Euro, weitere 600.000 Euro finanzieren die Beteiligten. Das Projekt endet am 31. August, dann werden die Ergebnisse vorgestellt. Mit „DANTE“, „Asgard“ und „RED-ALERT“ werden weitere Zusatzfunktionen wie die Verfolgung von Finanzströmen oder die Spracherkennung beforscht. Denkbar wäre, diese Suchmaschinen auch mit Gesichtserkennung auszustatten. Mit einer solchen Anwendung sucht Interpol derzeit im Internet nach gerichtsverwertbaren Beweisen zu „ausländischen Kämpfern“. Laut einem Dokument, das die britische Bürgerrechtsorganisation Statewatch online gestellt hat, betreibt auch die Polizeiagentur Europol unter dem Namen „FACE“ ein solches Projekt.