Christchurch: Es gibt keine technische Lösung für rechten Terrorismus

Mindestens 50 Menschen sind tot, erschossen von einem rechtsextremen Täter im neuseeländischen Christchurch. Es war ein gut geplanter Angriff auf Muslime, die sich in zwei Moscheen zum Freitagsgebet versammelt hatten. Viele Details sind immer noch unbekannt, die neuseeländische Polizei spricht von mehreren Festnahmen. Der mutmaßliche Täter, ein 28-jähriger Australier, kündigte die Tat in einer der toxischen Ecken des Internets an, postete ein „Manifest“ auf mehreren Plattformen und streamte den Anschlag live auf Facebook.

Der Fall scheint wie gemacht, um die Verordnung „zur Verhinderung der Verbreitung terroristischer Online-Inhalte“, die derzeit im EU-Parlament liegt, ohne weitere Debatte durchzuwinken. Sie schlägt eine einfache Lösung vor: Innerhalb einer Stunde sollen alle in Europa tätigen Anbieter auf eine Entfernungsanordnung reagieren, die ihnen stetig das Internet abgrasende Behörden schicken würden, und mutmaßlich terroristische Inhalte entfernen oder sperren. Das könnten eben solche Livestreams auf Facebook oder Youtube sein oder auch PDF-Dokumente, in denen Täter zum Genozid aufrufen.

Einmal als terroristisch eingestuft, sollen zudem „proaktive Maßnahmen“ – also Uploadfilter – dafür sorgen, dass diese Inhalte nicht mehr hochgeladen werden können. Mehr noch, die Hostingdiensteanbieter sollen automatisierte Werkzeuge einsetzen – also auf Algorithmen gestützte Künstliche Intelligenz –, um schon im Vorfeld „terroristische Inhalte zu erkennen, zu ermitteln und unverzüglich zu entfernen oder zu sperren“, wie es im Gesetzesvorschlag heißt. Der Traum ist also, dass die Filter schon während des Attentats den Livestream als Terror erkennen und eine weitere Ausstrahlung verhindern.

Autoritäres Gedankengut weit verbreitet

Zwischen 200 und 400 Plattformen im Internet, sagt die EU-Kommission, hosten derzeit Inhalte, die zu terroristischer Radikalisierung führen könnten. Im Blick hat sie vor allem islamistische Propaganda, das macht die Entstehungsgeschichte des Gesetzes deutlich. Aber die letzte Zeit gehäuft zeigt, beschränkt sich Radikalisierung eben nicht auf junge Männer, die in den Gotteskrieg nach Syrien ziehen. Rechtsextreme Gewalt ist auch hierzulande ein anhaltendes Problem.

Es stimmt, dass dem Internet dabei eine tragende Rolle zukommt. Mit seinen Echokammern, in denen sich ehemals versprengte Extremisten versammeln und die Stimmung immer weiter anheizen. Mit den Algorithmen sozialer Medien, die besonders polarisierende Inhalte nach oben spülen, weil sich damit gutes Geld verdienen lässt. Und generell mit der Tatsache, dass sich die Verheißungen des Internets im Handumdrehen in einen Albtraum verwandeln lassen. Wenn wir alle Sender und nicht mehr nur Empfänger sind, dann gilt das erst recht für jene, die mediale und öffentliche Aufmerksamkeit brauchen wie die Luft zum Atmen.

Man kennt sich, man vernetzt sich

Aber beginnen wir beim übel riechenden Kopf. Autoritäres, rassistisches und frauenfeindliches Gedankengut, eng miteinander verknüpft, durchzieht zunehmend die gesamte westliche Hemisphäre, vom Brexit zum US-Präsidenten Donald Trump und seinen offen demokratiefeindlichen, republikanischen Parteikollegen im Kongress und den Bundesstaaten. Vom illiberalen Ungarn Viktor Orbán, dessen Fidesz-Partei weiterhin in der größten Fraktion des EU-Parlaments, der Europäischen Volkspartei (EVP), geduldet wird bis zu den Rechtsradikalen, die hierzulande das erste Mal nach 1945 den Sprung in den Bundestag geschafft haben.

Man kennt sich, man vernetzt sich, die Ziele sind die gleichen. Fotos aus dem Trump-Tower zeigen einen grinsenden Nigel Farage in Post-Brexit-Stimmung, die Französin Marine Le Pen beim Kaffeekränzchen, während der österreichische FPÖ-Chef Heinz-Christian Strache stolz auf Facebook verkündete, sich dort mit dem ehemaligen Sicherheitsberater von Donald Trump, Michael Flynn, getroffen zu haben.

Auf Twitter wiederum posierte im Herbst 2016 die ehemalige AfD-Sprecherin Frauke Petry mit dem anti-muslimischen Hetzer Geert Wilders aus den Niederlanden und dem rechtsextremen US-Repräsentanten Steve King. Der republikanische Abgeordnete aus Iowa wünschte der Deutschen eine erfolgreiche Bundestagswahl und fügte hinzu: „Kultureller Selbstmord durch demographischen Wandel muss enden“.

Zur Gewalt ist es nicht weit

Das sind unmissverständliche Signale an Neo-Faschisten, weiße Suprematisten und Nationalisten, die hier auf fruchtbaren Boden fallen. Sie alle sprechen die gleiche Sprache und sind sich einig: Die „weiße Rasse“ ist vom Aussterben bedroht. Schuld daran sind die „Fremden“, die „Ausländer“, die „Muslime“, die „Juden“. Von der Verschiebung des Sagbaren zur rechtsextremen Gewalt ist es dann oft nur ein kleiner Schritt.

Diesen hat der Attentäter von Christchurch genommen. Aber nicht, ohne zuvor eine säuberlich ausgelegte Spur im Netz zu hinterlassen, die auf die Maximierung von Aufmerksamkeit optimiert ist. Er bedient einfach eine bestimmte Internet-Subkultur, die ihre vorgefertigten Muster, ihre eigenen Codes und Sprache hat. Den Rest erledigt das System: Aus den obskuren Experimentierstuben des Internets finden toxische Inhalte ihren Weg auf die großen Mainstream-Plattformen, wo sie, von Algorithmen verstärkt, ein viel breiteres und mitunter argloses Publikum vorfinden.

Im politischen Teil des Internet-Forums 8chan hatte der Attentäter sein Vorhaben verkündet. „So Leute, es ist Zeit, mit Shitposten aufzuhören und sich im Real Life einzusetzen“, schrieb er im typischen Forum-Slang. Einen Angriff werde er ausführen gegen die „Invasoren“ und sie live via Facebook streamen. Sofort jubelten ihm hunderte zu.

Das gehört zum Ritual: Regelmäßig kündigen anonyme Nutzer auf einschlägigen Foren ihren Selbstmord oder einen Amoklauf an. Ironischer Beifall und Ansporn ist ihnen garantiert. Meist handelt es sich um Getrolle, reine Provokation. Manchmal aber wird daraus Ernst – was die Community umso lauter johlen lässt. Ein nihilistischer, tödlicher Kreislauf.

Mit strategischem Schweigen begegnen

Es gibt gute Argumente dafür, solchen Fällen mit strategischem Schweigen zu begegnen, dem toxischen Gedankengut den Sauerstoff zu entziehen. Das mag in den 1960ern tatsächlich funktioniert haben. In einer vernetzten Welt, in der kurz nach dem Anschlag Donald Trump weißen Nationalismus und rechtsextremen Terror als keine große Gefahr einstuft, um wenig später, in der Sprache des Attentäters, vor einer „Invasion“ an der US-Grenze zu Mexiko zu warnen, in einer solchen Welt funktioniert es nicht mehr.

Einen vorgeblichen „Bevölkerungsaustausch“ beklagt auch der Täter in seinem 74-seitigen Pamphlet. Die deutsche Bundeskanzlerin steht deshalb ganz oben auf der Tötungsliste des weißen Australiers, weil sie „wie kaum jemand sonst Europa Schaden zugefügt und ethnisch von seinen Menschen gesäubert“ habe. Ein Narrativ, das sich in derselben Form bei sogenannten Identitären findet wie auch bei Horst Seehofer, der Migration als „Mutter aller Probleme“ bezeichnet.

Mit Ansichten solcher Art dürften die meisten schon mal konfrontiert worden sein, ob im Netz oder offline. Kein Uploadfilter wird sie je aus der Welt schaffen.

Ironiegetränkter Rassismus

Der Täter, dessen Namen wir hier nicht nennen, referenziert zahlreiche weitere Versatzstücke einer international vernetzten, rechtsextremen Bewegung, die allzu oft im und vom Netz geprägt ist. Der Tonfall ist typisch für die Subkultur. In einem Moment trieft er vor zynischer Ironie und bezeichnet im nächsten muslimische Türken in bester Nazi-Manier als „Kakerlaken“, die man aus dem „christlichen Konstantinopel“ vertreiben werde. All die Nebelkerzen, mit denen er um sich wirft, verschleiern keineswegs die mörderische Ideologie, die dahinter steckt.

Eine GoPro-Kamera hatte er sich auf den Kopf gesetzt, um den Zuschauern eine aus Computerspielen bekannte Ego-Shooter-Perspektive zu bieten. Im Live-Video rief er unmittelbar vor dem Anschlag: „Subscribe To PewDiePie“. Eine weitere Anspielung, ein Mem, diesmal auf den weltgrößten Youtube-Star, der keine Berührungsängste zu Antisemiten zeigt und seine Rolle in diesem giftigen Ökosystem spielt. Auf Twitter hat er sich umgehend von dem Anschlag distanziert – und ihm damit, ob er wollte oder nicht, weitere Aufmerksamkeit beschert.

Es sind diese Kanäle, diese Schnittstellen, über die viele die erste Geschmacksprobe einer reaktionären Weltsicht erhalten. PewDiePie mag persönlich kein Nazi sein, aber Aufrufe zum Mord an Juden oder Verweise auf einschlägige Youtube-Kanäle sind mehr als nur Getrolle, wie er behauptet. Erst recht, wenn die Empfehlungsalgorithmen der Plattformen diese Signale lesen und Verbindungen schaffen, die nur einen Klick oder ein Autoplay weit entfernt sind. Eine Radikalisierungsmaschine hat Youtube da geschaffen, in der jedes automatisch vorgeschlagene Video ein Stück extremer ist als das vorhergehende, nur um die Aufmerksamkeit der Zuseher zu binden.

Giftiges und breites Ökosystem

Wer Stand-up-Routinen von Komödiantinnen schaut, dem schlägt Youtube gern Videos mit reißerischen Titeln vor, in denen ein Ben Shapiro oder Jordan Peterson versprechen, Feministinnen mit „Facts & Logic“ zu „zerstören“. Nicht immer ist klar, ob diese Leute das tatsächlich ernst meinen oder nur daran interessiert sind, einer möglichst breiten Zuseherschaft ihre Nahrungsergänzungsmittel oder ihr letztes Selbsthilfebuch zu verkaufen. Aber materiell macht dies keinen Unterschied für jene, die von organisierten Mobs konzertiert angegriffen und nicht selten zum Verstummen gebracht werden.

Oft genug verschwindet auch die Grenze zwischen inhaltlichen Argumenten, so dünn sie auch sein mögen, und dem Bedürfnis, es der „anderen Seite“ zu zeigen, sie zu „zerstören“. „Dominance Politics“ nennt der Journalist Josh Marshall diesen Politikansatz, „The Cruelty Is the Point“ titelte Adam Serwer. Von einem „weitverbreiteten Wohlstandschauvinismus“ spricht der Politikwissenschaftler Claus Leggewie: herunter treten, die eigenen Pfründe sichern und den „Fremden“ nur ja nichts vom Kuchen abgeben. Es scheint klar, wer diese „Fremden“ sind.

Weiße Männer an die Spitze

Treffen in diesem aufgeheizten Klima solche Ansichten auf die Algorithmen der großen Plattformen, lässt sich damit ein weit größeres Publikum erreichen als auf abgelegenen Foren, in denen ein Regelbruch den folgenden umso extremer macht, um überhaupt wahrgenommen zu werden. Und immer öfter verwandelt sich die ironische Rhetorik in Gewalttaten: Um einen „weißen Genozid“ zu verhindern, erschoss ein Rechtsextremer neun Schwarze in einer Kirche in Charleston. Ein in seiner Männlichkeit gekränkter sogenannter „Incel“ ermordete in Toronto zehn Menschen, um nur zwei Beispiele zu bringen.

Das sind die Vorbilder, auf die sich der Attentäter von Christchurch bezieht und die er teils ausdrücklich in seinem Manifest erwähnt – ob nun kalkuliert, um die Stimmung weiter anzuheizen, oder, was naheliegender scheint, weil sie tatsächlich seine Helden sind. Dies sind keine Einzelfälle. Es ist ein „Abwehrkampf“ von Reaktionären, die alles Moderne, Fremde, Verwirrende aus der Welt schaffen und stattdessen das Rad zurückdrehen wollen in eine Zeit, in der weiße Männer unangefochten ganz oben in der gottgegebenen Hierarchie standen.

Kriegsführung mit Memes

Scheinbar mühelos gelingt es, diese Inhalte unters Volk zu bringen, schließlich ist der Boden gut aufgearbeitet. Jedes Mittel ist recht, je niederschwelliger, umso besser. „Kreiert Memes, postet Memes und verteilt Memes“, appelliert der Attentäter von Christchurch an seine Mitstreiter in aller Welt und knüpft damit an erprobte Taktiken an. „Memes haben mehr getan für die ethno-nationalistische Bewegung als irgendein Manifest“.

Umso mehr schmerzen die Schilder auf einer Berliner Demonstration gegen die Uploadfilter der EU-Urheberrechtsrichtlinie, die Pepe-Frösche zeigten oder den EU-Abgeordneten Axel Voss als „Kek“ statt Witz bezeichneten. Das sind mal mehr, mal weniger selbstironische und damit zur Not abstreitbare Anspielungen, wie man sie aus einschlägigen rechten Sub-Reddits, Discord-Channels oder Foren wie 4chan kennt. Bis der Spaß sein jähes Ende findet.

Diesem gut beackerten Boden, auf dem rassistische, frauenfeindliche und schlicht antidemokratische Ansichten gedeihen, kann kaum ein Uploadfilter etwas entgegensetzen. Er kommt auch nicht gegen jene an, die in Wahlkampfzeiten unehrliche Debatten darüber anzetteln, ob der Islam zu Deutschland gehöre – um das angeblich so wichtige Thema nach der Wahl wieder zu beerdigen.

Klar ist jedenfalls: Wer rassistische Vorurteile bedient, einen „Kampf der Kulturen“ herbeiredet, sollte sich nicht wundern, wenn der eine oder andere diese Rhetorik ernst nimmt und die logische Schlussfolgerung zieht.

Sperre hätte wohl wenig bewirkt

Nun ist es gut und richtig, Plattformen dazu zu zwingen, Livestreams von Anschlägen zu unterbinden oder Enthauptungsvideos zu löschen. Aber dazu braucht es kein neues Gesetz, dies ist ohnehin illegal. Gut bewährt hat sich bislang das Notice-and-Takedown-Verfahren, selbst wenn es zunehmend unter Beschuss gerät. Demnach müssen Betreiber solche Inhalte löschen, wenn sie darauf hingewiesen werden.

Es ist wohl der Preis der Freiheit, dass wir die Verbreitung solcher Streams, Videos und Manifeste für kurze Zeit ertragen müssen. Die komplette Verhinderung, so sie denn technisch überhaupt umsetzbar ist, wäre nur um den Preis einer unfreien Gesellschaft und mit einem Verlust an Meinungs- und Pressefreiheit zu erkaufen.

Von dieser Freiheit machte die internationale Presse reichlich Gebrauch. Sie zitierte ausführlich aus dem Manifest, druckte Fotos des Mörders ab und übernahm in einigen unbegreiflichen Fällen sogar die Erzählung des Australiers. Gewürzt mit einer Prise Lokalpatriotismus war sich etwa die Berliner Zeitung nicht schade, den Anschlag, ganz im Sinne des Attentäters, als „Rache für den Terror am Breitscheidplatz“ darzustellen. Es erschließt sich nicht auf Anhieb, warum Terrorpropaganda im Netz restlos weggefiltert werden soll, einem aber im Kiosk ins Gesicht starren darf.

Im Netz verschwindet nichts

Auch hätte eine schnellere Sperre des Facebook-Accounts des Täters (dieser wurde nach einem Hinweis der neuseeländischen Polizei in Rekordzeit deaktiviert) weder das Attentat verhindert noch zu weniger Radikalisierung geführt. Die seit langem bestehenden, toxischen Communities im Netz werden sich jedoch nicht so einfach abdrehen lassen, zumal dort oft nichts vordergründig Illegales verteilt wird, sondern – natürlich immer mit dem angeblichen Schalk im Nacken – nur über „Kikes“ geredet wird. Das wird man ja wohl noch sagen dürfen. Das ist ja nur Spaß.

Zum derzeitigen Zeitpunkt findet sich das wirre Manifest des Attentäters noch problemlos im Netz. Auch Varianten der Video-Aufnahme des Anschlags lassen sich offenbar selbst von großen Plattformen wie YouTube, Facebook und Twitter nicht ohne Weiteres entfernen, obwohl diese Unternehmen bereits jetzt im großen Stil Uploadfilter einsetzen, auf dem aktuellen Stand der Technik.

Wenn Facebook damit prahlt, innerhalb weniger Stunden über eineinhalb Millionen Videos der Attacke von seiner Plattform entfernt zu haben, dann liegt die Folgefrage nahe, welches Anreizsystem das Unternehmen geschaffen hat, das Nutzer für die Verbreitung viraler Inhalte belohnt.

So oder so, aus dem Netz verschwindet so gut wie nichts. Künftig dürfte die Suche nach solchen Inhalten einfach nur ein wenig länger und umständlicher ausfallen, sollte der entscheidende EU-Parlamentsausschuss dem Druck der Kommission und der Mitgliedstaaten nachgeben und Anfang April die Verordnung samt Uploadfiltern absegnen.

Der Fuß in der Tür

Um es deutlich zu sagen: Das Gedankengut des Attentäters hat auf dem sogenannten „Marktplatz der Ideen“ nichts verloren. Das Problem ist, dass sich dieses Gedankengut schon längst in der Mitte unserer Gesellschaft breit gemacht hat. Im Manifest steht kaum etwas, was sich nicht in unzähligen Internetkommentaren oder verklausuliert in Wahlprogrammen oder Bierzeltreden wiederfindet. Anti-muslimische Gewalt ist auf dem Vormarsch, und langjährige Beobachter zeigen sich wenig überrascht davon, erhalten die Extremisten doch Rückhalt von großen Teilen der Bevölkerung und aus der Politik.

Nun scheint es Anzeichen dafür zu geben, dass es den großen Plattformen einigermaßen gelungen ist, die Verbreitung islamistischer Propaganda in den letzten Jahren einzudämmen, während rechtsextreme Netzwerke nahezu ungehindert wachsen konnten. „Der klare Vorteil, den weiße Nationalisten haben, liegt teils darin, dass ISIS-Netzwerken nahestehende Accounts aggressiv gesperrt wurden“, schreibt der Radikalisierungsforscher J.M. Berger in einer Studie aus dem Jahr 2016.

Die Rekrutierung erfolge oft über das Motiv des „weißen Genozids“ und bediene sich einer Terminologie, die aus der Populärkultur stamme. Einer kleinen, aber lauten und durch Algorithmen verstärkten Minderheit gelinge es, Hashtags zu kapern und damit für Medieninteresse zu sorgen, so Berger. 2015 waren es etwa aufgeblasene Boykottaufrufe gegenüber „Star Wars: The Force Awakens“, das „Anti-weiß“ sei. Vor einer Woche waren es wohl aus dem selben Umfeld stammenden Agitatoren, die sich eine Frau nicht in einem Captain-Marvel-Film vorstellen können.

Gut geölte Empörungsmaschinerie

Es ist wichtig darauf hinzuweisen, dass die genannten Filme Rekordeinnahmen erzielt haben, genau wie der aus politischen Gründen geschasste Ex-Football-Star Colin Kaepernick zwar keinen Profisportler-Vertrag mehr erhalten wird, dafür aber lukrative Werbeverträge. Auch hierzulande versuchen Wutbürger regelmäßig, nach dem gleichen Muster reaktionäre Shitstorms anzuzetteln, gehen aber oft genug damit baden.

Das alles dürften klare Anzeichen dafür sein, dass die überwältigende Mehrheit der Bevölkerung kein Interesse an einem „Kulturkampf“ hat. Gleichzeitig lässt sich aber nicht ignorieren, dass die Extremisten starke Verbindungen in die Mitte der Gesellschaft haben, im Bundestag sitzen oder gar in Regierungen. Man muss sich nur das Klagegeheul vorstellen, mit dem sie und ihre Verbündeten auf aggressive Sperrungen ihrer gerade-noch-legalen Postings oder Accounts reagieren würden.

Und machen wir uns nichts vor: Selbst wenn sich das EU-Vorhaben logistisch auch nur ansatzweise umsetzen ließe, verschwinden werden diese neofaschistischen Ansichten und ihre digitale Entsprechung nicht. Online werden sie sich bestenfalls verlagern, neue Codes werden dafür sorgen, die Grenze zur Illegalität nicht zu überschreiten, Screenshots von gesperrten PDF-Dateien werden Uploadfilter überlisten. Ganz zu schweigen von den unzähligen lokalen Kopien der Dateien, die bei Bedarf unter der Hand getauscht oder als Tabubruch auf dem Schulhof herumgereicht werden. Selbiges gilt selbstverständlich für islamistische Terrorpropaganda.

Viel eher wird der EU-Ansatz dazu führen, dass durch „Overblocking“ völlig legale Inhalte gleich mitgesperrt werden und eine privatisierte Rechtsdurchsetzung darüber entscheidet, was wir im Netz sehen und was nicht. So kritisierten beispielsweise gleich drei UN-Sonderberichterstatter die ungenügenden Sicherungsmechanismen der EU-Verordnung. Diese würde die Betreiber in eine Rolle drängen, in der sie selbst „quasi regulieren, quasi vollstrecken und quasi richten“ würden, schreiben sie in einer Stellungnahme – eine Rolle, die bislang Nationalstaaten vorbehalten war. Im Unterschied zu Staaten müssten jedoch private Unternehmen keine Rücksicht auf Menschenrechte nehmen, sondern lediglich selbst geschriebene und sich oft willkürlich wandelnde Nutzungsbedingungen berücksichtigen. Die UN-Experten fordern deshalb für all die kommenden Fälle, die sich in einem Graubereich bewegen werden, „adäquate Sicherungen gegen willkürliche oder fehlerhafte Entscheidungen“, bis hin zu einem „industrie-weiten Ombudsmann-Programm“.

Herkömmliche Ansätze effizienter

Sinnvolle Gesetzgebung kann viele Terroraktionen verhindern. Ließen sich etwa in Europa Schusswaffen so einfach beschaffen wie bisher in Neuseeland oder an jeder Ecke kaufen wie in vielen US-Bundesstaaten, dann würde die hiesige Opferzahl wohl deutlich über der gegenwärtigen liegen. Es ist nur richtig, dass die neuseeländische Regierung bereits angekündigt hat, die Waffengesetze so schnell wie möglich zu verschärfen. Weitere Maßnahmen, etwa ein der EU-Verordnung entsprechendes Gesetz, das beim Internet ansetzen würde, sind zum derzeitigen Zeitpunkt nicht geplant.

Effektiv scheint auch eine gezielte Beobachtung bestimmter Communities, in denen sich mutmaßliche Terroristen gegenseitig anstacheln, in engen rechtsstaatlichen Grenzen. Und effektiv ist es, weiter gegen Rassismus und Islamhass in unseren Gesellschaften vorzugehen. Dazu brauchen wir keine intransparente Zensur-Infrastruktur.