Sarkasmus Online: Does not compute

Quelle: Sina Weibo
Quelle: npr
Quelle: npr

Oh yeah, I’m real messed up in the head, I’m going to go shoot up a school full of kids and eat their still, beating hearts. lol jk.

Für dieses Facebook-Kommentar ist der 18 jährige Justin Carter aus Austin, Texas seit Ende Februar diesen Jahres in Haft. Begründung: Terror-Drohung. Justins Kommentar bezog sich auf das Online-Spiel League of Legends, eine Frau hatte allerdings die Polizei informiert, nachdem sie Justins Kommentar auf Facebook gelesen hatte und merkte, dass er nur unweit einer Grundschule wohnt. Das „Laughing out Loud. Just Kidding“ hatte an ihrer Interpretation nichts geändert. Zwischenzeitlich stand Justin unter ständiger Aufsicht im Gefängnis wegen Suizid-Gefahr. Als eine anonyme Person die 500.000USD Kaution bezahlt hat und Justin Carter bis zum Urteil nun auf freiem Fuss ist, sagte er:

I certainly would have thought a lot more about what I said. … People should be very careful about what they say on social media sites.

Quelle: Sina Weibo
Quelle: Sina Weibo

Anderes Land, gleiches Problem. Wu Hongfei, chinesische Journalistin und Sängerin, hatte als Reaktion auf einen vermeintlichen Bombenanschlag eines Rollstuhlfahrers im Pekinger Flughafen auf Sina Weibo – chinesisches Äquivalent zu Facebook – ihrem Ärger Luft gemacht. Für die Aussage, dass sie am liebsten zwei Regierungsgebäude „in die Luft jagen“ würde, sitzt sie nun seit Ende des Monats in Haft und könnte wegen Terror-Drohung für bis zu 5 Jahre verurteilt werden. Ihr Anwalt sagte:

 

I will not argue if people believed her words or if they caused public terror. But now the case, rather than being a criminal one, has become one bad example that greatly affects freedom of speech online, as people dare not to talk about their emotions.

Beide Fälle sind Symptome eines größeren, grundsätzlichen Problems. Wie bewertet man sarkastische, zynische oder ironische Äußerungen online? Und vor allem: Wie erkennt man sie? Dieses Problem existiert schon seitdem Gedanken und Emotionen per Text transportiert werden. Würde man Justin Carter in einer Bar gegenüber sitzen, seine Körpersprache sehen, seinen Gemütszustand registrieren, wenn er diese Aussage macht, hätte sie sicher bei wenigen mehr hervorgerufen, als ein leichtes Kopfschütteln, schmunzeln oder Falten auf der Stirn. Gleiches gilt für Wu Hongfei. All das ist allerdings nicht möglich im Internet. Man kennt nichts oder nur sehr wenig über den emotionalen Zustand der Verfasser. Rückschlüsse durch Körpersprache sind nicht möglich. So wird sich mit Krücken, wie Smileys, lol, jk, oder speziellen „Sarkasmus-Tags“ (*S) beholfen. Manche möchten sogar einen speziellen Font für Sarkasmus einführen.

Obwohl es augenscheinlich schon schwer genug für den normalen Leser ist, immer Sarkasmus online zu erkennen, gibt es mittlerweile Algorithmen, die dies tun sollen. So setzt die EU Kommission angeblich ein Kommentar-Analysetool des französischen Unternehmens Spotter ein, um Sarkasmus in Kommentaren und Tweets zu erkennen. Shrikanth Narayanan, Professor für Informatik, Linguistik und Psychologie an der Univgersity of South California sagt allerdings, dass das Erkennen von Sarkasmus in Text eines der „schwierigsten Probleme für Computer sei“.

Wir kommunizieren immer mehr in Textform über das Internet. Gleichzeitig wird immer mehr dieser Kommunikation überwacht und ausgewertet mit dem Ziel, ein Profil zu erstellen – uns einzuschätzen. Die rudimentäre Textform, die Distanz und die Tatsache, dass wir nicht immer einschätzen können, wer unser Geschriebenes liest bringen allerdings mit sich, dass die Gefahr viel höher ist, falsch verstanden zu werden. Beide Beispiele zeigen diese Gefahr. Dies ist ein „Bildungsproblem“ und nicht eines inadäquater Smileys oder Tags. Wie gehen wir mit einem Medium um, in dem ausschließlich Worte analysiert werden, wir aber über so komplexe Dinge, wie Gefühle, Gedanken, Ängste … unser Leben, kommunizieren? Und was passiert wenn von Dritten jedes unserer Worte aufbewahrt und im Zweifelsfall gegen uns verwendet werden kann? Wenn das Wort schwerer wiegt, als die Person, die es gesprochen hat? Ist da nicht ein Risiko für die Schere im Kopf?

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

14 Ergänzungen

  1. Ich möchte mal wissen, was mehr Opfer produziert…
    der ‚echte‘ Terrorismus
    oder hohl drehende Terrorschutzmeachnismen.

    Gruß
    Gedankenverbrecher

    1. Der ganze „Kampf gegen den Terror“ Quatsch dient doch nur dazu einen Vorwandt zu haben alles und jeden zu überwachen und ab und an ein par Leute zur Abschreckung zu verhaften um allen anderen Angst davor zu machen ihre Meinung zu äußern.

  2. Zuallererst ist es unverständlich wie man diese Fälle als Terror(drohungen) einstufen kann. Demnach kann man ja gleich alles, ob Mord oder Diebstahl als Terror bezeichnen.
    Das ist aber in den USA leider gang und gäbe, kein Wunder, dass den Amis dann der Krieg gegen die ausländischen Terroristen und dessen Konsequenzen als völlig normal erscheint.

    Im Fall von China kann man sich nicht so sehr aufregen, wenn dort ja die eigenen Bürger immer noch eher als Objekte oder kleiner Teil eines großen Ganzen statt Individuen angesehen werden

    Fremde Aussagen im Internet ernst zu nehmen ist generell einfach naiv, weiß man doch, dass die meisten einfach private Gedanken meist zur eigenen oder Unterhaltung anderer in der Öffentlichkeit kundtun.
    Andererseits müssen die Autoren sich selbst klar machen, dass in den USA viel Amokläufe in den Schulen gab und sehr viele einfache Menschen die Art der Konversation im Internet noch immer nicht verstehen.

    Leider gilt Letzteres auch für die Polizei und Justiz, die hier anscheinend nicht einmal den Kontext ermittelt hat und dann auch noch nur auf Verdacht und nur aus Prinzip viel zu langen und auf unzivile Art junge Menschen einsperrt.

  3. Beide Fälle sind Symptome eines größeren, grundsätzlichen Problems. Wie bewertet man sarkastische, zynische oder ironische Äußerungen online? Und vor allem: Wie erkennt man sie?
    Muss man sich diese Frage tatsächlich stellen? Als Mensch ist sie eigentlich nicht so wichtig. Wichtig ist diese Frage doch nur für die Software, die automatisch unsere Texte analysiert und damit Profile für Menschen generiert.

    1. Ja, muss man sich, meiner Meinung nach. Justin Carter wurde ja nicht von einem Algorithmus entdeckt, sondern eine besorgte Frau hatte der Polizei den Hinweis geliefert. Da war gar kein böser Überwachungsstaat beteiligt. Selbiges gilt übrigens auch für Wu Hongfei.

  4. Ich denke es geht hier um viel grundsätzlicheres als eine Sprachberwertung oder die Bewertung in technisch-analytischer Hinsicht.
    Hier ist sicher nicht der Raum für eine wirkliche breite Abhandlung, die wohl nötig wäre. Ein Gesichtspunkt ist, meiner Ansicht, aber sicher, dass ein überaus starker hysterischer Moment inzwischen breiten Raum in den ‚westlichen‘ Gesellschaften eingenommen hat. Dieser allein macht das Beschriebene in der Form erst überhaupt denkbar. Weiter ist aber, und dies ist das über alle Maßen hochkritische, scheint ein sofort wirkendes Korrektiv zu fehlen. Um es weniger abstrakt auszudrücken: In dem gegebenen Fall wäre noch vor 10 Jahren die Folge einer solchen Anzeige eine sofortige Einstellung wegen Nichtigkeit gefolgt.
    Es scheint so als wäre der allgemeine Konsens, bei der rechtlichen Beurteilung von einer nicht-willkürlichen Betrachtung und vor allem Eindeutigkeit auszugehen, aufgebrochen.
    Es muss, ebenso wie zwischen Unfall, Notwehr, Totschlag und Mord, ein Unterschied bei der Bewertung der Intention gemacht werden. Auf den gegeben Fall bezogen ausschließlich auf die Intention und den Aussagewillen des Absenders, unabhängig davon wie es bei Unbestimmten Empfängern ankommt.
    Ein weiterer Gesichtspunkt der im Fokus stehen sollte scheint mir zu sein, ob ein Rechtssystem, dass derart rabiat, nachhaltig, überschlagshandelnd und repressiv in das Leben derer eingreift, die es eben auch davor schützen soll, nicht dringend der Korrektur bedarf. Ich denke, grade der letzte Punkt kann als Mahnung begriffen sein, für alle die, die weiterhin wert darauf legen in einer freien und offenen Gesellschaft zu leben.

  5. >Beide Fälle sind Symptome eines größeren, grundsätzlichen Problems. Wie bewertet man sarkastische, zynische oder ironische Äußerungen online? Und vor allem: Wie erkennt man sie? Dieses Problem existiert schon seitdem Gedanken und Emotionen per Text transportiert werden.

    Also bitte, Textnachrichten schreiben wir nicht erst seit ein paar Jahren. Der einzige Unterschied ist, dass die weltweite Publikation von persönlichen Kommentaren zur Normalität wurde. D.h. es ist wichtig den Kontext der Nachricht zu ermitteln.
    Man kann solche Verkündungen nicht immer mit Veröffentlichungen in Zeitungen oder auf Schildern gleichsetzen, eher im Gegenteil. Die meisten Texte sind als öffentliche Tagebucheinträge oder Verteiler-E-Mails einzustufen. Aber während bei Letzteren das Niveau der Unterhaltung meistens noch recht normal bleibt, gleicht eine Konversation auf Twitter schon eher einem Austausch unter Freunden und auf Facebook gar wie in der Stammkneipe.

    Wer jemals über etwas längere Zeit ein Online-Spiel gespielt hat, der weiß wie viele Idioten und leicht wütend werdende Erwachsene und vor allem Jugendliche vor dem Spiele-PC sitzen.
    So etwas hat die Justiz und Polizei zu wissen. Doch selbst wenn so ein Phänomen noch zu neu ist, muss der Beschuldigte trotzdem noch die Chance erhalten sich zu erklären.
    Die hat man in den USA aber nicht mehr, sobald die Anschuldigung etwas mit Terror zu tun hat, in solchen Fällen kann man seine Rechte gleich vergessen, insbesondere wenn ein Exempel statuiert werden soll.
    Während in China sowieso alles von der Willkür des dortigen Justizwesen abhängt.

    Kurz gesagt, solche Fälle sollen nur Angst schüren und zu Selbstzensur zwingen.

  6. Das große Problem an den Daten ist nicht die maßlose Sammelwut. Sollen die manischen Sammler meinetwegen gerne daran ersticken. Koste es SIE (persönlich, aus der eigenen Tasche!), was es wolle.

    Es ist die chronisch mögliche, fehlerbehaftete AUSLEGUNG durch Programme, Scripte. Unter steigendem Zeitdruck, mit unsauberen Pflichtenheften programmierter, ungetesteter Algorithmen mit immer mehr Schnittstellen worldwide. Inkl der in Kauf genommenen Mißverständisse unterschiedlicher Sprachen. Inzwischen geradezu geheiligter und unreflektierter Automatismen.

    OHNE dass ein Mensch in voller VERANTWORTUNG und HAFTUNG!!! für sein Tun bewußte Entscheidungen zu treffen und die evtl. fatalen FOLGEN seines Tuns auch selbst wenigstens mit zu tragen hätte.

    Krank ist das, richtig krank, jedes einzigartige LEBEN, jedes einzigartige DENKEN, in die Hände von EDV ( = elektronische Daten-Verarbeitung, 0 oder 1), in diese neuländischen „Technologien“ zu legen.

    Das mag manchem Anschaffer viel Eigeneinsatz und / oder fair zu bezahlende menschliche Arbeit einsparen. Geiz ist schließlich mehr als geil bei den Profit-Maximierern. Der Allgemeinheit, derzeit noch gültigem Recht, einer Demokratie, jedweder Völker- oder zwischenmenschlichen Verständigung dienlich ist es nicht !

  7. Beim besten Willen: Hr. Kleinhans glaubt allen ernstes die Gerichte und Ermittler wüssten nicht dass es sich um Sarkasmus handelt und philosophiert über den ach so schwer erkennbaren Sarkasmus im Internet? Vielleicht sollte er im Wald mal Bäume suchen gehen, offensichtlicher kann der Zweck der Übung nicht mehr werden. Vielleicht sollte jemand für ihn ein Kontroll-Smilie entwerfen.

  8. Als Quasi-Muttersprachler gebe ich mal zu Bedenken, dass es keiner Sarkasmustags bedarf, um den Eingangstext richtig zu bewerten. Allein das einleitende „oh yeah“ gibt dem Leser einen eindeutigen Hinweis, wie der Rest zu verstehen ist.

  9. Spezielle Sarkasmus-Zeichen bringen hier jedenfalls kaum etwas, solange die je Mächtigen mehr oder weniger frei darin sind, diese Zeichen entweder gar nicht zu kennen oder aber geflissentlich zu ‚überlesen‘. Möglich ist auch, dass sie sie weder nicht kennen noch ‚überlesen‘, sondern als Versuch interpretieren, eine nicht-sarkastische Absicht sarkastisch bloß zu verbrämen, den Sarkasmus also quasi als Ironie zu deuten.

  10. Ein ganz großes Problem besteht darin, dass Terroranschläge nur in den seltensten Fällen lange Zeit vorher im IT angekündigt werden. Terroristen oder Amokläufer verbreiten soetwas wenn überhaupt nur sehr kurze Zeit vorher. Also kann man von der Methode her schon sagen, dass diese Ermittlungen immer den Falschen treffen werden. Genauso wie die Filmindustrie Leute vors Gericht schleift und sie auf tausende Euro verklagt, weil sie online Filme geteilt hätten. Die Leute, die wirklich tagtäglich Filme saugen und teilen machen das über Proxies und werden nicht erwischt, der Familienvater, der sich doch mal ein Erotik-Video anschaute ist gleich dran.
    Genauso wie Menschen die etwas zu verbergen haben ihre Kommunikation verschlüsseln.

    So werden die Terroristen nicht geschnappt, und auch nicht der nächste „Breivik“ bevor er loslegt.
    Nur die Denokratie leidet unter dem wilden sinnlosen Aktionismus.

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.