Spenden

Dieser Artikel ist mehr als 9 Jahre alt.

Twitter plant, Hate Speech per Algorithmus zu erkennen

Twitter verändert seine Mechanismen in Bezug auf Hate Speech und diskriminierendes Verhalten nach einem Update vor drei Wochen erneut. In Zukunft sollen Accounts, die beleidigende Inhalte verbreiten, automatisch per Algorithmus erkannt werden. Ziel ist es, Hate Speech zu erkennen, noch bevor Nutzer solche Tweets melden.

  • Lennart Mühlenmeier
Lennart Mühlenmeier
9
Die so genannten Twitter-Eggs, welche früher standardmäßig als Profilbild voreingestellt waren. Screenshot: Twitter (Anonymisierung durch uns) – CC-BY 4.0:

Twitter verändert seine Mechanismen in Bezug auf Hate Speech und diskriminierendes Verhalten nach einem Update vor drei Wochen erneut.

In Zukunft sollen Accounts, die beleidigende Inhalte verbreiten, automatisch per Algorithmus erkannt werden. Ziel ist es, Hate Speech zu erkennen, noch bevor Nutzer solche Tweets melden. Von derart eingestuften Accounts abgesetzte Tweets wären dann nur für ihre Follower sichtbar, tauchen aber nicht in anderen Timelines auf.

Zusätzlich lassen sich Benachrichtigungen stumm schalten, die von Accounts ohne verifizierte E‑Mail-Adresse oder Telefonnummer stammen respektive von Accounts, die ihr „Twitter-Egg“ genanntes Standardprofilbild beibelassen haben. Häufig handelt es sich dabei um Nutzerkonten, die schnell und anonym erstellt wurden, um Stimmung gegen andere Nutzer zu machen. Auch können Nutzer einzelne Stichworte und Phrasen, die sie stören oder verletzen, aus der persönlichen Timeline herausfiltern.

Twitter plant zudem, transparenter zu werden und die einzelnen Schritte nach einer Meldung von Hate Speech genauer nachvollziehbar zu machen.

Über die Autor:innen

Veröffentlicht

Kategorie

Schlagwörter

, ,

Weiterlesen

Thema

Öffentlichkeit

Thema

Diskriminierung

Thema

Hate Speech

Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.

9 Kommentare zu „Twitter plant, Hate Speech per Algorithmus zu erkennen“

  1. nice people

    ,

    „Von derart eingestuften Accounts abgesetzte Tweets wären dann nur für ihre Follower sichtbar, tauchen aber nicht in anderen Timelines auf.“

    Genau das wird aber als besonders schlimm empfunden. Zumindest wenn es bleibt, wie es bisher gehandhabt wurde: Das Wort „Bitch“ bleibt dann für alle anderen zu sehen, nur nicht für die betroffene Person selbst. Das ist wie blind und taub am Pranger stehen, zusätzlich zu den bleischweren Ketten an Armen und Füssen.

    1. nk

      ,

      Wenn Du Teil einer organisierten Hasskampagne bist, bei der Du jeden Tag zig Beiträge und Accounts stummschalten/melden musst, siehst Du das anders. Da bist Du schon lange nicht mehr „blind“ und „taub“, so eine Welle bemerkst Du einfach. Nicht zuletzt, weil sie auch über Dritte an Dich herangetragen wird.

  2. Schatten

    ,

    https://www.youtube.com/watch?v=-5q3TG5yCG0

    Und genauso wird es laufen.
    Dann wird aus Bitch eben B1tch, Biatch, bctih, bitsh …
    die Sprache wird sich anpassen.
    Twitterslang halt … gibt es doch vermutlich jetzt schon.
    (ich bin nicht auf Twitter)

    1. nk

      ,

      Es gibt mehr Merkmale als einen Textfilter. Auch das Verhalten des Accounts, der Kontext, wie und wann er angelegt wurde u.ä. kann man heranziehen.

  3. weberwu

    ,

    Nur, weil so viele ganz fest daran glauben, dass es den Zauber-Algorithmus geben wird, der 100% klar Hate Speech erkennen kann und freie Meinungsäußerungen durchlassen wird, gibt es so einen Klassifizierungsalgorithmus nicht, und das wird es auch nicht geben! Wie Schatten sagte – dann wandelt sich die Sprache. Und vielleicht spreche ich so mit einer Freundin, wir nennen uns gegenseitig „Bitch“, ist das jetzt verboten? Aber alle sind beruhigt, Twitter „tut was“.

    Ach ja, und dann werden wieder Filterbubbles gebaut, die Leute nicht sehen. Besser ist es, wenn Ihr solche Hatespeech seht, dass ihr die Adressatin (ist ja oft eine Frau) nicht damit alleine lasst, sondern an den Hatespeecher schreibt. Dazwischen gehen, statt nur zuzuschauen. Und alles schön an Twitter melden. Wenn 10 Leute denselben Tweet melden als unangebracht, passiert vielleicht mehr.

  4. Claudia B.

    ,

    Ein Algorithmus kann nicht zwischen Naktheit und Pornografie unterscheiden, auch nicht im Textmodus. Das 1972 entstandene heute ikonografische Bild des Pressefotografen Nick Ut, das Mädchens aus Vietnam, das nackt vor einem Brandbomben-Angriff der US-Truppen davonrennt wurde von Facebook zensiert und gelöscht.

    Eine Sprache die gehässig und beleidigend ist gibt es und sollte meiner Meinung nach dennoch nicht zensiert werden. Eines der ersten Gesetze der Aufmerksamkeitsökonomie im digitalen Raum erschließt sich Sinngemäß, dass Verdichtung und Zuspitzung geradezu Wesenhaft für digitale soziale Netzwerke sind. Gerade Twitter mit seinen 140-Zeichen, als „Erfinder“ des Nicht-Ausdifferenzieren, will nun genau das gegenteilige? Ich finde das schon sehr verrückt.

    Die Löschung von dem was als „Hass-Sprache“ definiert wurde, ist eine Zensur und Machtmissbrauch der jeweiligen Plattform. Wer bestimmt denn was Hasssprache ist und warum will man eine Sprache/Slang verbieten? Andere Länder andere Sitten. In anderen Kulturen ist es normal das geflucht und gezetert wird. Wiedereinmal, ähnlich wie Facebook, will diesmal aber Twitter inc. bestimmen was gesagt oder angezeigt werden darf. Die Twitter inc. drücken allen Nutzern ihre westlichen/amerikanischen ethischen und kulturellen Vorstellungen auf. Ich kann das nicht verhindern, aber zumindest fordern das sich Nutzer von Twitter&Co abzuwenden und eigene Plattformen zu nutzen.

    Beleidigungen auch im Internet können schon immer Strafrechtlich verfolgt werden. Ich sehe durchaus ein das das schwierig ist. Doch der Weg wäre meiner Meinung nach mehr richtig und mehr demokratisch, er wäre viel besser als das profitsüchtige Unternehmen die Deutungshoheit von Gut&Böse an sich reißen. Meine Hoffnung darauf ist gering. Weil den großen transnationalen Unternehmen die nationalstaatliche Rechtsprechung am Arsch vorbeigehen dürfte. Eine private und algorithmische Diskurspolizei sollte jedenfalls es nicht geben.

    1. Schatten

      ,

      Mhm interessant …
      in meiner Wahrnehmung liegt der schwarze Peter nicht bei den Unternehmen sondern bei der Politik.
      Und/oder auch bei hyperventilierenden Social Warrior Gruppen … Was wieder ein politischer/PR Hebel wäre.
      Bei Twitter direkt kenn ich mich nicht aus …
      über Facebook hab ich aber nachgedacht.
      FB Geschäftsmodell ist über möglichst viele Menschen möglichst alle Informationen zu sammeln, damit die Unternehmen die FB bezahlen möglichst differenziert und effizient Werbung machen können. Thats it.
      Ob das in einer Demokratur oder Diktatie stattfinden ist FB völlig egal.
      Ob die Leute sich anschreien und verbal zerfleischen ist FB völlig egal.
      Werte und Moral sind FB völlig egal.

      FB ist schlechte PR (sinkende Userzahlen) und politische Vorgaben (Erschwerung/Verteuerung der Arbeit) überhaupt nicht egal.

      Ich bin kein FB Fanboy… ganz sicher nicht…
      aber die Lanze muss man mal brechen.
      FB ist fast so wertungs- und moralfrei wie das Internet selbst, abgesehen von dem Datenhandel.

  5. Zivilisationskrankheit

    ,

    Nackheit stumpft ab. Wie will ein Algorithmus dem entgegenwirken?

  6. Robbi

    ,

    Was Zwitscher zZ macht sollte man auch vor dem Hintergrund der gescheiterten Übernahme (ua durch Google und Disney) Herbst letzten Jahres sehen, da gehts um Big Money (vergl. Peak September/Oktober 2016 >Twitter Chart<).

Dieser Artikel ist älter als 9 Jahre, daher sind die Ergänzungen geschlossen.