bits

Wenn die KI bei der Content-Moderation durchdreht

Die automatisierten Content-Moderationen auf großen Plattformen bringen viele Probleme mit sich. Wir dokumentieren einen aktuellen Fall, der politische Meinungsäußerungen auf Youtube einschränkt. Das Bundeskartellamt ermittelt gegen Amazon und Apple. Und dazu gibt es weise Worte von David Bowie zum Netz und seinen gesellschaftlichen Auswirkungen.

Heute müsste Freitag sein, wenn das Banner richtig ist.
CC-BY 4.0 netzpolitik.org

Hallo,

in den vergangenen Monaten häufen sich Berichte über automatisierte Content-Moderationen auf den großen Plattformen. Ein besonders drastisches Beispiel habe ich beim Deutschen Hanfverband (DHV) gefunden. Dieser setzt sich als Bürgerrechtsorganisation für die Legalisierung von Cannabis und die Entkriminalisierung von Konsument:innen ein. Dazu zählen auch eine starke Öffentlichkeits- und Lobbyarbeit. Ein zentrales Element ist die wöchentliche Nachrichtensendung DHV-News auf Youtube, die pro Folge regelmäßig zehntausende Zuschauende hat. Mit 163.000 Abonnenten ist der Hanfverband eine der erfolgreichsten politischen NGOs im deutschsprachigen Raum auf Youtube.

Aber aktuell ist der Kanal fast leer und die Schuld sieht der DHV-Geschäftsführer Georg Wurth bei Youtube und seinen automatisierten Content-Moderationen. Ich habe mit ihm dazu ein Interview geführt, was Ihr Euch hier anhören könnt: „Wir merken, wie die KI übernimmt.“



(Hier als MP3)

Georg Wurth beschreibt darin, wie in den vergangenen Monaten immer mehr Einschränkungen kamen und Videos aus verschiedenen Gründen abgeschossen wurden. Mittlerweile gefährdet das die gesamte Öffentlichkeitsarbeit der Lobbyorganisation und Youtube reagiert darauf fast gar nicht.

Natürlich kann man jetzt sagen: Selbst Schuld, warum sind die auch auf Youtube: Wurth schilderte mir aber auch das Gatekeeper-Problem der marktdominanten Plattform Youtube: Selbstverständlich kann man auf freie und offene kleine Alternativen ausweichen, das hat man ausprobiert, aber dann schaut niemand mehr zu.

Die ersten Probleme traten durch (menschliche) Meldungen wegen vermeintlich fehlender Altersbeschränkungen auf. Das war lästig und führte dazu, dass viele potenziell Zuschauende die News nicht mehr sehen konnten, bis sich jemand bei Youtube das angeschaut und bewertet hat: „Das kostete uns schnell zehntausende Zuschauer.“ In den vergangenen Wochen wurden die Probleme automatisierter und es wurden Links in den Videobeschreibungen gelöscht, wo in der Regel auf journalistische Quellen und die eigene Webseite des DHV samt Fördermitgliedsformularen und Merchandising-Shop verlinkt wird. Begründet wurden die Roboter-Löschungen mit Verweis auf einen Verstoß gegen die Youtube-Richtlinien „zum Verkauf von Gütern, die gesetzlichen Beschränkungen unterliegen“.

Dabei handelt es sich hier um politische Meinungsäußerungen und nicht um den Verkauf von Cannabis. Der Hanfverband sieht gerade im Oktober massive Probleme in Verbindung mit Verschärfungen der Youtube-Regeln im September und macht verstärkte, unkontrolliert wütende KI-Systeme dafür verantwortlich. Es gibt auch keine menschliche Reaktionen bei Youtube mehr: „Dann kann im Prinzip eine KI einen ganzen Kanal killen/löschen, der komplette Kanal ist dann erst mal weg, bis Menschen sich das irgendwann angucken, vollautomatisch“, so erzählte es mir Wurth am Telefon.

Das ist aktuell ein globales Problem, dass sich in Folge der Corona-Pandemie noch verschärft hat, da alle Plattformen mehr automatisieren, wie Jillian York von der EFF bei Politico beschreibt: What happened when humans stopped managing social media content.

Der DHV hat mittlerweile alle Videos auf nicht-öffentlich geschaltet, damit wenigstens noch die aktuelle wöchentliche News-Sendung erscheinen kann und nicht wegen alter Videos der komplette Kanal weg ist. Youtube/Google hat bisher auf meine Presseanfrage dazu nicht reagiert.

Update: Nach Rücksprache mit den Google und YouTube Kollegen kann die PR-Agentur von Google leider keine Auskunft zu einzelnen Videos geben und meine Fragen nicht beantworten.

Neues auf netzpolitik.org

News Showcase ist Googles strategische Meisterleistung„, finden Alexander Fanta und Ingo Dachwitz in ihrer gemeinsamen Analyse:

Mit seinem Milliarden-Dollar-Angebot perfektioniert Google seine Teile-und-herrsche-Strategie gegenüber den Medien. Die Verlage können das Angebot kaum ablehnen und doch schwächen sie damit den Stand ihrer Branche im medienpolitischen Poker mit dem Datenkonzern. Ein Kommentar.

===

Datenschutzbeauftragter kritisiert Staatstrojaner für Geheimdienste„, fasst Andre Meister ein nicht-öffentliches Papier aus dem BfDI-Haus zusammen, das wir veröffentlichen:

Das Kanzleramt will die Befugnisse des Bundesnachrichtendiensts ausweiten und dessen Kontrolle schwächen. Das kritisiert der Bundesbeauftragte für den Datenschutz in einem Papier, das wir veröffentlichen. Massenüberwachung und Staatstrojaner bezeichnet er als „massiven Eingriff in die Privatsphäre“.

===

Leonard Kamps fasst den „Automating Society Report 2020“ von Algorithmwatch für Deutschland zusammen: Automatisierung schreitet auch in Deutschland voran.

Immer häufiger werden kritische Entscheidungen von Algorithmen getroffen. In Europa und Deutschland finden sich nach einem neuen Bericht immer mehr solcher Systeme, ohne dass ihre Einführung gesellschaftliche Unterstützung hätte.

===

Immer mehr Behörden werden an das Schengener Informationssystem angeschlossen, wie Matthias Monroy weiß: Tausende neue Behörden nutzen Europas größtes Fahndungssystem.

Nach Polizeien, Zoll und Ausländerämtern werden nun zahlreiche nichtpolizeiliche Behörden an das Schengener Informationssystem angebunden. Alle teilnehmenden Staaten müssen dazu drei neue Verordnungen umsetzen. In der Schweiz regt sich überraschender Widerstand, am Ende könnte das Land aus dem SIS-Verbund aussteigen.

Kurze Pausenmusik:

Dieser Newsletter wird, neben viel Herzblut, durch Spenden unserer Leser:innen ermöglicht. Hier kann man uns mit einem Dauerauftrag oder Spende unterstützen.

Wir freuen uns auch über etwas Werbung für den bits-Newsletter, um mehr Mitlesende zu bekommen. Hier geht es zur Anmeldung.

Feedback und sachdienliche Hinweise bitte an markus@netzpolitik.org schicken.

Die Erstellung dieser Ausgabe wurde freundlicherweise von Tomas Rudl unterstützt.

Was sonst noch passierte:

In NRW werden immer mehr rechtsextreme Verdächtige in Sicherheitsbehörden entdeckt: Skandal um rechtsextreme Polizei-Chats weitet sich aus.

Und in Berlin kaufen Polizisten im Dienst alte Radios mit Hakenkreuz drauf und würden auch mehr kaufen, wenn die wieder reinkommen: Berliner Polizisten kaufen offenbar Radio mit Hakenkreuzen.

===

Das Bundeskartellamt hat ein „Wettbewerbsverfahren gegen Amazon und Apple“ gestartet, wie die FAZ berichtet. Bei den Untersuchungen geht es um Kooperationen zwischen den beiden Unternehmen, die verhindern sollen, dass nicht-zertifizierte Apple-Händler Produkte des Unternehmens auf Amazon verkaufen. Das Beispiel zeigt, dass Amazon eben kein neutraler Vermittler ist, als der sich das Unternehmen gerne zeigt, weil man damit regulative Vorteile hat.

===

In Frankreich gibt es Pläne für Verschärfungen der sowieso schon ziemlich scharfen Sicherheitsgesetze. La Quadrature du Net weist auf die Debatte um ein „Gesetz zur globalen Sicherheit“ hin, das die Nutzung von Drohnen durch Sicherheitsbehörden legalisiert und gleichzeitig verbietet, dass Bilder von Polizist:innen veröffentlicht werden dürfen: Loi securite globale: Surveillance generalisee des manifestations.

===

Robert Brockhaus, Simon Gerdemann und Christian Thönnes warnen im Verfassungsblog davor, dass eine Umsetzung der EU-Whistleblower-Richtlinie zu einem ungleichen Schutz für Whistleblower führen kann: Zu drohenden verfassungswidrigen Ungleich­behandlungen durch die Umsetzung der EU-Whistleblowing-Richtlinie.

===

Der vierte Deutsche Kinder- und Jugendsportbericht fordert mehr Förderung von Sportmöglichkeiten für Kinder und Jugendliche, weil die zuviel vor Bildschirmen sitzen und dicker werden: Mehrheit der Kinder und Jugendlichen bewegt sich zu wenig.

===

Die Fraunhofer-Initiative Roberta4Home verschenkt 1000 Calliope-Mini-Computer an Grundschüler im Rahmen des Wettbewerbes Code4Space, für den Grundschulteams Experimente für die Internationale Raumstation ISS machen. Die Calliope-Mini-Computer sind eine gute Möglichkeit für den niedrigschwellgen Einstieg in die Programmier-Welt. Hier kann man sich bewerben.

===

Missverständliche Aussagen des SPD-Gesundheitspolitikers Karl Lauterbach zu möglichen Wohnungskontrollen zur Einhaltung der Corona-Regeln führten gestern zu erregten Debatten, auch im Bundestag. Das ZDF hat das zusammengefasst: Lauterbachs Wohnungskontrollen – Perfekte Zutaten für einen Shitstorm.

===

Während bei uns die Zahlen langsam durch die Decke gehen (und es uns damit immer noch vergleichsweise gut geht gegenüber den meisten europäischen Staaten), schaut Taiwan auf 200 Tage Corona-frei zurück. Natürlich hat ein Inselstaat mehr Möglichkeiten, sich abzuschotten und die Einstellung des Reiseverkehres für Nicht-Bewohner:innen spielt hier eine Rolle. Aber dazu zählen ebenso klare Quarantäne-Regeln, deren Einhaltung auch überprüft und deren Missachtung teuer bestraft wird. Und die Quarantäne-Regeln gelten auch für alle Kontaktpersonen, auch wenn diese einmal negativ getestet wurden. Dazu hat Taiwan sehr früh eine eigene Maskenproduktion gehabt und Maske tragen ist dort als solidarischer Akt mehr in der Gesellschaft akzeptiert als bei uns mit den vielen Covidioten. Das Time-Magazine berichtet über Taiwan: Taiwan Achieves Record 200 Days With No Local Coronavirus Cases.

===

In einem großen Experiment haben Forscher der Uni Halle an der Saale getestet, wie Großveranstaltungen trotz Corona möglich sein können. Die Ergebnisse liegen jetzt vor: Großveranstaltungen können laut Studie auch in einer Pandemie stattfinden. In der Theorie geht das, in der Praxis dürfte das aber leider sehr langweilig sein und das mag für Konzerte irgendwie noch funktionieren, aber nicht wirklich für Kongresse.

===

Bereits 1999 hat David Bowie in einem Interview die zukünftigen Auswirkungen des Internets besser vorhergesagt, als es aktuell viele Artikel im Feuilleton tun. Die BBC erinnerte gestern mit einem Auszug des Interviews nochmal an die weise Voraussicht.

Video des Tages: Ungewollt nackt im Netz?

Das Y-Kollektiv aus dem Funk-Universum gibt in der Kurz-Dokumentation „Ungewollt nackt im Netz? Das kannst du tun, wenn du öffentlich auf Pornoseiten gedemütigt wirst“ genau in die Thematik Einblick und gibt Tipps, wie man sich wehren kann.

===

Das war es für heute. Viele Grüße und bleibt gesund,
Markus Beckedahl

Ich freue mich immer über Feedback und gute Hinweise. Meine Mailadresse ist markus@netzpolitik.org. Ich bin zwar häufig von zu vielen eMails überfordert und bekomme nicht alle beantwortet. Aber ich lese alle Mails.

Diesen Newsletter kann man hier abonnieren.

Dieser Newsletter wird auch von vielen Spenden im Rahmen der freiwilligen Leser:innenfinanzierung von netzpolitik.org ermöglicht. Mit Deiner Unterstützung können wir noch viel mehr machen.

0 Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.