Bewertungsportale: Wenn es der Künstlichen Intelligenz gut geschmeckt hat

Wieviel Vertrauen kann man Bewertungen im Netz noch schenken, wenn neben bezahlten Menschen auch noch Computer Rezensionen schreiben? (Screenshot) – Alle Rechte vorbehalten Yelp

Wenn es um die Bewertung von Produkten, Hotels und Restaurants geht, dann verlassen sich viele Menschen auf Rezensionen, die auf Amazon oder Bewertungsportalen stehen. Schon immer war das System anfällig für Fälschungen und gekaufte Rezensionen, die Produkte und Orte künstlich auf- oder abwerteten. Zu diesem Problem gesellt sich jetzt noch ein weiteres: Wissenschaftler der University of Chicago haben eine Künstliche Intelligenz geschaffen, die selbst Rezensionen schreibt – und dabei kaum von menschlichen Texten unterscheidbar ist.

In ihrer Arbeit „Automated Crowdturfing Attacks and Defenses in Online Review Systems“ behaupten die Wissenschaftler, dass die Texte weder von derzeitigen Fake-Kontrollsystemen der Plattformen noch durch menschliche Reviewer zu erkennen seien. Probeleser sollten in der Studie die Texte daraufhin bewerten, ob sie „hilfreich“ seien. Die automatisiert erstellten Texte erreichten dabei eine ähnliche Glaubwürdigkeit wie die von Menschen geschriebenen.

Gegenüber dem Business Insider sagt Ben Zhao, einer der beteiligten Wissenschaftler:

Das wird sich zu größeren Attacken weiterentwickeln, in denen ganze Artikel in Blogs komplett autonom generiert werden von Robotern. Dann muss man überlegen, wo kommt die Information her, wie kann man sie verifizieren. So etwas wird eine große Herausforderung in den nächsten Jahren.

Wer wirklich gute Rezensionen im Netz sucht, sollte vermehrt auf halb-öffentliche Foren mit Bürgensystem oder auf Freundeskreise in Instant Messengern zurückgreifen. Hier ist die Chance deutlich höher, wirklich gut beraten zu werden.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

0 Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.