KW 28Die Woche, in der ChatGPT reflektierter war als der Bundeskanzler

Die 28. Kalenderwoche geht zu Ende. Wir haben 19 neue Texte mit insgesamt 176.299 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Regenbogenfarbenes Fraktal
Fraktal, generiert mit MandelBrowser von Tomasz Śmigielski

Liebe Leser:innen,

ich hatte noch nie das Bedürfnis, jemandem ernsthaft die Nutzung von ChatGPT zu empfehlen – bis zu dieser Woche. Und dieser jemand war immerhin Olaf Scholz, der Bundeskanzler. Der besuchte nämlich kürzlich das Bundesamt für Migration und Flüchtlinge und hat Werbung für mehr so genannte Künstliche Intelligenz bei Asylverfahren gemacht.

Warum sein Gerede entweder unlauteres Innovationsbingo oder ganz schön gefährlich oder im schlimmsten Fall beides ist, habe ich am Mittwoch kommentiert. Was nicht im Kommentar steht: Ich habe aus Spaß und mit einer Prise Zynismus mal ChatGPT gefragt, ob es denn eine gute Idee wäre, KI über Asyl entscheiden zu lassen. Wie diese KI geartet sein soll, habe ich nicht spezifiziert – das macht ja in der öffentlichen Diskussion auch nie jemand.

Das Ergebnis: ChatGPT würde sich selbst wohl keinen Entscheider-Job im BAMF geben. „Es wäre riskant und unethisch, eine KI allein über Asylgesuche entscheiden zu lassen“, spuckt die Maschine aus. Unterstützend ja, da könnte man vielleicht bei der Datenanalyse was machen. Aber die Liste an Risiken, die sich das Sprachmodell irgendwo im Internet zusammengelernt hat, ist lang. Sieben bedenkenswerte Aspekte nennt die Maschine, aufgeteilt in ethische, rechtliche und praktische Überlegungen.

KI-Algorithmen seien oft schwer nachvollziehbar, das gebe Probleme mit Rechtsstaatlichkeit und Transparenz, heißt es etwa. Außerdem könnten die Systeme „Vorurteile und Diskriminierungen aufweisen“, gerade bei verzerrten Trainingsdaten. Und nicht zuletzt, sondern ganz oben: „Asylentscheidungen betreffen oft tief persönliche und emotionale Schicksale. Eine KI könnte Schwierigkeiten haben, die menschliche Dimension und den Kontext vollständig zu erfassen und angemessen zu berücksichtigen.“

Das glorifizierte Sprachmodell klingt hier leider deutlich reflektierter als der menschliche Bundeskanzler, dem böse Zungen ja auch eine gewisse Roboterhaftigkeit nachsagen. Scholz redet lieber davon, dass er ein „erstklassiges, unübertreffbares Management von irregulärer Migration nach Deutschland“ will. Und man wird das Gefühl nicht los, dass er damit vor allem Abschiebungen meint. Das ist einer der Momente, in denen ich ausnahmsweise hoffe, dass es nur bei leeren Worten bleibt.

Ein nicht ganz so konsterniertes Wochenende wünscht euch

anna

Data Workers' InquiryDie versteckten Arbeitskräfte hinter der KI erzählen ihre Geschichten

Ohne Millionen Datenarbeiter:innen würden weder sogenannte Künstliche Intelligenz noch Content-Moderation funktionieren. In einem neuen Projekt erzählen sie ihre Geschichten: von Plattformarbeiter:innen in Venezuela und Syrien über Angestellte von Outsourcing-Firmen in Kenia bis zu Content-Moderator:innen in Deutschland.

Lesen Sie diesen Artikel: Die versteckten Arbeitskräfte hinter der KI erzählen ihre Geschichten

Digital Services Act„Wir wollen dafür sorgen, dass große Unternehmen die neuen Rechte einhalten“

Wir sprechen mit Svea Windwehr von der Gesellschaft für Freiheitsrechte über die neuen Rechte durch den Digital Services Act. Wie wehrt man sich gegen regelwidrige Maßnahmen der Plattformen? Wo könnte der DSA auch missbraucht werden? Und Svea ruft euch dazu auf, sich bei der GFF zu melden, wenn Plattformen eure Inhalte oder euer Konto sperren.

Lesen Sie diesen Artikel: „Wir wollen dafür sorgen, dass große Unternehmen die neuen Rechte einhalten“

Aktionismus gegen Deepfakes„Da würde eine neue Technik pauschal unter Strafe gestellt“

Der Bundesrat legt ein Gesetz gegen Deepfakes vor. Es ist nur die aktuellste in einer Reihe hauptsächlich symbolischer, aktionistischer Regelungsbestrebungen. Aber selbst wenn dieses Gesetz nie verabschiedet wird: Ein Gesetz zum Thema Deepfakes wird kommen. Wir haben uns deshalb mit dem Entwurf auseinandergesetzt.

Lesen Sie diesen Artikel: „Da würde eine neue Technik pauschal unter Strafe gestellt“

Vorläufiges ErgebnisX-Twitter verstößt gegen EU-Regeln für Plattformen

Die EU-Kommission hat heute ihre vorläufigen Ergebnisse zu Verstößen von Elon Musks Plattform gegen den Digital Services Act übermittelt. Es geht um täuschende blaue Haken, intransparente Werbung und mangelhaften Zugang zu Daten für Forschende. Das Verfahren könnte in einer hohen Strafe enden.

Lesen Sie diesen Artikel: X-Twitter verstößt gegen EU-Regeln für Plattformen

1 Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.