Dieser Artikel ist mehr als 1 Jahr alt.

KW 28Die Woche, in der ChatGPT reflektierter war als der Bundeskanzler

Die 28. Kalenderwoche geht zu Ende. Wir haben 19 neue Texte mit insgesamt 176.299 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

  • Anna Biselli
Regenbogenfarbenes Fraktal
– : Fraktal, generiert mit MandelBrowser von Tomasz Śmigielski

Liebe Leser:innen,

ich hatte noch nie das Bedürfnis, jemandem ernsthaft die Nutzung von ChatGPT zu empfehlen – bis zu dieser Woche. Und dieser jemand war immerhin Olaf Scholz, der Bundeskanzler. Der besuchte nämlich kürzlich das Bundesamt für Migration und Flüchtlinge und hat Werbung für mehr so genannte Künstliche Intelligenz bei Asylverfahren gemacht.

Warum sein Gerede entweder unlauteres Innovationsbingo oder ganz schön gefährlich oder im schlimmsten Fall beides ist, habe ich am Mittwoch kommentiert. Was nicht im Kommentar steht: Ich habe aus Spaß und mit einer Prise Zynismus mal ChatGPT gefragt, ob es denn eine gute Idee wäre, KI über Asyl entscheiden zu lassen. Wie diese KI geartet sein soll, habe ich nicht spezifiziert – das macht ja in der öffentlichen Diskussion auch nie jemand.

Das Ergebnis: ChatGPT würde sich selbst wohl keinen Entscheider-Job im BAMF geben. „Es wäre riskant und unethisch, eine KI allein über Asylgesuche entscheiden zu lassen“, spuckt die Maschine aus. Unterstützend ja, da könnte man vielleicht bei der Datenanalyse was machen. Aber die Liste an Risiken, die sich das Sprachmodell irgendwo im Internet zusammengelernt hat, ist lang. Sieben bedenkenswerte Aspekte nennt die Maschine, aufgeteilt in ethische, rechtliche und praktische Überlegungen.

KI-Algorithmen seien oft schwer nachvollziehbar, das gebe Probleme mit Rechtsstaatlichkeit und Transparenz, heißt es etwa. Außerdem könnten die Systeme „Vorurteile und Diskriminierungen aufweisen“, gerade bei verzerrten Trainingsdaten. Und nicht zuletzt, sondern ganz oben: „Asylentscheidungen betreffen oft tief persönliche und emotionale Schicksale. Eine KI könnte Schwierigkeiten haben, die menschliche Dimension und den Kontext vollständig zu erfassen und angemessen zu berücksichtigen.“

Das glorifizierte Sprachmodell klingt hier leider deutlich reflektierter als der menschliche Bundeskanzler, dem böse Zungen ja auch eine gewisse Roboterhaftigkeit nachsagen. Scholz redet lieber davon, dass er ein „erstklassiges, unübertreffbares Management von irregulärer Migration nach Deutschland“ will. Und man wird das Gefühl nicht los, dass er damit vor allem Abschiebungen meint. Das ist einer der Momente, in denen ich ausnahmsweise hoffe, dass es nur bei leeren Worten bleibt.

Ein nicht ganz so konsterniertes Wochenende wünscht euch

anna

Unsere Artikel der Woche

DisplayEurope.euEine föderierte europäische Öffentlichkeit

DisplayEurope.eu verspricht „Europäische Nachrichteninhalte ohne Grenzen. In deiner Sprache.“ Dafür setzt das Portal konsequent auf föderierte Inhalte, Open-Source-Technologie und Creative-Commons-Lizenzen. Und es könnte Maßstäbe setzen für eine europäische Öffentlichkeit.

Data Workers' InquiryDie versteckten Arbeitskräfte hinter der KI erzählen ihre Geschichten

Ohne Millionen Datenarbeiter:innen würden weder sogenannte Künstliche Intelligenz noch Content-Moderation funktionieren. In einem neuen Projekt erzählen sie ihre Geschichten: von Plattformarbeiter:innen in Venezuela und Syrien über Angestellte von Outsourcing-Firmen in Kenia bis zu Content-Moderator:innen in Deutschland.

Data Workers' InquiryThe hidden workers behind AI tell their stories

AI and content moderation would be impossible without the labor of millions of data workers. In a new project, these workers share their stories: from platform workers in Venezuela and Syria to employees of outsourcing companies in Kenya and content moderators in Germany.

Digital Services Act„Wir wollen dafür sorgen, dass große Unternehmen die neuen Rechte einhalten“

Wir sprechen mit Svea Windwehr von der Gesellschaft für Freiheitsrechte über die neuen Rechte durch den Digital Services Act. Wie wehrt man sich gegen regelwidrige Maßnahmen der Plattformen? Wo könnte der DSA auch missbraucht werden? Und Svea ruft euch dazu auf, sich bei der GFF zu melden, wenn Plattformen eure Inhalte oder euer Konto sperren.

Sexualdelikte zum Nachteil von MinderjährigenWas die gestiegenen Fallzahlen bedeuten

Liest man die heutigen Schlagzeilen über den Anstieg von Sexualdelikten zum Nachteil von Kindern und Jugendlichen, kann einem angst und bange werden. Doch was sagen die Zahlen wirklich aus? Wir geben Kontext zu einer Debatte, bei der mal wieder mehr Überwachung gefordert wird.

Beschwerde von noybXandr verweigert jede Datenauskunft

Nach einer Recherche von netzpolitik.org zur Werbedatenplattform Xandr wollten Datenschutzbehörden deren Praktiken untersuchen. Die NGO noyb macht nun Druck, damit etwas passiert, und reicht Beschwerde ein. Denn Xandr verweigere die Auskunft nach Datenschutzgrundverordnung.

Buchvorstellung mit DiskussionWie Hacker in Filmen dargestellt werden

Eine Buchvorstellung mit Diskussion widmet sich am Donnerstag in Berlin den Hacker-Klischees in Filmen und Fernsehserien und der fiktiven Abbildung von Hackertätigkeiten. Buchautor William Mahan spricht und diskutiert über die Wechselwirkungen zwischen filmischer und realer Welt, denn Hacken ist politisch.

Transparenzbericht 1. Quartal 2024Unsere Einnahmen und Ausgaben und eine gerissene Latte

Die Bundesregierung duckt sich unter der rechten Welle weg und kommt nicht vom Fleck. Wir reißen zwar eine Latte, kommen aber um einiges voran. Und wir haben einiges in Planung. Denn: Ein großer Geburtstag steht an. Und ihr seid alle herzlich eingeladen!

Online-AlterskontrollenBanken oder Krankenversicherungen sollen Alter bestätigen

Das Bundesfamilienministerium will mit einem Konzept für eine „datensparsame Altersverifikation“ in den Debatten um den Jugendschutz punkten und hat dazu ein System beauftragt. Fachleute kritisieren die Pläne als kurzsichtig und technisch nicht machbar.

Aktionismus gegen Deepfakes„Da würde eine neue Technik pauschal unter Strafe gestellt“

Der Bundesrat legt ein Gesetz gegen Deepfakes vor. Es ist nur die aktuellste in einer Reihe hauptsächlich symbolischer, aktionistischer Regelungsbestrebungen. Aber selbst wenn dieses Gesetz nie verabschiedet wird: Ein Gesetz zum Thema Deepfakes wird kommen. Wir haben uns deshalb mit dem Entwurf auseinandergesetzt.

KI in AsylverfahrenGefährlicher Tech-Populismus

Scholz will mehr KI bei Asylverfahren. Man könnte seine Äußerung beim BAMF-Besuch als Innovations-Bingo abtun. Doch wenn es um Menschenleben geht, ist dieser Tech-Populismus ein Problem. Ein Kommentar.

TelekommunikationWas die Zivilgesellschaft von Bretons Zukunftsvisionen hält

Der EU-Kommissar Thierry Breton trommelt für eine weitreichende Reform der EU-Märkte für Telekommunikation und holte dazu ein öffentliches Stimmungsbild ein. Wir haben uns angesehen, wie die Zivilgesellschaft die Deregulierungsfantasien des französischen EU-Politikers beantwortet hat.

Amnesty-ReportVersammlungsfreiheit in Gefahr

Amnesty International schlägt Alarm: Friedlicher Protest und das Grundrecht auf Versammlungsfreiheit werden in Europa zunehmend eingeschränkt. Behörden überwachen Demonstrierende immer ausgeklügelter und schrecken sie vom Protest ab – auch in Deutschland.

Eskalation in Gaming-CommunitysMorddrohung als Reflex

In der Gaming-Welt werden Morddrohungen teilweise leichtfertig ausgesprochen. Genauso werden lange Hasstiraden geteilt, die sich um vermeintliche Kleinigkeiten drehen. Warum ist das so? Und wie sollten wir dem begegnen?

DiensteanbieterverpflichtungDie Mauer in meinem Netz

Anders als früher will die Bundesnetzagentur im Herbst keine Mobilfunkfrequenzen mehr versteigern, sondern die bestehenden Nutzungsrechte verlängern. Doch ohne passende Auflagen schwäche das den Wettbewerb, kritisieren Verbraucherschützer:innen und Mobilfunkanbieter ohne eigenes Netz.

Vorläufiges ErgebnisX‑Twitter verstößt gegen EU-Regeln für Plattformen

Die EU-Kommission hat heute ihre vorläufigen Ergebnisse zu Verstößen von Elon Musks Plattform gegen den Digital Services Act übermittelt. Es geht um täuschende blaue Haken, intransparente Werbung und mangelhaften Zugang zu Daten für Forschende. Das Verfahren könnte in einer hohen Strafe enden.

Über die Autor:innen

  • Anna Biselli
    Darja Preuss

    Anna ist Co-Chefredakteurin bei netzpolitik.org. Sie interessiert sich vor allem für staatliche Überwachung und Dinge rund um digitalisierte Migrationskontrolle.

    Kontakt: E-Mail (OpenPGP), Mastodon, Telefon: +49-30-5771482-42 (Montag bis Freitag jeweils 8 bis 18 Uhr).


Veröffentlicht

Kategorie

Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.

Ein Kommentar zu „Die Woche, in der ChatGPT reflektierter war als der Bundeskanzler“


  1. Anonym

    ,

    War ChatGPT wirklich reflektierter als der Kanzler?
    Wie misst man das bei einem Cloudmonster?

Dieser Artikel ist älter als 1 Jahr, daher sind die Ergänzungen geschlossen.