Liebe Leser:innen,
ich hatte noch nie das Bedürfnis, jemandem ernsthaft die Nutzung von ChatGPT zu empfehlen – bis zu dieser Woche. Und dieser jemand war immerhin Olaf Scholz, der Bundeskanzler. Der besuchte nämlich kürzlich das Bundesamt für Migration und Flüchtlinge und hat Werbung für mehr so genannte Künstliche Intelligenz bei Asylverfahren gemacht.
Warum sein Gerede entweder unlauteres Innovationsbingo oder ganz schön gefährlich oder im schlimmsten Fall beides ist, habe ich am Mittwoch kommentiert. Was nicht im Kommentar steht: Ich habe aus Spaß und mit einer Prise Zynismus mal ChatGPT gefragt, ob es denn eine gute Idee wäre, KI über Asyl entscheiden zu lassen. Wie diese KI geartet sein soll, habe ich nicht spezifiziert – das macht ja in der öffentlichen Diskussion auch nie jemand.
Das Ergebnis: ChatGPT würde sich selbst wohl keinen Entscheider-Job im BAMF geben. „Es wäre riskant und unethisch, eine KI allein über Asylgesuche entscheiden zu lassen“, spuckt die Maschine aus. Unterstützend ja, da könnte man vielleicht bei der Datenanalyse was machen. Aber die Liste an Risiken, die sich das Sprachmodell irgendwo im Internet zusammengelernt hat, ist lang. Sieben bedenkenswerte Aspekte nennt die Maschine, aufgeteilt in ethische, rechtliche und praktische Überlegungen.
KI-Algorithmen seien oft schwer nachvollziehbar, das gebe Probleme mit Rechtsstaatlichkeit und Transparenz, heißt es etwa. Außerdem könnten die Systeme „Vorurteile und Diskriminierungen aufweisen“, gerade bei verzerrten Trainingsdaten. Und nicht zuletzt, sondern ganz oben: „Asylentscheidungen betreffen oft tief persönliche und emotionale Schicksale. Eine KI könnte Schwierigkeiten haben, die menschliche Dimension und den Kontext vollständig zu erfassen und angemessen zu berücksichtigen.“
Das glorifizierte Sprachmodell klingt hier leider deutlich reflektierter als der menschliche Bundeskanzler, dem böse Zungen ja auch eine gewisse Roboterhaftigkeit nachsagen. Scholz redet lieber davon, dass er ein „erstklassiges, unübertreffbares Management von irregulärer Migration nach Deutschland“ will. Und man wird das Gefühl nicht los, dass er damit vor allem Abschiebungen meint. Das ist einer der Momente, in denen ich ausnahmsweise hoffe, dass es nur bei leeren Worten bleibt.
Ein nicht ganz so konsterniertes Wochenende wünscht euch
anna
War ChatGPT wirklich reflektierter als der Kanzler?
Wie misst man das bei einem Cloudmonster?