Die schwarz-rote Koalition plant ein KI-Migrationsverwaltungsgesetz (KIMVG), mit dem sie nach eigener Aussage Verwaltungsverfahren „effizienter, einheitlicher, qualitativ hochwertiger und sicherer“ machen möchte. Seit diese Gesetzespläne bekannt wurden, gibt es daran massive Kritik.
Verstummt ist sie seither nicht. Informatikprofessor und KI-Experte Alexander Steen bezeichnet den Entwurf in einem aktuellen Interview mit der taz als „undurchdacht“, er gebe den beteiligten Behörden einen Blankoscheck für den unreflektierten Einsatz von Technologie. Das Risiko sei im Zweifel höher als der Nutzen. Manche Vorhaben mit der KI seien „in etwa so verlässlich, wie zufällige Leute auf der Straße dazu zu befragen“, so Steen.
Arian Henning vom Max-Planck-Institut warnte im Verfassungsblog davor, dass bei den Plänen der „Mensch als Feigenblatt der Maschine“ agiere. Steen und Henning sind mit ihrer Kritik nicht alleine. Mehr als 30 Organisationen, unter ihnen Algorithmwatch, Amnesty International, Pro Asyl, die AWO und das Generalsekretariat des Deutschen Roten Kreuzes, warnen in einer Stellungnahme (PDF) eindringlich vor dem Gesetz in der jetzigen Form.
Gegen Ausweiskontrollen im Netz.
Wir kämpfen für ein offenes Internet. Mit deiner Unterstützung.
Künstliche Intelligenz in der Migrationsverwaltung brauche „klare Grenzen und unabhängige Kontrolle“, so die Unterzeichner:innen des Appells. Der Gesetzentwurf schaffe „weitreichende KI-Befugnisse, ohne deren konkrete Anwendungsregeln, ausreichenden Grundrechtsschutz, klare Verantwortung und Transparenzmaßnahmen zu definieren“, heißt es in der Erklärung. In seiner jetzigen Form sei davon auszugehen, dass das KIMVG weder grundrechts- noch europarechtskonform gestaltet sei.
Daten- und Grundrechtsschutz verankern
Um das Gesetz zu verbessern, unterbreiten die Unterzeichnenden drei grundlegende Forderungen. Einerseits brauche es wirksamen Datenschutz und Grundrechtsschutz von Anfang an. Denn für das Training und Einsatz von KI-Systemen sollen große Mengen an Daten zur Verfolgungsgeschichte, sexueller Orientierung und geschlechtlicher Identität, Herkunft, Religion oder Behinderungen in den Systemen verarbeitet werden können. Hier warnen die Unterzeichnenden, dass sich solche Trainingsdaten im Nachhinein extrahieren lassen könnten.
Zudem warnen die Verfasser vor dem sogenannten „Automation Bias“, also vor dem übersteigerten Vertrauen der Beamten in KI-generierte Ergebnisse – ein Phänomen, welches sich immer wieder in unterschiedlichen Bereichen nachweisen lässt. Dieses Problem werde im Gesetzentwurf unzureichend adressiert. Fehlerhafte oder diskriminierende automatisierte Ergebnisse würden dann kaum mehr korrigiert werden können.
Das Gesetz müsse deswegen besseren Datenschutz und Datenminimierung festschreiben, automatisierte Internetabgleiche begrenzen sowie verbindliche Anforderungen an externe Anbieter festlegen.
Fehlende Evaluation und Transparenz
Zweitens müsse die Koalition eine verbindliche und unabhängige Evaluation der KI-Systeme verankern. Der Gesetzentwurf bleibe hinter den Pflichten der europäischen KI-Verordnung zurück und enthalte keine Vorgaben zur Durchführung einer Grundrechtefolgenabschätzung, so die Kritik. Wichtig seien deswegen „fortlaufende Wirkungsevaluationen der KI-Systeme“ sowie die Durchführung einer Grundrechtsfolgenabschätzung und die Involvierung einer unabhängigen Datenschutzaufsicht.
Drittens müsse das Gesetz eine Nachvollziehbarkeit und Transparenz für Betroffene und Öffentlichkeit herstellen. Zwischen Behörden und Betroffenen bestehe eine Informationsasymmetrie, durch die eine algorithmische Diskriminierung oft unerkannt bleibe. Der Gesetzentwurf begegne diesem Problem nicht mit ausreichenden Transparenzpflichten, so die Organisationen. Hierbei verweisen diese auch auf den KI-Skandal in den Niederlanden, wo falsche KI-Entscheidungen zehntausende Familien in finanzielle Not brachten.
Bald Sachverständigenanhörung im Innenausschuss
Deswegen sei es nötig, Transparenz und wirksamen Rechtsschutz zu gewährleisten, die Evaluationsergebnisse öffentlich zugänglich machen und offen zu legen, welche KI-Systeme Behörden zu welchen Zwecken einsetzen.
Der Gesetzentwurf müsse überarbeitet werden, denn er schaffe weitreichende Befugnisse, ohne dabei konkrete Anwendungsregeln, ausreichenden Grundrechtsschutz, klare Verantwortlichkeiten und hinreichende Transparenzmaßnahmen zu definieren.
Eine weitere Gelegenheit, Kritik an den Plänen zu üben und zugleich den Entwurf zu verbessern, wird sich bald ergeben. Für den 23. November 2026 ist eine Anhörung im Innenausschuss des Deutschen Bundestags zum Gesetzentwurf geplant. Zu den geladenen Sachverständigen zählen unter anderem der eingangs erwähnte Alexander Steen von der Gesellschaft für Informatik, Franziska Görlitz von der Gesellschaft für Freiheitsrechte und Eric Töpfer vom Deutschen Institut für Menschenrechte.
Alles netzpolitisch Relevante
Drei Mal pro Woche als Newsletter in deiner Inbox.
Dokument
Gemeinsamer Appell aus der Zivilgesellschaft
KI in der Migrationsverwaltung braucht klare Grenzen und unabhängige Kontrolle!
Der Einsatz Künstlicher Intelligenz (KI) in der Migrationsverwaltung ist kein Selbstzweck: Er muss sich daran messen lassen, ob er die Rechte Betroffener stärkt und faire, zugängliche und nachvollziehbare Verfahren ermöglicht. Dort, wo existenzielle Entscheidungen über Schutz und Aufenthalt von Menschen gefällt werden, benötigt der Einsatz algorithmischer Systeme einen klaren Rechtsrahmen und wirksame Schutzvorkehrungen gegen fehlerhafte Ergebnisse, Verzerrungen und Diskriminierung. Der Gesetzentwurf zum Einsatz Künstlicher Intelligenz in der Migrationsverwaltung (KIMVG) schafft weitreichende KI-Befugnisse, ohne deren konkrete Anwendungsregeln, ausreichenden Grundrechtsschutz, klare Verantwortung und Transparenzmaßnahmen zu definieren. In seiner jetzigen Form ist davon auszugehen, dass das KIMVG weder grundrechts- noch europarechtskonform gestaltet ist (Art. 1 Abs. 1, Art. 2 Abs. 1 und Art. 3 Abs. 1 GG; Arts. 7, 8, 20 f. GRCh).
Wir, 37 zivilgesellschaftliche Organisationen, fordern den Gesetzgeber zu grundlegenden Nachbesserungen am Gesetzentwurf auf. Die Regulierung von KI-Systemen in der Migrationsverwaltung darf angesichts der hohen Risiken für Betroffene keinem Trial-and-Error-Prinzip folgen. Es braucht klare Grenzen, wirksame Schutzvorkehrungen und eine unabhängige Evaluation von Anfang an.
Wir fordern den Gesetzgeber dazu auf:
- Wirksamen Datenschutz und Grundrechtsschutz im Gesetz zu definieren
- Verbindliche und unabhängige Evaluation der KI-Systeme zu verankern
- Nachvollziehbarkeit und Transparenz für Betroffene und Öffentlichkeit herzustellen
Unsere Forderungen im Einzelnen:
1. Wirksamer Datenschutz und Grundrechtsschutz von Anfang an
Der Gesetzentwurf macht Schutzsuchende zu gläsernen Menschen: Für Training und Einsatz von KI-Systemen sollen große Mengen an Daten zur Verfolgungsgeschichte, sexueller Orientierung und geschlechtlicher Identität, Herkunft, Religion oder Behinderungen verarbeitet werden können. Wissenschaftliche Analysen zeigen, dass sich Trainingsdaten aus KI-Systemen im Nachhinein extrahieren lassen.
Diese technische Möglichkeit stellt eine hohe Gefahr für den Datenschutz von Migrant*innen dar, wenn deren Klardaten verwendet werden. Sozial-psychologische Effekte wie der automation bias, also das übersteigerte Vertrauen in KI-generierte Ergebnisse, werden von der Befugnis nur unzureichend adressiert. Das ist problematisch, weil dadurch fehlerhafte oder diskriminierende automatisierte Ergebnisse kaum korrigiert werden können.
Europäische Erfahrungen verdeutlichen die Risiken: In Großbritannien wurde 2020 ein Algorithmen-gestütztes Visumverfahren nach Diskriminierungsvorwürfen zurückgezogen. Bei dem seit April 2026 flächendeckend eingesetzten KI-System zur Zusammenfassung von Asylanhörungen zeigten interne Prüfungen erhebliche Qualitätsmängel. Diese Anwendungsfälle verdeutlichen das Risiko gravierender Folgen für Betroffene sowie zusätzlicher Kosten, Verwaltungsaufwände und Vertrauensverluste für Behörden.
Wir fordern deshalb klare gesetzliche Grenzen und verbindliche Schutzvorkehrungen vor dem KI-Einsatz:
- Datenschutz und Datenminimierung: Die pauschale Nutzung ganzer Asylakten und Ausländerzentralregister-Datenbestände für KI-Training und Analysen ausschließen, den Vorrang von Anonymisierung verbindlich festschreiben und spezifische Schutzvorkehrungen für sensible Daten gesetzlich verankern (Datenanalyseurteil 1 BvR 1547/19 und 1 BvR 2634/20). Personenbezogene Daten dürfen nur nach erfolgter Einverständniseinholung verarbeitet werden.
- Automatisierte Internetabgleiche begrenzen: Automatisierte Internetabgleiche an strengere Voraussetzungen knüpfen, zulässige Anwendungen eng begrenzen und auf das öffentlich zugängliche, indexierte Internet beschränken. Selbstlernende KI in OSINT-Recherche ausschließen. Betroffene vor Nutzung der Maßnahme verständlich informieren.
- Verbindliche Anforderungen an externe Anbieter: Klare gesetzliche Anforderungen an die Auswahl und Kontrolle externer KI-Anbieter schaffen und die Weitergabe und Nutzung personenbezogener Daten durch privatwirtschaftliche Dritte ausschließen.
2. Verbindliche und unabhängige Evaluation der KI-Systeme von Beginn an
KI-Systeme der Migrationsverwaltung betreffen Personen, die sich häufig in einer besonders prekären Lage befinden und vom Ergebnis behördlicher Maßnahmen abhängig sind. Der Gesetzentwurf bleibt hinter den Pflichten der europäischen KI-Verordnung zurück und enthält keine Vorgaben zur Durchführung einer Grundrechtefolgenabschätzung. KI-Systeme, die Entscheidungen über Asyl, Visa und Aufenthalt beeinflussen, sollten grundsätzlich als Hochrisiko-KI im Sinne der KI-Verordnung eingestuft werden.
Wir fordern deshalb fortlaufende Wirkungsevaluationen der KI-Systeme:
- Durchführung einer Grundrechtsfolgenabschätzung: Vor Inbetriebnahme müssen Ziele, Einsatzbereiche und Risiken der Systeme dokumentiert und eine Grundrechtsfolgenabschätzung durchgeführt werden. Die Grundrechtsfolgenabschätzung ist im laufenden Betrieb anhand tatsächlicher Auswirkungen fortzuführen – insbesondere hinsichtlich Fehler- und Diskriminierungsrisiken, des Einflusses auf individuelle Entscheidungen, der Wirksamkeit menschlicher Kontrolle sowie der Verfahrensqualität. Sachbearbeitende, Betroffene und ihre Selbstorganisationen sowie weitere zivilgesellschaftliche Organisationen müssen wirksam daran beteiligt werden (vgl. Erwägungsgrund 96 KI-VO).
- Involvierung der Datenschutzaufsicht: Die zuständige unabhängige Datenschutzaufsicht prüft die Grundrechtskonformität im Rahmen ihrer datenschutzrechtlichen Zuständigkeit.
3. Nachvollziehbarkeit und Transparenz für Betroffene und die Öffentlichkeit:
Zwischen Behörden und Betroffenen besteht eine Informationsasymmetrie, durch die algorithmische Diskriminierung oft unerkannt bleibt. Der Gesetzentwurf begegnet ihr nicht mit ausreichenden Transparenzpflichten.
In den Niederlanden brachte ein diskriminierender Algorithmus zur Erkennung von Sozialbetrug zehntausende Familien in finanzielle Not. Erst Recherchen und Untersuchungen machten das Ausmaß öffentlich; die Regierung trat zurück. Der Fall verdeutlicht, warum KI-Einsatz frühzeitig transparent und überprüfbar sein muss.
Wir fordern daher:
- Transparenz und wirksamen Rechtsschutz gewährleisten: Den Einsatz von KI und ihren Einfluss auf individuelle Verfahren nachvollziehbar dokumentieren. Betroffene müssen über den KI-Einsatz, die verwendeten Daten und Ergebnisse informiert und vor einer Entscheidung angehört werden. Wirksame Möglichkeiten zur Überprüfung und Anfechtung müssen gewährleistet sein.
- Evaluationsergebnisse öffentlich zugänglich machen: Die Ergebnisse unabhängiger Evaluationen zu Grundrechtsauswirkungen und zur Wirksamkeit der Schutzvorkehrungen sind zu veröffentlichen und dem Bundestag vorzulegen.
- Öffentliche Transparenz schaffen: Es muss öffentlich nachvollziehbar sein, welche KI-Systeme Behörden zu welchen Zwecken einsetzen. Dazu eignet sich die verbindliche Eintragung aller KI-Systeme der Migrationsverwaltung in den “Marktplatz der KI-Möglichkeiten”
Bundesweit tätige Organisationen:
- AlgorithmWatch
- Amnesty International Deutschland
- AWO Bundesverband e.V.
- Bundeskonferenz der Migrant*innenorganisationen (BKMO)
- D64 – Zentrum für Digitalen Fortschritt
- Der Paritätische Gesamtverband
- Deutsche Vereinigung für Datenschutz e.V.
- Deutsches Rotes Kreuz Generalsekretariat
- Digitalcourage e.V.
- Grenzenlos-People in Motion e.V.
- Handicap International e. V.
- IWACU
- International Rescue Committee (IRC) Deutschland
- Netzwerk Datenschutzexpertise
- PRO ASYL Bundesweite Arbeitsgemeinschaft für Flüchtlinge e.V.
- Redaktion CILIP | Bürgerrechte & Polizei
- Refugee Advisory Board Germany (RAB Germany)
- Seebrücke
Landesweit tätige Organisationen:
- Flüchtlingsrat Brandenburg
- Flüchtlingsrat Hamburg e.V.
- Flüchtlingsrat Niedersachsen e.V.
- Flüchtlingsrat Schleswig-Holstein
- Hessischer Flüchtlingsrat
- Initiativauschuss für Migrationspolitik in Rheinland-Pfalz
- lifeline – Vormundschaftsverein im Flüchtlingsrat Schleswig-Holstein e.V.
- Sächsischer Flüchtlingsrat e.V.
Lokal/Regional tätige Organisationen:
- Don’t forget Afghanistan
- Fremde brauche Freunde e.V. Nordfriesland
- Project Elpida e.V.
- Rom e.V. – Roma-Selbstorganisation für Teilhabe, Bildung und Kultur
- Sea-Eye Gruppe Frankfurt am Main
- Seebrücke Hamburg
- Seebrücke Hannover
- Seebrücke Kassel
- Seebrücke Kiel
- Seebrücke Lokalgruppe Düsseldorf
- Seebrücke Regensburg

Schreibe eine Ergänzung!