MigrationskontrolleEin KI-Chatbot von Frontex soll zu Selbst-Abschiebung beraten

Die europäische Grenzschutzagentur Frontex entwickelt derzeit eine App mit integriertem Chatbot. Der soll Geflüchtete dabei beraten, wie sie „freiwillig“ in ihr Herkunftsland zurückkehren können. Der Einsatz stelle nach dem AI Act kein hohes Risiko dar, findet die Behörde.

Auf einer Weste ist das Logo von Frontex zu sehen.
Frontex arbeitet an einer neuen künstlichen Intelligenz, die zu Abschiebungen beraten soll. – Alle Rechte vorbehalten IMAGO / ANP

Wenn Geflüchtete „freiwillig“ oder unfreiwillig Europa verlassen, soll sie künftig ein KI-basierter Chatbot dabei beraten. Die Grenzschutzagentur Frontex entwickelt eine App, in der Menschen mehr über finanzielle Anreize einer sogenannten freiwilligen Ausreise erfahren oder wohin sie sich für weitere Beratung wenden können.

Die Anwendung ist Teil des europäischen Reintegration Programme von Frontex, das unter anderem Ausreisen finanziert. Reisen Geflüchtete nicht freiwillig aus, begleitet Frontex etwa auch Abschiebeflüge. Seit einigen Jahren setzt die Behörde verstärkt darauf, Menschen zur „freiwilligen“ Rückkehr zu bewegen. Laut einer Präsentation von Frontex aus dem Januar 2026 habe die Unterstützung von „Rückkehr-Spezialisten“ in 42 Prozent der Fälle, bei denen sie eingesetzt wurden, in einer Entscheidung zur freiwilligen Rückkehr geendet.

Da eine solche freiwillige Rückkehr, wie die EU diese Prozesse nennt, für Menschen mit fehlenden Alternativen nicht freiwillig sein kann, nutzen manche stattdessen Begriffe wie Selbst-Abschiebung.

Abschiebungen im Gewand automatisierter Beratungen

Der KI-Chatbot soll nun ähnliches bewirken. Das Ziel sei, dass sich mehr Menschen für eine Rückkehr in ihr Heimatland entscheiden, so der stellvertretende Exekutivdirektor Lars Gerdes laut AlgorithmWatch.

Wir sind communityfinanziert

Unterstütze auch Du unsere Arbeit mit einer Spende.

Wenn Frontex jedoch eine KI-basierte Technologie einsetzen will, ist relevant, ob sie nach dem AI Act als Hochrisiko-Anwendung gilt. Die Verordnung sieht vor, dass viele KI-Systeme im Bereich Migration als Hochrisiko-Systeme einzustufen sind, etwa wenn sie bei der Prüfung von Asyleinträgen genutzt werden. Für Frontex hat das zur Behörde gehörende Fundamental Rights Office (FRO) eine entsprechende Einstufung geprüft.

Die unzureichenden Stellen der KI-Verordnung

Obwohl der Chatbot zur Rechtsberatung eingesetzt werden könnte, kam die Behörde zu dem Schluss, dass kein hohes Risiko bestehe. Somit ergebe sich kein weiterer Bedarf, mögliche Auswirkungen auf Grundrechte zu überprüfen. In einer späteren Einschätzung empfahl FRO allerdings als erste von 27 weiteren Empfehlungen, die These theoretisch zu untermauern, dass mehr Informationen die Quote freiwilliger Rückkehrer*innen erhöhen würden. Im Zuge des 2024 verabschiedeten AI Acts hatten sowohl AlgorithmWatch als auch netzpolitik.org auf Leerstellen verwiesen, die der AI Act bei der Regulierung von eingesetzten Technologien im Bereich Migration hat.

Informationen über die App erhielt die Nichtregierungsorganisation AlgorithmWatch aus internen Dokumenten, die sie mit Informationsfreiheitsanfragen erhielt. Auf welche Daten der Chatbot zugreifen können soll, ist laut AlgorithmWatch noch unklar. Ebenfalls unklar bleibt, ob er wie geplant in Sprachen wie Arabisch, Urdu oder Paschtu genutzt werden könne. Bisher hatte Frontex nur Material in englischer Sprache zum Training verwendet, das Material dafür hat Frontex‘ Return Knowledge Office Daten zum Training zusammengestellt.

Die neue App gilt bei Frontex als „schnell umsetzbares, kostengünstiges Projekt mit nur geringem Ressourcenaufwand“, wie aus internen E-Mails laut AlgorithmWatch hervorgeht. Und Frontex hofft offenbar darauf, weitere, „leistungsfähigere und integrierte IT-Systeme“ entwickeln zu können, sobald gesetzliche Hürden dazu gefallen sind.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

14 Ergänzungen

  1. „Da eine solche freiwillige Rückkehr, wie die EU diese Prozesse nennt, für Menschen mit fehlenden Alternativen nicht freiwillig sein kann“

    Offensichtlich kann sie: sie können freiwillig abreisen. Alternativ mit Zwang abgeschoben werden, wenn es denn umgesetzt werden kann.

    1. Wenn du dazu gezwungen wirst, deine Hoffnungen aufzugehen (und auch die deiner Familie), kann eine Rückreise nie freiwillig sein.

      Man sollte dabei bedenken, dass statt (teurer) Abschottung auch ein erleichterter Zugang möglich wäre. Alles eine Frage der Einstellung. Die, die da kommen, sind Menschen mit Bedürfnissen, die sich von unseren grundsätzlich nicht unterscheiden.

      1. „Wenn du dazu gezwungen wirst, deine Hoffnungen aufzugehen (und auch die deiner Familie), kann eine Rückreise nie freiwillig sein.“

        Es gibt kein Grundrecht auf die Erfüllung von Hoffnung. Es gibt auch keine Möglichkeit, alle Hoffnungen zu erfüllen. Man kann mit dem gegebenen Scheitern dann durch freiwilliges Ergreifen von Alternativen umgehen, oderetztlich den Schritt zur Gewaltanwendung vollziehen.

        1. „Es gibt kein Grundrecht auf die Erfüllung von Hoffnung. Es gibt auch keine Möglichkeit, alle Hoffnungen zu erfüllen. Man kann mit dem gegebenen Scheitern dann durch freiwilliges Ergreifen von Alternativen umgehen, oderetztlich den Schritt zur Gewaltanwendung vollziehen.“

          Das halte ich für ein unzulässiges Framing. Das Post auf das geantwortet wurde, stellte dahin, die Rückreise wäre sowieso nicht freiwillig. Das kann zwar falsch sein, hat jedoch nichts mit „Grundrecht auf Erfüllung auf Hoffnung“ zu tun. Wir sind da eigentlich in der falschen Kategorie, es sei denn das wäre hier die AI-Agent- bzw. LLM-Kategorie. Die Aufstellung von „Alternativen“, ironischerweise auch hier, schließt dann mit der Idee der Gewaltanwendung ab, was passieren kann, aber keine logische Folge und auch keine korrekte Einstufung folgender Logikkette darstellt: Asyl -> Ablehnung -> Abschiebung -> X. Dass die Abschiebung nicht freiwillig erfolgt, ist in gewisser Weise dennoch grundsätzlich logisch, heißt aber nicht, dass nicht z.B. in einem anderen Land Asyl beantragt wird o.ä.

  2. Was für ein menschenverachtender, illegaler Haufen. Alleine ihr Kinderabschiebebuch reicht schon, den Laden sofort zuzumachen. Nun noch eine App, die an Widerwärtigkeit kaum zu überbieten ist.

    Und dabei rede ich noch nicht einmal von ihren immer wieder illegalen Aktivitäten, Rumballereien, Skandalen, wiederholten Menschenrechtsverletzungen, ihrem „high tech“ Überwachungsfetischismus, Kooperation mit zweifelhaften Regierungen ohne Rücksicht darauf, was mit den Menschen geschieht, push backs, nachgewiesenen Lügen, Manipulation, Korruption, Duldung von Gewaltexzessen usw.

    Wikipedia gibt eine unvollständige Übersicht. Und alles offiziell von der EU nicht nur legitimiert, sondern initiiert. Rat und Kommission handeln hier nicht nur menschenverachtend. Sie handeln wissentlich illegal. Sie akzeptieren und provozieren das Sterben von Menschen. Der Satz von der unantastbaren Würde des Menschen wirkt hier wie blanker Hohn.

    Egal, wie man zur Zuwanderung steht, an diesem Punkt ist endgültig Schluss! Rat und Kommission verlieren hier jegliche Legitimation.

    ICE im Mittelmeer.

    1. Haltlose Empörung hilft halt nur der moralisch Selbstvergewisserung, und konnotiert die eigene Position in der breiten Öffentlichkeit zunehmend negativ. Just saying.

          1. Es ist halt flooding the zone with shit, mit ganz anderer Intention, aber Beitrag zum gleichen Ergebnis.

            Alles menschverachtend, mindestens. Oder gleich faschistisch. Alles. Die große Mehrheit hört schon nicht mehr hin, die Wahlergebnisse fallen entsprechend aus. Wenn wir statt Weidel & AfD eine Meloni & Partei hätten, wäre sie Bundeskanzlerin, wir haben da reines Glück. Wobei Merz in vieler Beziehung schlechter ist.

          2. Protest gegen immer wieder nachgewiesenes, in jeder Hinsicht inakzeptables Verhalten ist „Flooding the zone with shit“ und bewirkt das erstarken radikaler Kräfte?

            Um das klarzustellen: Maul halten, Obrigkeitsdenken, Wegsehen, Knüngel, Dummheit, Vorteilsnahme und Opportionismus sind die Basis für Radikalität.

            Aus meiner Sicht verdrehst du die Realität massiv. Aber Argumente nennst du nicht. Bitte, „haltlos“ hast du immer noch nicht nachgewiesen. Bitte weise nach, was z.B. an dem Rechtsgutachten der ECCHR falsch ist. Die Kommission und der Rat legitimieren und provozieren illegales Verhalten und riskieren Menschenleben. Die Verantwortlichen gehören in einem Rechtsstaat angeklagt.

            Wenn wir Verbrechen gegen die Menschlichkeit nicht unterbinden, unsere eigenen Gesetze nicht achten, dann müssen wir uns um den radikalen Flügel der AFD keine Sorgen mehr machen. Dann, liebe SPD, CDU brachen wir keine Brandmauer mehr. Denn der Brand ist schon hier. Der Brand, gelegt mit Stadtbildern und Populismus.

          3. Case in point.

            Wer nur Probleme ohne Lösungsansätze, nur Forderungen ohne Ressourcen, und nur Festhalten am Status Quo ohne Alternativen im Angebot hat, wird mit diesem Angebot keinen Erfolg mehr haben. Muss man nicht mögen, ist aber evident.

            Die Forderungsplakate Der Linken gerade im Ländle lesen sich wie die der MLPD vor 30 Jahren. Spoiler: Die Linke wählen heisst, einen starken CDU-Ministerpräsidenten mit anti-linker Politik zu wählen.

          4. „Es ist halt flooding the zone with shit, mit ganz anderer Intention, aber Beitrag zum gleichen Ergebnis.“

            Das Lese ich aus dem Post nicht heraus. Gibt es ein leicht zu überschauendes Modell, das die Nachvollziehbarkeit Ihrer Eingabe ermöglicht, oder sind wir mehr so bei „unendlicher Erfahrung“?

  3. Endlich wird das zynische Kinderbuch ersetzt. Durch Smartphones. Ich würde noch ein paar Spiele-Apps implementieren, die den Kids den Prozess so richtig schmackhaft machen. Da gehören natürlich AR-Merkmale hinzu, wo die besten Upgrades in der Flughafenzone und im Abschiebeflieger erreicht werden.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.