DigitalministerkonferenzWildberger will Datenschutz für KI-Einsatz in der Verwaltung schleifen

Der durchdigitalisierte Staat soll her und das möglichst schnell. Darin sind sich Bund und Länder nach der Digitalministerkonferenz einig. Um Tempo zu machen, wollen die zuständigen Minister:innen mehr sogenannte Künstliche Intelligenz und weniger Datenschutz.

  • Esther Menhard
Karsten Wildberger, Kristina Sinemus und Jan Pörksen im Hamburger Rathaus
Karsten Wildberger (CDU), Kristina Sinemus (CDU) und Jan Pörksen (SPD) bei der fünften Digitalministerkonferenz im Hamburger Rathaus. – Alle Rechte vorbehalten: G. Schwering / Senatskanzlei

Bürokratieabbau, Registermodernisierung, DeutschlandID: Auf diese Themen blickt Bundesdigitalminister Karsten Wildberger (CDU) schon seit längerem mit der KI-Brille. Spätestens seit Mittwoch weiß er die Länder dabei hinter sich. Auf der Pressekonferenz zur Digitalministerkonferenz (DMK) demonstrierten Wildberger, die hessische Digitalministerin Kristina Sinemus (CDU) und der Chef der Senatskanzlei Hamburg Jan Pörksen (SPD) Einigkeit bei diesem Thema. Alle drei betonten, dass man beim KI-Einsatz in der öffentlichen Verwaltung an einem Strang ziehe.

Seit 2024 treffen sich die Minister:innen, Senatoren und Staatssekretär:innen der Länder regelmäßig, um über digitalpolitische Entscheidungen zu diskutieren. Die fünfte DMK fand in Hamburg statt und knüpfte inhaltlich an die Föderale Modernisierungsagenda an. Die hatten Bundeskanzler Friedrich Merz (CDU) und die Regierungschef:innen der Länder im Dezember beschlossen. Die 200 Maßnahmen der Föderalen Modernisierungsagenda zielen vor allem darauf ab, Bürokratie abzubauen. Bund und Länder wollen etwa bis Ende 2026 Berichtspflichten für die öffentliche Verwaltung prüfen, um mindestens die Hälfte von ihnen zu streichen.

Ein weiteres Ziel ist ein durchgehend digitalisierter Staat. Zwar lehnte die DMK einen Antrag Schleswig-Holsteins zu „digital only“ ab. Demnach sollen Verwaltungsbehörden nur noch rein digitale Prozesse anbieten und auf papiergebundene Arbeit verzichten. Doch die Uneinigkeit sei nicht inhaltlich begründet, so Sinemus und Wildberger, sondern darin, bis wann dieses Ziel erreicht sein soll. Das Ziel digital only sehen der Koalitionsvertrag und die Föderale Modernisierungsagenda vor. „Der Weg führt klar in diese Richtung“, sagt Wildberger.

Mit KI zurück an die Spitze

Und dieser Weg ist gepflastert mit KI-Projekten. Nur so ließen sich laut Digitalminister ein durchgehend digitaler Staat erreichen und die Wettbewerbsfähigkeit Deutschlands stärken. Daher freut sich Wildberger nach eigenen Angaben auch über Deutschlands Wirkmacht beim KI-Omnibus auf EU-Ebene. Mit der jüngst erzielten Einigung erhalte die Industrie nun „mehr Freiraum“, so der Minister. Die Industrie solle auch bei der Umsetzung des Deutschland-Stacks eine wichtigere Rolle einnehmen.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.


Jetzt abonnieren

Seinen Fokus auf generative KI hat Wildberger bereits zu seinem Amtsantritt eingenommen. Besonders deutlich wurde das etwa auf dem Gipfel zur Europäischen Digitalen Souveränität im November vergangenen Jahres und auf der Münchener Sicherheitskonferenz im vergangenen Februar. Im November begrüßte der Minister ausdrücklich die Kooperation des französischen KI-Start-ups Mistral und des deutschen Softwareunternehmens SAP, die nun gemeinsam eine KI-Lösung für die öffentliche Verwaltung bereitstellen wollen. Und er unterzeichnete die deutsch-kanadische Absichtserklärung für nachhaltige Rechenzentren und „wertebasierte KI-Politik“.

Diese wertebasierte Politik sieht der Minister etwa in der bundeseigenen KI-Plattform KIPITZ vom ITZBund und im „preisgekrönten Projekt SPARK“ umgesetzt. Damit sei Deutschland bei KI-basierten Verwaltungsanwendungen sogar „weltweit führend“, lässt sich der Minister auf der Projektwebsite zitieren. Unter dem Projekt SPARK seien demnach mehrere KI-gestützte Genehmigungsverfahren entwickelt worden, die Beschäftigte wirksam entlasten sollen. Neben der Bundesverwaltung würden sie bereits im Stadtstaat Hamburg und im Land Mecklenburg-Vorpommern zum Einsatz kommen, so Wildberger.

Generative KI versus Datenschutz

Mit SPARK will Wildberger auch die schleppende Verwaltungsdigitalisierung adressieren. Fachleute sehen den Ansatz des Ministers kritisch, weil er KI einsetzt, statt Informationen in maschinenlesbare Formate zu übertragen, was die Automatisierung der Verwaltung deutlich beschleunigen und effizienter machen würde. Der Minister füge dem Problemberg nur noch weitere Schichten hinzu, so die Kritik.

Gleichzeitig will Wildberger Hindernisse aus dem Weg räumen, die aus seiner Sicht einer Nutzung von KI-Sprachmodellen im Wege stünden. Ganz oben auf der Liste: der Datenschutz. Laut Föderaler Modernisierungsagenda will der Bund spätestens Ende 2027 eine neue Regelung im Bundesdatenschutzgesetz vorschlagen, „die es öffentlichen Stellen zum Zwecke des Trainings und Einsatzes von KI erlaubt, personenbezogene Daten zu anonymisieren oder zu pseudonymisieren“.

Auch brauche es „eine stärker risikobasierte Ausrichtung der Datenschutz-Grundverordnung“, heißt es in der Modernisierungsagenda weiter, um etwa die Arbeit von KI-Reallaboren zu erleichtern. Das betreffe unter anderem die Einwilligung von Betroffenen und die Zweckbindung der verwendeten Daten.

Wir sind ein spendenfinanziertes Medium.

Unterstütze auch Du unsere Arbeit mit einer Spende.


Jetzt spenden

Nach der Datenschutzgrundverordnung (DSGVO) wie auch nach dem Bundesdatenschutzgesetz dürfen personenbezogene Daten grundsätzlich nicht verarbeitet werden, es sei denn die betroffene Person willigt ausdrücklich ein oder es gibt für den entsprechenden Fall eine gesetzliche Grundlage.

Offene Fragen spielen keine Rolle auf der Digitalministerkonferenz

Die bestehenden datenschutzrechtlichen Bestimmungen würden zu streng ausgelegt und übererfüllt, aus Angst, etwas falsch zu machen, sagte Wildberger am Mittwoch. Außerdem brauche es nicht 17 unterschiedliche Datenschutzgesetze und auch keine Pflicht für die Länder, eigene Datenschutzbeauftragte zu bestellen. Das alles bremse die Digitalisierung staatlicher Verwaltungsprozesse aus, etwa mit Blick auf den Datenaustausch zwischen Behörden.

Auch die Datennutzung, die für das Training von KI-Sprachmodellen eine wesentliche Voraussetzung ist, will der Minister erleichtern. Dazu müssten Bund und Länder an den geltenden Datenschutz-Rechtsrahmen ran, der sich mit dem Einsatz von KI nur schwer vereinbaren ließe, wie auch die Bundesdatenschutzbeauftragte Louisa Specht-Riemenschneider im Dezember gegenüber netzpolitik.org sagte. So sei etwa unklar, wie man Betroffenenrechte und Löschansprüche bei KI-Systemen nach dem Training geltend macht, sagt Specht-Riemenschneider.

Derartige Fragen, die eigentlich einer größeren gesellschaftlichen Debatte bedürfen, tauchen im Beschluss zum „Paradigmenwechsel im Datenschutz“ der DMK allerdings nicht auf. Auch hier sind sich alle Beteiligten offenbar einig.

Über die Autor:innen

  • Esther Menhard
    Darja Preuss

    Esther Menhard ist freie Autorin bei netzpolitik.org. Sie recherchiert zur Digitalisierung der öffentlichen Verwaltung und nimmt dazu gerne Hinweise entgegen. Von Haus aus Philosophin, interessiert sie sich für Datenethik, die Schnittstelle zwischen Wissenschaft und Digitalität, AdTech, Open Access und Open Source.

    Kontakt: E-Mail (OpenPGP), Mastodon, Bluesky


Veröffentlicht

Kategorie

Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.

3 Kommentare zu „Wildberger will Datenschutz für KI-Einsatz in der Verwaltung schleifen“


  1. Andreas

    ,

    „Keine Experimente“ – Außer mit unseren Grundrechten?

    „Keine Experimente!“ – Mit diesem Slogan zementierte Konrad Adenauer einst die Stabilität der jungen Bundesrepublik. Es war das Versprechen von Verlässlichkeit und uneingeschränkter Souveränität. Doch schaut man auf die Ergebnisse der aktuellen Digitalministerkonferenz, scheint dieses Credo ins Gegenteil verkehrt: Der Staat probt das riskante Experiment am offenen Herzen der Demokratie. Unter dem Deckmantel von „KI-Tempo“ und „Innovationsfreude“ wird der Datenschutz zur lästigen Bremse deklariert, während der ausufernde Handel mit Bürgerdaten zur neuen Staatsräson avanciert.

    Wenn Minister:innen fordern, den Datenschutz zugunsten von KI-Modellen zu schleifen, verkaufen sie das als Fortschritt. In Wahrheit ist es eine Kapitulation. Wirkliche Souveränität bedeutet, die Hoheit über die eigenen Daten zu behalten – sowohl für den Staat als auch für seine Bürger:innen. Stattdessen füttert man mit sensiblen Informationen die Blackbox-Algorithmen privater US-Tech-Giganten, von deren Infrastruktur man sich gleichzeitig abhängig macht. Das ist kein digitaler Aufbruch, das ist der Ausverkauf der informationellen Selbstbestimmung.

    Ein Staat, der den „gläsernen Bürger“ zum Treibstoff für Automatisierung macht, gefährdet das Vertrauensverhältnis, das eine Demokratie trägt. Wer den Datenschutz opfert, um im globalen Daten-Kasino mitzumischen, wagt ein Experiment, das Adenauer zutiefst missfallen hätte: Den Verlust der inneren Souveränität durch die Preisgabe der Privatsphäre. Wir brauchen keine Experimente mit unseren Grundrechten, sondern eine Digitalpolitik, die Schutzrechte nicht als Hindernis, sondern als Bedingung für Freiheit begreift.


  2. Joachim

    ,

    „So sei etwa unklar, wie man Betroffenenrechte und Löschansprüche bei KI-Systemen nach dem Training geltend macht“

    Die Antwort ist simpel: gar nicht. Wirklich nicht!

    Man kann nur alles Gelernte löschen und den Lernprozess ohne die unzulässigen Datensätze neu durchführen. Entlernen geht nicht, weil die Information über das gesamte Netz (genauer: nicht nachvollziehbar) verteilt sein können. Die Auswahl der Lerndaten ist extrem kritisch und hat ggF. unvorhersehbare Folgen. „Nachlernen“ ist noch kritischer. Und es entfernt die unzulässige Information nicht.

    Schlimmer noch, hat man eine KI geprüft und im Anwendungsbereich für hinreichend korrekt gefunden, so muss das mit einem neuen, modifiziertem Lerndatensatz noch einmal erfolgen. Es ist ein anderes Netz, das komplett anders reagieren kann. Daran ändert auch nichts, dass ein einzelner Datensatz verschwindenden Einfluß hat. Im Zweifelsfall kann eine einzige, total unwichtige Information das ganze System „kippen“. Ja, der Test läßt sich automatisieren. Doch es gibt keine Garantie. Das ist schon sehr lange formal bewiesen.

    Häufen sich Löschanträge, so explodieren die Kosten mit dem Aufwand. Ihr spielt (technisch vollkommen unnötig, also ohne Sinn und Verstand) mit dem Feuer!

    Ja, man kann das alles hin bekommen. Doch mir erscheinen die Vorstellungen der Politik zu KI wie der Glaube an das fliegende Spagettimonster. Das grenzt an Esoterik.

    Mal so als kostenloser Tipp wenn ihr schon planlos durchs Weltall fliegen müsst: Dezentralisiert den Kram! Das hält Schäden und Kosten im Zaum.


  3. Joachim

    ,

    Vielleicht darf ich noch einen kleinen Nachtrag machen:

    Es gibt dutzende Vorschläge die beschriebenen Probleme zu umgehen. Prompt-Filter, output-Plausibilitätskontrollen oder das Anhängen von „bitte ohne die Daten von Frau Maier“ (in der Praxis: „aber bitte nicht rassistisch“) und einiges nicht so einfache mehr,

    Beispiel: Prompt-Injection anyone? Kürzlich hat jemand sich Millionenbeträge von einer KI überweisen lassen, indem er die Prompt-Filter mit Morsecode umgangen hat.

    Also kurz: Spart euch das.

Schreibe eine Ergänzung!

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert