Einfacher und digitaler soll die Verwaltung werden, so steht es im Koalitionsvertragsentwurf zwischen Union und SPD. Dabei soll sogenannte Künstliche Intelligenz (KI) Deutschland zur „KI-Nation“ machen.
Doch wie können Verwaltung und Justiz KI einsetzen? Die Wissenschaftlichen Dienste des Deutschen Bundestags veröffentlichten dazu einen Kurzbericht, der auch Risiken bei KI-Nutzung aufarbeitet. Der Bericht definiert KI zwar breit, nutzt aber vorwiegend Beispiele in der Verwaltung, die nur aus dem Bereich generativer KI stammen. Die zunehmende Umdefinition der KI führt dazu, dass fast ausschließlich große Sprachmodelle beispielhaft angeführt werden.
Potentiale in der Verwaltung
Die Wissenschaftlichen Dienste beziehen sich in ihrem Kurzbericht auch auf Umfrageergebnisse. Im Auftrag von Google – selbst Anbieter im KI-Markt – führte die IW Consult eine Befragung durch, um die Möglichkeiten der KI-Nutzung in der Verwaltung zu ergründen. IW Consult ist ein arbeitgebernahes Wirtschaftsforschungsunternehmen, das von Wirtschaftsverbänden und Privatunternehmen finanziert wird.
Die Befragung bezog sich auf generative KI, also den Einsatz großer Sprachmodelle. Mehr als die Hälfte der Verwaltungsmitarbeiter*innen gab demnach an, generative KI bereits als Assistenz für Internetrecherchen, Übersetzungen und Datenanalysen zu nutzen. Der Studie nach könnte generative KI etwa 70 Prozent der Arbeitsplätze unterstützen und 12 Prozent teilweise oder vollständig automatisieren. Weiteres Potential sieht eine Fraunhofer-Studie in Verwaltungs-Chatbots, persönlichen KI-Assistenten und bei der Sachbearbeitung.
Generative KI in der Justiz
Auch in der Justiz interessiert man sich zunehmend für solche generativen KI-Systeme. Zum Beispiel forschen die Justizministerien Bayerns und Nordrhein-Westfalens gemeinsam an dem sogenannten Generativen Sprachmodell der Justiz. Es soll unter anderem Texte auf relevante Stellen durchsuchen und bei der Strukturierung von Gerichtsprozessen helfen. Die Ministerien wollen das Sprachmodell mit anonymisierten Daten aus beiden beteiligten Bundesländern füttern und nach erfolgreicher Entwicklung quelloffen zur Verfügung stellen.
In Niedersachsen wird an einem Werkzeug gearbeitet, das bei sogenannten Massenverfahren Routinearbeit übernehmen soll. Massenverfahren sind inhaltlich sehr ähnliche Prozesse wie zum Beispiel Asylverfahren oder Klagen wegen Flugverspätungen. Die generative KI soll diese Verfahren beschleunigen und den Gerichten helfen, schneller auf neue „Massenphänomene“ zu reagieren.
Die Friedrich-Alexander-Universität Erlangen-Nürnberg forscht daran, manuelle Anonymisierungsarbeiten überflüssig zu machen. Gerichte veröffentlichen teilweise ihre Urteile. Um die Privatsphäre der beteiligten Personen zu schützen, werden in den Urteilen persönliche Daten durch Kürzel ersetzt. Das neue KI-Modell der Friedrich-Alexander-Universität soll diese Arbeit automatisieren.
Risiken und Nebenwirkungen
Das am besten untersuchte Risiko generativer KI ist die hohe Fehleranfälligkeit und Unzuverlässigkeit im produktiven Einsatz. Im Bezug auf weitere Risiken der KI-Nutzung verweisen die Autor*innen auf den International AI Safety Report 2025 der Regierung des Vereinigten Königreichs. Dieser Bericht fokussiert wiederum auf generative KI. Demnach haben gefälschte Videos, Bilder und Tonaufnahmen das Potential, Personen beispielsweise durch Betrug gezielt zu schaden. Kriminelle könnten etwa die Stimme einer Person nachahmen, um Geld zu erpressen oder eine Überweisung zu verifizieren.
Generative KI-Systeme sind darauf spezialisiert, Muster in ihren Lerndaten zu erkennen und wiederzugeben. Die KI käut so diskriminierende Sprache und Verhaltensweisen einfach wieder, zum Beispiel gegenüber einem Geschlecht oder einer Kultur. Der „International AI Safety Report“ weist darauf hin, dass aktuelle generative KI-Systeme solche systematische Diskriminierung häufig reproduzieren.
Das Bundesamt für Sicherheit in der Informationstechnik weist auf inhaltliche Angriffe auf generative KI-Modelle hin. Sogenannte Poisoning Attacks der Trainingsdaten können bewusste Fehlfunktionen herbeiführen. Privacy Attacks hingegen zielen darauf ab, Rückschlüsse auf Trainingsdaten zu ziehen.
37% der Arbeitnehmer in Deutschland arbeiten im Büro. Sowohl für Staat als auch Privatwirtschaft. Jetzt rechnen wir uns mal aus was passiert wenn auch nur 50% dieser Menschen durch KI überflüssig werden. Also 15-18%+ Sockelarbeitslosigkeit ?
Besonders wenn man bedenkt das ja in Landwirtschaft und Industrie auch immer mehr automatisiert wird und die Zahl der Mitarbeiter dort sinkt. Selbst im Dienstleistungsbereich, z.B. Selbstzahl Kassen etc sinkt die Zahl der Beschäftigten rapide.
Wir werden also bald an den Punkt kommen, wo der Verteilungskampf um halbwegs sichere Jobs so richtig hart zunehmen wird. Gleichzeitig braucht der Kapitalismus ja „Vollbeschäftigung“ um durch dieses Einkommen die Nachfrage nach Konsumgütern zu stabilisieren. Ich vermute das da wahrlich „interessante“ Zeiten auf uns zukommen werden. Denn bis zum Bedingungslosen Grundeinkommen ist es noch ein sehr weiter Weg mit vielen Hindernissen und Widerständen.
>“Selbstzahl Kassen“
Als Kunde einfach meiden. Bei Zwang den Laden einfach verlassen. Wir müssen uns dieses nicht bieten lassen. Wer diese nutzt, befürwortet diese Machenschaften oder ist sich zuselbst sicher, bald nicht selber betroffen zu sein.
Das Grundeinkommen ist keine Lösung, solange das Geld- und Kreditsystem privatisiert ist.
Und man muss genau aufpassen wer und wie Grundeinkommen organisiert wird. Es kann nämlich auch als Kontrollinstrument (besonders, wenn Bargeld abgeschafft ist) verwendet werden.
Verwaltung ist eigentlich kein guter Einsatzbereich für fehleranfällige Systeme.
Sonst muss man alsbald das Grundgesetz bzw. dessen Zuverlässigkeit aushebeln.
Just saying…
Die Würde des Menschen wird auch von der jetzigen Politik immer mal wieder mit Füßen getreten. Bis Gerichte das korrigieren ist der Schaden längst passiert.
Die KI wird das nicht anders machen.
KI wird schlimmer.
Große Macht korrumpiert sehr stark. Das muss eigentlich noch besser im System abgesichert werden.
könnte der Plan sein….
Die Kassen müssen klingeln!
Per „KI“ die Netze abklappern… Per „KI“ Mahnungen versenden… Per „KI“ Strafen aussprechen… Per „KI Punktesystem erstellen… Per „KI“ die Mahngelder eintreiben… Automatisiert, was will man mehr?
Staatsbedienstete? Wofür!
Richter? Wofür brauchen wir hier Richter?!
Bob du bist einsamme Spitze
Wer Automatisierung und Digitalisierung in der Verwaltung nicht mag, der erscheint persönlich auf dem Amt und verlangt einen Termin. Das ist so wie auf die Demo gehen. Ist nicht bequem, macht aber Freude. Man lernt Leute kennen und kommt ins Gespräch. Wer mit diesem Mindset aufs Amt geht, erlebt dies nicht als Zeitverschwendung sondern als eine Erfahrung. Je länger die Warteschlange, um so besser. Proviant nicht vergessen, und gute Laune einpacken! Und nehmt Freunde mit. Jeder hat das Recht auf einen Beistand, Vertrauten oder nur Zeugen beim Termin. Größere Behörden haben übrigens auch eine preiswerte Kantine, die man auch als Gast benutzen kann. Schaut Euch um!
Schließe mich dem an. Außerdem freut sich der Mitarbeiter/Beamte daß er noch nicht obsolet ist und alsbald durch eine KI ersetzt werden könnte.
Neuronale Netze kommen bereits zum Einsatz bei der OCR von Posteingängen, das Amt selbst weiß davon oft nichts. Die entspr. Lösung wird als Paket eingekauft, ohne Offenlegung der zugrunde liegenden Technologien.
>“Wenn es nach der schwarz-roten Koalition geht, soll sogenannte Künstliche Intelligenz die deutsche Bürokratie vereinfachen. Aber wie nutzen Justiz und Verwaltung KI bereits? Und was kann eigentlich schiefgehen?“
Die so genannte „KI“ Idee, stammt aus dem Recycling von Abfälle aus der gelben Tone usw. Erkennung der Materialien, die zuvor von Firmen, Hersteller, Handel … im Dual- und Verwertungssystem per Muster angemeldet wurden. Schiken wir diese „KI“ doch dorthin wieder zurück! Für die Müllsortierung ist die intelligent genug.
Die sogenannte „KI“ soll beim Finanzamt mit den Steuererklärungen bei Steuerbearbeitung helfen.
Laut WDR4 vom 22.04.2025
Es sollten drei Finanzämter am Test teilnehmen.