Sicherheitsgesetz-WelleEiner Demokratie unwürdig

Am Freitag hat der Bundestag den Einsatz von KI-Kameras an Bahnhöfen beschlossen. Weitere automatisierte Überwachungstools sollen folgen. Doch die haben in einer Demokratie nichts verloren. Ein Kommentar.

  • Martin Schwarzbeck
Illustration eines zerfließenden Auges.
Video-KI, Gesichtersuchmaschine, Megadatenbank: Die Möglichkeiten polizeilicher Einsichtnahme werden massiv entgrenzt. – Alle Rechte vorbehalten: Imago / fStopImages

Im vergangenen Jahr hat automatisierte Videoüberwachung des öffentlichen Raums in Deutschland einen erstaunlichen Siegeszug hingelegt. Zuvor gab es sie nur in Mannheim. Vor fast genau einem Jahr wurde sie in Frankfurt am Main gestartet, vor zehn Monaten in Hamburg.

In Berlin wird der Einsatz gerade vorbereitet, ebenso in zwei Städten in Baden-Württemberg. Und am Freitag hat der Bundestag den Einsatz an deutschen Bahnhöfen beschlossen. Vier Tage zuvor hat das Innenministerium einen Gesetzentwurf veröffentlicht, der dem Verfassungsschutz den Zugriff auf Überwachungsanlagen erlaubt.

Die Kontrolle von Menschen mittels automatisierter Videoüberwachung eskalierte innerhalb eines Jahres vom experimentellen Probelauf zur kommenden Realität. Das ging rasant.

Die Systeme in den verschiedenen Städten erkennen bislang entweder bestimmte Verhaltensmuster oder Gesichter auf Videostreams. In Baden-Württemberg und an den deutschen Bahnhöfen sollen die Technologien zusammen ausgerollt werden.

Die Bundesregierung will BKA und Bundespolizei zudem bald weitere, extrem invasive Maßnahmen der automatisierten Überwachung erlauben: Eine Internetsuchmaschine für Stimmen und Gesichter und eine Megadatenbank mit KI-gestützter Analyse, wie sie auch Palantir im Angebot hat. Entsprechende Befugnisse für BND und Verfassungsschutz finden sich ebenfalls im Entwurf des Geheimdienstgesetzes.

Der gläserne Mensch unter Generalverdacht

Zusammengedacht ergibt das ein System, das vollautomatisiert kontrolliert, was Menschen in der Öffentlichkeit tun, sie bei unerwünschtem Verhalten identifiziert und dann gleich auch noch recherchiert, wo sie sich bewegen und mit wem sie bekannt sind.

Jede einzelne der kommenden Technologien stellt alle Menschen unter Generalverdacht. Jedes Gesicht wird gescannt, jedes Verhalten wird bewertet, jeder Mensch, der mit der Polizei zu tun hat, landet in der Megadatenbank. Die totalitären Tendenzen sind der automatisierten Überwachung immanent. Sie gefährdet die Demokratie und läuft ihr ganz grundsätzlich zuwider.

Demokratie ist die Aushandlung der Bedürfnisse verantwortungsbewusster Individuen, von denen angenommen werden muss, dass sie sich angemessen verhalten. Abweichungen können geahndet werden, doch ohne die grundsätzliche Vor-Annahme der Wohlgesonnenheit seiner Bewohner*innen kippt ein System ins Totalitäre. Demokratie hat auch etwas mit Vertrauen zu tun. Wer meint, alle Menschen fürchten zu müssen, wird versuchen, sie zu kontrollieren. Da wo jeder verdächtig ist, beginnt der Überwachungsstaat.

Über die Autor:innen

  • Martin Schwarzbeck

    Martin ist seit 2024 Redakteur bei netzpolitik.org. Er hat Soziologie studiert, als Journalist für zahlreiche Medien gearbeitet, von ARD bis taz, und war lange Redakteur bei Berliner Stadtmagazinen, wo er oft Digitalthemen aufgegriffen hat. Martin interessiert sich für Machtstrukturen und die Beziehungen zwischen Menschen und Staaten und Menschen und Konzernen. Ein Fokus dabei sind Techniken und Systeme der Überwachung. Für Recherchen zur Spionage-App mSpy hat er gemeinsam mit Chris Köver 2026 den Sonderpreis Print des Datenschutz Medienpreises DAME erhalten.

    Kontakt: E-Mail (OpenPGP), Mastodon, Signal: yoshi.42042

    Foto: Darja Preuss


Veröffentlicht

Kategorie

Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.

26 Kommentare zu „Einer Demokratie unwürdig“


  1. logicaltux

    ,

    Mir fehlen langsam die Worte dafür, wie ich diese Regierung in Worte fassen soll.
    Expert:innen aus verschiedenen Bereichen werden komplett ignoriert.
    Bedenken werden maximal angehört, aber nicht verstanden.
    Der Wille des Volkes wird komplett untergraben.

    Ich bin resigniert, fühle mich ohnmöchtig und muss festellen: Das ist kein Land mehr, welchem ich mich zugehörig fühle. Die aberwitzigen Vorstellungen der Regierung wirken auf mich wie ein Schlag ins Gesicht derer, die fernab jeglicher Parteizugehörigkeit, für ein demokratisches Deutschland stehen.


  2. Anonym

    ,

    Letzter Freitag war so ein Schei*tag! Wieso macht der Bundestag eigentlich inzwischen immer solche enormen Omnibus Riesenpakete, bei denen im letzten Moment noch ganz neue Sachen reinkommen? Das ist alles doch der Demokratie unwürdig.

    Es spricht eine approbierte Psychotherapeutin, die keinen Weiterbildungsplatz bekommt, weil die Finanzierung seit Jahren nicht gesichert wird. Sowas von die Schnauze voll.


  3. Salami

    ,

    Die Gesellschaft ist selbst dran Schuld. Mehrere Grundrechte wurden ausgehöhlt indem unliebsame Menschen und Technologien verteufelt wurden. Man kann nicht beides haben.

    Es hat einen Grund warum selbst für Massenmörder die Menschenrechte gelten. Dieses Denken geht verloren und man schafft Ausnahmen in zentralen Grundrechten.


    1. Schneidteufelchen

      ,

      > „Die Gesellschaft ist selbst dran Schuld.“
      Ist „Schuld“ hier wirklich die richtige Kategorie? Sollte es nicht besser um Verantwortung gehen?

      Eine Gesellschaft ist kein homogenes Kollektiv, das einstimmig Entscheidungen trifft, sondern ein komplexes Gefüge aus ungleichen Machtverhältnissen.

      Wer beeinflusst Entwicklungen in einer Gesellschaft letztlich? Wer trägt Verantwortung?

      Es sind vor allem politische Entscheidungsträger, Lobbygruppen und einflussreiche Medienhäuser, welche die Diskurse lenken und Ängste schüren, um restriktive Gesetze zu legitimieren. Die Verantwortung für den Schutz unserer Grundrechte aber liegt verfassungsgemäß bei den staatlichen Institutionen und den gewählten Volksvertretern.

      Die Bürgerinnen und Bürger tragen zwar eine Mitverantwortung durch ihre demokratische Teilhabe, doch die tatsächliche Entscheidungsmacht und damit die Hauptverantwortung für den Erhalt demokratischer Standards liegt bei den politischen Eliten.

      Und ja, in der Demokratie bekommt jede Gesellschaft die Regierung, die sie „verdient“.


      1. Anonym

        ,

        Das Individuum hat diese Regierung dann aber nicht zwingend verdient. Das ist der Fehler, den die meißten machen, die den Satz mit der Gesellschaft und der Regierung und dem Verdienst bringen.


        1. Anonym

          ,

          > Das Individuum hat diese Regierung dann aber nicht zwingend verdient. Das ist der Fehler, den die meißten machen, die den Satz mit der Gesellschaft und der Regierung und dem Verdienst bringen.

          Das ist überhaupt kein „Fehler“, denn zuvor war von „Gesellschaft“ die Rede, nicht vom Individuum.


          1. Anonym

            ,

            > Das ist überhaupt kein „Fehler“, denn zuvor war von „Gesellschaft“ die Rede, nicht vom Individuum.

            Das was? Doch doch, das ist ein großer Fehler, zu glauben, damit eine sinnvolle Aussage gelesen zu haben. Darin liegt der Fehler, denn über das Individuum wird wenig ausgesagt. Ohne Perspektive oder sagen wir philosophische Grundierung, ist das inzwischen ein Kampfbegriff, der im Grunde genommen zu einer Flächenentmenschlichung führen soll.


          2. Anonym

            ,

            Naja, wenn wir keinen Fehler machen, auf Staatskosten einen geblasen zu bekommen, dann haben wir für gesellschaftsbezogene Argumente möglicherweise keine sinnvolle Metrik gewählt.

            Wenn es also um den Erhalt einer Gesellschaft geht, besteht der Fehler darinnen, all zu viel über das Individuum zu suggerieren. Auf Empfängerseite bestünde der Fehler darinnen, es falsch auf das Individuum zu münzen.

            Das Verb „verdienen“ kann auch bzgl. eines Volkes keinen Sinn ergeben. Es ist eine unterkomplexe Pseudologik, die weder die Leidtragenden noch die Handlungsoptionen korrekt ins Licht setzt. Darinnen liegt der intrinsische Fehler dieser Formel. Wenn man das versteht, schreibt man das nicht einfach so hin. Es ist typischerweise nichts anderes, als die Menschen aufzugeben. Oder es wird zur Manipulation eingesetzt. Einen Verweis auf eine bestimmte philosophische Abhandlung, gestehe ich der dahingeworfenen Kurzform hier nicht zu.


          3. Anonym

            ,

            Aha, also haben wir den Wortlaut als nicht technisch falsch hinanalysiert.

            Jetzt zur Bedeutung: Was soll denn damit ausgesagt werden? In dem Moment, wo etwas über Menschen gesagt werden soll, wird das Statement automatisch unterkomplex und falsch. Das sollte gesagt sein.

            Über Gesellschaften im Abstrakten schwadronieren oder auch forschen, gerne…


        2. Anonym

          ,

          „Das Individuum hat diese Regierung dann aber nicht zwingend verdient.“

          Und da sind wir letztlich bei der Verfügung über Individuen, bei der Idee des Geburtsrechtes. Gewissermaßen ein invertiertes Geburtsrecht, dass du verdienst, was du kriegst, weil du hier geboren wurdest. Schlimmer noch, die Fehler wurden von deinen Eltern, deinen Lehrern, und allen möglichen anderen Leuten begangen, was dazu führt, dass du nun kaum etwas dran tun kannst. Quasi schon Sippenhaft. Daraus hilft, auch in der Demokratie, fast nur der Einsatz für ein Zukünftiges besseres System, also für übergeordneten Sinn. Die Falle ist hier, (vornehmlich) für seinen (kurzfristigen) Vorteil zu kämpfen. Gilt vermutlich auch zivilisatorisch, bzw. vor allem so.

          Der Trick ist, die Leute zu blenden, dass nicht mehr übergeordnet betrachtet wird. Individualfalle. Das andere Extrem ist auch blöd, weil wir Autokratie und ferner liefen technologisch auch nicht im Griff haben.


  4. angryoldman

    ,

    wer kann geht besser fort aus diesem Land.
    Wofür sollen junge Menschen noch verteidigungsbereit sein?


    1. Anonym

      ,

      „wer kann geht besser fort aus diesem Land.“

      Ja, aber wegen allgemeiner Zukunftsfähigkeit und nicht wegen Überwachung. Letztere ist übrigens in vielen Zielländern stärker ausgebaut.

      „Wofür sollen junge Menschen noch verteidigungsbereit sein?“

      Brian ist noch immer die beste Dokumentation, „was haben die Römer jemals für uns getan?“


      1. Anonym

        ,

        Allein die (drohende?) Fragmentierung des angelsächsischen Markts in Bescheuert, vollig bescheuert, und nicht ganz dicht, macht das Auswandern schon zu so einer Sache. Es kommt natürlich auf den Bereich drauf an, in dem man was machen will. Dazu ist man der Ausländer dort. In der Vergangenheit sicherlich einer der Gründe, warum zeitweise quasi in Enklaven oder wengsten Cliquen ausgewandert wurde.


        1. diplomatischer Dienst

          ,

          > In der Vergangenheit sicherlich einer der Gründe, warum zeitweise quasi in Enklaven oder wengsten[?] Cliquen ausgewandert wurde.

          Gott schütze uns vor Sturm und Wind, und Deutschen, die im Ausland sind!


  5. Anonym

    ,

    Es geht hier ganz offensichtlich nicht mehr um Demokratie, sondern um Unterdrückung, Gleichschaltung und komplette digitale Kontrolle der Bevölkerung in jedem Lebensmoment.

    Überall findet bereits ausufernde Überwachung statt, auf dem Smartphone, dem Computer, im PKW und nun oh Wunder noch überall dort, wo öffentlicher Raum anzutreffen ist.

    Kippt das System nun letztendlich in eine moderne Form einer digitalen Diktatur, sind wir alle absolut in den Po gekniffen, um es mal etwas direkter auszudrücken.

    Den Obrigkeiten wird das auch bewusst sein, aber anscheinend will man einfach nicht auf Experten hören. Machtbestrebungen die Bevölkerung perfekt zu kontrollieren und zu steuern sind eben unheimlich verlockend. Davon träumten bereits schon unzählige Herrschereliten.


  6. Anonym

    ,

    Wenn man sich die Kommentare der Empoerten und Entrechteten so ansieht: ist das wirklich das Umfeld, in dem netzpolitik.org sich jetzt positioniert? Schade…


    1. Anonym

      ,

      Kurzanalyse: Versagen bei Freischaltung von Schmähkritik

      1. Netzpolitik ist ein Medium mit Artikeln. Dabei gibt es Gastbeiträge und verschiedene Authoren und Redaktionsmitglieder. Wenn eine Positionierung ablesbar ist, dann aus den Artikeln.
      2. Die Kommentarspalten werden relativ liberal gehandhabt. Nutzer kommentieren.
      3. Was ist das Umfeld, worinnen Sie meinen, netzpolitik positioniere sich?
      4. Empörung als Pejorisierung?
      5. Entrechtung als Ridicule?

      Lächerlicher Kommentar. Durch und durch. Zugegeben, ich habe die anderen Kommentare nicht gelesen, aber für den Versuch eine „Positionierung“ herbeizuklarpeistern, gehört der Kommentar mit Warnfarben umrandet.


      1. Anonym

        ,

        Case in point.

        Übrigens bezeichnet die Redaktion diese Leserkommentare als „Ergänzungen“ und ist durchaus restriktiv in deren Freischaltung.


        1. Anonym

          ,

          Naja, restriktiv ist so eine Sache. Wo ist es denn besonders eng? Ich habe auch Kommentare an die Wand geworfen, die nicht veröffentlicht wurden, oder die erst mit großer Verzögerung veröffentlich wurden.

          Es muss jemand eine Ergänzung darinnen sehen, zudem gibt es natürlich Ausschlusskriterien, und Sprache bedarf nun mal oft der Interpretation. Es kann dann am jew. Freischalter liegen, ob die etwas darinnen sehen, was veröffentlichenswert ist.

          Insofern gibt es Restriktionen und sogar Anforderungen an Kommentare. Liberal sage ich, weil diese Anforderungen nicht besonders hoch zu sein scheinen, während ich Restriktionen nicht all zu oft begegnet bin. Dabei muss man allerdings berücksichtigen, dass gleichzeitig viele andere unveröffentlichte Kommentare in der Warteschlange sein können, so dass auf „Ergänzung“ möglicherweise bzgl. des Zeitpunkts der Inspektion geprüft wird. Ich habe schon allerlei verschiedenartige Blickwinkel eingenommen. Inwiefern restriktiv gerechtfertigt ist, kann ich so nicht mit Sicherheit sagen.


        2. dashättetihrgernegewussthaha

          ,

          Meine Erfahrungen mit dem Freischalten ist, dass kurze comments eine höhere Wahrscheinlichkeit haben, zügig freigeschaltet zu werden, als längere. Das dürfte daran liegen, dass längere Texte schlicht arbeitsintensiver sind, als kürzere.

          Das ist zwar bedauerlich, aber verständlich. Jedoch ist der Frust bei längeren Texten um so größer, weil dessen Erstellung auf der Schreiberseite eben auch deutlich zeit- und arbeitsintensiver ist, als nur einen dümmlichen Satz hier rein zukippen.

          Eine weitere Erfahrung ist, das kritische Äußerungen, den Artikeltext oder NP selbst betreffend, gerne deutlich verzögert werden. Applaus kommt vor Kritik, wohl weil damit das initiale Sentiment gesteuert werden kann.

          Weiter ist es so, dass es keine deterministische Moderation gibt, weil mehrere Personen zu unterschiedlichen Zeiten vorwiegend die Ergänzungen zu ihren eigenen Beiträgen bearbeiten, und das mit unterschiedlicher Interpretation der NP-Richtlinien.


  7. Anonym

    ,

    Statistisch könnte man historisch argumentieren. Das ist wohl schon eine Sache.

    Zuletzt allerdings kann man etwa sagen, die Überwachung seitens des Privatsektors habe den größten Beitrag zu Angriffen auf Demokratien geleistet? Ja, da haben sich Staaten bedient, die keine Demokratien sind, aber wie dumm soll es denn noch werden?


  8. Adabei

    ,

    Dazu ein Zitat von Erich Fromm, wohlgemerkt aus den 60er Jahren:

    Der moderne Mensch lässt sich also insgesamt als „passiver Empfänger von Eindrücken, Gedanken und Meinungen“ beschreiben. Zwar ist der Mensch im Laufe der Jahrhunderte erheblich intelligenter geworden, doch hat er, was eine moralisch geleitete Vernunft betrifft, starke Einbußen zu verzeichnen. Seine Intelligenz nutzt er als Werkzeug, sich selbst und andere zu manipulieren. Das vernünftige Hinterfragen von Gegebenheiten, das Urteilen und Handeln nach fundierten Grundsätzen wird oft zugunsten der Konformität unterlassen.


    1. Anonym

      ,

      Dann hatte Fromm keine Ahnung :). Der Mensch ist mitnichten nicht innerhalb von Jahrtausenden intelligenter geworden. Jahrzehntausende – vielleicht, vielleicht nicht.

      Je nach Intelligenzdefinition, vielleicht nicht mal über hunderttausende Jahre. Denn wenn man keinen Bedarf an irgendwelchen Puzzles oder Raketentechnologie hat, gibt es auch keinen Grund, diese Intelligenz zu zeigen.

      Moralisch geleitete Vernunft gibt es vielleicht nicht – hier bin ich unsicher. Sinn darinnen aber, es zu emulieren, sehe ich schon. Denn ich vermute dass es ein (bzw. mehrere) Äquivalent gibt, es kommt letztlich bei Weitsicht bei herum. Unser Moralverständnis, auch Gerechtigkeitsverständnis, können sehr sinnvolle Vereinfachungen sein, ähnlich wie möglicherweise Überlieferung und Religion (z.T. schwierig voneinander zu trennen), was Langzeitausrichtung für eine Zivilisaton betrifft. Denn wenn wir es noch nicht ausrechnen können, und die Wissenschaft nicht weit genug ist, woran orientieren wir uns?

      Ein rein wissenschaftsgetriebener Betrieb könnte in der Realität eine Episode im Leben von Homer Simpson sein. Gerade Wissens- und Bandbreitenbeschränkungen aber sind es, die uns zwingen nach „irgendwie sinnvollen Prinzipien“ zu handeln. Das ist zu bedenken bei Super-KI (falls logisch), Aliens, sowie bei der Frage, warum auf dieser Welt gewisse Anteile der Eliten irgendwie nicht sinnvollen Prinzipien folgen, und auch nicht welche umsetzen helfen.


  9. Anonym

    ,

    Zitat aus dem Artikel: „Demokratie ist die Aushandlung der Bedürfnisse verantwortungsbewusster Individuen, von denen angenommen werden muss, dass sie sich angemessen verhalten.“ […] „Da wo jeder verdächtig ist, beginnt der Überwachungsstaat.“

    Da bin ich als verantwortungsbewusstes Individuum ja froh: Vor allem, dass ich mir von KI überwachte Kameras an öffentlichen Plätzen, an denen ich mich ab und an aufhalte (inkl. Verkehrsknotenpunkten) wünschen darf – und die wählen darf, die diese legitimieren. Und diese „Überwachung“ macht mich noch lange nicht verdächtig. Sondern könnte im besten Fall mal die von mir gewünschte Schutzgruppe (man nennt es Polizei, aber die ist ja manchen in diesem Leserbereich hier pauschal-verdächtig, q.e.d.) alarmieren, damit meine Sicherheit vor den wirklich verantwortungslosen Individuen verbessert wird. Und wenn ich dann in der Sonne einnicke und die Polizei mal vorbeikommt, weil die KI dachte, ich wäre bewusstlos – dann so what, bin ich halt „verdächtig“. Besser einmal zuviel als einmal zu wenig. Der Schritt zu Personen auf Listen, die den Neo-Nazis nicht genehm sind, und dann unschuldig in Gefängnisse kommen, ist weit. Außer wir akzeptieren, dass die öffentliche Ordnung weiter degradiert…


    1. Anonym

      ,

      „Der Schritt zu Personen auf Listen, die den Neo-Nazis nicht genehm sind, und dann unschuldig in Gefängnisse kommen, ist weit.“

      Nee. Listen werden automatisch erstellt werden, oder bleiben „in der Luft, dank KI“, also gewissermaßen jederzeit aktivierbar. Das ist diesen „Systemlösungen“ nun mal zueigen. Ob jetzt bei Neonazis oder wann auch immer, ist eine andere Frage. Z.B. könnten die doch die Personen gucken, und bei Randfällen bzgl. Verhalten, einflicken, ob z.B. Ordnungswidrigkeiten oder Historie besteht. Zwecks Ansprache z.B.. In einem ziemlich idealen System kann sowas sogar gut sein, dann brauche ich keine Email von der Dekra, sondern der Wachtmeister tippt mir auf die Schulter, und das nicht erst nach 8 Monaten :), doch ist das überhaupt kein so weiter Schritt. Spätestens im hybriden Konflikt, der hier gerne übersehen wird, unter Berücksichtigung von Bestrebungen bzgl. IFW und Diensten, wird es schon potentiell Mulmig. Für wen genau und wann… naja, das ist das Problem mit den Freiheitsrechten und den Prinzipien. „Nur für Werbung“?

      „Außer wir akzeptieren, dass die öffentliche Ordnung weiter degradiert…“

      Die Logik verstehe ich nicht. Der Bürger soll sich benehmen, weil die Ordnung magisch degradiert? Welcher Bürger? Wer alles ist dann Leidtragend, wer ist verantwortlich? Kann man das mit ein paar Claqueuren dann nicht für ein paar Silberlinge so hervorbringen, z.B. wenn die Verwaltungen und Regierenden ihren Aufgaben gar nicht nachkommen? Das ist das Problem, wenn da eine Agenda im Hintergrund ist. So eine Agenda wählt niemand absichtlich. Es gibt aber Entitäten, die damit ganz gut „leben“ könnten, auch wenn wir es in diesem Teil der Galaxis „eigentlich nicht Leben“ zu nennen pflegen.

Schreibe eine Ergänzung!

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert