Viele Nachrichtenmedien kommen heute um das Thema KI-Verordnung nicht herum. Denn am 1. August tritt das Gesetz in Kraft. Auch wenn die Regeln erst schrittweise bis August 2027 zur Anwendung kommen – die Medienlogik schreibt vor: Ein Bericht ist Pflicht. Vielleicht noch einmal zusammenfassen, was sich mit diesem auch als „AI Act“ bekannten Regelpaket bald für Verbraucher*innen ändert? Oder Angst vor einem Bürokratie-Monster heraufbeschwören?
Beiträge wie diese lösen bei mir Genervtheit aus, denn sie übersehen das Wesentliche. Sie schauen nicht dorthin, wo nach wie vor Grundrechte in Gefahr sind. Wohin Politik und Zivilgesellschaft genau jetzt den Blick richten müssen, weil wichtige Entscheidungen anstehen.
Der fertige Text der KI-Verordnung ist ein Anfang, aber kein Ende. Erstmals gibt es europaweit Schranken für den Einsatz problematischer KI-Systeme. Manche sind sogar ganz verboten, um Grundrechte von Menschen zu schützen, etwa KI-Systeme zur Bewertung des Sozialverhaltens. Doch in vielen Bereichen ist die KI-Verordnung durchlässig wie ein Perlenvorhang. Das heißt: Man kann einfach hindurchgehen. Und es ist nun an den Mitgliedstaaten, dagegen etwas zu tun.
Stoff für Talkshows zur besten Sendezeit
Das zeigt das Beispiel biometrische Gesichtserkennung. Unsere Gesichter sind einzigartig. Durch die Position von Merkmalen wie Augen, Nase und Mund können uns Maschinen mit hoher Wahrscheinlichkeit eindeutig von anderen unterscheiden. Und längst sind viele Knotenpunkte im öffentlichen Raum mit Kameras zugepflastert. Die Abschaffung der Anonymität außerhalb der eigenen vier Wände wäre ziemlich einfach umsetzbar.
Die EU hatte die Chance, den Einsatz biometrischer Gesichtserkennung gänzlich zu verbieten. Aber sie hat diese Chance verpasst. Stattdessen wurde nur der Einsatz von Echtzeit-Erkennung verboten. Die Erkennung im Nachhinein („retrograd“) bleibt Behörden erlaubt, wenn sie sich dabei an ein gewisses Procedere halten. Bloß, wie viel Zeit muss vergehen, bis eine Erkennung nicht mehr in Echtzeit erfolgt, sondern nur „retrograd“? Unklar! Dabei ist diese Frage absolut entscheidend für unsere Privatsphäre und Grundrechte wie die Bewegungs- und Versammlungsfreiheit.
Auf die Gefahren und Chancen pochen
EU-Mitgliedstaaten können nun diese und weitere Fragen rund um Gesichtserkennung zumindest innerhalb ihrer eigenen Grenzen beantworten. Ja, sie können sogar die retrograde Gesichtserkennung auf nationaler Ebene verbieten.
Medien und Zivilgesellschaft sollten also genau jetzt auf die Gefahren und die Chancen pochen, die mit der KI-Verordnung verbunden sind. Diskussionsbedarf in der Ampel zeichnet sich bereits ab: Digital-Politiker*innen wollen verschieden hohen Schutz vor Gesichtserkennung, die Stimmen gegen retrograde Überwachung sind dabei verstörend zaghaft, und mindestens ein SPD-Innenpolitiker will sogar keine strengeren Regeln.
Statt halbgarer Takes zum heutigen 1. August sollte dieses Thema Pflicht sein für Artikel und Dokus, für Talkshows zur besten Sendezeit. Es geht um die Gesichter und die Rechte von uns allen. Aber kaum jemand berichtet.
Unbequeme Wahrheit
Aus der KI-Verordnung geht auch ein Verbot von Gesichtersuchmaschinen hervor, die das Internet nach Fotos durchforsten, um Milliarden von Menschen identifizierbar zu machen. Das prominenteste Beispiel für eine solche Suchmaschine ist PimEyes, über die wir seit dem Jahr 2020 kritisch berichten.
Mit PimEyes können nicht etwa Behörden, sondern jeder dahergelaufene Stalker mit Internetzugang Menschen hinterherspionieren. Bereits mit Blick auf die Datenschutzgrundverordnung (DSGVO) ist die Rechtsgrundlage solcher Suchmaschinen höchst fragwürdig. Geändert hat sich trotzdem nichts, weil die Betreiber im Ausland sitzen. Ob die KI-Verordnung diese Suchmaschinen aus dem Internet fegen kann? Unklar!
Es gibt eine unbequeme Wahrheit bei den erhofften Auswirkungen der KI-Verordnung. Wie sehr die neuen Regeln uns wirklich vor KI-basierten Gefahren schützen können, das verrät nicht allein der Text im Gesetz. Meist zeigt sich die tatsächliche Schutzwirkung erst dann, wenn etwas Schlimmes passiert ist, und wenn sich Behörden und Gerichte mit konkreten Fällen befassen müssen. Das dauert oft Jahre, und es ist die Aufgabe der Öffentlichkeit, hier Druck zu machen. Auch PimEyes ist erst auf dem Schirm der Datenschutzaufsicht gelandet, nachdem wir darüber berichtet haben.
Welche Ressourcen künftig die entsprechenden Aufsichtsbehörden bekommen, ist daher auch keine bürokratische Detailfrage. Vielmehr entscheidet sie mit darüber, ob die Verordnung ein Erfolg oder ein Flop wird. Wie viele Menschen dürfen mit welchen Kompetenzen etwas unternehmen, wenn KI-Systeme in die Grundrechte von Menschen eingreifen? Werden völlig überforderte Beamt*innen vor allem mahnende Briefe schreiben, die bei den betroffenen Unternehmen im Papierkorb landen? Oder werden sie rasch saftige und wirksame Geldbußen verhängen und so viel Druck ausüben, bis sich ausbeuterische Geschäftsmodelle nicht mehr lohnen?
KI-Verordnung konsequent weiterdenken
Auch mit der klaffenden Lücke namens nationale Sicherheit dürfen wir uns nicht zufriedengeben. Die KI-Verordnung greift schlichtweg nicht, wenn es um die nationale Sicherheit geht. Wann das genau der Fall ist, bestimmen jedoch die Mitgliedstaaten selbst. Das kann vor allem in autokratisch regierten EU-Staaten Tür und Tor für missbräuchliche KI-Einsätze öffnen.
Auch für Menschen auf der Flucht ist der Schutz durch die KI-Verordnung lächerlich gering. Hier zeigt sich schmerzlich der Unterschied zwischen Grund- und Bürgerrechten. Wer nicht EU-Bürger*in ist und Schutz suchend in der EU strandet, bekommt von der KI-Verordnung nur ein Minimalpaket an Rechten zugestanden.
Das heutige Inkrafttreten der KI-Verordnung darf also keinesfalls den Eindruck erwecken, das Thema KI sei damit abgehakt. Im Gegenteil: Gerade weil die KI-Verordnung erstmals europaweit festschreibt, wie KI-Systeme Menschen schaden können, muss das Engagement weitergehen. Die Argumentation ist simpel: Die EU hat sehr viele Gefahren durch KI-Systeme in der Verordnung erstmals verbindlich und präzise beschrieben. Und wer das konsequent weiterdenkt, muss den Schutz auch über die aktuellen Grenzen der Verordnung hinaus ausweiten.
„Die EU hatte die Chance, den Einsatz biometrischer Gesichtserkennung gänzlich zu verbieten. Aber sie hat diese Chance verpasst.“
Nein, sie hat diese Chance nicht einfach nur verpasst. Die EU hat nicht nicht gehandelt oder etwas verpasst, sondern sich aktiv und ganz bewusst dafür entschieden, die biometrische Massenüberwachung im öffentlichen Raum zu ermöglichen und damit Freiheits- und Bürgerrechte wieder einmal weiter einzuschränken und zu bekämpfen.
Der Blümchenvorhang „Aber nicht in Echtzeit“ folgt dabei der bewährten Taktik, mit einer faktisch eher unbedeutenden Beschränkung ausreichend Beruhigung und Akzeptanzen zu schaffen. Später, wenn die Aufmerksamkeit geringer geworden ist oder ein kommunizierter Notstand allgemeinen Konsens für eine weiteren Schritt in Richtung autoritäre Gesellschaft erzeugen konnte, kann diese kosmetische Hürde dann auch bei Bedarf beseitigt werden.
Genau so ist es.
Nach all den anderen Überwachungsvorhaben ist das auch keineswegs überraschend.
Die üblichen Ausnahmen für die Strafverfolgungsbehörden haben sich ja quasi schon von Anfang an abgezeichnet.
Und das „nicht in Echtzeit“ ist genauso ein verlogener Taschenspielertrick, wie damals bei der Chatkontrolle zu sagen, dass nur kontrolliert wird, wenn Nutzer aktiv zustimmen – aber andererseits ohne Zustimmung keine Bilder usw versendet werden können.
Es geht wieder mal darum das Grundgerüst aufzubauen. Und der erste Schritt dazu ist offenbar mittlerweile, fadenscheinige Zugeständnisse zu machen, mit denen Akzeptanz geschaffen und die Leute für dumm verkauft werden sollen.
Der Aufwand, um diese anfänglichen „Zugeständnisse“ dann später rückgängig zu machen, dürfte eher gering sein – und das wird über kurz oder lang passieren.
Daher kann ich mich Posdemocracy nur anschließen.
Die EU hat diese Chance nicht verpasst. Sie hat aus purer Absicht die biometrische Massenüberwachung ermöglicht.
So sehr ich den Artikel und die bisherigen Kommentare auch begrüße, so habe ich dennoch den Verdacht, dass wir von der Politik verschaukelt werden.
Wieso heißt es überhaupt KI Verordnung? Ich sehe nahezu ausschließlich Regelungen, die den Datenschutz betreffen. Die haben mit KI nur soviel zu tun, dass diese Technik auf massive (Lern-) Daten angewiesen ist. Ob ich bereit bin, diese Daten zu liefern ist eine Frage des Datenschutz und nicht eine Frage der Technik. Der Verdacht ist, dass die Datenschutzrechte für KI Betreiber als zu streng angesehen werden und die KI Verordnung dazu da ist, den Betreibern ihre Begehrlichkeiten entgegen dem geltenden Datenschutzrecht zu gewähren. Klar doch, die Mafia findet Geldwäschegesetze auch ein wenig streng…
Fragen wie „ob eine KI Recht sprechen darf“ oder wie „Beweis sicher“, nachvollziehbar oder überhaupt nur minimal objektiv KI Aussagen sind, werden nicht betrachtet. Statt dessen wird vorgeschlagen, Asylanträge per KI prüfen zu lassen. Wohlgemerkt von prinzipbedingt nicht vertrauenswürdigen Systemen, die dazu von Daten abhängig sind, die ihre Ersteller ausgewählt haben. Diese Systeme waren auch schon rassistisch. Prädestiniert um „Ausländern“ die Kante zu zeigen? Was für ein „A***hlochverhalten. Meint man, das sei ein Grund sich „sicherer“ zu fühlen?
Ganz klar, die KI Verordnung dient einzig dazu den Datenschutz, der sich auf relativ gutem Weg befand, auszuhebeln. Mit KI hat die aber maximal am Rande zu tun.
Tut mir Leid, liebe Politik. Doch diese Taktik ist unlauter und grenzt, ob der Omnipräsenz rein gewinnorientierter technischer Systeme in Monokultur, an Nötigung. Es ist unmöglich, sich dem zu entziehen. Wenn ich das nun euer technischen Inkompetenz zuschreiben würde, fändet ihr das besser? Oder werdet auch ihr von einer Industrie ver****t.
So oder so: 6 – setzen!
> … habe ich dennoch den Verdacht, dass wir von der Politik verschaukelt werden.
Dieser Eindruck entsteht zwangsläufig bei jenen, die nicht einmal die erste Seite der Verordnung gelesen haben.
https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=OJ:L_202401689
Was man da lesen kann, mag einem gefallen oder nicht. Aber gelesen sollte man es schon haben.