Viele Nachrichtenmedien kommen heute um das Thema KI-Verordnung nicht herum. Denn am 1. August tritt das Gesetz in Kraft. Auch wenn die Regeln erst schrittweise bis August 2027 zur Anwendung kommen – die Medienlogik schreibt vor: Ein Bericht ist Pflicht. Vielleicht noch einmal zusammenfassen, was sich mit diesem auch als „AI Act“ bekannten Regelpaket bald für Verbraucher*innen ändert? Oder Angst vor einem Bürokratie-Monster heraufbeschwören?
Beiträge wie diese lösen bei mir Genervtheit aus, denn sie übersehen das Wesentliche. Sie schauen nicht dorthin, wo nach wie vor Grundrechte in Gefahr sind. Wohin Politik und Zivilgesellschaft genau jetzt den Blick richten müssen, weil wichtige Entscheidungen anstehen.
Der fertige Text der KI-Verordnung ist ein Anfang, aber kein Ende. Erstmals gibt es europaweit Schranken für den Einsatz problematischer KI-Systeme. Manche sind sogar ganz verboten, um Grundrechte von Menschen zu schützen, etwa KI-Systeme zur Bewertung des Sozialverhaltens. Doch in vielen Bereichen ist die KI-Verordnung durchlässig wie ein Perlenvorhang. Das heißt: Man kann einfach hindurchgehen. Und es ist nun an den Mitgliedstaaten, dagegen etwas zu tun.
Stoff für Talkshows zur besten Sendezeit
Das zeigt das Beispiel biometrische Gesichtserkennung. Unsere Gesichter sind einzigartig. Durch die Position von Merkmalen wie Augen, Nase und Mund können uns Maschinen mit hoher Wahrscheinlichkeit eindeutig von anderen unterscheiden. Und längst sind viele Knotenpunkte im öffentlichen Raum mit Kameras zugepflastert. Die Abschaffung der Anonymität außerhalb der eigenen vier Wände wäre ziemlich einfach umsetzbar.
Die EU hatte die Chance, den Einsatz biometrischer Gesichtserkennung gänzlich zu verbieten. Aber sie hat diese Chance verpasst. Stattdessen wurde der Einsatz von Echtzeit-Erkennung stark eingeschränkt. Die Erkennung im Nachhinein („retrograd“) bleibt Behörden erlaubt, wenn sie sich dabei an ein gewisses Procedere halten. Bloß, wie viel Zeit muss vergehen, bis eine Erkennung nicht mehr in Echtzeit erfolgt, sondern nur „retrograd“? Unklar! Dabei ist diese Frage absolut entscheidend für unsere Privatsphäre und Grundrechte wie die Bewegungs- und Versammlungsfreiheit.
Auf die Gefahren und Chancen pochen
EU-Mitgliedstaaten können nun diese und weitere Fragen rund um Gesichtserkennung zumindest innerhalb ihrer eigenen Grenzen beantworten. Ja, sie können sogar die retrograde Gesichtserkennung auf nationaler Ebene verbieten.
Medien und Zivilgesellschaft sollten also genau jetzt auf die Gefahren und die Chancen pochen, die mit der KI-Verordnung verbunden sind. Diskussionsbedarf in der Ampel zeichnet sich bereits ab: Digital-Politiker*innen wollen verschieden hohen Schutz vor Gesichtserkennung, die Stimmen gegen retrograde Überwachung sind dabei verstörend zaghaft, und mindestens ein SPD-Innenpolitiker will sogar keine strengeren Regeln.
Statt halbgarer Takes zum heutigen 1. August sollte dieses Thema Pflicht sein für Artikel und Dokus, für Talkshows zur besten Sendezeit. Es geht um die Gesichter und die Rechte von uns allen. Aber kaum jemand berichtet.
Unbequeme Wahrheit
Aus der KI-Verordnung geht auch ein Verbot von Gesichtersuchmaschinen hervor, die das Internet nach Fotos durchforsten, um Milliarden von Menschen identifizierbar zu machen. Das prominenteste Beispiel für eine solche Suchmaschine ist PimEyes, über die wir seit dem Jahr 2020 kritisch berichten.
Mit PimEyes können nicht etwa Behörden, sondern jeder dahergelaufene Stalker mit Internetzugang Menschen hinterherspionieren. Bereits mit Blick auf die Datenschutzgrundverordnung (DSGVO) ist die Rechtsgrundlage solcher Suchmaschinen höchst fragwürdig. Geändert hat sich trotzdem nichts, weil die Betreiber im Ausland sitzen. Ob die KI-Verordnung diese Suchmaschinen aus dem Internet fegen kann? Unklar!
Es gibt eine unbequeme Wahrheit bei den erhofften Auswirkungen der KI-Verordnung. Wie sehr die neuen Regeln uns wirklich vor KI-basierten Gefahren schützen können, das verrät nicht allein der Text im Gesetz. Meist zeigt sich die tatsächliche Schutzwirkung erst dann, wenn etwas Schlimmes passiert ist, und wenn sich Behörden und Gerichte mit konkreten Fällen befassen müssen. Das dauert oft Jahre, und es ist die Aufgabe der Öffentlichkeit, hier Druck zu machen. Auch PimEyes ist erst auf dem Schirm der Datenschutzaufsicht gelandet, nachdem wir darüber berichtet haben.
Welche Ressourcen künftig die entsprechenden Aufsichtsbehörden bekommen, ist daher auch keine bürokratische Detailfrage. Vielmehr entscheidet sie mit darüber, ob die Verordnung ein Erfolg oder ein Flop wird. Wie viele Menschen dürfen mit welchen Kompetenzen etwas unternehmen, wenn KI-Systeme in die Grundrechte von Menschen eingreifen? Werden völlig überforderte Beamt*innen vor allem mahnende Briefe schreiben, die bei den betroffenen Unternehmen im Papierkorb landen? Oder werden sie rasch saftige und wirksame Geldbußen verhängen und so viel Druck ausüben, bis sich ausbeuterische Geschäftsmodelle nicht mehr lohnen?
KI-Verordnung konsequent weiterdenken
Auch mit der klaffenden Lücke namens nationale Sicherheit dürfen wir uns nicht zufriedengeben. Die KI-Verordnung greift schlichtweg nicht, wenn es um die nationale Sicherheit geht. Wann das genau der Fall ist, bestimmen jedoch die Mitgliedstaaten selbst. Das kann vor allem in autokratisch regierten EU-Staaten Tür und Tor für missbräuchliche KI-Einsätze öffnen.
Auch für Menschen auf der Flucht ist der Schutz durch die KI-Verordnung lächerlich gering. Hier zeigt sich schmerzlich der Unterschied zwischen Grund- und Bürgerrechten. Wer nicht EU-Bürger*in ist und Schutz suchend in der EU strandet, bekommt von der KI-Verordnung nur ein Minimalpaket an Rechten zugestanden.
Das heutige Inkrafttreten der KI-Verordnung darf also keinesfalls den Eindruck erwecken, das Thema KI sei damit abgehakt. Im Gegenteil: Gerade weil die KI-Verordnung erstmals europaweit festschreibt, wie KI-Systeme Menschen schaden können, muss das Engagement weitergehen. Die Argumentation ist simpel: Die EU hat sehr viele Gefahren durch KI-Systeme in der Verordnung erstmals verbindlich und präzise beschrieben. Und wer das konsequent weiterdenkt, muss den Schutz auch über die aktuellen Grenzen der Verordnung hinaus ausweiten.
Korrektur, 6. August: Die Verordnung schränkt den Einsatz von biometrischer Echtzeit-Erkennung stark ein, verbietet ihn aber nicht (Artikel 5). Wir haben das korrigiert.
„Die EU hatte die Chance, den Einsatz biometrischer Gesichtserkennung gänzlich zu verbieten. Aber sie hat diese Chance verpasst.“
Nein, sie hat diese Chance nicht einfach nur verpasst. Die EU hat nicht nicht gehandelt oder etwas verpasst, sondern sich aktiv und ganz bewusst dafür entschieden, die biometrische Massenüberwachung im öffentlichen Raum zu ermöglichen und damit Freiheits- und Bürgerrechte wieder einmal weiter einzuschränken und zu bekämpfen.
Der Blümchenvorhang „Aber nicht in Echtzeit“ folgt dabei der bewährten Taktik, mit einer faktisch eher unbedeutenden Beschränkung ausreichend Beruhigung und Akzeptanzen zu schaffen. Später, wenn die Aufmerksamkeit geringer geworden ist oder ein kommunizierter Notstand allgemeinen Konsens für eine weiteren Schritt in Richtung autoritäre Gesellschaft erzeugen konnte, kann diese kosmetische Hürde dann auch bei Bedarf beseitigt werden.
Genau so ist es.
Nach all den anderen Überwachungsvorhaben ist das auch keineswegs überraschend.
Die üblichen Ausnahmen für die Strafverfolgungsbehörden haben sich ja quasi schon von Anfang an abgezeichnet.
Und das „nicht in Echtzeit“ ist genauso ein verlogener Taschenspielertrick, wie damals bei der Chatkontrolle zu sagen, dass nur kontrolliert wird, wenn Nutzer aktiv zustimmen – aber andererseits ohne Zustimmung keine Bilder usw versendet werden können.
Es geht wieder mal darum das Grundgerüst aufzubauen. Und der erste Schritt dazu ist offenbar mittlerweile, fadenscheinige Zugeständnisse zu machen, mit denen Akzeptanz geschaffen und die Leute für dumm verkauft werden sollen.
Der Aufwand, um diese anfänglichen „Zugeständnisse“ dann später rückgängig zu machen, dürfte eher gering sein – und das wird über kurz oder lang passieren.
Daher kann ich mich Posdemocracy nur anschließen.
Die EU hat diese Chance nicht verpasst. Sie hat aus purer Absicht die biometrische Massenüberwachung ermöglicht.
„Die EU“ sind die Mitgliedstaaten. Und einige wollen das halt machen und es nicht von der EU verboten bekommen. Das war also ein Kompromiss. Und die Ausnahme erlaubt die Gesichtserkennung noch nicht. Dazu muss erst die Rechtsgrundlage in den nationalen Gesetzen geschaffen werden.
„Und die Ausnahme erlaubt die Gesichtserkennung noch nicht. Dazu muss erst die Rechtsgrundlage in den nationalen Gesetzen geschaffen werden.“
Sie erlaubt es – wenn auch nur in „Ausnahmefällen“ – was immer das heißt. (Siehe Korrektur von heute)
Es ist halt kein wirklicher Trost, wenn man dem Überwachungsstaat „nur“ schleichend annähert.
Es bleibt eine Annäherung. Und ein weiterer möglicher (tiefer) Eingriff in Grundrechte und Freiheiten der Bürger.
Besser wäre es, endlich mal auf die Leute zu hören, die wirklich Ahnung haben und die gesellschaftlichen Probleme WIRKLICH mal anzupacken, anstatt permanent dem Wunschtraum hinterher zu jagen, alles mit Überwachungstechnik und Grundrechts- bzw Freiheitseinschränkungen lösen zu können.
Ebenso bezweifle ich stark, dass es wirklich nur „einige“ sind, die das machen wollen.
Führt man sich mal vor Augen, wie viele vom Rat z.B. bei der Chatkontrolle auch vorher nicht explizit mit NEIN, sondern mit „JA“ gestimmt haben oder mit „Unsicher“ – das waren definitiv weit mehr als nur „einige“.
Warum soll es hier – wo es (beim Punkt Gesichtserkennung) auch wieder um großflächige Überwachung sowie Grundrechts- und Freiheitsabbau geht – anders sein?
> Es ist halt kein wirklicher Trost, wenn man dem Überwachungsstaat „nur“ schleichend annähert.
Ich fürchte die „schleichende“ Annäherung ist Methode. Menschen neigen zu Bequemlichkeit, Trägheit, gewöhnen sich an fast alles, und beschönigen auch noch ihr Verhalten. Das sind die Zutaten für social shifting baselines.
Hmm. Wenn ich mir diese Zutaten so ansehe, dann finde ich am anderen Ende so etwas wie wokeness, und glaube dadurch zu begreifen, was anti-wokeness ausmacht, und warum die anti-woken so sehr sauer sind.
So sehr ich den Artikel und die bisherigen Kommentare auch begrüße, so habe ich dennoch den Verdacht, dass wir von der Politik verschaukelt werden.
Wieso heißt es überhaupt KI Verordnung? Ich sehe nahezu ausschließlich Regelungen, die den Datenschutz betreffen. Die haben mit KI nur soviel zu tun, dass diese Technik auf massive (Lern-) Daten angewiesen ist. Ob ich bereit bin, diese Daten zu liefern ist eine Frage des Datenschutz und nicht eine Frage der Technik. Der Verdacht ist, dass die Datenschutzrechte für KI Betreiber als zu streng angesehen werden und die KI Verordnung dazu da ist, den Betreibern ihre Begehrlichkeiten entgegen dem geltenden Datenschutzrecht zu gewähren. Klar doch, die Mafia findet Geldwäschegesetze auch ein wenig streng…
Fragen wie „ob eine KI Recht sprechen darf“ oder wie „Beweis sicher“, nachvollziehbar oder überhaupt nur minimal objektiv KI Aussagen sind, werden nicht betrachtet. Statt dessen wird vorgeschlagen, Asylanträge per KI prüfen zu lassen. Wohlgemerkt von prinzipbedingt nicht vertrauenswürdigen Systemen, die dazu von Daten abhängig sind, die ihre Ersteller ausgewählt haben. Diese Systeme waren auch schon rassistisch. Prädestiniert um „Ausländern“ die Kante zu zeigen? Was für ein „A***hlochverhalten. Meint man, das sei ein Grund sich „sicherer“ zu fühlen?
Ganz klar, die KI Verordnung dient einzig dazu den Datenschutz, der sich auf relativ gutem Weg befand, auszuhebeln. Mit KI hat die aber maximal am Rande zu tun.
Tut mir Leid, liebe Politik. Doch diese Taktik ist unlauter und grenzt, ob der Omnipräsenz rein gewinnorientierter technischer Systeme in Monokultur, an Nötigung. Es ist unmöglich, sich dem zu entziehen. Wenn ich das nun euer technischen Inkompetenz zuschreiben würde, fändet ihr das besser? Oder werdet auch ihr von einer Industrie ver****t.
So oder so: 6 – setzen!
> … habe ich dennoch den Verdacht, dass wir von der Politik verschaukelt werden.
Dieser Eindruck entsteht zwangsläufig bei jenen, die nicht einmal die erste Seite der Verordnung gelesen haben.
https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=OJ:L_202401689
Was man da lesen kann, mag einem gefallen oder nicht. Aber gelesen sollte man es schon haben.
Das ist eine recht anmaßende Unterstellung, noch dazu ohne jegliche eigenständige Aussage.Ich wäre geneigt, den verklinkten Text einmal zu erklären. Aber soll ich mir für solch „qualifizierte“ Äußerung die Mühe machen, dass in 2000 Zeichen zu erklären? Lesen und verstehen sind offensichtlich zwei Dinge.
> … habe ich dennoch den Verdacht, …
> Das ist eine recht anmaßende Unterstellung, …
Womit wir beim Problem sind. Verdacht und Unterstellung ohne Begründung/Erklärung sind ziemlich nutzlos. Daher ist jede Mühe willkommen, die darüber hinausgeht. Daran würde man auch erkennen, ob jemand nur herumschwadroniert oder wenigstens einen Hauch von Ahnung hat.
Die KI Verordnung regelt an genau einer Stelle den Datenschutz – nämlich in der Erlaubnis personenbezogene Daten zu nutzen, um Fehler einer Hoch-Risiko-KI zu beheben. Im Übrigen bleibt es (aus meiner Sicht: leider) bei der DSGVO (statt endlich mal Spezialregelungen einzuführen). Denn die KI VO ist in erster Linie Produktsicherheitsrecht. Und das regelt sie weitestgehend.
Wegen meines OT-Posts gerade ein wenig Inhalt: Zitat aus der Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz bla bla bla der EU: „KI-Systeme können problemlos in verschiedenen Bereichen der Wirtschaft und Gesellschaft, auch grenzüberschreitend, eingesetzt werden und in der gesamten Union verkehren.“
Ah, ja. wäre da nicht das Problem, dass KI-Systeme auf massive Daten angewiesen sind, die geeignet sind in den privatesten Bereich einzudringen. Liest niemand NP? Und wie verkehrt eigentlich eine KI?
Die EU meint offenbar: Gehen sie weiter, hier gibt es nichts zu sehen.
Ich würde ja nichts sagen, wäre der gesammte Text in diesem Stil verfasst. Der Verdacht, dass hier eine Industrie ihre Interessen gegen geltendes Recht durchsetzen will und die EU vom Datenschutz mit einer „neuen Technologie“ ablenken legt den Gedanken an verarsche sehr nahe.
Zitat: „Durch die Verbesserung der Vorhersage, die Optimierung der Abläufe, Ressourcenzuweisung und die Personalisierung digitaler Lösungen, die Einzelpersonen und Organisationen zur Verfügung stehen, kann die Verwendung von KI Unternehmen wesentliche Wettbewerbsvorteile verschaffen und zu guten Ergebnissen für Gesellschaft und Umwelt führen, beispielsweise in den Bereichen Gesundheitsversorgung…“
Sag mal, haben eigentlich die Ferengi die Macht in Europa und der Welt übernommen? Oder auch die Frage, ob „sie“ wissen, was und wie eine KI denn so überhaupt tut und funktioniert/kann?
Wieso zum Beispiel „lügt“ eine KI? Wo sind ihre Grenzen? Kann irgend jemand nachvollziehen, was sie tut? Und was bewirkt die Abhängigkeit von den entweder zufällig oder genau so schlimm kontrolliert ausgewählten Lerndaten? Sind die Gefahren einzig in dem Missbrauchsmöglichkeiten zu sehen, den sogar die EU zugibt? Experten und seven perpendicular lines.
Jep und morgen richten wir unsere Teppiche auf Silicon Vally aus und beten Trump, Musk und Google, Apple und Microsoft an.
Und leider noch eines für meinen anonymen Freund oben: Siehe bei (12) den Versuch, zu definieren, wie man eine KI definiert. Scheiße Bert, da war mein Mathe und Informatikstudium ja komplett umsonst. Es ist ja alles ganz anders. Meine Professoren müssen nicht ganz dicht gewesen sein.
So als naives Beispiel: In der Regel gibt es eine Lernphase und eine Arbeitsphase bei neuronalen Netzwerken. Nutzt man nach der Lernphase unbeobachtete Benutzerinteraktionen um die Gewichte weiter dynamisch zu verändern, so ist das Ergebnis unvorhersehbar und wahrscheinlich kontraproduktiv. Beide Modelle unterscheiden sich grundlegend. Rekursion führt bei hinreichend komplexen Systemen zu Widersprüchen. Hat schon der alte Gödel erkannt.
Übrigens, die primäre Fähigkeit einer KI ist definitiv nicht das ableiten. Da ist sie nicht sonderlich gut. Es ist die Mustererkennung, Klassifizierung und bei LLMs eine gewisse Fähigkeit zur „Abstraktion“ via Tokenbildung und mehrschichtiger Verarbeitung (neben den Layer eines neuronalen Netzwerks). Umgangssprachlich ausgedrückt. Anonymous, klar soweit?
Da wo die EU tatsächlich von KI spricht, da wissen sie nachweislich einfach nicht, was sie tun.
Fehlt noch eine Aussage zu wirtschaftlichen und sozialen Folgen der KI-Vorstellungen der EU (Kommission und Rat) und der Regierungen.
Unternehmen wird das Wissen um ihre Produktionsmittel abgenommen. Das tut nun die KI. Die aber versteht eigentlich niemand. Hauptsache Daten. Alle Daten aller Menschen. Denn Wissen ist Macht. Fachkräfte braucht man in dieser Welt nicht mehr. Wozu noch ausbilden? Dadurch begeben sich die KMUs in Abhängigkeit von Dienstleistern, Beraterfirmen und Serviceanbietern. Die vertreiben die Produkte der wenigen großen Konzerne, die in der Lage sind KI-Produkte zu erstellen. Dies tun sie, indem sie Wissen aufkaufen. MS z.B. hat sehr selten etwas erfunden, aber eine Menge Patente. Geld kumuliert.
Wir verlieren also Wissen in unserer Wirtschaft und Gesellschaft, teilen die Bevölkerung auf in „Wissende“ und einer breiten Masse an „Proles“. So entstehen Abhängigkeiten von Kartellen und Konzernen. Kleine Firmen werden aufgekauft oder gehen pleite. Geld fließt von der Masse unten zu wenigen Konzernen oben über eine wilde Horde von Verkäufern und Beratern.
Und dann verkauft man das den KMUs und uns dies als blühende Landschaften. Und die (Aus-) Bildung kann man sich auch noch sparen. Was dies mit dem Nord/Südgefälle in der Welt tut, kann man sich leicht ausmalen. Vom Klima ganz zu schweigen.
Neoliberalismus pur.