Schutz vor Manipulation: Verbraucherschützer fordern Nachbesserungen an KI-Verordnung

Die EU sollte bei der Regulierung von Künstlicher Intelligenz stärker die Rechte von Verbraucher:innen schützen. Das fordert der Bundesverband der Verbraucherzentralen (vzbv) heute in einer Pressemitteilung. Es bestehe die Gefahr, dass Künstliche Intelligenz Verbraucher:innen manipuliert und übervorteilt. “Künstliche Intelligenz wird den Konsumalltag weiter radikal verändern“, sagt vzbv-Vorständin Ramona Pop. „Damit uns die technische Entwicklung nicht davongaloppiert, braucht es verbindliche Regeln und starke Verbraucherrechte gegenüber KI-Betreibern.

Vor Manipulation schützen

Mit seinen Forderungen zielt der Verband auf die sogenannte KI-Verordnung der Europäischen Union, die momentan final verhandelt wird. Konkret fordert der vzbv, dass ähnlich wie bei der Datenschutzgrundverordnung Rechte für die Betroffenen von Hochrisiko-KI-Systemen geschaffen werden. So müssten Verbraucher:innen ein Recht auf Auskunft und Erklärung gegenüber den Betreiber:innen erhalten. „Nur, wenn Betroffene wissen, welche Daten verwendet werden und wie die Entscheidung zustande kam, können sie sich wehren und ihre Rechte wahrnehmen“, sagt Pop. Wichtig sei auch ein Recht auf Beschwerde bei den Aufsichtsbehörden.

Die KI-Regulierung müsse insgesamt dazu beitragen, dass Verbraucher:innen nicht manipuliert und ausgenutzt werden. Pop sagt dazu: „Wenn menschliches Verhalten in Echtzeit analysiert wird, ist jede:r situativ verwundbar.”. Wenn beispielsweise die KI persönliche Schwächen wie Spielsucht, Stress oder Müdigkeit bei Nutzer:innen identifiziere, könnten diese Schwachpunkte ausgenutzt werden und unter anderem zu finanziellen Schäden führen. Das bereits vorgesehene Verbot von subtiler Manipulation im AI Act reiche nicht aus und sei lückenhaft.

Verbandsklage ermöglichen

Außerdem möchte der vzbv, dass Verbraucher:innen bessere dabei unterstützt werden, ihre Rechte durchzusetzen. Einzelnen sei es oft nicht möglich, Ressourcen aufzubringen, um gerichtlich gegen große Unternehmen zu klagen. „Institutionen wie der vzbv müssen die Möglichkeit haben, Klagen gegen bestimmte KI-Betreiber im Namen geschädigter Verbraucher:innen zu führen und Entschädigungen einzufordern“, sagt Pop. Dafür solle der AI Act in den Anhang der europäischen Verbandsklagen-Richtlinien aufgenommen werden.

Der AI-Act der EU befindet sich derzeit in den Trilogverhandlungen. Seit Juni verhandeln das Europäische Parlament, die Mitgliedstaaten und die Europäischen Kommission. Eigentlich sollten die Gespräche mittlerweile auf der Zielgeraden sein. Allerdings sind sich die Institutionen der EU laut Medienberichten bei entscheidenden Punkten immer noch nicht einig.