EmotionsanalyseUngarische Bank muss deftige Strafe zahlen

Wegen „schwerwiegender Verstöße gegen die Datenschutzgrundverordnung“ hat die ungarische Datenschutzbehörde die Budapest Bank zu einer hohen Geldstrafe verurteilt. Die Bank hatte mittels einer Software Kundengespräche analysiert und die Emotionen ausgewertet. Scheinbar Unzufriedene wurden dann auch noch von der Bank telefonisch kontaktiert.

Auf einem weißen Tisch vor weißem Hintergrund sind 9 gelbe Lego-Köüfe zu sehen. Sie haben alle unterschiedliche Emotionen. Manche schauen wütend, andere Lachen, andere weinen oder sehen besorgt aus.
Eine KI hat bei der Budapest Bank die Emotionen von Kundinnen untersucht (Symbolbild) Gemeinfrei-ähnlich freigegeben durch unsplash.com Hello I’m Nik

Die Budapest Bank verstößt mit der Analyse von Kundinnentelefonaten gegen die Datenschutzgrundverordnung. Bereits am 8. Februar hatte die ungarische Behörde für Datenschutz und Informationsfreiheit ihr Urteil über die Bank gefällt. Die Budapest Bank hatte eine automatisierte Emotionserkennung bei der Kundenhotline eingesetzt.

Mittels einer Künstlichen Intelligenz (KI) hatte die Bank die Emotionen der Kund:innen an der Hotline ausgewertet. Die Datenschutzbehörde ermittelte, dass die Bank dafür alle Gespräche der Kundinnenhotline aufgezeichnet hat und diese Aufzeichnungen mittels einer Software in der Nacht analysieren ließ.

Emotionsanalyse mittels KI

Eine KI hat diese aufgezeichneten Telefonate nach Schlüsselwörtern und nach Tonlage analysiert und sollte so den Gemütszustand und damit die Zufriedenheit der Kund:innen an der Hotline ermitteln, heißt es in der Mitteilung der Behörde. Insgesamt 45 Tage lang wurden diese Ergebnisse zusammen mit den aufgezeichneten Gesprächen gespeichert.

Das Ergebnis der Analyse führte zu einer Liste über die Wahrscheinlichkeit von Unzufriedenheit der Anrufer:innen. Die von der KI ermittelten scheinbar unzufriedenen Kund:innen wurden dann von Angestellten der Bank angerufen. Sie sollten den Grund für die Unzufriedenheit der Kund:innen erfragen.

„Risiko für die Grundrechte“

Erschwerend kam hinzu, dass die Anrufer:innen von den Analysen nichts wussten und weder ihr Einverständnis für die KI-basierte Untersuchung ihrer Gespräche gegeben hatten noch die Datenverarbeitung widerrufen konnten. Die Datenschutzbehörde bemängelte außerdem den Einsatz der Künstlichen Intelligenz an sich.

Dieser Einsatz bürge „ein hohes Risiko für die Grundrechte der betroffenen Personen“, heißt es in der Mitteilung der Datenschutzbehörde weiter. Es sei schwer, die KI auf transparente und sichere Weise einzusetzen. Deshalb seien besondere Schutzmaßnahmen beim Einsatz von Analysen mittels KI notwendig, urteilte die Behörde.

Neben der Geldstrafe von 250 Millionen ungarischen Forint, umgerechnet circa 650.000 Euro, hat die Datenschutzbehörde die Bank angewiesen, die Analyse der Emotionen der Kund:innen zu unterlassen. Außerdem muss die Bank zunächst die Umsetzung der Datenschutzgrundverordnung sicherstellen, um die Datenverarbeitung der Kund:innen fortzusetzen.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

0 Ergänzungen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.