EmotionsanalyseUngarische Bank muss deftige Strafe zahlen

Wegen „schwerwiegender Verstöße gegen die Datenschutzgrundverordnung“ hat die ungarische Datenschutzbehörde die Budapest Bank zu einer hohen Geldstrafe verurteilt. Die Bank hatte mittels einer Software Kundengespräche analysiert und die Emotionen ausgewertet. Scheinbar Unzufriedene wurden dann auch noch von der Bank telefonisch kontaktiert.

Auf einem weißen Tisch vor weißem Hintergrund sind 9 gelbe Lego-Köüfe zu sehen. Sie haben alle unterschiedliche Emotionen. Manche schauen wütend, andere Lachen, andere weinen oder sehen besorgt aus.
Eine KI hat bei der Budapest Bank die Emotionen von Kundinnen untersucht (Symbolbild) – Gemeinfrei-ähnlich freigegeben durch unsplash.com Hello I’m Nik

Die Budapest Bank verstößt mit der Analyse von Kundinnentelefonaten gegen die Datenschutzgrundverordnung. Bereits am 8. Februar hatte die ungarische Behörde für Datenschutz und Informationsfreiheit ihr Urteil über die Bank gefällt. Die Budapest Bank hatte eine automatisierte Emotionserkennung bei der Kundenhotline eingesetzt.

Mittels einer Künstlichen Intelligenz (KI) hatte die Bank die Emotionen der Kund:innen an der Hotline ausgewertet. Die Datenschutzbehörde ermittelte, dass die Bank dafür alle Gespräche der Kundinnenhotline aufgezeichnet hat und diese Aufzeichnungen mittels einer Software in der Nacht analysieren ließ.

Emotionsanalyse mittels KI

Eine KI hat diese aufgezeichneten Telefonate nach Schlüsselwörtern und nach Tonlage analysiert und sollte so den Gemütszustand und damit die Zufriedenheit der Kund:innen an der Hotline ermitteln, heißt es in der Mitteilung der Behörde. Insgesamt 45 Tage lang wurden diese Ergebnisse zusammen mit den aufgezeichneten Gesprächen gespeichert.

Das Ergebnis der Analyse führte zu einer Liste über die Wahrscheinlichkeit von Unzufriedenheit der Anrufer:innen. Die von der KI ermittelten scheinbar unzufriedenen Kund:innen wurden dann von Angestellten der Bank angerufen. Sie sollten den Grund für die Unzufriedenheit der Kund:innen erfragen.

„Risiko für die Grundrechte“

Erschwerend kam hinzu, dass die Anrufer:innen von den Analysen nichts wussten und weder ihr Einverständnis für die KI-basierte Untersuchung ihrer Gespräche gegeben hatten noch die Datenverarbeitung widerrufen konnten. Die Datenschutzbehörde bemängelte außerdem den Einsatz der Künstlichen Intelligenz an sich.

Dieser Einsatz bürge „ein hohes Risiko für die Grundrechte der betroffenen Personen“, heißt es in der Mitteilung der Datenschutzbehörde weiter. Es sei schwer, die KI auf transparente und sichere Weise einzusetzen. Deshalb seien besondere Schutzmaßnahmen beim Einsatz von Analysen mittels KI notwendig, urteilte die Behörde.

Neben der Geldstrafe von 250 Millionen ungarischen Forint, umgerechnet circa 650.000 Euro, hat die Datenschutzbehörde die Bank angewiesen, die Analyse der Emotionen der Kund:innen zu unterlassen. Außerdem muss die Bank zunächst die Umsetzung der Datenschutzgrundverordnung sicherstellen, um die Datenverarbeitung der Kund:innen fortzusetzen.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

0 Ergänzungen

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.