Datenschutz

Alexa-Gutachten des Bundestages: Amazon hört auch Kindern und Gästen zu

Assistenzsysteme wie Alexa speichern nicht nur die Stimmen ihrer registrierten Nutzer:innen ab, sondern auch von Kindern und Gästen. Das ist ein rechtliches Problem, stellt jetzt der wissenschaftliche Dienst des Bundestages fest.

Alexa Amazon steht vor einem Computer.
Wenn der Ring blau aufleuchtet nimmt Alexa Stimmen auf. Nicht nur die der registrierten Nutzer:innen. Gemeinfrei-ähnlich freigegeben durch unsplash.com Piotr Cichosz

Witze erzählen, Hilfe bei den Mathehausaufgaben erfragen und Einkauflisten voller Süßigkeiten verfassen: Amazons sprachgesteuertes Assistenzsystem Alexa nimmt nicht nur die Stimmen von Erwachsenen auf, die bewusst mit dem System interagieren, sondern auch von Kindern und unwissenden Besucher:innen. Dieses Verhalten der Sprachsoftware thematisiert nun der Wissenschaftliche Dienst des Bundestages in einem Gutachten (PDF). Das Papier geht der Frage nach, ob diese Aufzeichnung und die Transkription und Auswertung der Mitschnitte durch Amazon zulässig sind.

Bei der Erstinstallation von Alexa müssen Nutzer:innen eine ausdrückliche Einwilligung für die Verarbeitung und Speicherung ihrer Daten abgeben. Die Pflichtinformationen über Benutzung und Verwaltung ihrer Daten beschreibe Amazon, laut dem Gutachten, ausreichend auf ihrer Website und der Alexa-App. Die gespeicherten Daten können Nutzer:innen in ihrem Profil verwalten und auch löschen. Unklar bleibe aber, für wie lange Amazon die Sprachaufnahmen speichert und wie oft die Software unbeabsichtigte Geräusche und Gespräche aufnimmt.

Fraglich bleiben die Aufnahmen ohne Einwilligung

Besonders warnt das Gutachten vor Aufnahmen, die Alexa von Dritten abspeichert. Denn auch Besucher:innen, die eventuell nichts von dem lauschenden Gerät wissen, oder auch Kinder, die mit im Haushalt leben, geben persönliche Informationen preis: Sobald die Sprachsoftware glaubt, das Aktivierungswort „Alexa“, „Computer“ oder „Echo“ zu hören, nimmt sie die Stimme auf. Egal ob die Einwilligung der jeweiligen Person vorliegt oder nicht.

Das Gutachten des wissenschaftlichen Dienstes verweist aber auch auf Vorfälle, bei denen Alexa auch ohne Befehl der Nutzer:innen Sprachaufnahmen startete. Ob die Software dann einen „falschen Alarm“, wie ein missverstandenes Wort oder ein Radiogeräusch, im Nachhinein bemerkt oder nicht: die Aufnahme wird transkribiert und gespeichert. Der wissenschaftliche Dienst verweist in seinem Gutachten auch auf einen Fall, in dem Alexa aus Versehen das persönliche Gespräch eines amerikanischen Pärchens aufnahm und es an einen Handykontakt versendete.

Auf die Anfrage von Heise.de verwies Amazon auf die Möglichkeit, das Gerät mit der Stummtaste zu deaktivieren und alle unerwünschten Aufnahmen anhören und löschen zu können. Außerdem habe Amazon eine neues Datenschutz-Portal veröffentlicht. Auf die wesentliche Frage nach dem Kinderschutz ging der Online-Versandhändler aber nicht ein.

Wesentliche Fragen lässt Amazon offen

David Limp, Amazon Senior Vice Präsident gab gegenüber BBC an, dass Kinder unter 13 Jahren die Sprachsoftware nur dann benutzen können, wenn die Einwilligung der Eltern in Form ihrer verifizierten Kreditkarteninformation vorliegt. Diese Maßnahme erscheint allerdings wenig hilfreich, wenn Alexa die Stimmen der Kinder auch ohne Einwilligung aufnimmt, sobald diese sich im gleichen Raum wie die Assistenzwanze befinden.

In der USA wurde Amazon deswegen nun angeklagt: Die Eltern eines 8-jährigen Jungen aus Los Angeles und die eines 10 Jahre alten Mädchens aus Seattle verklagen den Online-Versandhändler, da Alexa die Stimmen ihrer Kinder ohne Einwilligung aufgenommen und gespeichert hat. „Zu keiner Zeit warnt Amazon unregistrierte Nutzer:innen, dass ihre Alexa-Interaktionen aufgenommen werden“, heißt es in der Anklageschrift.

Alexa transkribiert auch Fehlaufnahmen mit

Erhebliche Zweifel an der rechtlichen Konformität der Sprachassistenten weckt auch eine Reportage von Bloomberg aus dem Frühjahr. Journalist:innen deckten auf, dass die Aufnahmen nicht nur maschinell verarbeitet, sondern auch von Mitarbeiter:innen der Subunternehmen des Online-Versandhandels mitgehört werden. Eine Quelle von Bloomberg bestätigte, dass auch Fehleraufnahmen transkribiert und mit ausgewertet werden, um die Spracherkennung der Software zu verbessern.

In einem Interview mit der Zeit bekräftigte Amazon-Mann Limp noch, dass das Unternehmen die Daten aus Imagegründen „nie verkaufen“ würde. Die Jurist:innen des wissenschaftlichen Dienstes bezweifeln diese Aussage: Es bleibe es unklar, zu welchen Zwecken Amazon die sensiblen Daten seiner Nutzer:innen in Zukunft verwenden könnte.

Amazon brachte vor wenigen Monaten die Echo Dot Kids Edition auf den amerikanischen Markt. Auf diesem können die Eltern, die Funktionen, die ihre ihrer Kinder benutzen dürfen manuell eingrenzen. Eine Funktion, die nur die Aufnahme der eigenen Kinder und nicht der Spielkamerad:innen erlaubt, besitzt diese Version aber auch nicht.

Laut den Jurist:innen des Bundestages kommt Amazon seiner Informationsvermittlungspflicht gemäß der Datenschutzgrundverordnung (DSGVO) gegenüber den registrierten Nutzer:innen aber nach. Die Zulässigkeit der Aufnahmenspeicherung von Dritten und Minderjährigen ist rechtlich jedoch noch in einer Grauzone: Die neuen Technologien der Stimmerkennung, so der wissenschaftliche Dienst, „wird den Datenschutz vor neue Herausforderungen stellen.“

Eine Ergänzung
  1. Vielen Dank mal wieder für einen Beitrag, den man in Ausführlichkeit und Qualität in anderen Medien vergebens sucht.

    Mehr noch als Alexa (Verbreitungsargument) besorgt mich immer noch WhatsApp und dergleichen, die einfach ohne meine Zustimmung meine Kontaktdaten aus dem Adressbuch meiner Freunde und Bekannten ziehen. Gilt hier nicht ähnliches?

    PS:
    Das :innen nervt mich massiv. Zumal eh klar ist, dass Autoren selbstverständlich auch weiblich sein können. Und gut noch dazu, wie man unter anderem an dem Beitrag dieser Autorin sehen kann. ;-)

Ergänzung an Christian Ergänzung abbrechen

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.