Datenschutz

Googles Assistenzwanze: Auch Bettgespräche werden von Menschen ausgewertet

Belgische Journalisten haben herausgefunden, dass die Mitschnitte der Assistenzsysteme auch bei Google von Menschen ausgewertet werden. Der Redaktion gelang es auf Basis der Aufnahmen Nutzer:innen zu identifizieren und mit ihren Mitschnitten zu konfrontieren.

Paar liegt im Bett.
Wer Assistenzsysteme nutzt, muss davon ausgehen, dass auch intimste Gespräche von Mitarbeitern der Unternehmen angehört und ausgewertet werden. Gemeinfrei-ähnlich freigegeben durch unsplash.com Becca Tapert

Wer die Assistenzsysteme Google Home und den Google Assistant auf dem Mobiltelefon benutzt, muss damit rechnen, dass die Mitschnitte auch von Personen abgehört werden. Das hat der belgische Sender VRT NWS herausgefunden.

VRT News konnte etwa 1.000 Mitschnitte anhören, die eine Quelle der Redaktion zugespielt hatte. Google anonymisiert die Mitschnitte bevor sie an die Mitarbeiter gelangen. Der Redaktion gelang es jedoch durch die Inhalte, in denen beispielsweise Adressen genannt wurden, Nutzer:innen der Systeme zu identifizieren. Diese Menschen konfrontierte die Redaktion mit den Mitschnitten.

Bettgespräche und Unterhaltungen zwischen Eltern und Kindern

Laut den Daten, die VRT NWS vorliegen, sprang in etwa 15 Prozent der Fälle der Mitschneidemodus des Systems an, obwohl die Nutzer:innen nicht „OK, Google“ sagten. Das ist insbesondere bedeutsam, da für den Google Assistant gar kein Endgerät wie der Amazon Echo Dot nötig ist, sondern die App auf dem Mobiltelefon einfach mitschneidet. Bei den unaufgefordert mitgeschnittenen Konversationen handelte es sich unter anderem um Bettgespräche, Unterhaltungen zwischen Eltern und Kindern sowie berufliche Telefongespräche.

Gegenüber heise.de versucht ein Google-Sprecher den Fall jetzt herunterzuspielen: „Bei Google können einige Mitarbeiter auf einige Audioausschnitte aus dem Assistant zugreifen, um das Produkt zu trainieren und zu verbessern. Diese sind aber nicht mit persönlich identifizierbaren Informationen verknüpft und die Audiosequenzen sind verzerrt.“ Dies steht in klarem Widerspruch zu den Rechercheergebnissen von VRT NWS.

Wer Assistenzwanzen nutzt, muss mit De-Anonymisierung rechnen

Weltweit sollen mehr als 1.000 Personen im Auftrag von Google für die Auswertung von Mitschnitten der Assistenzsysteme zuständig sein, sie arbeiten bei Subunternehmen. Für den flämisch-niederländischen Sprachraum liegt die Zahl etwa bei einem Dutzend, heißt es im Bericht.

Die Fälle bei Amazon und Google beweisen, was davor schon im Raum stand: Jede Nutzung von Spracherkennungssystemen führt dazu, dass die teilweise intimen Interaktionen auch von Menschen ausgewertet werden, um die Künstliche Intelligenz weiter zu trainieren. Die angebliche Anonymisierung funktioniert nicht, da sich durch die Inhalte der Mitschnitte Personen klar erkennen lassen.

Die Assistenzwanzen führen außerdem zu Begehrlichkeiten bei Innenministerien und Ermittlungsbehörden. Zuletzt hatte auch der wissenschaftliche Dienst des Deutschen Bundestags vor den Datenschutzrisiken bei der Nutzung von Assistenzsystemen gewarnt.

Wer nicht will, dass fremde Menschen privateste Dinge mithören, sollte kein Assistenzsystem in die eigene Wohnung lassen und auch die Apps auf dem Mobiltelefon deaktivieren.

Korrektur: In einer früheren Version dieses Artikels stand, dass Google immer abgestritten habe, dass die Aufzeichnungen auch an menschliche Ohren gelangen könnten. Das stimmt nicht, Google gab dies spätestens im April 2019 gegenüber Bloomberg zu.

5 Ergänzungen
  1. Es wäre toll, wenn Ihr einen Artikel oder Links veröffentlichen könntet, die beschreiben, wie man sich hier besser „schützen“ kann.

    Danke

    1. Für’s erste, ein sauberes Betriebssystem aufs Handy spielen, etwa LineageOS. Dann die Anzahl der Apps auf das wirklich Benötigte beschränken. Und idealerweise nur saubere Apps. Der F-Droid-Store macht hier einen deutlich besseres Job als der Play-Store.

  2. Vielen Dank für die Infos. Habs gleich mal ausgestellt. Wer den Voiceshizzle abstellen möchte, hier ne kleine Anleitung:
    — Einstellungen
    — Sprachen & Eingabe
    — Bildschirmtastatur
    — Google Spracheingabe
    — dann bei OK GOOGLE / Voice Match auswählen

    Den Assistenten zu deaktivieren ist wiederum eine andere Geschichte. Aber Suchmaschinen helfen ja bekanntlich weiter.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.