Siri

Die freundliche Spionin

Zwei Monate lange belauschte Thomas le Bonniec im vergangenen Jahr Besitzer:innen von Apple-Geräten, dann ging er an die Öffentlichkeit. Weil der Konzern angeblich weiterhin im großen Stil Tonaufzeichnungen auswertet, fordert der Franzose die EU-Datenschutzbehörden jetzt auf, Konsequenzen zu ziehen.

Manchmal hört Siri heimlich mit.
Manchmal hört Siri heimlich mit. Gemeinfrei-ähnlich freigegeben durch unsplash.com Fabian Grohs

Er soll Drogendeals ahnungsloser Apple-Kund:innen mitgehört oder sie beim Sex belauscht haben. Zehn Monate sind vergangenen, seit Thomas le Bonniec an die Öffentlichkeit ging. Im Sommer des vergangenen Jahres erzählte der heute 25-Jährige der britischen Tageszeitung Guardian von der Zeit, in der er in Irland für Apple gearbeitet hatte.

Angestellt bei einem Subunternehmen, hörte le Bonniec 2019 nach eigenen Angaben zwei Monate lang Tausende Gespräche ab, die iPhones und andere Geräte des US-amerikanischen Konzerns mit der Spracherkennungssoftware Siri aufgezeichnet hatten. Gegenüber dem Guardian räumte Apple damals ein, einen „kleinen Teil“ der Siri-Abfragen aufzuzeichnen, um die Software zu verbessern.

Besonders heikel: Mitunter hörte Siri aber auch mit, obwohl niemand den Dienst wissentlich aktiviert hatte. Eine technische Fehlfunktion, wenn die Software fälschlicherweise die Aktivierungsworte „Hey Siri“ versteht. So landeten auch sensible Tonaufnahmen bei Apple. Le Bonniec sagte, diese hätten sogar Einblicke in die Krankengeschichte Betroffener erlaubt. Zu hören gewesen seien in den Aufzeichnungen zudem nicht nur die Besitzer:innen von Apple-Geräten, sondern auch deren Umfeld.

Whistleblower wendet sich an EU-Datenschutzbehörden

In dieser Woche wandte sich der Whistleblower nun an die europäischen Datenschutzbehörden. In einem Schreiben wirft er Apple einen massiven Eingriff in die Privatsphäre von Millionen Menschen vor. „Die Leute reden täglich mit Siri und werden in dem Glauben gelassen, sie sprächen mit einer freundlichen KI. Das ist sie aber eindeutig nicht“, so le Bonniec. „Siri kann als Spionin agieren.“

Er wirft dem Konzern vor, auch weiterhin massenhaft entsprechende Daten zu sammeln. In der Folge seiner Enthüllung hatte Apple 2019 versprochen, das Vorgehen zu überdenken und künftig nur noch Aufnahmen von Kund:innen abhören zu lassen, die dem ausdrücklich zugestimmt hätten.

Der österreichischen Tageszeitung STANDARD zufolge schätzt le Bonniec, dass Apple insgesamt hunderte Millionen Sprachaufnahmen angefertigt hat. Jetzt will er, dass sich die Datenschutzbehörden dem Fall annehmen. „Ich vertraue darauf, dass Sie verstehen, dass die Privatsphäre von Millionen Menschen auf dem Spiel steht“, schreibt er ihnen.

Wie die Nachrichtenagentur Reuters berichtet, hat der zuständige Datenschutzbeauftragte aus Irland in diesem Zusammenhang Kontakt zu dem Konzern aufgenommen. Apple hat eine Anfrage von netzpolitik.org an diesem Freitag bislang nicht beantwortet.

Du möchtest mehr kritische Berichterstattung?

Unsere Arbeit bei netzpolitik.org wird fast ausschließlich durch freiwillige Spenden unserer Leserinnen und Leser finanziert. Das ermöglicht uns mit einer Redaktion von derzeit 15 Menschen viele wichtige Themen und Debatten einer digitalen Gesellschaft journalistisch zu bearbeiten. Mit Deiner Unterstützung können wir noch mehr aufklären, viel öfter investigativ recherchieren, mehr Hintergründe liefern - und noch stärker digitale Grundrechte verteidigen!

 

Unterstütze auch Du unsere Arbeit jetzt mit deiner Spende.

9 Ergänzungen
  1. Eigentlich müsste das doch ziemlich teuer für Apple werden, vor allem weil praktisch niemand davon Kenntnis hatte, dass sich Mitarbeiter von Apple (oder einem Dienstleister im Auftrag für Apple) private Aufzeichnungen anhören.

    Wie ist das in so einem Fall? Muss da ein Geschädigter aktiv klagen, oder reichen die Beweise (mehrere Millionen Aufzeichnungen), dass ein Gericht automatisch für Betroffene klagt?

    1. Wieviele Millarden sind denn für Apple „ziemlich teuer“? Die zu vermutenden Geldstrafen, falls es sie überhaupt geben wird, wird Apple aus der sprichwörtlichen Portokasse zahlen können. Wie es weltweit ausschaut, kann ich in dieser Sache nicht sagen. Hier in Europa sind es max. 4% des Gesamtumsatzes bzw. 20 mio. Euro.

      Richter (an ordentlichen Gerichten) haben, soweit ich weiss, lediglich in Fragen der Rechtspflege die Möglichkeit ein Normenkontrollverfahren einzureichen und dergleichen. Dabei können bestehende Gesetze (usw.) z.B. auf noch vorhandene Aktualität und Angemessenheit überprüft werden. Konkrete StGB-Vorfälle sind Angelegenheit der Staatsanwaltschaften (Exekutive). Und für Datenschutzverstösse sind andere Instanzen der öffentlichen Hand zuständig, und zwar die div. staatl. Datenschutzbeauftragten nebst Behörde.

    2. „Eigentlich müsste das doch ziemlich teuer für Apple werden, vor allem weil praktisch niemand davon Kenntnis hatte“
      War das nicht schon viel Früher bekannt ich meine da wurde mal was geleakt über den Sprachassistenten von Apple aber auch über die Konkurrenz.

  2. Dasselbe mit Microsoft Speech der Microsoft Corporation, die neben dem eigentlichen Betriebssystem diesselben Dienste in Spielen laufen lassen wo Anwender bereitwillig die Hosen runterlassen.

    Zu dem Gegenstück Alexa von Amazon.com, Inc muss man eh nichts mehr sagen und Google, Inc ist auch schon etwas weiter oben verlinkt.

    Schon blöd, wenn sich die gesamte Welt von quasi 5 Technologiekonzernen lenken lässt und soweit abhängig ist dass selbst Zeitschriften und Berichterstattung, Webseiten, Medien und unzählige andere Beteiligte diesen Strukturen zuarbeiten.

    Empörung aber bitte nur ein wenig, denn es gibt keine Alternativen. Denn welcher Hund beißt auch gerne sein Herrchen? Der Trend wurde verpennt und ist durch ein straffes Copyright, Rechte und Patentsystem nicht mehr zu knacken. Wie heißt es in der Politk immer so schön in den Zeitungen? XY „rügt“ XY und damit hat sich die Sache….

    Bedauerlich… auch hier wird in 2 Wochen wieder kein Hahn nach krähen.

    1. …ganz genau, so sehe ich es auch!
      Weder wird es (straf-)rechtliche noch sonstige Konsequenzen nach sich ziehen, denn da hackt die eine Krähe der anderen doch kein Auge aus. Mehr als geheuchelte Empörung und ein „Du du, das darf man nicht“ á la Merkel ist da nicht zu erwarten…Justiz und Politik interessiert das nicht.
      So, jetzt aber genug, setzt Euch wieder hin, reicht Euch die Hände und singt: Piep piep,piep, wir haben uns alle lieb

  3. Jayden: Doch, es gibt Alternativen:

    1. Wanzen etc. nicht ins Haus holen
    2. Massenboykott initiieren anhand von Präzedenzfällen des Datenmissbrauchs
    3. IT-Wissen erwerben, anwenden und daraus die Alternativen entwickeln!
    4. Politiker wählen, die 1 bis 3 unterstützen.

  4. Warum wundern sich jetzt viele Leute darüber, dass Apple mit Siri so agiert wie einst Amazon mit Alexa? Wenn ich das richtig verstanden habe wurden bei beiden Sprachboxen/ -assistenten Gespräche – ohne Aktivierungswort – aufgezeichnet (“Drogendeals…mitgehört oder…beim Sex belauscht“) und später von MitarbeiterInnen protokolliert. Warum werden bei beiden Konzernen MitarbeiterInnen-Ressourcen aufgeboten um in die intimsten Bereiche, in die Wohnungen der Menschen, vorzudringen und dort zu lauschen?
    Auch wenn das die BesitzerInnen diese Sprachboxen nicht gerne hören: Diese technischen Assistenten sind und bleiben Wanzen, welche zwischenzeitlich sogar die Begehrlichkeiten der Sicherheitsbehörden geweckt hatten.

  5. Puh. Unabhängig davon ob Apple, Microsoft, google, usw. ihre AGBs und Datenschutzerklärungen nicht ausreichend ausgearbeitet haben. Wer sprachaktivierte Services benutzt, der muss davon ausgehen, dass diese auch in Zeiten aktiviert werden, in denen dies nicht erwartet wird. Gleichzeitig ist bleibt es zu Einen dabei irrelevant, ob faktische Samples der Aufzeichnung oder deren algorithmische Aufbereitung gespeichert werden. Zum anderen kann, bei der derzeitigen rechtlichen Lage, grundsätzlich nicht zuverlässig verhindert werden, dass die ermittelten privaten Daten, selbst bei guter Absicht des Auswerters, nur für den selbst intendierten Zweck genutzt werden. Die technischen Bedürfnisse des Anbieters dabei auch ganz nach hinten gestellt.

    Wer aus Bequemlichkeit und Bedürfnis nach Hipheit darauf nicht verzichten kann der muss damit leben. Hätten die o.g. Unternehmen die Tatsache, dass sie die Samples „zur Verbesserung ihrer Services“ speichern und manuell auswerten, das würde aktuell und in der Vergangenheit niemanden, dem seine Gesellschaft und ihrer Konditionen grundsätzlich am Arsch vorbeigeht, an der Nutzung gehindert haben.

    1. Also speziell bei Sprachassistenten gibt es ja nicht nur Bequemlichkeit und Hipness als Nutzungsgrund. Sie ermöglichen manchen Menschen überhaupt die sinnvolle Bedienung ihrer Geräte. Aus der Perspektive würde ich das ungern als „wer sowas kauft hat selber Schuld“ stehen lassen.

      Ich finde es auch schade, dass Apple das macht/machen muss (?) um die Qualität zu verbessern. Die Ansage, dass Apple sich jetzt Datenschutz auf die Fahnen schreibt, fand ich ja eigentlich ziemlich positiv. Ich hoffe, es gibt genügend Druck dass sie mit dem Abhören schnell wieder aufhören.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.