Tesla: Roboter auf Rädern

1984 – im Jahr des gleichnamigen Orwell-Romans begann die Erfolgsgeschichte der amerikanisch-japanischen Spielzeug-Linie Transformers. Teile eines Fahrzeugs ließen sich so verschieben, dass sie sich in eine Action-Figur und wieder zurück verwandeln konnten. Die Transformers-Linie ist in zwei Fraktionen unterteilt: die guten Autobots und ihre Gegner, die bösen Decepticons. Anführer der Autobots ist „Optimus Prime“.

„Optimus“ lautet auch der Name eines von Tesla geplanten, humanoiden Roboters. „Er ist ein Guter“, unterstrich Tesla-CEO Elon Musk bei dessen Vorstellung im August 2021. Ein Prototyp werde bis 2022 gebaut und hätte das Potential dazu, für Tesla bedeutender als das Fahrzeuggeschäft zu werden.

Tesla-Fahrzeuge sind „halb intelligente Roboter“

In der gleichen Rede bekräftigte Musk: „Tesla ist zweifellos das größte Robotik-Unternehmen der Welt, denn unsere Autos sind wie halb intelligente Roboter auf Rädern.“

Was hat es mit dieser Aussage auf sich? Die Tesla-Fahrzeuge sind voller Sensoren. „Acht Kameras gewähren eine 360°-Überwachung der Fahrzeugumgebung mit bis zu 250 m Reichweite. Ergänzt werden sie durch zwölf aktualisierte Ultraschallsensoren“, hieß es auf der Webseite des Unternehmens unter der Überschrift „Fahren in der Zukunft“.

Zwei nach vorne, zwei nach hinten gerichtete Flankenkameras, eine Heckkamera und für die Front eine Weitwinkel-, Hauptfeld- und Teleobjektiv-Kamera. Doch es gibt bei manchen noch eine neunte Kamera, die auf der Webseite nicht aufgelistet ist: Eine Innenraumkamera über dem Rückspiegel. Die sorgte in der Vergangenheit für Verwirrung, ihr Zweck war lange unklar. Elon Musk versicherte 2020 auf Twitter, dass diese Kamera deaktiviert sei. Seit einer Softwareversion von 2021 kann sie in den USA die Aufmerksamkeit der Fahrenden erfassen.

Tesla produziert viele Komponenten wie die Software für seine Fahrzeuge selber. Welche Daten wie genau erhoben und verarbeitet werden, ist für die Fahrenden kaum überschaubar. Auf eine Presseanfrage zu dem Thema antwortete das Unternehmen nicht.

In der deutschsprachigen Datenschutzerklärung von Tesla heißt es, dass Kamera-Daten standardmäßig direkt im Fahrzeug verarbeitet werden und das Fahrzeug nicht ohne Zustimmung der Nutzenden verlassen. Selbst wenn diese entscheiden, Tesla Daten für das „Flottenlernen“ zur Verfügung zu stellen, „bleiben die Kameraaufzeichnungen anonym und werden nicht mit Ihnen oder Ihrem Fahrzeug in Verbindung gebracht“.

Mit einer Einschränkung: „Es sei denn, wir erhalten die Daten infolge eines sicherheitsrelevanten Vorfalls.“ Ein solcher liegt laut Tesla beispielsweise vor, wenn ein Airbag auslöst. Dann werden 30-sekündige Clips zusammen mit der Fahrgestellnummer an den Hersteller übermittelt.

Dojo – Supercomputer zur Schaffung Künstlicher Intelligenz

Um die Fahrzeugumgebung auszuwerten und auf Umweltbedingungen zu reagieren, trainiert Tesla sogenannte Künstliche Intelligenz – künftig in einem „Dojo“. Dojo bezeichnet eigentlich einen Trainingsraum für japanische Kampfkünste. Bei Tesla ist das der Name für den Supercomputer, mit dem ab 2022 neuronale Netzwerke trainiert werden sollen.

Tesla bekundete auf seiner Webseite: „Unsere Netzwerke lernen von den kompliziertesten und vielfältigsten Szenarien der Welt, die interaktiv von unserer Flotte von fast 1 Million Fahrzeugen in Echtzeit geliefert werden.“

Diese Szenarien sind von Land zu Land unterschiedlich: Während in Kontinentaleuropa Rechtsverkehr herrscht, ist es Großbritannien und Irland Linksverkehr. Schilder sehen in unterschiedlichen Ländern verschieden aus. Diese Praxisbeispiele sollen verdeutlichen, dass Teslas neuronales Netz auf Videodaten angewiesen ist, um im Dojo die KI zu trainieren. Dojo wird jedoch nicht nur für das Training zum autonomen Fahren entwickelt, ließ Elon Musk auf dem AI Day beiläufig fallen. Wofür noch, beantwortete Tesla auf Anfrage nicht.

Visuelle Intelligenz für Wächter

Die Tesla-Fahrzeuge analysieren ihre Umwelt aber nicht nur während der Fahrt. Im „Sentry Mode“, dem sogenannten Wächter-Modus, erfassen Sensoren die Umgebung. Kommt die Auswertung dieser Daten zum Ergebnis, dass eine Bedrohung eines parkenden Tesla vorliegt, zeichnen Außenkameras die Umgebung auf.

Dank eines Updates lässt sich in den USA der „Sentry Mode Live Camera Access“ aktivieren. Damit können die Besitzer*innen per App auf die Außen-Kameras zugreifen. Wer mag, kann mit den Passant*innen sprechen. Die eigene Stimme ertönt, wahlweise verzerrt, über den Außenlautsprecher.

Im September 2021 wurde am Rande einer Demonstration im Leipziger Süden ein Tesla von vermummten Personen beschädigt. Noch fehlt es den Fahrzeugen wohl an visueller Intelligenz, um zu erkennen, was in einer solchen Szene vor sich gehen würde. Visuelle Intelligenz könnte aber dazu führen, dass der Wächter-Modus zukünftig die Aufnahme startet, sobald sich eine vermummte Person dem Fahrzeug nähert.

„Wenn verdächtige Bewegungen erkannt werden, reagiert Ihr Fahrzeug entsprechend der Schwere der Bedrohung“, lautet es auf der Webseite von Tesla. Welche genauen Szenarien verdächtig ist und wie die Schwere einer Bedrohung eingeordnet wird, lässt das Unternehmen offen. Die Datenschutzerklärung nennt als Bedrohungsbeispiel, dass sich jemand an das Fahrzeug lehnt, einen Einbruch durchs Fenster als hingegen „erhebliche Bedrohung“.

Daten für Ermittlungsbehörden

Ein Fahrzeug, das bei Straftaten und Unfällen seine Umgebung aufzeichnen kann, ist auch für Ermittlungsbehörden interessant. Sie bekamen offenbar bereits Sensordaten von Tesla. Das ZDF recherchierte, dass Tesla in einem Fall offenbar Geschwindigkeitsdaten auch unabhängig von einem Unfall an die Behörden übermittelte.

Der Berliner Oberamtsanwalt Andreas Winkelmann greift regelmäßig auf Fahrzeugdaten mehrerer Hersteller bei Ermittlungen zu illegalen Autorennen zurück. Gegenüber der SZ konstatiert er, die meisten Hersteller würden freiwillig kooperieren. Privat finde er mobile Dauer-Überwachung trotzdem bedenklich. Ein seltener Kritiker.

Anfragen zu Ermittlungsverfahren, bei denen Tesla-Fahrzeuge involviert sind, werden eher ausweichend beantwortet. Entgegen dem engagierten Oberamtsanwalt in Berlin konnte die Senatsverwaltung auf eine Kleine Anfrage aus dem Jahr 2021 hin keine statistischen Aussagen zur Nutzung von Fahrzeugdaten für Ermittlungen treffen.

Auch aus Sachsen lassen sich keine Details in Erfahrung bringen. „Zu laufenden Verfahren können wir keine Angabe machen. An abgeschlossene Fälle kann ich mich nicht erinnern“, so der Leipziger Gerichtssprechers Stefan Blaschke auf die Anfrage, ob und wie sächsische Behörden auf Sensordaten von Tesla zugreifen. Auch eine Kleine Anfrage an die Sächsische Landesregierung lieferte keine Ergebnisse.

Datenschleudern mit Langzeitgedächtnis

Dr. Thilo Weichert war 2004 bis 2015 Datenschutzbeauftragter des Landes Schleswig-Holstein. Im Rahmen seiner Tätigkeit beim „Netzwerk Datenschutzexpertise“ widmete er sich einer datenschutzrechtlichen Beurteilung von Tesla-Fahrzeugen: „Das Gutachten kommt zu dem Ergebnis, dass es sich bei Tesla-Fahrzeugen um Überwachungsmaschinen mit Langzeitgedächtnis und zugleich um Datenschleudern handelt. So wie diese derzeit in Deutschland ausgeliefert werden, dürften sie weder auf den Markt kommen noch zugelassen werden“, lautet es zu dem Gutachten aus dem Jahr 2020.

Doch wer entscheidet das? „Das Problem des Datenschutzes ist der Föderalismus“, sagt Weichert gegenüber netzpolitik.org. „Wenn Datenschützer*innen auf EU-Ebene weiter schweigen, wird sich auch hierzulande nicht viel bewegen“, meint der Datenschützer. Auch der ADAC sieht in einem Positionspapier von 2020 politischen „Handlungsbedarf“ und forderte für Daten in vernetzten Fahrzeugen unter anderem die „zügige Schaffung eines rechtlichen Rahmens für den Zugang zu im Fahrzeug generierten Daten auf EU-Ebene“. Derzeit führt die EU-Kommission eine öffentliche Konsultation zum „Zugang zu Fahrzeugdaten, -funktionen und -ressourcen“ durch.

„Sicherstellen, dass wir nicht etwas sehr Dummes tun“

Ob Fahrzeug oder Roboter: Technologien, die mit Sensoren ausgestattet sind und im Flottenverband einem neuronalen Netz zuarbeiten, das eine künstliche Intelligenz trainiert, rufen Datenschützer:innen auf den Plan.

Nicht nur das Netzwerk Datenschutzexpertise und der ADAC warnen. Elon Musk äußerte sich 2014 gegenüber Studenten des Massachusetts Institute of Technology (MIT) während eines Interviews auf dem AeroAstro Centennial Symposium: „Ich denke, wir sollten mit Künstlicher Intelligenz sehr vorsichtig sein. Wenn ich raten müsste, was unsere größte existenzielle Bedrohung ist, dann ist es wahrscheinlich diese.“

Er sprach sich für eine Regulierung und Aufsicht aus, „um sicherzustellen, dass wir nicht etwas sehr Dummes tun“. Er sprach von einem „Daemon“, vielleicht eine Anlehnung an den gleichnamigen Roman von Daniel Suarez. Darin geht es um eine künstliche Intelligenz, die im Hintergrund des Internets operiert und von dort die reale Welt beeinflusst.

Die reale Welt mit künstlicher Intelligenz beeinflussen, das will Tesla-Chef Musk offenbar auch. Sein 2016 gegründetes Unternehmen Neuralink suchte kürzlich eine Leitung für klinische Studien, um mittels Implantat Zugriff auf das menschliche Gehirn zu bekommen, „Spätestens das sollte den Bürokraten in den Verwaltungen doch langsam mal zu Denken geben“, konstatiert Datenschutzexperte Dr. Thilo Weichert abschließend.

Der Präsident des Kraftfahrt-Bundesamtes Richard Damm hat angekündigt, Technologien von Tesla genauer unter die Lupe zu nehmen. „Wir werden und müssen ganz genau hinschauen und das auch selbst praktisch überprüfen und uns nicht nur auf Zusagen in Dokumenten verlassen“, sagte er der Süddeutschen Zeitung im März. Dabei geht es ihm offenbar nicht nur um Fahrsicherheitsaspekte. „Tesla verwendet nach bisherigen Informationen große Datenmengen, die unter anderem das Fahrverhalten des Fahrers betreffen“, sagte Damm. weiter. Das kenne man „von traditionellen Herstellern“ so nicht, auch das gelte es zu untersuchen und zu regeln.

Marco Brás dos Santos ist freier Journalist mit Fokus auf Grund- und Freiheitsrechte. Zuhause im Leipziger Medienprojekt la-presse.org und auf Twitter unter @marcoisantos unterwegs.