TeslaRoboter auf Rädern

Im März eröffnete Teslas Gigafactory in Brandenburg, die ersten Elektroautos sind bereits vom Band gerollt. Während Datenschützer seit Jahren über die mit vielen Sensoren versehenen Fahrzeuge besorgt sind, will Tesla längst mehr als Autos bauen.

Tesla-Produktion mit Robotern
Roboter bauen einen Tesla, der auch fast ein Roboter ist. – Alle Rechte vorbehalten IMAGO / Kyodo News

1984 – im Jahr des gleichnamigen Orwell-Romans begann die Erfolgsgeschichte der amerikanisch-japanischen Spielzeug-Linie Transformers. Teile eines Fahrzeugs ließen sich so verschieben, dass sie sich in eine Action-Figur und wieder zurück verwandeln konnten. Die Transformers-Linie ist in zwei Fraktionen unterteilt: die guten Autobots und ihre Gegner, die bösen Decepticons. Anführer der Autobots ist „Optimus Prime“.

„Optimus“ lautet auch der Name eines von Tesla geplanten, humanoiden Roboters. „Er ist ein Guter“, unterstrich Tesla-CEO Elon Musk bei dessen Vorstellung im August 2021. Ein Prototyp werde bis 2022 gebaut und hätte das Potential dazu, für Tesla bedeutender als das Fahrzeuggeschäft zu werden.

Tesla-Fahrzeuge sind „halb intelligente Roboter“

In der gleichen Rede bekräftigte Musk: „Tesla ist zweifellos das größte Robotik-Unternehmen der Welt, denn unsere Autos sind wie halb intelligente Roboter auf Rädern.“

Was hat es mit dieser Aussage auf sich? Die Tesla-Fahrzeuge sind voller Sensoren. „Acht Kameras gewähren eine 360°-Überwachung der Fahrzeugumgebung mit bis zu 250 m Reichweite. Ergänzt werden sie durch zwölf aktualisierte Ultraschallsensoren“, hieß es auf der Webseite des Unternehmens unter der Überschrift „Fahren in der Zukunft“.

Zwei nach vorne, zwei nach hinten gerichtete Flankenkameras, eine Heckkamera und für die Front eine Weitwinkel-, Hauptfeld- und Teleobjektiv-Kamera. Doch es gibt bei manchen noch eine neunte Kamera, die auf der Webseite nicht aufgelistet ist: Eine Innenraumkamera über dem Rückspiegel. Die sorgte in der Vergangenheit für Verwirrung, ihr Zweck war lange unklar. Elon Musk versicherte 2020 auf Twitter, dass diese Kamera deaktiviert sei. Seit einer Softwareversion von 2021 kann sie in den USA die Aufmerksamkeit der Fahrenden erfassen.

Tesla produziert viele Komponenten wie die Software für seine Fahrzeuge selber. Welche Daten wie genau erhoben und verarbeitet werden, ist für die Fahrenden kaum überschaubar. Auf eine Presseanfrage zu dem Thema antwortete das Unternehmen nicht.

In der deutschsprachigen Datenschutzerklärung von Tesla heißt es, dass Kamera-Daten standardmäßig direkt im Fahrzeug verarbeitet werden und das Fahrzeug nicht ohne Zustimmung der Nutzenden verlassen. Selbst wenn diese entscheiden, Tesla Daten für das „Flottenlernen“ zur Verfügung zu stellen, „bleiben die Kameraaufzeichnungen anonym und werden nicht mit Ihnen oder Ihrem Fahrzeug in Verbindung gebracht“.

Mit einer Einschränkung: „Es sei denn, wir erhalten die Daten infolge eines sicherheitsrelevanten Vorfalls.“ Ein solcher liegt laut Tesla beispielsweise vor, wenn ein Airbag auslöst. Dann werden 30-sekündige Clips zusammen mit der Fahrgestellnummer an den Hersteller übermittelt.

Dojo – Supercomputer zur Schaffung Künstlicher Intelligenz

Um die Fahrzeugumgebung auszuwerten und auf Umweltbedingungen zu reagieren, trainiert Tesla sogenannte Künstliche Intelligenz – künftig in einem „Dojo“. Dojo bezeichnet eigentlich einen Trainingsraum für japanische Kampfkünste. Bei Tesla ist das der Name für den Supercomputer, mit dem ab 2022 neuronale Netzwerke trainiert werden sollen.

Tesla bekundete auf seiner Webseite: „Unsere Netzwerke lernen von den kompliziertesten und vielfältigsten Szenarien der Welt, die interaktiv von unserer Flotte von fast 1 Million Fahrzeugen in Echtzeit geliefert werden.“

Diese Szenarien sind von Land zu Land unterschiedlich: Während in Kontinentaleuropa Rechtsverkehr herrscht, ist es Großbritannien und Irland Linksverkehr. Schilder sehen in unterschiedlichen Ländern verschieden aus. Diese Praxisbeispiele sollen verdeutlichen, dass Teslas neuronales Netz auf Videodaten angewiesen ist, um im Dojo die KI zu trainieren. Dojo wird jedoch nicht nur für das Training zum autonomen Fahren entwickelt, ließ Elon Musk auf dem AI Day beiläufig fallen. Wofür noch, beantwortete Tesla auf Anfrage nicht.

Visuelle Intelligenz für Wächter

Die Tesla-Fahrzeuge analysieren ihre Umwelt aber nicht nur während der Fahrt. Im „Sentry Mode“, dem sogenannten Wächter-Modus, erfassen Sensoren die Umgebung. Kommt die Auswertung dieser Daten zum Ergebnis, dass eine Bedrohung eines parkenden Tesla vorliegt, zeichnen Außenkameras die Umgebung auf.

Dank eines Updates lässt sich in den USA der „Sentry Mode Live Camera Access“ aktivieren. Damit können die Besitzer*innen per App auf die Außen-Kameras zugreifen. Wer mag, kann mit den Passant*innen sprechen. Die eigene Stimme ertönt, wahlweise verzerrt, über den Außenlautsprecher.

Im September 2021 wurde am Rande einer Demonstration im Leipziger Süden ein Tesla von vermummten Personen beschädigt. Noch fehlt es den Fahrzeugen wohl an visueller Intelligenz, um zu erkennen, was in einer solchen Szene vor sich gehen würde. Visuelle Intelligenz könnte aber dazu führen, dass der Wächter-Modus zukünftig die Aufnahme startet, sobald sich eine vermummte Person dem Fahrzeug nähert.

„Wenn verdächtige Bewegungen erkannt werden, reagiert Ihr Fahrzeug entsprechend der Schwere der Bedrohung“, lautet es auf der Webseite von Tesla. Welche genauen Szenarien verdächtig ist und wie die Schwere einer Bedrohung eingeordnet wird, lässt das Unternehmen offen. Die Datenschutzerklärung nennt als Bedrohungsbeispiel, dass sich jemand an das Fahrzeug lehnt, einen Einbruch durchs Fenster als hingegen „erhebliche Bedrohung“.

Daten für Ermittlungsbehörden

Ein Fahrzeug, das bei Straftaten und Unfällen seine Umgebung aufzeichnen kann, ist auch für Ermittlungsbehörden interessant. Sie bekamen offenbar bereits Sensordaten von Tesla. Das ZDF recherchierte, dass Tesla in einem Fall offenbar Geschwindigkeitsdaten auch unabhängig von einem Unfall an die Behörden übermittelte.

Der Berliner Oberamtsanwalt Andreas Winkelmann greift regelmäßig auf Fahrzeugdaten mehrerer Hersteller bei Ermittlungen zu illegalen Autorennen zurück. Gegenüber der SZ konstatiert er, die meisten Hersteller würden freiwillig kooperieren. Privat finde er mobile Dauer-Überwachung trotzdem bedenklich. Ein seltener Kritiker.

Anfragen zu Ermittlungsverfahren, bei denen Tesla-Fahrzeuge involviert sind, werden eher ausweichend beantwortet. Entgegen dem engagierten Oberamtsanwalt in Berlin konnte die Senatsverwaltung auf eine Kleine Anfrage aus dem Jahr 2021 hin keine statistischen Aussagen zur Nutzung von Fahrzeugdaten für Ermittlungen treffen.

Auch aus Sachsen lassen sich keine Details in Erfahrung bringen. „Zu laufenden Verfahren können wir keine Angabe machen. An abgeschlossene Fälle kann ich mich nicht erinnern“, so der Leipziger Gerichtssprechers Stefan Blaschke auf die Anfrage, ob und wie sächsische Behörden auf Sensordaten von Tesla zugreifen. Auch eine Kleine Anfrage an die Sächsische Landesregierung lieferte keine Ergebnisse.

Datenschleudern mit Langzeitgedächtnis

Dr. Thilo Weichert war 2004 bis 2015 Datenschutzbeauftragter des Landes Schleswig-Holstein. Im Rahmen seiner Tätigkeit beim „Netzwerk Datenschutzexpertise“ widmete er sich einer datenschutzrechtlichen Beurteilung von Tesla-Fahrzeugen: „Das Gutachten kommt zu dem Ergebnis, dass es sich bei Tesla-Fahrzeugen um Überwachungsmaschinen mit Langzeitgedächtnis und zugleich um Datenschleudern handelt. So wie diese derzeit in Deutschland ausgeliefert werden, dürften sie weder auf den Markt kommen noch zugelassen werden“, lautet es zu dem Gutachten aus dem Jahr 2020.

Doch wer entscheidet das? „Das Problem des Datenschutzes ist der Föderalismus“, sagt Weichert gegenüber netzpolitik.org. „Wenn Datenschützer*innen auf EU-Ebene weiter schweigen, wird sich auch hierzulande nicht viel bewegen“, meint der Datenschützer. Auch der ADAC sieht in einem Positionspapier von 2020 politischen „Handlungsbedarf“ und forderte für Daten in vernetzten Fahrzeugen unter anderem die „zügige Schaffung eines rechtlichen Rahmens für den Zugang zu im Fahrzeug generierten Daten auf EU-Ebene“. Derzeit führt die EU-Kommission eine öffentliche Konsultation zum „Zugang zu Fahrzeugdaten, -funktionen und -ressourcen“ durch.

„Sicherstellen, dass wir nicht etwas sehr Dummes tun“

Ob Fahrzeug oder Roboter: Technologien, die mit Sensoren ausgestattet sind und im Flottenverband einem neuronalen Netz zuarbeiten, das eine künstliche Intelligenz trainiert, rufen Datenschützer:innen auf den Plan.

Nicht nur das Netzwerk Datenschutzexpertise und der ADAC warnen. Elon Musk äußerte sich 2014 gegenüber Studenten des Massachusetts Institute of Technology (MIT) während eines Interviews auf dem AeroAstro Centennial Symposium: „Ich denke, wir sollten mit Künstlicher Intelligenz sehr vorsichtig sein. Wenn ich raten müsste, was unsere größte existenzielle Bedrohung ist, dann ist es wahrscheinlich diese.“

Er sprach sich für eine Regulierung und Aufsicht aus, „um sicherzustellen, dass wir nicht etwas sehr Dummes tun“. Er sprach von einem „Daemon“, vielleicht eine Anlehnung an den gleichnamigen Roman von Daniel Suarez. Darin geht es um eine künstliche Intelligenz, die im Hintergrund des Internets operiert und von dort die reale Welt beeinflusst.

Die reale Welt mit künstlicher Intelligenz beeinflussen, das will Tesla-Chef Musk offenbar auch. Sein 2016 gegründetes Unternehmen Neuralink suchte kürzlich eine Leitung für klinische Studien, um mittels Implantat Zugriff auf das menschliche Gehirn zu bekommen, „Spätestens das sollte den Bürokraten in den Verwaltungen doch langsam mal zu Denken geben“, konstatiert Datenschutzexperte Dr. Thilo Weichert abschließend.

Der Präsident des Kraftfahrt-Bundesamtes Richard Damm hat angekündigt, Technologien von Tesla genauer unter die Lupe zu nehmen. „Wir werden und müssen ganz genau hinschauen und das auch selbst praktisch überprüfen und uns nicht nur auf Zusagen in Dokumenten verlassen“, sagte er der Süddeutschen Zeitung im März. Dabei geht es ihm offenbar nicht nur um Fahrsicherheitsaspekte. „Tesla verwendet nach bisherigen Informationen große Datenmengen, die unter anderem das Fahrverhalten des Fahrers betreffen“, sagte Damm. weiter. Das kenne man „von traditionellen Herstellern“ so nicht, auch das gelte es zu untersuchen und zu regeln.

Marco Brás dos Santos ist freier Journalist mit Fokus auf Grund- und Freiheitsrechte. Zuhause im Leipziger Medienprojekt la-presse.org und auf Twitter unter @marcoisantos unterwegs.

Mehr Zeit für kritische Berichterstattung

Ihr kennt es: Zum Jahresende stehen wir traditionell vor einer sehr großen Finanzierungslücke und auch wenn die Planung und Umsetzung unseres Spendenendspurts viel Spaß macht, bindet es doch sehr viele Ressourcen; Ressourcen, die an anderer Stelle für unsere wichtige Arbeit fehlen. Um Euch also weniger mit Spendenaufrufen auf die Nerven zu gehen und mehr Recherchen und Hintergründe bieten zu können, brauchen wir Eure regelmäßige Unterstützung.

Jährlich eine Stunde netzpolitik.org finanzieren

Das Jahr hat 8.760 Stunden. Das sind 8.760 Stunden freier Zugang zu kritischer Berichterstattung und wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik bei netzpolitik.org.

Werde Teil unserer Unterstützungs-Community und finanziere jährlich eine von 8.760 Stunden netzpolitik.org oder eben fünf Minuten im Monat.

Jetzt spenden


Jetzt spenden

10 Ergänzungen

  1. Spannend. Und wenn mich dann ein Tesla im Wächtermodus aufzeichnet – von wem verlange ich dann die Herausgabe / Löschung meiner Daten? Von Tesla? Vom Fahrzeughalter? Kann ich von meinem Nachbarn erwarten, dass er bei aktiviertem Wächtermodus ein entsprechendes Hinweisschild auf die Motorhaube klebt, oder dass das Auto immer so geparkt ist, dass der öffentliche Raum nicht einsehbar ist?

    1. Das habe ich mich auch gerade gefragt. Vielleicht wäre eine Beschwerde bei den jeweiligen Datenschutzbeauftragten der Bundesländer der sinnvollste Ansatz. Oder vielleicht lässt sich das ähnlich behandeln wie eine stationäre Überwachungskamera, die jemand einfach auf den Gehweg vor dem Haus ausrichtet. Kommt da nicht das Ordnungsamt der Kommune ins Spiel?
      @Netzpolitik: Vielleicht könntet ihr da nochmal gezielt juristisches Fachpersonal zu interviewen, das wäre sehr spannend?

    2. „Ist der öffentliche Verkehrsraum erfasst, ist die Videoüberwachung [durch Privatpersonen] regelmäßig unzulässig.“ lautet es bei der Datenschutzbeauftragten in RLP. Ansprechpartnerin ist die Halterin. Nach Art. 13 DSGVO müßte ein Hinweis mit Kontaktdaten der verarbeitenden Person und der Datenschutzbeauftragten (des Bundeslandes) am Fahrzeug angebracht sein. Letztere ist Ansprechpartnerin bei Beschwerden und kann über das Kennzeichen die Halterin ermitteln. Neben möglichem Bußgeld seitens der Behörden, könnten auch privatrechtliche Ansprüche (Unterlassung, Information, Löschung, …) geltend gemacht werden. Nach meinem Verständnis und ohne Gewähr.

  2. Woher will man wissen das man aufgezeichnet wird? Das Auto wird ja nicht rot blinken und dir sagen das du aufgezeichnet wirst. Müsste man dann also jedes mal wenn man an einem Tesla vorbeiläuft vermuten das man aufgezeichnet werden könnte und im Anschluss eine Email an die Datenschutzbeauftragte senden? Könnte man auch als eine Protestaktion starten ;)

    1. Dazu lautet es an anderer Stelle »Wenn man sich dem Fahrzeug nähert, erscheint im Display der Mittelkonsole ein orangefarbenes Symbol mit dem Hinweis „Wächter-Modus aktiviert“.« Das lässt sich sichtbar durch die Heckscheibe, mit etwas Abstand, samt Kennzeichen fotografieren.

  3. Ein Häuslebauer bekommt bei Bau ohne oder noch fehlender Genehmigung sofort baustopp oder Rückbau. Tesla baut ohne vollständige Genehmigung gleich eine ganze Fabrik und es passiert nichts.
    Ein Hausbesitzer dessen Kamera auch nur Meter öffentlichen Raum mit erfasst, bekommt richtig Ärger mit Behörden. Tesla Autos scannen und filmen permanent bis zu einer Reichweite von 250 Meter die Umbebung und es passiert nichts.
    In was für einem Land leben wir?

  4. Der moderne Tesla mit all seinen Gimmicks ist ein High-Tech-Spielzeug für Leute, die irgendwie schon alles haben und sowas gerne mal ausprobieren wollen. Alltagstauglich ist davon fast gar nichts. Hätte man auf den ganzen Schnickschnack verzichtet, hätte sich der Verkaufspreis deutlich senken lassen. Mit der Ersparnis hätte dann vielleicht auch ein Auto bauen lassen, mit dem man was zuladen oder wegziehen oder weite Strecken fahren kann. Nur dazu bräuchte man ja überhaupt ein Auto. Einkaufen kann man auch mit dem Fahrrad, zur Arbeit kommt man mit dem ÖPNV und zum Protzen stehen ja genug andere Autos zur Verfügung. Es steht zu befürchten, dass nach dem anfänglichen Tesla-Hype unter den Yuppies wieder tödliche Langeweile einsetzt und man sich doch wieder einen kleinen Porsche kauft. Beim Preis käme es auf das Gleiche hin.

  5. Zitat aus dem Beitrag: „Seit einer Softwareversion von 2021 kann sie (die Kamera im Rückspiegel) in den USA die Aufmerksamkeit der Fahrenden erfassen.“
    Also die Kamera (Einzahl) schaut auf die Fahrenden (Mehrzahl). Braucht ein Tesla mehr als einen Fahrer? Mein deutscher Verbrenner ist mit mir als Fahrer oder meiner Freundin als Fahrerin zufrieden.
    ODER hätte der Autor so gendern sollen: „Seit einer Softwareversion von 2021 können die Rückspiegelkameras in den USA die Aufmerksamkeit der Fahrenden erfassen.“
    AM EINFACHSTEN UND VERSTÄNDLICHSTEN wäre doch: „Seit einer Softwareversion von 2021 kann sie in den USA die Aufmerksamkeit des Fahrers erfassen.“ (zwei Mal Einzahl)

    WAS ANDERES: Die Kamera im Rückspiegel kann auch in Deutschland …
    Wenn sie es nicht könnte, brauchte man sie nicht einbauen. Sie ist in Deutschland entweder nicht aktiviert (eingeschaltet, erhält also keinen Strom) oder die von ihr gesendeten Bilddaten werden nicht aufgezeichnet/nicht weitergeleitet.

    Immer noch mal überlegen, was man sagen will bitte.

  6. Freitag, 2022 04 15
    Da es meiner bescheidenen Wahrnehmung nach noch andere Automarken als Tesla
    gibt bei denen ich rundherum mehrere Kameras bemerkte frage ich mich: Wie ist es generell
    bei allen Herstellern moderner Autos mit den Kameraaufzeichnungen? Nur weil der Chef von
    Tesla hier so plauderig ist heisst das für mich nicht dass die anderen alle da gar nichts tun.
    Für meinen Geschmack ducken die sich alle ab und hoffen dass der Kelch an ihnen vorübergeht
    solange Tesla die Watschn abfängt. Nur weil sie nichts rauslassen heisst das nicht dass sie da nichts tun: Weil: Haben sie da vom Gesetzgeber, also uns, klare Vorgaben müssen sie sich daran
    halten. Haben sie das nicht dann greift wohl das Argument des Geschäftsgeheimnisses und wir können und sprichwörtlich „brausen gehen“ mit unserer Bitte nach Aufklärung.

    Daher gilt für mich: Much Ado about Nothing…

    mit herzlichen Grüßen vom

    1. Stimmt, das betrifft alle Herstellerinnen. Im Silicon Valley arbeiten verschiedene Firmen an der Realisierung von autonomen Fahrzeugen. Die Masse scheint dort mit teuren Lidar Sensoren oder Radar zu arbeiten. Ebenso wie bei Modellprojekten in Deutschland (z.B. EasyMile, Leipzig). Tesla verließ den Kurs und setzt nun voll auf günstige Kameratechnik und visuelle Intelligenz. In Kurzform, eine Maschine, die sich eigenständig in einem Raum zurechtfindet. Das geht weit über eine Rückfahrkameras, digitale Außenspiegel oder Dashcams hinaus. Spätestens hier, sollten rechtliche Regelungen zum Datenschutz greifen – oder an die technische Entwicklung angepasst werden.

Wir freuen uns auf Deine Anmerkungen, Fragen, Korrekturen und inhaltlichen Ergänzungen zum Artikel. Bitte keine reinen Meinungsbeiträge! Unsere Regeln zur Veröffentlichung von Ergänzungen findest Du unter netzpolitik.org/kommentare. Deine E-Mail-Adresse wird nicht veröffentlicht.