Nutzerrechte

Vorschläge der Ethik-Kommission zu autonomen Fahrzeugen: Wer trägt die Verantwortung für Sicherheit und Datenschutz?

Die Ethik-Kommission des Verkehrsministers gab heute Empfehlungen ab, wie künftig mit autonomen Verkehrssystemen umgegangen und Verletzungen oder Tötungen durch automatisierte und selbstlernende Autos vermieden werden könnten. Bei Unfällen soll es strikt verboten werden, Menschen per algorithmischer Entscheidung nach Alter oder Geschlecht zu unterscheiden.

Fährst Du noch oder lässt Du Dich schon fahren? CC-BY-NC 2.0 Ceyhun (Jay) Isik

Bundesverkehrsminister Alexander Dobrindt (CSU) stellte heute den Bericht einer Kommission (pdf) vor, die er im letzten Jahr einberufen hatte. Das Gremium unter Leitung des ehemaligen Verfassungsrichters Udo Di Fabio sollte sich mit ethischen Fragen beim autonomen Fahren beschäftigen. Die Ethik-Kommission ist mit Juristen, Philosophen, Sozialwissenschaftlern, Informatikern, Verbraucherschützern und Vertretern der Automobilindustrie besetzt, die eine ethische Beurteilung der Fragen bei vernetzten und teil- oder vollautonomen Fahrzeugen vornehmen sollten.

Wir finanzieren uns zu fast 100 % aus Spenden von Leserinnen und Lesern. Unterstütze unsere Arbeit mit einer Spende oder einem Dauerauftrag.

Parallel arbeitet auch der Deutsche Ethikrat zu Fragen autonomer Systeme, allerdings nicht speziell für Fahrzeuge und mit einem längeren Zeithorizont. Der aktuelle Bericht Automatisiertes und Vernetztes Fahren (pdf) der Dobrindt-Kommission gibt nun zwanzig normativ gehaltene Empfehlungen, die sich weniger mit ethischen als mit regulatorischen Fragen sowie Haftungsrisiken beschäftigen.

Es geht also nicht so sehr um konkrete ethische Handlungsanweisungen, die für einzelne Verantwortliche wie Hersteller, Zulieferer, Programmierer, Fahrer oder Versicherer angeraten wären, sondern mehr um den regulatorischen Rahmen, den die Kommission für die künftige Entwicklung der Automobilwelt als sinnvoll ansieht. Durch die Zusammensetzung der Kommission überrascht es nicht, dass dabei auch einige verfassungsrechtliche Fragen diskutiert werden.

Die Verbesserung der Sicherheit aller

Wer soll also die Verantwortung tragen, wenn es zu einer Verletzung oder sogar einer Tötung durch automatisierte, vielleicht auch selbstlernende Fahrzeuge kommt? Wie stellt sich die Kommission den Rahmen vor, in dem in unseren auf das Auto fokussierten Städten und Landschaften vernetzte Computer mit Software und Sensoren und einer Karosse drumherum autonom durch die Gegend fahren? Die Herren der Ethik-Kommission (pdf) und Renata Jungo Brüngger, Vorstandsmitglied der Daimler AG, haben heute dazu Empfehlungen ausgesprochen.

personen der ethik-kommission mit minister dobrindt
Die Mitglieder der Ethik-Kommission. Minister Dobrindt und Vorsitzender Udo Di Fabio in der Mitte vorn. Bild: BMVI.

Prinzipiell sollen teil- und vollautomatisierte Verkehrssysteme zuerst der Verbesserung der Sicherheit aller dienen sowie Unfallvermeidung und den Schutz von Menschen vorrangig behandeln.

Um das überhaupt einschätzen zu können, schlägt die Kommission einen „Anspruch auf eine hinreichend differenzierte Aufklärung über neue Technologien und ihren Einsatz“ vor. Generell für die Sicherheit sorgen soll der Staat, also im Sinne einer Gewährleistungsverantwortung für die Zulassung solcher Fahrzeuge. Die Kommission könnte sich zudem eine Einrichtung einer „Bundesstelle für Unfalluntersuchung automatisierter Verkehrssysteme“ vorstellen, die systematisch zum Thema arbeitet. Bisher ist das systematische Wissen beispielsweise über Softwarefehler in Fahrzeugen und deren Folgen ausgesprochen gering.

Für die Kommission gehört es verboten, in Unfallsituationen Menschen nach Merkmalen wie Alter, Geschlecht oder körperliche oder geistige Konstitution zu unterscheiden. Das sei strikt zu untersagen.

Niemandem soll außerdem künftig die Pflicht auferlegt werden, technische Möglichkeiten in Fahrzeugen auch wahrnehmen zu müssen. Denn für die Kommission ist es Teil der Handlungsfreiheit, etwas nicht nutzen zu wollen. Die Kommission fordert ein „Maximum persönlicher Entscheidungsfreiheit“. Es wird dabei auch auf den „Aspekt Fahrgenuss“ verwiesen, der mit einer Verpflichtung zur Nutzung stark eingeschränkt sein könnte. Fahrgenuss dürfte keine ethische Kategorie darstellen, soll aber in Herstellerkreisen ein gern genutztes Konzept sein.

Eine „verpflichtende Einführung autonomer Systeme“ allein zur allgemeinen Erhöhung der Sicherheit sei jedenfalls nicht gerechtfertigt. Eine „praktische Unentrinnbarkeit“ sei ethisch bedenklich.

Was die Abwägung von Leben angeht, setzt sich die Kommission dafür ein, in Gefahrensituationen dem Schutz des menschlichen Lebens Vorrang zu geben, wenn neben Sachen auch Tiere verletzt werden könnten.

Die Fragen der Haftung

Bei den Fragen der Haftung bleibt die Kommission recht vage, sie weist nur auf die „Grundsätze wie in der übrigen Produkthaftung“ hin. Das mag damit zu tun haben, dass Minister Dobrindt bereits vor der Abgabe des Berichts gesetzlich vorgeprescht war und Fakten geschaffen hat. In einem Interview huldigt der Minister seinem Gesetz zum automatisierten Fahren so:

Wir haben […] etwas geschaffen, was einzigartig ist auf der Welt. Wir haben einen Rechtsrahmen für automatisierte Fahrsysteme gegeben, die von anderen Ländern bisher so nicht umgesetzt worden sind, und alle jetzt darauf schauen: Wie funktioniert denn jetzt dieses automatisiertes-Fahren-Gesetz in Deutschland? Viele wollen das jetzt schon kopieren und haben festgestellt, dass Deutschland Vorreiter bei den automatisierten Fahrsystemen [ist] – nicht nur technischer, sondern auch in der Regulierung in der Gesetzgebung. Und wir haben in diesem automatisiertes-Fahren-Gesetz sehr klar gemacht, dass es eine rechtliche Gleichstellung des Computers mit dem menschlichen Fahrer gibt.

Damit sind auch übrigens die Haftungsfragen geklärt. Wenn der Mensch selber fährt, dann haftet er wie bisher auch. Wenn der Computer das Auto fährt, dann haftet der Hersteller. Und damit dies auch einwandfrei nachgewiesen werden kann, muss es eine Blackbox im Auto geben, die zum einen registriert, wer fährt, und aber zum andern auch registriert, ob der Computer fehlerfrei funktioniert oder ob das System auch Fehler gemacht hat. Auf jeden Fall bleibt die Haftung, wenn der Computer gefahren ist, beim Hersteller. Und die Blackbox wird helfen, dies auch genau zu identifizieren.

Nicht jeder kann sich diesem Selbstlob von Dobrindt anschließen, der heute auch noch Zeit für eine Rede auf dem Tag der Deutschen Industrie fand. Auch die weltweite Einzigartigkeit des deutschen Gesetzes mag ein wenig übertrieben sein. Kritiker nannten Dobrindts Gesetzentwurf zum autonomen Fahren einen „gefährlichen Höhepunkt an Lausigkeit“, weil er in Unfallsituationen den Menschen am Steuer in die Haftung nimmt und nicht den Autohersteller. Der Vorwurf lautet auch, dass das Gesetz eine „noch unausgereifte Technik auf Kosten und auf Risiko des Verbrauchers“ vorantreibe, um der Autoindustrie zu gefallen. Denn anders als es Dobrindt darstellt, bleibt qua Gesetz der Fahrer auch dann der Fahrer, wenn ein Autopilot am Steuer ist.

Wie das aussieht, wenn beim automatisierten Fahren Angriffe, vorher nicht erkennbare Fehler oder Manipulationen der IT-Systeme stattfinden, bleibt in dem Gesetz unklar. Die Kommission hat hier nichts Konkretes hinzuzufügen, verweist aber darauf, dass es vermieden werden sollte, „das Vertrauen in den Straßenverkehr nachhaltig“ zu erschüttern.

Gefahren einer vollständigen Vernetzung

vda statemen
Der Verband der Automobilindustrie begrüßt die Vorschläge der Kommission.

Die Digitalisierung des Fahrens bringt auch neue Möglichkeiten mit sich, die zu erheblich mehr Überwachung (pdf) beitragen können. Auch der Verband der Automobilindustrie hat sich dieses Themas schon angenommen.

Auf die Gefahren einer vollständigen Vernetzung und möglicherweise zentralen Steuerung aller Kraftfahrzeuge weist die Kommission mit Nachdruck, denn eine „totale Überwachung der Verkehrsteilnehmer“ kann nicht sicher ausgeschlossen werden ebenso wie eine „Manipulation der Fahrzeugsteuerung“. Künftige Geschäftsmodelle sollen ihre Grenzen „in der Autonomie und Datenhoheit der Verkehrsteilnehmer“ finden. Über „Weitergabe und Verwendung ihrer anfallenden Fahrzeugdaten“ sollen sie selbst entscheiden. Damit auch wirklich Alternativen vorhanden sind, müsse einem „Datenzugriff“ schon frühzeitig entgegenwirkt werden.

Die Kommission belässt es nicht bei allgemeinen Empfehlungen und ethischen Erwägungen, sondern wird zuweilen ausgesprochen handfest:

fatal errror
Softwarefehler in Fahrzeug. Bild: Anonym.

Für die Praxis kann ein Sicherheitscheck vor Fahrtbeginn vorgeschlagen werden, der gewährleistet, dass die uneingeschränkte Funktionalität aller für die automatische Fahrfunktion benötigten fahrzeuginternen Systeme, die Verbindung zum Backend sowie die erfolgreiche Installation aller kritischen Softwareupdates überprüft. Bei Auftreten eines Fehlers oder Fehlen eines kritischen Updates sollte die betroffene Automatisierungsleistung erkennbar nicht zur Verfügung stehen.

Das vollvernetzte Auto checkt sich also beim Einsteigen erstmal selbst, prüft dabei die aktive Netzwerkverbindung und führt Patch-Routinen durch. Läuft dabei etwas schief, leuchtet vielleicht der „No Autopilot today“-Knopf oder das Fahrzeug fordert einen Werkstattbesuch.

Entfernter von ethischen Fragen schlägt die Kommission auch ganz praktisch vor, Verkehrsumgebungen, Fahrzeugsensorik und Bremssysteme, Signaleinrichtungen oder Straßen-Infrastruktur zu nutzen und „kontinuierlich“ weiterzuentwickeln, um auf die durchweg betonte Sicherheit hinzuwirken, die mit den vernetzten Fahrcomputern einhergehen soll. Ob der Verkehrsminister nun auf die Subventionstube drücken wird, ist aber nicht überliefert.

Weitersagen und Unterstützen. Danke!
7 Kommentare
  1. Wird dieser Fahrroboter eigentlich männlich oder weiblich sein? Und was ist, wenn sich das Auto für den Rentnertrupp anstatt der Kindergartengruppe entscheidet, dadurch entsteht ja ein höherer Schaden am Fahrzeug, übernimmt die Versicherung die höheren Kosten? Man sieht den thomas schon sabbern: Jaaa, Daten, Daten, Daten …

    „Niemanden soll außerdem künftig die Pflicht auferlegt werden, technische Möglichkeiten in Fahrzeugen auch wahrnehmen zu müssen.“ Hat nicht auch der vom Breitscheidplatz diese Möglichkeit wahrgenommen und das automatische Bremssystem des LKWs deaktiviert?

  2. autonome Fahrzeuge gibt’s doch schon, nennt sich Eisenbahn. Die ist/wäre, wenn gewollt, auch anonym zu nutzen. Die Bahn sollte man zu einer echten, bürgernahen und flächendeckenden Bahn ausbauen, mit entsprechenden positiven Effekten auf die wirtschaftliche Leistungsfähigkeit von „abgehängten“ Regionen und die Wohnraumsituation in den Metropolen. Eine am Gewinn orientierte Bahn hilft nur der Autoindustrie, konzentriert sich auf die Hochgeschwindigkeitsstrecken und lässt Strecken in der Region verkommen. Das liegt in Deutschland traditionell im Interesse der Autoindustrieminister (Verkehrsminister), die haben seit der Wende auch ganze Arbeit geleistet.

  3. Leider ist Dobrindts Coup zur Umkehrung der Haftungverantwortung kaum öffentlich kritisiert worden. Dabei ist dieses Geschenk an die Automotive Industrie gravierend. Bisjetzt haften Hersteller für ALLE fehlerhaften Bausteile und Software. Zukünftig wird den „Nutzern“ die Option zur Nutzung angeboten, stimmen sie den dafür notwendigen AGBs zu, dann haften die Nutzer für Fehlfunktionen.Somit habe die Hersteller das ärgerliche Prinzip der Software Industrie übernommen und Haftungen per AGB ausgeschlossen.

  4. “ Das Gremium unter Leitung des ehemaligen Verfassungsrichters Udo Di Fabio sollte sich mit ethischen Fragen beim autonomen Fahren beschäftigen. Die Ethik-Kommission ist mit Juristen, Philosophen, Sozialwissenschaftlern, Informatikern, Verbraucherschützern und Vertretern der Automobilindustrie besetzt, “
    Schaut euch das paritätische Gremium einmal genau an: 14 Personen, nur eine Frau, der Präsident des ADAC, ein BMW Aufsichtsrat, Stiftungsratsvorsitzender der Universität Eichstätt-Ingolstadt (Audi?), Telekom und Vodafon Naher (die Kommunikation!), Vorstand des Verbraucherzentrale Bundesverbands (vzbv), Präsident des Deutschen Verkehrsgerichtstages (“ … einseitig als Befürworter des Automobilverkehrs positionierte „), einer vom Institut für Technikfolgenabschätzung und Systemanalyse, (ITAS), der Gründungsdirektor der Johanna Quandt Akademie um nur einiges zu erwähnen.

    Sollen solche Elite-Räte den Diskurs in einer Demokratie bestimmen?

Schreibe einen Kommentar zu cervo Antworten abbrechen

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.