Vorschläge der Ethik-Kommission zu autonomen Fahrzeugen: Wer trägt die Verantwortung für Sicherheit und Datenschutz?

Bundesverkehrsminister Alexander Dobrindt (CSU) stellte heute den Bericht einer Kommission (pdf) vor, die er im letzten Jahr einberufen hatte. Das Gremium unter Leitung des ehemaligen Verfassungsrichters Udo Di Fabio sollte sich mit ethischen Fragen beim autonomen Fahren beschäftigen. Die Ethik-Kommission ist mit Juristen, Philosophen, Sozialwissenschaftlern, Informatikern, Verbraucherschützern und Vertretern der Automobilindustrie besetzt, die eine ethische Beurteilung der Fragen bei vernetzten und teil- oder vollautonomen Fahrzeugen vornehmen sollten.

Parallel arbeitet auch der Deutsche Ethikrat zu Fragen autonomer Systeme, allerdings nicht speziell für Fahrzeuge und mit einem längeren Zeithorizont. Der aktuelle Bericht Automatisiertes und Vernetztes Fahren (pdf) der Dobrindt-Kommission gibt nun zwanzig normativ gehaltene Empfehlungen, die sich weniger mit ethischen als mit regulatorischen Fragen sowie Haftungsrisiken beschäftigen.

Es geht also nicht so sehr um konkrete ethische Handlungsanweisungen, die für einzelne Verantwortliche wie Hersteller, Zulieferer, Programmierer, Fahrer oder Versicherer angeraten wären, sondern mehr um den regulatorischen Rahmen, den die Kommission für die künftige Entwicklung der Automobilwelt als sinnvoll ansieht. Durch die Zusammensetzung der Kommission überrascht es nicht, dass dabei auch einige verfassungsrechtliche Fragen diskutiert werden.

Die Verbesserung der Sicherheit aller

Wer soll also die Verantwortung tragen, wenn es zu einer Verletzung oder sogar einer Tötung durch automatisierte, vielleicht auch selbstlernende Fahrzeuge kommt? Wie stellt sich die Kommission den Rahmen vor, in dem in unseren auf das Auto fokussierten Städten und Landschaften vernetzte Computer mit Software und Sensoren und einer Karosse drumherum autonom durch die Gegend fahren? Die Herren der Ethik-Kommission (pdf) und Renata Jungo Brüngger, Vorstandsmitglied der Daimler AG, haben heute dazu Empfehlungen ausgesprochen.

Prinzipiell sollen teil- und vollautomatisierte Verkehrssysteme zuerst der Verbesserung der Sicherheit aller dienen sowie Unfallvermeidung und den Schutz von Menschen vorrangig behandeln.

Um das überhaupt einschätzen zu können, schlägt die Kommission einen „Anspruch auf eine hinreichend differenzierte Aufklärung über neue Technologien und ihren Einsatz“ vor. Generell für die Sicherheit sorgen soll der Staat, also im Sinne einer Gewährleistungsverantwortung für die Zulassung solcher Fahrzeuge. Die Kommission könnte sich zudem eine Einrichtung einer „Bundesstelle für Unfalluntersuchung automatisierter Verkehrssysteme“ vorstellen, die systematisch zum Thema arbeitet. Bisher ist das systematische Wissen beispielsweise über Softwarefehler in Fahrzeugen und deren Folgen ausgesprochen gering.

Für die Kommission gehört es verboten, in Unfallsituationen Menschen nach Merkmalen wie Alter, Geschlecht oder körperliche oder geistige Konstitution zu unterscheiden. Das sei strikt zu untersagen.

Niemandem soll außerdem künftig die Pflicht auferlegt werden, technische Möglichkeiten in Fahrzeugen auch wahrnehmen zu müssen. Denn für die Kommission ist es Teil der Handlungsfreiheit, etwas nicht nutzen zu wollen. Die Kommission fordert ein „Maximum persönlicher Entscheidungsfreiheit“. Es wird dabei auch auf den „Aspekt Fahrgenuss“ verwiesen, der mit einer Verpflichtung zur Nutzung stark eingeschränkt sein könnte. Fahrgenuss dürfte keine ethische Kategorie darstellen, soll aber in Herstellerkreisen ein gern genutztes Konzept sein.

Eine „verpflichtende Einführung autonomer Systeme“ allein zur allgemeinen Erhöhung der Sicherheit sei jedenfalls nicht gerechtfertigt. Eine „praktische Unentrinnbarkeit“ sei ethisch bedenklich.

Was die Abwägung von Leben angeht, setzt sich die Kommission dafür ein, in Gefahrensituationen dem Schutz des menschlichen Lebens Vorrang zu geben, wenn neben Sachen auch Tiere verletzt werden könnten.

Die Fragen der Haftung

Bei den Fragen der Haftung bleibt die Kommission recht vage, sie weist nur auf die „Grundsätze wie in der übrigen Produkthaftung“ hin. Das mag damit zu tun haben, dass Minister Dobrindt bereits vor der Abgabe des Berichts gesetzlich vorgeprescht war und Fakten geschaffen hat. In einem Interview huldigt der Minister seinem Gesetz zum automatisierten Fahren so:

Rede auf dem Tag der Deutschen Industrie fand. Auch die weltweite Einzigartigkeit des deutschen Gesetzes mag ein wenig übertrieben sein. Kritiker nannten Dobrindts Gesetzentwurf zum autonomen Fahren einen „gefährlichen Höhepunkt an Lausigkeit“, weil er in Unfallsituationen den Menschen am Steuer in die Haftung nimmt und nicht den Autohersteller. Der Vorwurf lautet auch, dass das Gesetz eine „noch unausgereifte Technik auf Kosten und auf Risiko des Verbrauchers“ vorantreibe, um der Autoindustrie zu gefallen. Denn anders als es Dobrindt darstellt, bleibt qua Gesetz der Fahrer auch dann der Fahrer, wenn ein Autopilot am Steuer ist.

Wie das aussieht, wenn beim automatisierten Fahren Angriffe, vorher nicht erkennbare Fehler oder Manipulationen der IT-Systeme stattfinden, bleibt in dem Gesetz unklar. Die Kommission hat hier nichts Konkretes hinzuzufügen, verweist aber darauf, dass es vermieden werden sollte, „das Vertrauen in den Straßenverkehr nachhaltig“ zu erschüttern.

Gefahren einer vollständigen Vernetzung

Die Digitalisierung des Fahrens bringt auch neue Möglichkeiten mit sich, die zu erheblich mehr Überwachung (pdf) beitragen können. Auch der Verband der Automobilindustrie hat sich dieses Themas schon angenommen.

Auf die Gefahren einer vollständigen Vernetzung und möglicherweise zentralen Steuerung aller Kraftfahrzeuge weist die Kommission mit Nachdruck, denn eine „totale Überwachung der Verkehrsteilnehmer“ kann nicht sicher ausgeschlossen werden ebenso wie eine „Manipulation der Fahrzeugsteuerung“. Künftige Geschäftsmodelle sollen ihre Grenzen „in der Autonomie und Datenhoheit der Verkehrsteilnehmer“ finden. Über „Weitergabe und Verwendung ihrer anfallenden Fahrzeugdaten“ sollen sie selbst entscheiden. Damit auch wirklich Alternativen vorhanden sind, müsse einem „Datenzugriff“ schon frühzeitig entgegenwirkt werden.

Die Kommission belässt es nicht bei allgemeinen Empfehlungen und ethischen Erwägungen, sondern wird zuweilen ausgesprochen handfest:

Für die Praxis kann ein Sicherheitscheck vor Fahrtbeginn vorgeschlagen werden, der gewährleistet, dass die uneingeschränkte Funktionalität aller für die automatische Fahrfunktion benötigten fahrzeuginternen Systeme, die Verbindung zum Backend sowie die erfolgreiche Installation aller kritischen Softwareupdates überprüft. Bei Auftreten eines Fehlers oder Fehlen eines kritischen Updates sollte die betroffene Automatisierungsleistung erkennbar nicht zur Verfügung stehen.

Das vollvernetzte Auto checkt sich also beim Einsteigen erstmal selbst, prüft dabei die aktive Netzwerkverbindung und führt Patch-Routinen durch. Läuft dabei etwas schief, leuchtet vielleicht der „No Autopilot today“-Knopf oder das Fahrzeug fordert einen Werkstattbesuch.

Entfernter von ethischen Fragen schlägt die Kommission auch ganz praktisch vor, Verkehrsumgebungen, Fahrzeugsensorik und Bremssysteme, Signaleinrichtungen oder Straßen-Infrastruktur zu nutzen und „kontinuierlich“ weiterzuentwickeln, um auf die durchweg betonte Sicherheit hinzuwirken, die mit den vernetzten Fahrcomputern einhergehen soll. Ob der Verkehrsminister nun auf die Subventionstube drücken wird, ist aber nicht überliefert.