Im Frühjahr wird erstmals in Europa ein autonomes Shuttle-Bus-System im Regelbetrieb fahren. Das rüttelt am bisher ehernen Grundsatz, dass ein Mensch am Steuer eines Fahrzeugs zu sitzen hat. Wir haben mit dem Hersteller Navya über das Pilotprojekt gesprochen. Wie es mit der Haftung und Versicherung aussieht, wenn die Roboter-Fahrzeuge einen Schaden verursachen sollten, wollten wir wissen, haben aber auch darüber gesprochen, wie man mit subversiven Fußgängern umgeht und ob in naher Zukunft viele solcher Systeme auf öffentlichen Straßen verkehren werden.
Google, Audi, Nissan, Tesla oder Mercedes Benz: Viele Hersteller haben bereits Testfahrten auf öffentlichen Straßen unternommen, teils seit mehreren Jahren. Die Navya-Prototypen mit Elektroantrieb wurden seit 2011 in den Niederlanden, in den Vereinigten Staaten, in der Schweiz, in Deutschland, in Frankreich, in England und zuletzt in Singapur in verschiedenen Pilotverfahren getestet.
Wir sprachen mit Viktoria Fontanel, Business Developer Europe bei Navya. Transkribierung und Bearbeitung von Fabian, Nikolai und Constanze.
netzpolitik.org: Soweit bekannt, handelt es sich bei diesen Bussen um das erste autonome Shuttle-System in Europa, das dauerhaft im öffentlichen Straßenraum operiert. Wie wird das Pilotverfahren in Sitten (Sion) durchgeführt?
Viktoria Fontanel: Wir warten noch auch auf eine spezielle Zulassung, die wir benötigen. Wir verhandeln im Moment mit den zuständigen Behörden. Von dort bekommen wir aber positive Rückmeldungen. Die Fahrzeuge werden voraussichtlich ab März oder April 2016 in der Innenstadt von Sitten fahren.
netzpolitik.org: Fahren die Kleinbusse vollständig autonom?
Viktoria Fontanel: Bereits für eine Messe in Bordeaux hatten wir eine spezielle Zulassung erhalten, weil wir dort auf öffentlicher Straße gefahren sind. Dabei hatten wir ein paar Auflagen einzuhalten. Beispielsweise musste immer eine Aufsichtsperson an Bord sein, die den Joystick in der Hand hält, um notfalls eingreifen zu können. Es durften auch nur neun Fahrgäste auf einmal mitfahren, die alle sitzen mussten, obwohl wir natürlich auch Stehplätze in den Fahrzeugen haben. Zusätzlich durften wir nicht schneller als 25 km/h fahren.
netzpolitik.org: In welchen Ländern und wie lange haben Sie bereits Testreihen durchgeführt?
Viktoria Fontanel: Wir haben vorher sehr viel mit einem Prototyp getestet. Das war ein offenes Modell, also ohne Dach. Damit wurde in der Forschung und Entwicklung ausführlich und lange experimentiert. Unter anderem haben wir in den USA getestet. Unser Ingenieurteam arbeitet inzwischen schon seit zehn Jahren an führerlosen Fahrzeugen. Der Betreiber Postbus hat für Sitten nun zwei Fahrzeuge gekauft, die dort in Betrieb gehen werden. Voraussichtlich können in der zweijährigen Pilotphase die Passagiere die Fahrzeuge umsonst ausprobieren.
netzpolitik.org: Wie häufig müssen die elektrischen Fahrzeuge aufgeladen werden?
Viktoria Fontanel: Die Fahrzeugakkus halten im Normalbetrieb etwa sechs bis acht Stunden, wenn die Strecke nicht sehr bergig ist.
netzpolitik.org: Wie steht es um die Haftungsfrage? Im offiziellen Werbevideo sieht man, dass die Busse selbständig anhalten, wenn Hindernisse auftauchen. Wie sieht es bei der Haftung aus, wenn es dennoch zu Problemen oder Unfällen käme?
Viktoria Fontanel: Einerseits versichern die Kunden ihre Fahrzeuge. Grundsätzlich hält aber das Fahrzeug erst einmal an, wenn es in einer Situation nicht genau weiß, was es machen soll. Sollte es aber trotzdem zu einem Unfall kommen und sich herausstellen, dass wir als Hersteller daran schuld sind, etwa durch technisches Versagen oder einen Programmierfehler, sind auch wir versichert. Natürlich zahlt immer die Versicherung des Schuldigen.
netzpolitik.org: Was passiert denn, wenn Fußgänger sich einen Spaß daraus machen, die Busse aus Jux anzuhalten? Wie geht man damit um, wenn Einwohner oder Touristen den Bussen absichtlich in den Weg laufen?
Viktoria Fontanel: Man muss natürlich die Leute sensibilisieren, um zu erklären, wie man mit den Fahrzeugen umgeht. Eine einzelne Person kann umfahren werden, aber wenn eine ganze Reihe von Menschen im Weg steht, geht es nicht mehr vorwärts.
netzpolitik.org: Was sind Ihre Pläne für die Zukunft?
Viktoria Fontanel: Verraten kann ich nicht viel. Wir haben Kontakte zu vielen Privatunternehmen, unser Ziel ist, auf öffentlichen Flächen zu fahren. Das ist heute noch nicht erlaubt. Deswegen werden wir zuerst auf privaten Flächen fahren, zum Beispiel auf Flughäfen oder einem Atomkraftwerk in Frankreich. Die Privatgelände sind ganz gut, so können wir unsere Technologie testen.
Das war nicht einfach, aber wir sind jetzt versichert
netzpolitik.org: Gehen Sie davon aus, dass in naher Zukunft – also in drei bis fünf Jahren – ein Großteil solcher Shuttles im öffentlichen Personennahverkehr fahrerlos unterwegs sein wird?
Viktoria Fontanel: Ich denke persönlich nicht, dass es ein Großteil sein wird, schon weil es heute auf öffentlichen Straßen nicht erlaubt ist. Wir können zwar Pilotprojekte durchführen. Das heißt aber nicht, dass wir Tausende von Fahrzeugen auf der Straße sehen werden. Sicher wird es aber viele Pilotprojekte geben, schon weil es viele Transportunternehmen gibt, die Interesse daran haben. Doch es liegt auch an diesen Transportunternehmen, ob sie führerlose Fahrzeuge testen wollen und spezielle Zulassungen beantragen möchten.
netzpolitik.org: Dazu wird es auch rechtliche Regeln geben müssen. Setzen Sie sich dafür ein, dass die rechtlichen Möglichkeiten für solche autonomen Shuttles verbessert werden und dass man Regeln schafft, um auf öffentlichen Straßen fahren zu können?
Viktoria Fontanel: Vielleicht werden zunächst spezielle Regeln geschaffen: erst in Fußgängerzonen, anfangs mit ganz langsamer Geschwindigkeit, vielleicht nicht sofort mitten im normalen Straßenverkehr mit Fahrzeugen, die 70 km/h fahren können. Unsere Fahrzeuge können ja ca. 40 km/h fahren. Ich würde sagen: In ein paar Jahren werden Regeln kommen, die es vereinfachen, auf öffentlichen Straßen zu fahren.
netzpolitik.org: Hatten Sie Schwierigkeiten, einen Versicherer zu finden?
Viktoria Fontanel: Wir haben zwar eine Versicherung gefunden, sogar zwei, aber das war nicht einfach, weil man erst eine neue Kategorie schaffen musste. Heute kann man ein normales Fahrzeug versichern, aber wir haben kein Lenkrad, kein Brems- und kein Gaspedal. Deswegen gehören wir nicht zu Kategorien wie „Auto“, „Minibus“ oder „großer Bus“. Man musste eine neue Kategorie „autonomes Fahrzeug“ schaffen. Das war nicht einfach, aber wir sind jetzt versichert.
netzpolitik.org: Vielen Dank, Frau Fontanel, dass Sie uns für dieses Gespräch zur Verfügung standen.
Am 17. Dezember wird die erste Pressevorführung in Sitten stattfinden, wo das Gefährt demonstriert werden soll und das Ingenieurteam für Fragen zur Verfügung stehen wird.
Ethische Frage: Wenn es zu einer kritischer Situation im Verkehr kommt (möglicherweise nicht durch de autonomen Shuttle verursacht, aber grundsätzlich möglich) und sich in dieser Situation die Verletzung von Menschen nicht vermeiden lässt, dann muss die KI unter den möglichen Optionen eine auswählen und damit entscheiden, welche Menschen möglicherweise durch einen unvermeidbaren Unfall verletzt werden oder schlimmer (z.B. könnte die Entscheidungsmöglichkeiten sein, ob Fußgänger auf der Straße oder die Insassen des Busses durch ein harsches Ausweichmanöver verletzt werden).
Meiner Meinung nach darf man aber niemals einer KI die Entscheidung über Menschenleben überlassen.
Wenn ich für das Fahrzeug bezahlt habe will ich natürlich nicht, dass es das Leben Anderer über mein Eigenes stellt oder? Wer würde das Fahrzeug sonst kaufen?
Die Lösung ist doch aber ganz einfach: Es wird die Option gewählt die als die mit dem wenigsten Schaden erscheint. Das es eine Situation gibt in der 2 Optionen 1:1 gleich „schädlich“ sind ist sehr sehr sehr unwahrscheinlich. Zumal der Zustand vermtl. max 1 Tick anhält. Man muss dann eigentlich nur die Entscheidung treffen, ob die KI eine Entscheidung per Zufall trifft, wenn 2 Optionen exakt gleich gangbar bewertet werden, oder ob man einfach so lange wartet, bis eine Option besser ist!
Das mit den ethischen Problemen ist ein Strohmann. Ein autonomes Fahrzeug sorgt ja gerade dafür, dass es rechtzeitig vor Hindernissen bremsen kann und verhindert dadurch eine der Hauptquellen für Unfälle im Straßenverkehr. Natürlich kann es passieren, dass ein Fußgänger unvermittelt vors Auto läuft, aber bei einer derartigen Selbstgefährdung gibt es nur eins: Vollbremsung und Hoffen, dass der Unfall glimpflich ausgeht.
Der Fall, dass das Auto wählen muss, ob es lieber in den Rentner oder die Mutter mit zwei Kindern rast, wird in der Praxis nicht vorkommen.
Alle aktuellen Fahrzeuge bleiben bei Vollbremsung lenkbar und natuerlich stellt sich die Frage, ob und wohin zu lenken. Das der Programmierer und Fahrzeug koennen nicht nicht entscheiden.
…ob es lieber in den Rentner oder die Mutter mit zwei Kindern rast…
wird auch von normalen Autofahrern nicht getroffen – derjenige zeige bitte auf der in einer Sekunde Reaktionszeit noch Kapazitäten für ethnische Probleme aufbringt! :)
Opa Krawuttke oder Walter Roehrl zu seinen besten Zeiten?
Beim selbstfahrenden Auto hast Du halt immer Roehrl, zumindest wenn die in bebautem Gebiet mehr als Schleichfahrt duerfen. Natuerlich minimiert eine defensive Fahrweise das Risiko, aber auch das wird nur passieren, wenn eine solche defensive Fahrweise durchgesetzt wird. Und die wird man gegen die Autofahrer durchsetzen muessen.
Das Szenario ist nicht nur „selbstgefaehrdender Fussgaenger“. Das kann auch ein stuerzende Radfahrer sein oder Fahrfehler/Unfaelle anderer Verkehrsteilnehmer.
In einen ploetzlich entgegenkommenden LKW zu fahren ist zB wesentlich riskanter als auszuweichen und dabei den Radfahrer auf der Nebenspur ueber den Haufen zu fahren, jedenfalls fuer den Fahrzeuginsassen. Einem menschlichen Fahrer wird man da weiten Spielraum fuer eine letztlich ueberfordernde Entscheidung einraeumen…aber ein Fahrzeug folgt einem sorgfaeltig und explizit vorgegebenem Programm. Also was programmieren: ausser bremsen nichts tun und in der Spur bleiben, ausweichen und den Radfahrer umfahren, /dev/random befragen?
In Unbeteiligte hineinfahren ist unter allen Umständen inakzeptabel, das wäre vorsätzliche Körperverletzung. Ausweichmanöver, die keine Unbeteiligten verletzen, sind selbstverständlich unproblematisch.
Mit 20-30km/h einen anderen PKW touchieren ist fuer alle relativ risikoarm, verglichen mit der Kollision mit einem ploetzlich querenden Radfahrer oder Fussgaenger bei gleichem Tempo. Stadtalltag. Vermutlich nur Blechschaden mit dem vorher Unbeteiligten oder Schwerstverletzter/Toter? Was bei einem unverschuldet in die Quere stuerzendem Radfahrer oder Fussgaenger?
Alles nicht so einfach, wenn man das vorher programmieren kann und vielleicht muss. Wie man mit der Fragestellung umgeht, ist noch offen, ganz zu schweigen von den Antworten. Und man sollte mE nicht nur auf eine Klaerung durch Gerichte setzen, das waere ein Versagen als Gesellschaft.
Vielen Dank, Bernd, dass Du uns diese Angst nimmst. Als Rentner wünscht man sich ja einen schnellen Tod und keinen schnellen Notarzt.
Wenn dieser Fall in der Praxis nicht vorkommt, ist ja alles bestens. Man kann sich unnötige Gedanken sparen. Eine Frage hätte ich dann doch noch, oder zwei.
Wer definiert denn, was in der Praxis vorkommt? Der Auftraggeber für die Sicherheitssoftware, oder der Programmierer, der diese schwierige Entscheidung zu optimieren hat?
Auf meinem Schreibtisch stapeln sich die Fälle, die in der Praxis nicht hätten vorkommen sollen.
onCriticalEvent( event ) {
options := ai.getOptions( event )
options := options.sort { o1, o2 -> o1.getNumberOfProbablyKilledPeople().compareTo( o2.getNumberOfProbablyKilledPeople() ) }
option[0].doIt()
}
Warum willst Du die Maschine das überhaupt entscheiden lassen? Ein Gebäude wird so gebaut, dass es möglichst nicht einstürzt und nicht so, dass es, wenn es einstürzt, möglichst nur die tötet, bei denen es nicht so schlimm wäre. Warum sollte man das bei einem Auto anders machen?
„Deswegen werden wir zuerst auf privaten Flächen fahren, zum Beispiel auf Flughäfen oder einem Atomkraftwerk in Frankreich. Die Privatgelände sind ganz gut, so können wir unsere Technologie testen.“
Wait, what? Atomkraftwerk als Testgelände? Was soll da schon schief gehen? :D
Sollte ich mal ein selbstfahrendes Auto besitzen, brauche ich dringend einen „Ich bremse auch für Menschen.“-Aufkleber.
Man sollte sich viel mehr Gedanken über mögliche KFZ-Hacks machen. Diese Fahrzeuge fahren Computergestützt und können eingebunden im normalen Straßenverkehr ein sehr großes Sicherheitsrisiko darstellen. Stellt euch mal den Tag vor an dem 30 Prozent aller Autos nur noch vom Computer gelenkt werden. Und jetzt stellt euch mal vor was man alles mit einem Virus oder Trojaner anstellen könnte. Man könnte ganze Flotten von Fahrzeugen aufeinmal lamlegen oder ein KFZ-Botnetz aufbauen. Geldtransporter in andere Richtungen lenken oder dem Fahrzeug befehlen das es die Handbremse zieht und gleichzeitig Vollgass geben soll. Da brauchen die Polen gar nicht mehr in die BRD kommen um die Autos zu klauen. Die geben einfach einen Befehl über das Botnetz, fahrt alle um 01:00 Uhr Nachts nach Polen zur XY-Adresse während eure Besitzer schlafen. Ich habe noch tausend weitere Ideen und andere haben die auch. Ich freue mich schon darauf.
Das hat man hoffentlich. Im Unterschied zu ferngesteuerten Vehikeln lassen sich echt autonome theoretisch sicherer konstruieren. Denn sie brauchen keinen Netzwerkzugang, in den man sich einfach einklinken kann. Dann bleibe nur noch, sich über die Sensoren Zugang zu verschaffen. Wenn der nur mit roher Gewalt zugängliche Kern bei denen Unregelmäßigkeiten feststellt, bleibt das Ding halt stehen. Beim Fahrzeug ist es etwas anderes als z.B. beim Flugzeug, das heute in solchen Situationen lediglich den Autopiloten abschaltet. Einfach stehenbleiben wird beim Flugzeug auch in Zukunft nie funktionieren, weshalb es für Notfälle dort immer eine Möglichkeit geben muss, es fernzusteuern.
Ist alles gut und recht , alle wollen Umweltfreundlich sich bewegen . Aber wie wollt Ihr , wenn alle von der Elektriztät abhängig sind diesen produzieren ; der auch wieder Strom braucht.
Und das allerschlimmste kommt noch >>>
Was macht Ihr mit all den ARBEITSLOSEN EINHEIMISCHEN und den NEU EINGEWANDERTEN
hinterfragt mal ehrlich Euer Gewissen .
Woher wollt Ihr all das GELD hernehmen ? ? ?
Wenn keiner mehr Arbeiten darf und kann ! ! !
Freundliche Grüsse
Die Gesamtproduktivitaet waechst und damit ist das Geld weiterhin vorhanden, es muss halt in der Gesellschaft verteilt werden. Deutschland ist unglaublich reich und wird es absehbar bleiben. Leider entscheidet sich Deutschland weiterhin, diesen Reichtum auf immer weniger Leute zu konzentrieren und immer mehr Leute in die Armut zu entlassen.
> Natürlich zahlt immer die Versicherung des Schuldigen.
Das ist ein leicht daher gesagter Satz. Meist stammen solche Sprechakte von abschlußhungrigen Versicherungsverkäufern, die nur eines wollen (nein, das nicht woran sie vielleicht denken!).
Lebenserfahrung jedoch lehrt, dass man höchstens formulieren dürfte, „Natürlich sollte die Versicherung des Schuldigen immer zahlen.“ Tatsächlich zahlen Versicherungen regelmäßig eben nicht. Sie zahlen niemals sofort, und wenn, dann mit nennenswerten Abschlägen, und nicht selten zahlen sie gar nicht.
Ist die Schadensumme hoch, geht ohne Urteil „im Namen des Volkes“ nichts, will man sich nicht mit vorteilhaften Vergleichen übervorteilen lassen. Wenn die Versicherung, Wind davon bekommt, dass der Geschädigte seinen Rechtsstreit nicht (mehr) finanzieren kann, wird der Prozess kunstvoll verzögert, bis der Gegner pleite ist oder an Altersschwäche stirbt.
Und genau das dürfte auf die Opfer einer neuen Transport-Technologie zukommen. endlose und teure Prozesse weil, Schuldfragen so eindeutig nicht zugewiesen werden können bis halbwegs Grundsatzurteile vorliegen werden dürften viele Jahre vergehen.
Wer übrigens noch nach einer auskömmlichen Existenz sucht, der sollte Gutachter für Software selbstfahrender Fahrzeuge werden. My heart bleeds.