Selbstfahrende Autos könnten bald Radfahrer von der Straße drängen

Tech-Konzerne und die Autoindustrie investieren Milliarden in autonomes Fahren. Aber werden Robo-Lenker jemals unfallfrei durch den Dschungel europäischer Städte steuern können? Städteplaner müssen wohl bald entscheiden: Smarte Autos oder doofe Radler.

Auto überholt Radfahrer
Radfahrer und der Autoverkehr: Eine Geschichte voller Missverständnisse – Gemeinfrei-ähnlich freigegeben durch unsplash.com Eduardo Enrietti

Tech-Firmen und die Autoindustrie buttern Milliardenbeträge in die Entwicklung selbstfahrender Autos. Schon in wenigen Jahren sollen von Roboterhand gelenkte Fahrzeuge die Straßen dominieren. Doch was passiert, wenn die Maschinen auf Radfahrer treffen? Autofahrer entscheiden jeden Tag im Straßenverkehr über Menschenleben, meist unbewusst und in Sekundenschnelle. Lenker wägen ihre eigene Sicherheit mit der von anderen Autofahrern und schwächeren Verkehrsteilnehmern wie Radfahrern oder Fußgängern ab. Solche Entscheidungen liegen künftig in Maschinenhand. Was richtig und was falsch ist im Straßenverkehr, ist jedoch schwer zu verallgemeinern, wie eine im Wissenschaftsmagazin Nature veröffentliche Studie deutlich macht.

Tod den Bei-Rot-Gehern?

Die Wissenschaftler schilderten 13 Szenarien, bei denen im Straßenverkehr der Tod eines Menschen unvermeidlich ist. Mehr als 2,3 Millionen Menschen in Ländern rund um die Erde beantworteten die Fragen. Die Befragten mussten abwägen, ob sie etwa ihr Auto gegen ein Hindernis steuern und damit alle Insassen gefährden, um einen illegal die Straße kreuzenden Fußgänger zu schützen. Das Fazit der Wissenschaftler: Überall werden solche Entscheidungen anders getroffen. In Ländern mit starkem Rechtsstaat, etwa Finnland und Japan, entschieden Befragte häufiger, das Anfahren eines Fußgängers in Kauf zu nehmen, wenn dieser ordnungswidrig die Straße überquert. In Staaten mit weniger Rechtsschutz wie Nigeria und Pakistan war das nicht der Fall.

Das Beispiel machen deutlich: Eine weltweit einheitliche Ethik des Straßenverkehrs gibt es nicht. Es ist daher schwer, für die Maschinenlogik der selbstfahrenden Autos weltweit gleiche Regeln zu setzen. Versuche zur Normierung gab es bereits, etwa durch eine Ethik-Kommission der Bundesregierung. De facto werden die ethischen Standards aber vor allem durch die streng geheime Software von Firmen wie Tesla, Uber oder der Google-Tochter Waymo gesetzt. Sie und andere große Konzerne wollen bis 2021 selbstfahrende Autos regulär auf die Straße bringen. Großbritannien hat das sogar rechtlich bereits geregelt.

Im Zweifel gegen Radler

Der Siegeszug autonomer Fahrzeuge könnte den Radverkehr direkt treffen. Denn selbstfahrende Autos und Lenkassistenten werden vermutlich in einigen Situationen das Risiko im Verkehr von sich auf andere umwälzen. „Denken Sie an ein autonomes Auto, das entscheidet, wie es sich selbst durch eine Straße steuert – näher an einem LKW auf seiner rechten, oder näher an einem Fahrradstreifen auf seiner linken“, sagte Studien-Mitautor Azim Shariff von der Universität von British Columbia dem Magazin Forbes. „Wenn Autos immer dazu programmiert sind, enger am Fahrradstreifen zu fahren, können sie damit das Risiko deutlich reduzieren, mit anderen Autos kollidieren. Zugleich erhöht sich die Wahrscheinlichkeit leicht, einen Radfahrer anzufahren.“

Die Entscheidung der Software fällt aller Wahrscheinlichkeit nach eher zugunsten der eigenen Fahrzeuginsassen denn Fremden im Verkehr aus. Klar, auch menschliche Fahrer handeln im eigenen Interesse. Doch Software-Vorgaben machen aus einer jeden Tag aufs neue getroffenen Einzelentscheidung ein Serienverhalten – mit fatalen Folgen.

Autofirmen haben Radler schon länger als Hürde für ihre Technologie identifiziert. „Eines der größten Probleme sind Menschen mit Fahrrädern“, sagte Renault-Chef Carlos Ghosn im Jahr 2016. „Das Auto wird von ihnen verwirrt, denn manchmal verhalten sie sich wie Fußgänger und manchmal wie Autos.“ Der Firmenboss kritisierte, Radfahrer hielten sich meist nicht an Verkehrsregeln.

Unberechenbare Robolenker

In den USA laufen schon länger Straßentests von selbstfahrenden Autos. Die Unfallberichte zeigen, dass die Lenkroboter sich oft unberechenbar verhalten. Ein Bericht des Magazins Wired stellt die Gretchenfrage: „Was ist der beste Weg, mit etwas umzugehen, das ein landesweites Experiment in Robotik und KI werden könnte, bei dem die öffentlichen Teilnehmer aber nicht willentlich zugestimmt haben und dessen Worst-Case-Szenario ihr Tod ist?“ Der Bericht beklagt, die Unternehmen machten zu wenig Daten über Unfälle und Beinahe-Unfälle öffentlich.

Die Unfälle streuen Zweifel an der Technologie. Sind automatisierte Fahrsysteme einer modernen Stadt überhaupt gewachsen? Nach dem tödlichen Zusammenstoß eines Testautos mit einer ihr Fahrrad schiebenden Passantin stoppte Uber seine (ohnehin von menschlichen Lenkern begleiteten) Probefahrten in mehreren US-Städten. Waymo testet seine selbstfahrenden Taxis in den übersichtlichen Straßenverläufen der US-Stadt Chandler in Arizona. Selbst dort läuft es nicht unfallfrei ab. Wie sieht das erst in der Altstadt von Rom aus, oder im Gassengewirr Wiens?

Umbau auf Konzernwunsch

Unsere Städte müssten nach den Bedürfnissen der Fahrzeuge umgebaut werden, folgert ein Artikel im Wall Street Journal. Dann klappe es auch mit den autonomen Autos. Gefragt sind schnurgerade Straßen, ein Verbot des Mischverkehrs und durchgehende Bodenmarkierungen. „Ihr müsst hier die verdammten Straßen anmalen“, rief Volvo-Nordamerika-Chef Lex Kerssemakers bei einer Messe in Los Angeles. Die marode Infrastruktur der USA muss an vielen Orten für die Maschinen erst fit gemacht werden. Die Investitionen übernimmt nach Vorstellung der Konzerne der Staat.

Mercedes-Prototyp "Vision Urbanetic"
Mercedes-Prototyp „Vision Urbanetic“ - Alle Rechte vorbehalten Mercedes Benz

Der Idealzustand für selbstfahrende Autos ist daher vermutlich eine Stadt nach amerikanischem Vorbild. Das entspricht aber so gar nicht europäischen Vorstellungen lebenswerter urbaner Räume, die viel Platz für Fußgänger und Radfahrer vorsehen. Hilfreich wäre laut dem Wall Street Journal auch, alle Verkehrsteilnehmer zu vernetzen und ihre Daten auszutauschen, um Zusammenstöße zu vermeiden. Autonomes Fahren öffnet die Tür zu mobiler Komplettüberwachung.

Das Ringen um den urbanen Raum ist bereits im vollen Gange. Nicht nur US-Konzerne, sondern auch europäische Autogiganten arbeiten längst an autonomen Fahrzeugkonzepten. Der starke Lobbyarm der Konzerne drängt wohl bald auch in Europa mit Macht darauf, unsere Städte für selbstfahrende Autos bereit zu machen. Fahrradverbände warnen seit längerem vor Gesetzen, die selbstfahrende Autos gegenüber Radfahrern bevorzugen. Und tatsächlich, im EU-Parlament wird bereits der Entwurf eines Berichts diskutiert, der Europa als „weltweiten Vorreiter beim Einsatz vernetzter und automatisierter Mobilität“ sehen möchte. Der Kampf Mensch gegen Maschine wird vermutlich bald ein stückweit auf unseren Straßen entschieden.

Deine Spende für digitale Freiheitsrechte

Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich zu fast 100 Prozent aus den Spenden unserer Leser:innen.

55 Ergänzungen

  1. Mein semi-autonom fahrendes KfZ mit Radar-Abstandshaltesystem erkennt am rechten Fahrbahnrand fahrende Radler vor dem Fahrzeug zuverlässig und bremst auf deren Geschwindigkeit herunter inklusive Einhaltung des für die jeweilige Geschwindigkeit vorgeschriebenen Sicherheitsabstands. Und ich kann die Male kaum zählen, an denen das System auf der Autobahn eine Bremsung eingeleitet hat, weil ein PKW-Lenker der Überzeugung war, der automatisiert gehaltene Abstand zum Vordermann sei eine Aufforderung zum Einscheren…

    Funktioniert das Radarsystem aufgrund einer Störung nicht zuverlässig, ist das System gar nicht erst zu starten und der Fahrer muss das Fahrzeug vollständig kontrollieren.

    Ein Problem ist sicherlich die berühmt-berüchtigte Rechtsabbiegesituation, bei der ein Radfahrer von hinten rechts kommend geradeaus fahren möchte, während das autonome Fahrzeug abbiegen will. Das kann mir aber keiner erklären, dass dies nicht mit bereits verfügbaren Totwinkelsensoren abzudecken wäre.

    Wenn es dann darauf hinausläuft, dass die Fahrzeuge durch zu-weit-rechts-auf-dem-Trennstreifen-zur-Radspur-fahren die Radfahrer gefährden, dann… macht gefälligst die Radspuren breiter, zieht einen durchgezogenen Streifen und vergesst die Nummer.

    Autonomes Fahren hat seine Probleme, die müssen gelöst werden, Radfahrer müssen sich ebenfalls an die Verkehrsregeln halten (ansonsten habe ich mit denen auch genau null Mitleid), nur halte ich die Aussage vom Renault-Chef für wenig tragbar angesichts der Tatsache, dass ein Produkt seines Mitbewerbers selbst ein schmales Rennrad rechts außen am Fahrbahnrand noch erkennen kann.

    Ich denke, da gibt es ganz andere Schwierigkeiten beim autonomen Fahren zu überwinden, als nun ausgerechnet im Radarecho gut sichtbare Fahrräder.

    1. „Unberechenbare Robolenker“

      Es sind eher die unberechenbaren Velolenker, die sich in Gefahr bringen!
      Der Mensch erkennt diese Gefahr und bemüht sich schnellstmöglich, sich aus der Gefahrenzone zu entfernen, auch wenn es bedeutet, eine doppelte Sperrlinie zu überfahren!
      Ein einfaches Beispiel, aber Wirksam.
      Ein Normaler Autofahrer bricht die Verkehrsregeln um sich dieser unkontrollierbaren Situation zu entziehen, ein Robolenker bleibt hinter dem Radfahrer bis es kracht oder auch nicht kracht, da sich der Velolenker z.B. plötzlich entschließt, über zwei Fahrbahnen hinweg ohne Handzeichen, in entgegengesetzter Fahrtrichtung versteht sich, in eine Einbahnstraße ein bzw. ab zu biegen!

      1. Kann man hier mal das blöde Radfahrerbashing lassen?
        A. Auf jeden Radfahrer, der Abbiegen nicht anzeigt, kommen drei Autofahrer, die nicht Blinken, oder beim Abbiegen SMS schreiben. Gut, wenn da eine KI ist, die das erste nicht vergessen kann, und der das zweite egal ist…
        B. Für Radfahrer gibt es (Leider!) gute Gründe die eigene Sicherheit durch *ncht* Anzuzeigen zu erhöhen: z. B. bei löchrigen Straßen, und in der wackligen Anfahrphase, hat man besser beide Hände am Lenker. Ich selbst zeige Rechtsabbbiegen *fast nie* an, weil das eine bestimmte Sorte Autofahrer dazu verführt, während des Abbiegens auch noch überholen zu wollen. Übrigens eine klassische Abwägung: Mein leben ist mir dann doch wichtiger, als die Eile des anderen Verkehrsteilnehmers, oder ein Ticket, das ich deswegen bekommen könnte.
        C. Das die aktuelle Sensorik automatisierter Fahrzeuge überhaupt in dier Lage ist, einen mehr oder weniger ausgestreckten Arm als Absichtsbekundung zu registrieren, würde ich dann doch bezweifeln, das können Menschen wohl noch lange Zeit besser.

        1. Bashing?

          Bin selber Radfahrer!
          Sind nur Beobachtungen, die ich selber machte!
          Mein oben genanntes Beispiel war da noch harmlos.

  2. Ich vertrete auch die Meinung der Leute aus einem Rechtsstaat. Wenn man sich selbst bewusst gefährdet indem man die Regeln missachtet und dann z.B. über eine rote Ampel geht, dann ist es völlig legitim, wenn man dann umgefahren wird bevor der Insasse im Fahrzeug, der sich an die Gesetze halt, sich selbst gefährdet.

    1. Die Regeln werden von der Autoindustrie gemacht (z.B. die gefährlichen „Schutzstreifen“ um den Radverkehr beiseite zu schaffen.)
      Verkehrsverwaltung und Regierung sind unheilbar korrupt.

    2. Jeder der bei Rot geht, macht das also bewusst? Interessant. Im übrigen bedeutet Rechtsstaatlichkeit nicht dass der Bürger sich an Gesetze halten muss. Sondern dass der Staat ihn und seine REchte auch dann achtet schützt, wenn er es nicht tut.

    3. Wenn Autofahrer sich im Autoverkehr zu Richtern aufschwingen, hat das mit Rechtstaatlichjeit nichts zu tun sondern mit fehlendem Rechtsbewusstsein. Die Rotfahrt ist ein schönes Beispiel. Wer eine rote Ampel passiert ist nicht automatisch im Unrecht und wer eine Kreuzung bei Grün passiert nicht automatisch im Recht. Kreuzt ein gesçhlossener Verband die Kreuzung oder wird die Kreuzung zusätzlich zu von einem Polizisten geregelt, ist es völlig irrelevant ob die Ampel Grün zeigt. Der querende Verkehr kann hier trotz rot, Vorfahrt haben.

    4. Na das ist aber interessant! Probieren Sie doch mal folgendes; formulieren Sie ihre Aussage mal andersherum. Etwa so: Also wenn ICH das nächste mal falsch parke oder wiedereinmal unachtsam meinen Müll aus dem Fenster meines Wagens werfe oder irgend eine andere Ordnungswidrigkeit begehe, dann brechen Sie mir doch bitte die Beine und prügeln mich ins Koma. Ich hab´s ja schließlich verdient!
      Klingt doof oder? Ausserdem vergessen Sie hier einen wesentlichen Punkt. Sie sind als Autofahrer dazu verpflichtet vorsichtig und vorrausschauend zu handeln. Wenn Sie ein auf einer Strasse spielendes Kind überfahren oder eben auch einen Radfahrer dann trifft Sie, zu Recht, in den meisten Fällen durchaus eine Mitschuld und Sie täten gut daran zu verstehen dass diese relativ weiche form der Schuldausweisung nicht nur den doofen Radfahrer sondern eben auch Sie selbst schützt.

      1. Keiner hat behauptet man soll den Fußgänger oder den Radfahrer, der sich falsch im Straßenverkehr verhält absichtlich anfahren, weil er es verdient hätte! Es geht NUR um den Fall wo eine der Personen zu Schaden kommen MUSS! Z.B: Auto fährt 70km/h in der 70ger Zone die Ampeln sind Grün, nichts ungewöhnliches zu sehen, und dann fährt plötzlich ein Fahrrad auf die Straße, Bremsweg ist zu lag, die Frage ist: wohin Lenken: 1- gegen das Fahrrad; 2- gegen die Laterne.
        Und hier sagt man, dass das KI Auto einem die Wahl nehmen würde. Es tut mir leid aber die Gesetze sind dafür da, dass wir sicher miteinander leben können, wer die Gesetze missachtet, muss damit rechnen , dass seine Sicherheit gefährdet werden KÖNNTE. Dazu würde ein Mensch schwere psychische Belastung von einem solchen Vorfall haben, Fall1- Radfahrer ist tot, Fall2- Familienmitglied das im Auto gesessen hat ist tot, und der Fahrer macht sich lebenslang Vorwürfe ob er es nicht besser hätte machen können. Ein Computer kann in einer solchen Situation viel schneller die Überlebenschancen ausrechnen und die beste Route wählen, der Mensch ist oft im Schock und handelt zu langsam und unüberlegt.
        Und ein KI Fahrzeug ist sogar viel freundlicher zu den Fußgängern und Radfahrern, er ist nie abgelenkt und hält immer den Sicherheitsabstand!

  3. Der Text hat mich sehr enttäuscht. Es wird nirgends plausibel dargelegt, dass die zukünftigen selbstfahrenden Autos mehr Unfälle verursachen werden als konventionelle Fahrzeuge. Selbst wenn man nur Unfälle mit Radfahrern betrachtet.

    Zudem wird das Thema unnötig dramatisiert, indem der Eindruck erweckt wird, Autofahrer seien quasi ständig damit beschäftigt, abzuwägen, ob man lieber sein eigenes Leben gefährdet oder das von anderen Verkehrsteilnehmern. Sorry, das ist völlig realitätsfremd.

    1. Mein Argument war nicht, dass selbstfahrende Autos mehr Unfälle bauen. Sondern, dass die Technologie auf mittlere Frist einen noch autofreundlicheren Umbau unserer Städte nötig macht.

      1. Wenn Menschen ihre Infrastruktur umbauen, muss das nicht unbedingt ein Nachteil sein. In der Regel treibt man diesen Aufwand ja nur, weil man sich davon bessere Lebensumstände erhofft. Man tut das bestimmt nicht deshalb, damit es den Autos besser geht.

        1. Nun, die Infrastruktur umzubauen, muss keineswegs immer unter dem Gesichtspunkt erfolgen, „bessere Lebensumstände“ zu schaffen, auch wenn das als Begründung gern vorgebracht wird. Ich erinnere an die Umgestaltung unserer Innenstädte in den 1960er-Jahren nach dem Motto „autogerechte Stadt“. Haben sie bessere Lebensumstände geschaffen? Nein, weswegen heutzutage versucht wird, solche Bausünden wieder rückgängig zu machen, was allerdings zum Teil nicht mehr oder kaum möglich ist, z. B. im Hinblick auf verschwundene Straßenbahnen. Man hat damals tatsächlich so (um)gebaut, „dass es den Autos besser geht“! Wollen wir/Sie das noch einmal?

          1. Das muss man allerdings vom damaligen Standpunkt aus sehen. Heute baut man gern Umgehungsstraßen, Fußgängerzonen, Park&Ride. Man findet auch ein Gasnetz und manche Kraftwerkstypen nicht mehr so toll. Trotzdem hat uns das alles auch weitergebracht, trotz der Nachteile. Es ist danb etwas billig, im Nachhinein sagen, die Leute hätten unklug gehandelt.

            Wäre es denn tatsächlich falsch, die Straßen für autonomen Verkehr umzubauen? Welche Argumente wurden dafür überhaupt gebracht?

  4. „Die Befragten mussten abwägen, ob sie etwa ihr Auto gegen ein Hindernis steuern und damit alle Insassen gefährden, um einen illegal die Straße kreuzenden Fußgänger zu schützen.“

    Solche Befragungen macht man deswegen, weil es kaum reale Vorfälle dieser Art gibt. Deshalb überhaupt muss man diese sehr theoretischen Fragen stellen. Man hätte sonst nichts, das man untersuchen kann.

  5. Im Artikel wird viel zusammengerührt, das nicht zusammen gehört.

    1. Der Autor nimmt an, dass die KI Auto und Insassen gegenüber der Umwelt priorisiert. Die Annahme scheint bei menschlichen Fahrern realistisch, eine KI kann hingegen auf Schadensminimierung insgesamt programmiert werden (notfalls auch über gesetzliche Regelungen)

    2. Der gesamte Artikel basiert auf der Annahme, dass eine KI Radfahrer kaum zuverlässig erkennen kann. Gibt es dafür Belege?

    3. Aus den im Artikel genannten Unfällen wird auf eine generelle Gefährlichkeit extrapoliert. Das ist aus zwei Gründen mutig: Zum einen werden Eigenschaften von individuellen Systemen (Uber Anfang 2018, Tesla 2017) auf das gesamte Ökosystem extrapoliert, zum anderen wird ausser Acht gelassen, dass auch Menschen am Steuer gelegentlich Unfälle verursachen. Die korrekte Frage wäre also, ob Computer mehr oder weniger Unfälle versuchen als Menschen.

    4. Die Kommentare der Autoexperten sollte man in der Tat kritisch reflektieren. Wenn die Industrie nicht in der Lage ist, die aktuelle Verkehrssituation zu beherrschen, dann gibt es zwei Möglichkeiten: Die Entwicklung selbstfahrender Autos einstellen, oder zusammen überlegen, ob die Komplexität reduziert werden kann. Das Hauptproblem für Radfahrer sind nämlich nicht selbstfahrende Autos, sondern zu schmale Radwege, die schlecht markiert direkt auf zu enge Straßen gemalt wurden.

    1. Zu Punkt eins: Ist schwer zu sagen, denn die algorithmischen Entscheidungssysteme der Firmen sind ja streng geheim. (Siehe New-Yorker-Link zu Trade-Secrets-Prozess gegen ehemaligen Waymo-Mitarbeiter.) Das heißt, sogar wenn es rechtliche Vorgaben gibt, wird es immer ein Kampf darum sein, diese nachzuprüfen. Siehe Dieselskandal.
      Zu Punkt zwei: Auch hier ist die Datenlage schütter, schon weil die testenden Firmen ihre Daten nur zu einem äußerst unbefriedigenden Ausmaß offenlegen. Das heißt, wir wissen schlicht nicht genau, wie gut die Maschinen Radfahrer erkennen können. Mein Vermutung basiert auf bekannten Fällen und eben Zitaten wie jene des Renault-Chefs, „Radfahrer sind das größte Problem“.
      Zu Punkt drei: Sehe ich nicht so. Es geht nicht um die konkrete Zahl der Unfälle oder Quote, sondern ob uns autonomes Fahren Änderungen im Städtebau aufzwingt, die (siehe Titel) Radfahrer von der Straße drängen.
      Was mich zu Punkt vier bringt: Komplexität reduzieren hieße in diesem Fall, making the world safe for self-driving cars. Ähnliches hat man in den 50er bis 80er Jahren schon für normale Autos gemacht, mit der Folge, dass es immer noch mehr Verkehr, Abgas und Lärm gibt und in Städten immer weniger Platz für die Menschen ist. Die Entwicklung von Fahrassistenten, teil- und vollautonomem Fahren und sogar komplett autonomen Fahrzeugen ist grundsätzlich eine gute Idee. Aber sie wird fälschlich als Lösung für das Problem urbaner Mobilität verkauft, eine solche ist autonomes Fahren aber nicht. Um halbwegs nachhaltig sein, müssen wir in Europa die Zahl der Autos schleunigst auf ein Minimum reduzieren (ob selbstfahrend oder nicht) und statt dessen begehbare Städte, Radverkehr und öffentliche Alternativen fördern.

    2. „1. Der Autor nimmt an, dass die KI Auto und Insassen gegenüber der Umwelt priorisiert. Die Annahme scheint bei menschlichen Fahrern realistisch, eine KI kann hingegen auf Schadensminimierung insgesamt programmiert werden (notfalls auch über gesetzliche Regelungen)“

      Versetze dich in die Lage eines potentiellen Käufers eines autonomen Autos:
      Würdest du ein Auto kaufen, dessen Hersteller A offiziell ansagt „Unser Auto fährt (wenn anhalten nicht möglich) eher gegen die Wand (und gefährdet Insassen), als den querenden Fußgänger umzunieten“, oder wäre es das Auto von Hersteller B, der sagt „Die Sicherheit der Insassen ist uns am wichtigsten (und wir nieten lieber die Fußgängerin um)“, oder wäre es das Auto von Hersteller C, der sagt „Im Zweifelsfall kollidieren wir nicht mit Autos von Hersteller C (z.B. am Straßenrand) und nieten eher den Fußgänger um“.

  6. „Die Entscheidung der Software fällt aller Wahrscheinlichkeit nach eher zugunsten der eigenen Fahrzeuginsassen denn Fremden im Verkehr aus. Klar, auch menschliche Fahrer handeln im eigenen Interesse. Doch Software-Vorgaben machen aus einer jeden Tag aufs neue getroffenen Einzelentscheidung ein Serienverhalten – mit fatalen Folgen.“

    Diese Argumentationsführung ist wirklich abenteuerlich. Was bitte sind denn hier die „fatalen Folgen“. Bitte mal konkret werden. Und wodurch sind diese fatalen Folgen begründet? Sie sind Folge wessen? Folge des unmoralischen Handeln des Programmierers? Was wäre denn das moralisch richtige Handeln? Insassen oder Radfahrer gefährden? Könnte sich der Autor hierzu mal äußern? Dann könnte man immerhin diskutieren.

    1. Es gibt klar eine Abwägung, die das Entscheidungssystem treffen muss im Straßenverkehr. Fahre ich gegen den Radfahrer oder gegen die Wand? Und ändert sich was an der Entscheidung, wenn der Radfahrer zuvor Regeln verletzt hat? Das ist es, was ich im Artikel beschrieben habe. Das sind fatale Folgen. Ich habe nicht gesagt, wer schuld ist oder schuld sein sollte. Mein Punkt war pur: Es gibt diese Entscheidungen und sie werden eingebaut. Und die Maschinen sind nicht perfekt. Aber ihr Einsatz wird uns dazu zwingen, unsere Stadtplanung zu ändern, wenn wir Unfälle vermeiden wollen. Am Ende haben wir noch mehr Autos, und noch weniger Menschen. So.

      1. „Fahre ich gegen den Radfahrer oder gegen die Wand? Und ändert sich was an der Entscheidung, wenn der Radfahrer zuvor Regeln verletzt hat? Das ist es, was ich im Artikel beschrieben habe. Das sind fatale Folgen.“

        Du stellst zwei Fragen und nennst das dann „fatale Folgen“? Die fatalen Folgen sind also deine Fragen?

        Sorry, ich weiß echt nicht, was du sagen willst. Aber fatale Folgen kann ich da nicht erkennen.

        „Es gibt diese Entscheidungen und sie werden eingebaut.“

        (Ich beziehe das mal auf den vorherigen Satz: „Fahre ich gegen den Radfahrer oder gegen die Wand?“)

        Ich bestreite, dass irgendein Hersteller sowas einbaut.

      2. „Am Ende haben wir noch mehr Autos, und noch weniger Menschen.“

        Du meinst, weniger Menschen aufgrund von tödlichen Unfällen?

  7. Mal ganz allgemein: So eine Selbstfahr-Software hat genug damit zu tun, das richtige Tempo zu wählen, sicher in der Spur zu bleiben, bei Gefahrensituationen das Tempo zu drosseln und im Fall des Falles Kollisionen zu verhindern.

    Bei drohenden Kollisionen wird sie in der Regel eine Vollbremsung einleiten und/oder ein Ausweichmanöver. Lenkmanöver wird wird die Software nur innerhalb von engen Grenzen durchführen. Das Problem ist nämlich, dass es eine Menge Unwägbarkeiten gibt. Ein paar Zentimeter zuviel, eine falsch eingeschätzte Traktion der Reifen, und der Wagen kommt gegen den Kantstein und reagiert plötzlich unvorhergesehen. Alle Berechnungen für die Katz. Ein absichtliches Steuern in ein Hindernis wäre wohl nur bei sehr geringem Tempo noch kontrolliert möglich. Da müssen nur ein paar unvorhergesehene Parameter hinzukommen (z.B. ein falsch eingeschätztes Verhalten des Hindernisses, etwa aufgrund des nicht bekannten Gewichts), und die ganze Aktion ist nicht mehr berechenbar. Die Software kann auch nicht wissen, welche Menschen gerade wie stark körperlich belastbar sind, geschweige denn, welche „wertvoller“ sind als andere.

    Die Software-Entwickler werden die Finger von so etwas lassen.

    Abgesehen davon bedeutet komplexere Software höhere Fehleranfälligkeit.

    Meine erste Frage wäre allerdings: Was sind denn die konkreten Unfallszenarien, die häufiger mal vorkommen und bei denen solche Abwägungen tatsächlich stattfinden und stattgefunden haben. Da müsste es ja Beispielfälle in der Vergangenheit geben.

  8. „Die Entscheidung der Software fällt aller Wahrscheinlichkeit nach eher zugunsten der eigenen Fahrzeuginsassen denn Fremden im Verkehr aus. Klar, auch menschliche Fahrer handeln im eigenen Interesse. Doch Software-Vorgaben machen aus einer jeden Tag aufs neue getroffenen Einzelentscheidung ein Serienverhalten – mit fatalen Folgen.“

    Genau damit das nicht passiert, dürfen solche Entscheidungskriterien nicht von den Autoherstellern nach Gutdünken selber festgelegt werden sondern müssen gesellschaftlich ausgehandelt und dann für alle Hersteller einheitlich und verbindlich festgeschrieben werden.

  9. Es gibt übrigens eine ganz neue Unfallkategorie, die wir uns durch moderne Technik eingehandelt haben: Der Blick das Fahrers aufs Smartphone.

    Ich warte noch auf die große gesellschaftliche Diskussion, die das Problem grundlegend (!) löst.

    1. Der Gesetzgeber hat für die Gesellschaft ein Handyverbot in die StVO aufgenommen. Damit ist eigentlich sehr unmissverständlich Festgelegt, was zulässig ist und was nicht.

  10. In der Fahrschule habe ich gelernt das man bei einer Gefahrensituation immer sofort auf die Klötzer geht. Ganz selten machen beschleunigen oder geschickte Ausweichmanöver Sinn um einen Unfall zu vermeiden. Ganz einfach, weil die Zeit in der alles passiert extrem kurz ist. Die autonomen KFZ sollten das einfach genauso machen.
    Kommt es zum Unfall ist geringere Geschwindigkeit immer gut. Ich stelle mir das auch extrem eigenartig vor wie ein Computer Zeit verschwendet um eine Analyse durchzuführen, die beinhaltet die Beteiligten zu erkennen und zu klassifizieren, um sich dann zu entscheiden wer umgekarrt wird.
    Ich vermute auch das ein korrekt funktionierendes autonomes KFZ sich an die Verkehrsregeln und damit auch an die Geschwindigkeitsbegenzungen halten wird.
    Damit sinkt das Risiko eines tötlichen Unfalls vermutlich stark.
    Zum Umbau der Städte, das KFZ muss einfach nur so schnell fahren das es alles erfassen kann.
    Das ist dann ja nach Situation unter Umständen sehr langsam.
    Ist auch kein Unterschied zu verantwortungsvollen Autofahrern.
    Mit den Radfahrern kann es zu Problemen kommen.
    Das ist aber auch jetzt schon so.
    Ich fahre selber viel Rad und es kotzt mich immer an wenn mir einer auf dem Radweg ohne Licht in der falschen Richtung entgegenkommt.
    Oder zu dicht auffährt, oder ständig vom Fuß- auf den Radweg und zurück wechselt.
    Usw.
    Autofahrer die offenkundig nicht in den Spiegel schauen beim Tür öffnen oder abbiegen und zusätzlich nicht blinken sind ebenfalls ein Dauerärgernis.
    Auch da usw usw.
    Als Fußgänger wiederum finde ich Radfahrer die mit einem Affenzacken auf demselben langbrechen kriminell.
    Geht jemand bei Rot über die Straße ist das kein Freibrief den umzukarren. Es gilt StVo Paragraph 1.
    Das derjenige selber schuld ist steht ausser Frage.
    Als Autofahrer machen mir aber die Rotfahrer erheblich mehr Sorgen, die teilweise noch mit extremen Tempo über die Kreuzung schießen obwohl die schon dunkelrot haben.
    Damit haben autonome KFZ mit Sicherheit auch ein Problem.

  11. „Wenn Autos immer dazu programmiert sind, enger am Fahrradstreifen zu fahren, können sie damit das Risiko deutlich reduzieren, mit anderen Autos kollidieren. Zugleich erhöht sich die Wahrscheinlichkeit leicht, einen Radfahrer anzufahren.“

    Wenn Autos immer dazu programmiert sind, sich an die Regeln zu halten, ist obige Annahme Quark. Wenn kein Platz, dann Geschwindigkeit runter und warten bis Platz ist. Fertsch!

    (Wer „kollidieren“ ohne „zu“ gebraucht, braucht gar nicht erst loszufahren.)

  12. „Nach dem tödlichen Zusammenstoß eines Testautos mit einer ihr Fahrrad schiebenden Passantin stoppte Uber seine (ohnehin von menschlichen Lenkern begleiteten) Probefahrten in mehreren US-Städten.“

    Hier gibt es ein spezielles Problem, an dem sich die Entwickler vielleicht noch einige Zähne ausbeißen werden. Wenn punktuell das Eingreifen des Fahrers erforderlich ist, weil das Fahrzeug nicht vollständig autonom fährt, muss sichergestellt werden, dass der Fahrer ununterbrochen das Straßengeschehen verfolgt.

    Das Uber-Beispiel zeigt aber auch, dass die gesellschaftliche Diskussion gern vermieden wird. Lieber stoppt eine Firma ein an sich wichtiges Projekt. Das kann hier ganz rationale Gründe gehabt haben – weil eben ein teilautonomes Fahrzeug der falsche Ansatz ist -, aber vielleicht war Uber auch von Angst vor der gesellschaftlichen Diskussion geleitet.

    Schmotz schreibt: „In der Fahrschule habe ich gelernt das man bei einer Gefahrensituation immer sofort auf die Klötzer geht. Ganz selten machen beschleunigen oder geschickte Ausweichmanöver Sinn um einen Unfall zu vermeiden.“

    Manchmal wird sogar vom Ausweichen abgeraten. Z.B. wenn Wild auf der Straße steht.

    Komisch nur, dass man keine entsprechenden Handlungsanleitungen hört, wenn es darum geht, dass ein Mensch auf der Straße steht. Dass liegt offenbar daran, dass man über eine solche Abwägung zwischen Eigen- und Fremdgefährdung nicht gerne redet. Das Thema ist insofern tabuisiert. Abgesehen davon gibt es für manche Fragen einfach keine Lösung. Man kommt da auch nicht weiter, wenn man Diskussionen einfordert.

    1. Das obige Uber-Beispiel liegt etwas anders, es war nicht menschliches Versagen, auch nicht wirklich ein technischer Fehler, sondern gewissermaßen schuldhaft. Ich hatte mir im Mai den NTSB-Bericht dazu durchgelesen, der ein paar Klarstellungen zu diesem Fall preisgibt: Das Uber-Auto hatte die sofortige Bremsung nach der Detektion nicht eingeleitet, man könnte also entweder grobe Fahrlässigkeit oder aber Vorsatz bei Uber annehmen.
      (Ich hatte über den Fall auch geschrieben im Mai: http://www.faz.net/aktuell/feuilleton/aus-dem-maschinenraum/ist-uber-fuer-den-toedlichen-unfall-verantwortlich-15610164.html?printPagedArticle=true#pageIndex_0 )

      1. Es wäre hier entscheidend, ob die Fahrerin davon ausgehen musste, dass das Auto vollautomon fährt. Nur dann trifft die Fahrerin keine Schuld.

        1. Nein, es geht nicht um die Fahrerin und ihre Schuld, dann hast Du es leider nicht gelesen. Das Fahrzeug fuhr nicht „vollautonom“, deswegen saß ja die Frau drin, das Überwachen des Fahrzeugs war ihre Funktion.

          1. Bleibt zu hoffen, daß vernünftige Schlüsse gezogen werden.
            Man könnte fragen, ob die Sensorik schon ausgereift genug ist, ob eine Sekunde als Vorwarnzeit praktikabel ist, warum Notbremssysteme überhaupt deaktivierbar sind (bei vielen Autos sind ABS und ESP nicht mal (vollständig) abschaltbar)…

            Ich vermute, daß man einfach viel zu früh auf die Straße drängt, weil irgendwelche Superwirtschaftskapitäne ganz tolle Hechte sein wollen.

            Für mein Gefühl überspringt man leichtfertig Schritte in der Entwicklung.
            Warum muß man gleich mit autonomen Systemen rumprotzen, wenn gute Assistenzsysteme schon ein wirklicher Fortschritt wären.

          2. Hab den Artikel gelesen, aber tatsächlich nicht ganz verstanden, wie man auf eine Fahrlässigkeit von Uber kommt.

            Natürlich fuhr das Auto nicht vollautomon. Das behaupte ich ja nicht. Wenn aber die Fahrerin wusste, dass das Auto nicht vollautomon fährt, hat sie fahrlässig gehandelt, denn sie hat nicht auf das Straßengeschehen geachtet. Sie hat damit einen Unfall in Kauf genommen.

            Nur im Fall dass Uber kommuniziert hätte, sie bräuchte sich um den Verkehr nicht zu kümmern, wäre die Fahrerin schuldlos.

          3. Ich finde es übrigens durchaus plausibel, dass Uber in den ersten Probefahrten extremere Manöver deaktiviert und dem Fahrer überlässt. Der Artikel von Constanze hätte hier genauer erläutern müssen, wo der Fehler Ubers liegt.

          4. Ah ja, und was ist, wenn aufgrund eines durch die Gegend wehenden Pappkartons eine unnötige Vollbremsung ausgelöst wird, die dann einen Auffahrunfall verursacht?

            Es handelt sich hier um eine Testphase, in der eben nicht sicher ist, ob das System immer richtig reagiert. Da muss man sich schon gut überlegen, ob man alle Funktionen freischaltet.

          5. Stephan Fleischhauer:
            „Ah ja, und was ist, wenn aufgrund eines durch die Gegend wehenden Pappkartons eine unnötige Vollbremsung ausgelöst wird, die dann einen Auffahrunfall verursacht?“

            Lieber einmal zu oft gebremst, als einmal zu oft eine/n Passant/in umgenietet. Die Sicherheit sollte an erster Stelle stehen. Innerorts darf das Auto ohnehin nicht sehr/so schnell fahren, dass die Auffahrenden einem großen körperlichem Risiko ausgesetzt werden. Klar ist das unangenehm, man kann von Airbags erstickt werden, und gibt es Blechschaden, welcher teuer für die Firmen ist.
            Die Schutzfunktionen abzuschalten und die Verantwortung, innert einer Sekunde zu Reagieren, an eine niedrig bezahlte Fahrerin auszulagern, halte ich für viel gefährlicher/riskanter. Wenn das eigene System noch nicht gut genug/besser als menschliche Fahrer ist, dann muss man halt die Risikofaktoren reduzieren: „übervorsichtige“ Fahrweise, geringere Geschwindigkeit.

          6. „Wenn das eigene System noch nicht gut genug/besser als menschliche Fahrer ist, dann muss man halt die Risikofaktoren reduzieren: „übervorsichtige“ Fahrweise, geringere Geschwindigkeit.“

            Auch wenn man meint, ein perfektes System zu haben, weil es auf dem Parcours alle Herausforderungen meistert, würde man es in der Phase, in der man es auf die Allgemeinheit loslässt, so behandeln, als wäre es nicht perfekt. Und dazu kann meines Erachtens auch gehören, dass man bestimmte Features erstmal deaktiviert. Nehmen wir mal ein anderes Beispiel, nicht die Vollbremsung, sondern ein beherztes Ausweichmanöver mit Spurwechsel. Wenn das nicht zu 100% funktioniert, kann das den Schaden auf sehr häßliche Weise vergrößern. Man würde das erst dann aktivieren, wenn man insgesamt mehr Erfahrung gesammelt hat. Bei einer Vollbremsung sieht das natürlich weniger dramatisch aus. Trotzdem wäre ich da etwas vorsichtig, Uber eine Fahrlässigkeit – nach Constanze sogar Vorsätzlichkeit – vorzuwerfen. Da müsste man erstmal wissen, welche Überlegungen Uber da angestellt hat. Vielleicht war das nicht so unvernünftig, wie es im Nachhinein aussieht.

          7. „Die Schutzfunktionen abzuschalten und die Verantwortung, innert einer Sekunde zu Reagieren, an eine niedrig bezahlte Fahrerin auszulagern, halte ich für viel gefährlicher/riskanter.“

            Das ist ja auch mal eine verschärfte Argumentation. Jetzt ist es auf einmal unverantwortlich, menschliche Fahrer einzusetzen.

          8. Dein Pappkartonszenario ist eine Frage der Sensorik.
            Nehmen wir an dieser Stelle den Fußball. Bei dem ist damit zu rechnen, daß ein Kind hinterher kommt. Siehe „Nachdenklich“ – lieber ein mal zu oft gebremst. Das ist/sollte beim menschlichen Fahrer nicht anders sein.

            Obwohl ich oft eher skeptisch gegenüber technischem Schnickschnack bin, sehe ich in der Entwicklung irgendwann autonomer Autos großes Potential. Betrachtet man sein eigenes Fahren und die Entwicklung selbigens, ist dort sehr viel Optimierungspotential, welches durch technische Systeme sehr sinnvoll ergänzt und später ggf. auch übernommen werden kann.

            Ich habe das Autofahren gelernt, als an ABS noch gar nicht zu denken war. Meist ist ein ABS überlegen. Ich war aber auch schon in Situationen, in denen ich das ABS verfluchte (Rollsplitt). Das kann das ABS nicht erkennen, was aber kein Grund ist, das ABS grundsätzlich infrage zu stellen.
            Ein Anspruch der absoluten Fehlerfreiheit an technische Systeme ist also ebenso illusorisch wie unsinnig.

            Der Unfall hat insofern nur so viel mit dem autonomen Fahren zu tun, als daß er zeigt, daß sich Menschen gern zu sehr auf Technik verlassen (sonst wäre die Fahrerin aufmerksam geblieben) und die „selbstfahrenden“ Autos noch nicht auf die Straße gehören.

            Wobei wohl auch ein Großteil der Unfälle menschlich gesteuerter Fahrzeuge auf mangelnde Aufmerksamkeit zurück zu führen sein dürften. Also hat auch das primär nix mit dem autonomen Fahren zu tun.

            Ich würde sagen: Zurück auf die Testgelände und diese eben praxisnäher gestaltet.

            Bei dieser Diskussion muß ich immer daran denken, daß es bei Einführung des Autos auch Stimmen gab, die meinten, daß den Pferden zu Zukunft gehöre. Hüh!

  13. Vermisse, dass der Autor nicht soviel intellektuellen Kick in die Schale wirft, dass diesem Thema vielleicht einmal ein Erkenntnisgewinn beigeordnet werden könnte. So ist es aber nur derselbe Sensationskick, wie immer wieder aufs Neue, wenn diese alte Sau durch’s Dorf getrieben wird. Bitte mitbuchstabieren: Es ist nix neues dazugekommen! Den Radfahrer dazuzunehmen ist hingegen die Übersensationsmache. Und das ist dann schon wiederum eine ärgerlich Nummer auf der alten ausgetretenen Schiene, die man deutlich für sich stehend darstellen muss:

    Propaganda ist das, um den Menschen gefügig zu machen in einer Opferrolle, egal, welcher Klimbim hier dazu abgesondert wird, es zählt die Bereitschaft, dem zur Verbreitung zu verhelfen. Wie viele von denen, die die Schlagzeile sehen, nehmen wohl Argumente zur Kenntnis?

    Und für die Propagandarolle gibt es derzeit eine starke Motivation, allerdings nicht beim Wallstreet-Teil des Planeten, dem kapitalgelenkten Zynismus, der mit Zähnen und Klauen gegen die prinzipiell und derzeit eklatant fallende Profitrate agitiert. Dieser Teil hat als Maßstab nur die drei Rollen, Kapitalseigner, ihre Opfer, und ihre Maschinen. Und auf den Maschinenzirkus muss man bei den potentiellen Opfern nunmal immer wieder auf die Pauke hauen. Egal wie es klingt, hauptsache laut. Und laut im übertragenen Sinn ist die hirnerweichende Vereinfachungsmasche aus dem untersten Boulevard, alles vermenschlichen, emotional hochkochen, usw., eh schon wissen.

    Und die Gegenseite ist auch bekannt, das kann man leicht nachlesen: China hat ein immenses Problem mit der Ökologie und hat ein Bekenntnis abgegeben, das auf die Reihe bringen zu wollen. Der Umstieg auf elektrisch angetriebene Vehikel steht im Plan. Und dort steht auch der Einsatz von KI. Und nun kommt der wesentliche Unterschied, der im Tabu-Kindergarten vom Regiment des Kapitals verschwiegen werden muss: Die Mitspieler sind hier nun der Plan des Politkomitees, und die Mitglieder einer sozialistisch verstandenen Gesellschaft, und eben die Maschinen dann, die nun nicht in einem vermenschlichten Auftritt verpackt werden müssen. Werden sie trotzdem, die wollen ja auch ihren Spaß haben.

    Aber so einen haarsträubenden Unfug von moralisierenden Projektionen ist dann einfach mindestens ein Stockwerk unter der Würde der Beteiligten bei so einem ganz anders gestrickten Szenario.

    Erst mit diesem ganzen Zusammenhang ist das Spielfeld beschrieben, wie das mit der saudämlichen Sau zu verstehen ist, der alle möglichen menschlichen Eigenschaften übergestülpt werden, um Empathie zu stiften, sonderlich in Medien, wo Meinungsmacher für solche Themen vermutet werden.

    Und sobald es um Fragen zur Einsicht in Zusammenhänge des Menschlichen geht, haben sie recht, das techniphile und stets leicht liberale identitäts-tratalala-verseuchte Publikum fällt garantiert auf jeden Mist herein, wenn nur genug Posten hineingestrickt sind, für die keine festbetonierten Meme abrufbereit sind.

    Meme stricken. Die Vernunft schlafengehen schicken. Diese Leute glauben einfach alles, immerhin sind die Widersprüchlichkeiten in der zivilisatorischen Existenz einfach zu enorm, als sie mit schmackhafter Lektüre aufzudröseln wäre. Natürlich können uns Roboter alle möglichen Tänze vorführen. Aber damit bleiben es immer noch algorithmisch gesteuerte Maschinen, allem neuronalen Hin-und-Her-Getrickse zum Trotz.

    Unter den Tisch fällt dann zweierlei: Zum einen die kompetente Abhandlung, ein Bewusstsein zu entwickeln, welche Art von Rolle solche Geräte spielen können. Und das ist eine gesellschaftliche Fragestellung. In China kann man damit ganz unverkrampft umspringen. Einsatz von KI ist als eine gesellschaftliche Aufgabe gesetzt, mit aller Macht und planerischen Definitionsgewalt der riesigen Wirtschaftsnation dahinter. Im Wallstreet-abhängigen Zirkus hingegen überhaupt nicht, dort gibt es nicht Gesellschaft, nicht Nation, dort gibt es Konsumenten und halluzinierte Globalperspektiven. Dort kriechen dann stattdessen gleich durch die Hintertür die Disney-Figuren herein, um reale Aussichten auf Wirklichkeitsbewältigung zu verschleiern. Geheim! Die Profitrate sinkt! Und bevor China Fortschritt definieren darf, muss der Wallstreetzirkus die alten kolonialen Reflexe retten! Man fängt am besten zuhause an und zelebriert Märchen vom armen Radfahrer. So geht hier das Spiel. Inhaltlich ist da keine Substanz. Moral? Nur ein Schlagwort zur Klickrate … und gar zu viele sind darauf hereingefallen – ich sah diesen neuerlichen Aufguss des alten Unsinns nun an mehreren Stellen schon ausgebreitet. Die Hilflosigkeit der Szene muss enorm sein, wenn man solch seltsamen Attacken des social engineering keine substantiell maßgebliche Reflexion entgegenzusetzen vermag.

    Fehlt die kompetente Abhandlung, dann fehlt auch das Rückgrat zur selbständigen Betrachtung, wie die Existenz in einer Welt reflektiert sein sollte, in der solche Maschinen möglich sind, ohne dass sie in der Rolle des Spielzeugs von Hasardeuren in Sinnlosigkeiten für stupide Konsumenten aufgebauscht werden.

    Klar, das erste, was vermieden werden muss, ist der nüchtern reflektierte Umgang des Zeitgenossen mit dem technischen Klimbim, ohne solche Nebelwände. Gewiss wird uns noch das Elend der Intransparenz böse ins Kreuz schlagen, wie die Optimierungskriterien aufgefädelt sind, die als eigener Klapperatismus dann als künstliche Intelligenz angepriesen wird. Das wird dann Gelegenheit für die nächste Sau. Aber rechtzeitig ein breites Bewusstsein zu angemessener Kompetenz ermöglichen, indem der Vernunft die wirksamen Bausteine aufgeschlüsselt werden? Wo kämen wir da dahin? Schon klar: zu Herrschaftsfragen. Aber wer will das dann schon sagen, im Wallstreet-Zirkus?

  14. Die Sache mit den autonomen Autos und dem Unfall. Böses Ding :)

    Ich bin in meiner Tätigkeit als Administrator, Produktverantwortlicher und ab und an auch Programmierer immer wieder damit konfrontiert : “Warum hast du da noch ein Exceptionhandling implementiert?”

    Oft sagen Kollegen zu mir das ich zu gerne und zu viel überprüfe. Getreu dem Motto wenn denn die Stammdaten Lieferung folgendes Format haben muss, dann prüft man das Format, aber auf logische und semantische Inhalte überprüfen – warum der Aufwand?

    So geht es auch den Menschen in der Industrie, welche autonome Fahrzeuge entwickeln sollen. Erst wird die Base erschaffen und dann geht es an das Exception Handling. Nichts anderes ist eben ein Radfahrer, der auf einmal und unvermittelt von Rechts in die Fahrbahn schwenkt und sich den Fahrweg des KFZ bewegt.

    Nun haben wir aber in den letzten 10/15 Jahren eine Kultur der minimalistischen Exception Handlings entwickelt!

    So lernen die Java Menschen halt z. B. :

    public void yourMethod() throws Exception {
    if (some_condition) {
    foobar();
    }
    else {
    throw new Exception(„Something bad happened.“);
    }
    }

    Nur das hier eben nicht nur das throw hilft, sondern nach dem throw “muss” was stattfinden und diese Entscheidungen sind eben nicht Schwarz oder Weiß sie sind wirklich 50000 Shades of Grey. Bewußt sind es nicht 50 denn die möglichkeiten sind so Bunt und Vielfältig, wie Sie eben das tägliche Leben auch so sind.

    Ich hatte den hier benannten Test mitgemacht und mit einer gewissen genugtuung festgestellt das ich weder Dicke noch Dünne, noch Frauen oder Männer, noch Jung oder Alt den Vorzug gebe. Ich habe den Hang eher Rechtsverletzer und andere Spezies zu gefährden als den Menschen die Regelkonform, einfach nur zur falschen Zeit am falschen Ort waren.

    Doch Menschen “ticken” eben unterschiedlich und somit werden andere Menschen dies auch anders entscheiden. Für mich stand von Anfang an fest, als die ersten autonomenen KFZ vorgestellt wurden, dass diese nur nach dem prinzip des geringsten Schadens funktionieren können.

    D. h. es muss eben eine Logik gebaut werden, welche im Zweifelsfalle den geringsten Schaden oder die geringste berechenbare Menge an Toten in Kauf nimmt. Ebenso war mir klar das man die Straßen für den Betrieb von autonomenen Fahrzeugen überarbeiten muss.

    So brauchen Strassen ein zusätzliches Sensoren Netz, welches die KFZ mit Informationen über Passanten, Radfahrer und andere Events versorgt und es macht zwingend notwendig das alle! KFZ in einem Radius “X” miteinander Kommunizieren und dabei ihre Daten, Entscheidungen und geplanten Operativen teilen.

    Somit hätte bei mir die Entwicklung von autonomenen KFZ in einen Meetingraum begonnen, wo man ein solches Protokoll und/oder Protokolle entwirft und diese dann verbindlich in die individuellen Lösungen einbaut. Ein Industriestandard, dessen Einhaltung auch überprüft und nachgehalten wird.

    Doch stattdessen wurde eben erst einmal gebaut und versucht die menschliche Sensorik in KFZ zu implementieren und mit einer gewissen Computer-Ethik zu programmieren. Das Problem dabei ist aber das hierbei nicht mehr diese Logik gelten kann. So reden wir Menschen während der Fahrt eben nicht mit den anderen Autofahrern, sondern sind auf uns allein gestellt.

    Erst wenn wir bereit sind die KFZ miteinander zu vernetzen kann man das Entscheidungsspiel aus dem Test erneut durchführen. Dabei gilt dann eben nicht mehr das dieses Auto in ein Hindernis steuert, sondern ggf. sogar ein zweites oder drittes KFZ eingreift und man einen “kleinen” Massenunfall hat um eben das schwächste Glied in der Verkehrskette zu retten.

    Die Einzelentscheidung wird dann auf das Programm treffen, wenn “alleine” auf der Strasse ist und dort ist meist genug Platz vorhanden um noch was zu tun! Das gilt insbesondere dann, wenn man nach den Regeln fährt.

  15. Ich finde diesen Artikel sehr einseitig.

    Als Radfahrer in Berlin werde ich AKTUELL jeden Tag mehrfach ignoriert und fast überfahren. Das ist lebensgefährlich und jedes Jahr sterben ja viele Radfahrer durch MENSCHLICHE Autofahrer.

    Warum sollte ein Konzern daran interessiert sein ein Fahrzeug zu bauen das die Verkehrsregeln missachtet und damit reihenweise Radfahrer umfährt?

    Insgesamt habe ich sehr viel mehr Angst vor menschlichen Fahrern.

  16. Neben einer Klärung, ob Maschinen regelkonform in einer Umgebung agieren sollten, wenn das generelle Funktionieren der Umgebung aus gelegentlichen oder häufigen Regelübertretungen der Akteure besteht …

    Mir fehlt in der Diskussion ein, meiner Ansicht nach überdominant erst zu klärender Punkt. Ist die Entwicklung und der Einsatz von automatisierten Systemen im individualen Transport ein gültiger Ansatz für die Lösung welchen Problems?
    Lässt sich das Problem, wenn es denn relevant dadurch voll zufriedenstellend gelöst werden kann, durch andere Maßnahmen und Maßgaben mit weniger Nebenfolgen lösbar?

  17. Was hier gar nicht diskutiert wird ist die Frage, wie denn die „Verkehrsregeln“ lauten. Liest der computer sie ein oder werden sie nach menschlichem Gefühl einprogrammiert? Ich empfehle einfach mal in der StVO zu lesen, anstatt reflexhaft zu wiederholen was Mama dem Kind eingeimpft hat, ehe eine voreilige Antwort zum Thema „illegal die Straße kreuzende Fußgänger“ gegeben wird.

  18. Ich halte es mit Water Röhrl: Wenn ich autonom fahren möchte nehme ich Bus oder Bahn.
    Natürlich ist der Mensch auch eine Fehlerquelle, aber so wie die Sache zur Zeit steht, ist die Technik eine viel größere Fehlerquelle.
    Wir lassen uns durch die Technik schon genug abnehmen. Nicht nur, daß sich heute niemand mehr eine Telefonnummer merken kann, weil sie ja im Handy angespeichert ist, es ist auch niemand mehr in der Lage sich in der Öffentlichkeit zu bewegen, ohne permanent durch ein Smartphone abgelenkt zu sein.
    Kaum ein junger Mensch nimmt auch nur irgendetwas in seinem Umfeld noch wahr.
    Jetzt sollen auch noch die Autos allein fahren.
    Damit sinkt die Aufmerksamkeitsspanne junger Menschen auf null.
    Besser wäre es den Individualverkehr unter diesen Bedingungen abzuschaffen, weil sich sowieso kein junger Mensch mehr über die Dauer einer Autofahrt auf das Fahren konzentrieren kann.
    Das wäre für den Fortbestand unserer Erde ein echter Gewinn.

  19. Vielen Dank für den guten Artikel.
    Anhand der Streuweite der Kommentare lässt sich gut sehen, dass wir in Dt. und generell als Menschheit mit diesem Thema noch sehr am Anfang stehen, und noch viel Zeit für Diskussionen vonnöten sind.
    Ich kann mir dieses ganze autonome Fahren in deutschen Städten ehrlich gesagt nicht vorstellen, vielleicht auf Autobahnen. Die Städte müssten massiv umgebaut werden, wofür weder das Geld vorhanden ist, noch die planerischen Prozesse ausgelegt sind (siehe nur Proteste Stuttgart 21, Elbvertiefung). Jetzt stelle man sich vor die Stadtverwaltung will die gesamte Stadt umbauen nur für das autonomen Fahren?
    Andererseits bin ich darauf gespannt, welche Taktiken sich Fahrradfahrer ausdenken würden, ihre eigene Sicherheit zu erhöhen? Ich würde zB einfach kein computergesteuertes Auto mehr durchlassen; was soll schon passieren? Aktuell ist es immer eine Abwägungssache, wie weit man Autofahrer reizen kann, oder damit seine eigene Gesundheit gefährdet. Ich fahre zu meiner Sicherheit immer prominent auf der Straße und halte Abstand zu parkenden Autos rechts. Das wird jedoch häufig als Provokation ausgelegt von Autofahrern und ich werde sehr knapp links überholt. Wenn das autonome Auto sowas nicht mehr macht, sondern mit 20km hinter mir herdackelt, ist doch ok;)

    Zusatz: Der größte Nutzen von selbstfahrenden Autos wäre, dass es keine Raser mehr geben würde. Alle Autos würden sich technik-bedingt an die 50 oder 30 Vorschrift halten. Oder gäbe es da einen kleinen Knopf über dem Warnblinker das diese Funktion ausschaltet;)

  20. Ich habe gerade innerhalb der Jubiläumssendung der ARD zum 70. Geburtstag der Verfassung die Publikumsdiskussion mit dem Vorsitzenden des BVG Hr. Andreas Voßkuhle
    am 22.5.2019 20:15 Im Namen des Volkes – Deutschland fragt zum Grundgesetz

    Als Beispiel für KI Entscheidungen deutete er klar an, dass es keine KI Entscheidung geben darf, die gegen das Grundgesetz verstößt.
    D.h. die KI eines autonom fahrendes Auto darf nicht eine Entscheidung treffen, welcher Mensch möglicherweise einen Unfalltod erleiden könnte.
    Das sehe ich allerdings auch schon bei einer Person.
    Das wiederum bedeutet das Ende einer KI, wenn Menschen einen Schaden erleiden müssten durch eine notwendige oder fehlerhaften KI Entscheidung.

Dieser Artikel ist älter als ein Jahr, daher sind die Ergänzungen geschlossen.