Kultur

#33c3: Das Problem der Ethik bei selbstfahrenden Autos

Maya Ganesh ist Leiterin beim Tactical Tech Collective für angewandte Forschung, Halbzeit-Doktorandin und hielt einen Vortrag beim 33C3 über „Ethik in der Datengesellschaft – Macht und Politik in der Entwicklung fahrerloser Automobile“.

Screenshot: CCC. Lizenz: Creative Commons BY 3.0. Maya Ganesh auf dem CC3C, 2016

Der 33C3-Vortrag „Ethics in data society – power and politics in the development of driverless cars“ befasst sich mit den Verstrickungen von maschineller Intelligenz, menschlicher Ethik und selbstfahrenden Autos sowie in diesem Kontext mit der Problematik, Software zu programmieren, welche zu moralischen Entscheidungsfindungen fähig ist. Ein Kernproblem der Thematik ist der sogenannte Weichenstellerfall („trolley problem“), auf den Maya Ganesh Bezug nimmt und welcher ein moralisches Dilemma darstellt: In diesem Szenario rast ein Auto unweigerlich auf eine Gruppe von Menschen zu, doch durch Ausweichen besteht die Möglichkeit, nur eine Person zu überfahren – anstatt mehrerer – und den Schaden somit zu begrenzen. (Der Weichenstellerfall nimmt einen Zug als Beispiel.)


netzpolitik.org - unabhängig & kritisch dank Euch.

Wie sollte man sich nun entscheiden?

Ein Dilemma, welches die Grenzen moralischer Bewertung von Handlungen aufzeigt und in Bezug auf selbstfahrende Autos die Problemstellung aufwirft, ob in einer kritischen Situation das Auto die Insassen um jeden Preis schützen oder aber utilitaristisch handeln soll, um in Summe mehr Leben zu retten („Happiness of the biggest number“). Die Ethik der Technologie ist hierbei kontextgebunden und ein zu weitreichender Begriff, wie ihn Annany beschreibt, um vorschnell in Algorithmen gegossen zu werden:

„Die Ethik der Technologie entsteht aus einer Mischung von institutionalisierten Regeln, sachkundiger Bildung, technischen Möglichkeiten, sozialen Gewohnheiten und individueller Entscheidungsfindung. Allerdings sind ethische Erhebungen nicht ein Test, den es zu bestehen oder eine Kultur, die es zu befragen gilt, sondern eine komplexe soziale und kulturelle Errungenschaft.“
(Annany, 2010)

Ein Team des Massachusetts Institute for Technology (MIT) arbeitet zurzeit an einem Projekt, um eine moralische Maschine zu entwickeln. Dabei versuchen sie, den Weichenstellerfall zu umgehen, indem sie eine Anzahl an Szenarien erstellen, diese öffentlich zugänglich machen und die Bürger über den Ausgang des Dilemmas entscheiden lassen. Eine andere Möglichkeit wäre, das Programm zufällig entscheiden zu lassen.

Jedoch sind beide Lösungsansätze noch nicht ausgereift, wie Maya Ganesh mit dem Beispiel der lernenden Thermostaten illustriert: Diese könnten nicht unterscheiden, ob eine Person aus ökologischen Gründen wenig heizt, weil sie selten zu Hause ist oder auch einfach nur zu warme Räume nicht erträgt. Was wiederum Fragen zur Moralfähigkeit von Maschinen aufwirft.

Screenshot: CCC. Lizenz: Creative Commons BY 3.0. Ausschnitt eines Szenarios des moral-machine Projektes
Screenshot: CCC. Lizenz: Creative Commons BY 3.0.
Ausschnitt eines Szenarios des moral-machine Projektes

Doch sind die ethischen Problemstellungen nicht die Einzigen, die auf uns zukommen werden, da auch andere Fragen noch ungeklärt sind. Etwa: Was aus einer Stadt wird, die nur von selbstfahrenden Autos befahren wird, sollte die Vision tatsächlich eines Tages Realität werden. Würde sich das Stadtbild im unterstützenden Sinne für fehlerfreie Fahrten ändern? Müsste man beispielsweise Schilder durch QR-Codes ersetzen? Die Straßen geradliniger gestalten oder Autos einheitliche Farben zuschreiben? (Ganz zu schweigen von den ökonomischen Implikationen, die damit einhergehen.)

Ebenfalls ändert sich die Fragestellung, von „Was wir über Maschinen denken, die denken“ hin zu „Was denken wir über Maschinen, die lernen“. Eine Frage, die das Mensch-Maschinen-Verhältnis betrifft.

Es steht ein langer Weg bevor

Maya Ganesh ist überzeugt, dass selbstfahrende Autos genauso starke gesellschaftliche Einflüsse auf den Menschen ausüben werden wie die Nutzung von Strom oder die Erfindung des Telefons, auch wenn die Integration der Next-Generation-Autos in die Gesellschaft noch vor einigen Hürden steht und Zeit brauchen wird, da diese Autos derzeit noch langsam lernen.

Abgesehen von Meinungen, dass Ethik nicht in Software abgebildet werden kann, steht die Wissenschaft noch vor einem langen Weg, wie der Unfall eines Tesla-Autos im Mai bewies, als der Autopilot nicht in der Lage war, zwischen dem Himmel und der Ladeklappe eines LKWs zu unterscheiden und somit nicht die Bremsen betätigte.

Und auch bei Fragen, ob etwa ein selbstfahrendes Auto Stadtviertel mit belegt höheren Kriminalitätsraten umfahren darf, welches wiederum in einem gewissem Maße zu einer sozialen Ausgrenzung führt, handelt es sich um Problemstellungen, die nach wie vor noch nicht gründlich genug behandelt wurden – genauso wenig wie weiterhin ungeklärte Versicherungsfragen. Und dies alles stellt dennoch nur einen Bruchteil der kommenden Problematiken dar, die selbstfahrende Autos mit sich bringen werden.

25 Kommentare
  1. Das ganze ist ein philosophisch aufgeblasenes Problem, dass sich an überspitzten Randproblemen abarbeitet. Der Weichenstellerfall ist ein typisches Beispiel. Erstens ein sehr unwahrscheinlicher Fall und zweitens, und entscheidender, wie würde ein Mensche reagieren? In einer Situation in der rechtzeitiges Bremsen nicht mehr möglich ist, ist keinerlei Zeit mehr für irgendwelche Bewertungen der möglichen Opfer(zahlen). Der menschliche Fahrer wird, und das ist vollkommen natürlich, als allererstes in einer instiktiven Reaktion sein eigenes Leben retten suchen. Erst in zweiter Linie wird er versuchen andere Opfer zu minimieren – auf Basis einer groben Abschätzung der Situation.
    Und wenn man einfach akzeptiert, dass das eigene autonome Fahrzeug ersteinmal so handeln soll wie es der menschliche Fahrer tun würde, lösen sich alle weiteren Fragen auf. Auch die Frage, ob ein Fahrzeug autonom bestimmte Viertel meiden sollte. Ein Familie mit Kindern würde ihr Fahrzeug auch nicht gerade am stadtbekannten Strassenstrich vorbeisteuern, geweige den in Vierteln mit hohem Unsicherheitsgefühl. Warum also das Fahrzeug gegen den Willen ihrer Besitzer handeln lassen? Warum glauben, dass Fahrzeuge ihre Besitzer bevormunden, gar zu politisch korrekten Menschen umerziehen müssten?

    1. Schon mal in Indien in einem tuktuk (Autorikscha) im Großstadtstraßenverkehr unterwegs gewesen? Da geht es rasant von einem überspitzten Randproblem zum nächsten, das dann wieder ebenso elegant wie gekonnt umschifft wird. Also zumindestens bis die nächste Kuh oder ein Elefant vor einem auftauchen…

    2. Bei all den unverhältnismäßog negativen Kommentaren kann einem schon mulmig werden…Es geht bei dem Trolley Problem keinesfalls um eine echte, realistische Situation, die sich jemals so ereignen würde. Diese Situation ist ein Gedankenkonstrukt – ein idealtypisches, surreales Besipiel, dass ein bestimmtes Prinzip offenlegen soll, eine tiefgehende ethische Frage: sollen oder sollen wir nicht Menschenleben gegeneinander verrechnen? In der Praxis würde die Antwort auf diese Frage in ein Autonomes Fahrzeug Programmiert werden, aber niemals würde nur dieses einzelne Prinzip dann zur Handlungsenscheidung führen, sondern einfach als ein weiterer Punkt in der Alghoritmusberechnung einfließen.

      „Und wenn man einfach akzeptiert, dass das eigene autonome Fahrzeug ersteinmal so handeln soll wie es der menschliche Fahrer tun würde, lösen sich alle weiteren Fragen auf.“

      Selbstfahrende Autos ersetzen nicht nur den Menschen, sondern erweitern auch den Bereich, indem dieser Urteilen kann. Im Falle eines unvermeidlichen Unfalls, hat das Fahrzeug zum einen mehr Informationen und zum anderen mehr Zeit eine Entscheidung darüber zu fällen, was getan wird. Man spricht von Unfalloptimierung. Natürlich kann man sagen: Ne, machen wir nicht, lass es uns so handhaben wie bisher. Kann man, klar. Meiner Meinung nach aber, ist es aber die Pflicht einer Gesellschaft, sich diesen Fragen zu stellen. Weil wenn es nicht die Gesellschaft macht, tun es die Autohersteller. Und deren Ethik wird sich eher daran bemessen, was ihnen im Falle eines Unfalls, die wenigste negative Publicity bereitet.

      Und um Politische Korrektheit geht es hier schon mal gar nicht. Es geht um Themen der Gerechtigkeit und der Werte einer Gesellschaft und um die Übersetzung derselben in den Alltag, in diesem Fall, die selbstfahrenden Autos.

      Die meisten Skeptiker hier, tun die Frage als Unfug ab, beantworten Sie damit aber faktisch: keine Entscheidung braucht keine Rechtfertigung. Ist also bequem.

      1. „Selbstfahrende Autos ersetzen nicht nur den Menschen, sondern erweitern auch den Bereich, indem dieser Urteilen kann.“
        Richtig und die gesamte Energie zur Nutzung dieses Spielraums sollte in die Unfallvermeidung fließen, nicht in die „Unfalloptimierung“.Den im Idealfall stehen den automonomen und vernetzten Fahrzeugen so viele Informationen zur Verfügung, dass Unfälleauf die geringst mögliche Zahl reduziert werden. Jede, in einen Algorithmus gegossene „Unfalloptimierung“ würde im Zweifel ein in Code beschlossenes Todesurteil bedeuten. Würde gerne sehen wie so etwas nach außen kommuniziert wird. Soviel zu „… [den] Autohersteller[n]. Und deren Ethik wird sich eher daran bemessen, was ihnen im Falle eines Unfalls, die wenigste negative Publicity bereitet.“
        Ich als Softwareentwickler wollte keinen Algorithmus entwickeln, der Leben gegeneinander aufrechnet. Und ich als Autobesitzer in kein Fahrzeug steigen, dass im Zweifel mein Leben opfert.
        Die ganze Trolley-Problematik ist ein Framing das die Diskussion in Bereiche lenkt, die sich vortrefflich für lange Reden und noch längere Abhandlungen eignen, die den enormen Vorteil haben, niemals konkret werden zu müssen. Also das perfekte Spielfeld für Philosophen.

        1. Spielfeld für Philosophen? Es scheinen einfache Grundannahmen zur ersten Denkdisziplin der Denkdisziplinen völlig vor aus dem Ruder gelaufen. Zu viel Dschörnalismus dabei, vielleicht, zuviel Unterhaltungskino. Usw. Und wo bleibt die Denkdisziplin?

          Das einfache fehlt: Bevor man mit Gedanken fingierte Folgesequenzen abspulen will, möchte man ja bitte doch elementare Statthaftigkeit unterstellen können. Und die gibt die Kiste mit dem Trolley nicht her. Vielmehr entlarven sich die auf dem Trittbrett, gerade auch auch die kritischeren, als schaumschlagende Glaubensapostel: Das infantile Unterfangen, die Maschine zu vermenschlichen, bevor die beteiligten Punkte überhaupt als parametrisierbar eingestuft wurden, entspringt einem Unterhaltungskino für den Kindergarten und mehr ist nicht dahinter, kann rein systematisch nicht dahinter sein.

          Was dem einen Reiz verleiht, ist nur die Masche der Dramatik, mit der sich dann Erzählstränge assoziieren lassen. Die haben aber keine stringente Kopplung. Das ist von daher kein Experiment sondern aufwiegelndes Geplappere ohne Erkenntniswert.

          Systematisch gewänne das an Substanz, wenn die einfachen Fragen beantwortet würden, wie kommt eine Maschine an flüchtige Echtzeitdaten, mit der sich die Sinnhaftigkeit des Experiments überhaupt nur rudimentär festigen ließe? Ich deutete es nebenan schon an: Es ist die monotheistische Projektion von Allmächtigkeit als Glaubenssatz hierzu unabdingbar, und dessen Umsetzung als technische Totalüberwachung, mit einem kulturellen Kontext von dieserart. geschädigten Populationen. Anders kommt eine Maschine nicht an solche Daten.

          Und der nächste Punkt is infantil im gleichen Maße, dass der Beobachter hier nicht technische Abfolgen sehen will, obwohl er sich vormacht, nur daran interessiert zu sein, so will er sich selbst als Menschen hier aus dem Spiel bringen, die endlosesn Lernketten und persönlichen Historien, mit denen Wertschätzungen gegenüber Zeitgenossen zu etablieren sind, kurz und prägnant auf nur eine kurze Vokabel verkürzen, Die Kriegsverbrecherin sagte, ich kam, ich sah, er starb und gackerte dabei. Das ist der soziopathisch treffende Plot für diese Gier, wie der Mensch sich auf dem hohen Ross als sagenhafter Beobachter inszeniert, aller Nähe zu Handlungen enthoben. Alleine die knapp positionierte Vokabel ist dann per Selbstherrlichkeit zur Erkenntnis stilisiert, und was dieses Trolleyding da macht, mit welchen Konstellationen das gefüttert wird, ist schon wieder uninteressant für den Erfahrungshorizont. Es war darauf angelegt, spannend und unterhaltsam su sein …. kleine Augenauswischerei, danke.

          … was bei Verkehrsmitteln, als Thema, ja auch wiederum nur billig ist – wo eine vorbeirauschende Geographie zum Konsumartikel wird und die Präsenz in der Wirklichkeit in einem virtuellen Wohnzimmerdasein entschwindet. Ach, hat da jemand nach Ethik gefragt?

          Bittte denn rein prinzipiell einmal die Stringenz zu den gedanklichen Verkettungen, auch die Unentbehrlichkeit mancher Bausteine betreffend, beim Service checken lassen. Danke!

          Eigentlich stimmt mich hier aber mehr der begleitende Aspekt betrüblich, abgesehen vom eingebauten Unfug dieses Holzhammergequakes, nämlich, dass den Leuten, die da andächtig nickend lauschen, die Bedingungen zur Reflektion über ihre eigene Würde noch nicht einmal mehr soviel wert sind, dass man um ihretwegen um die angedeutete kleine Ecke hinausdenken würde.

          Auf so ein Knallkopf-Szenario, das man mit so einem Ansinnen beginnen lassen möchte, bitte! wo kann ich für die Maschine ein Stück Ethik herunterladen? möchte ich mich, weil nichts als nur albern, schon nicht mehr einlassen (das ändert sich auch nicht, wenn man genau dies eingangs als vermeintliche Ironie paraphrasiert – wenn man hernach dann dennoch voll darauf aufsetzt).

          Wer die Albernheit an der Stelle nicht durchschaut, für den hatte ich die Gegenüberstellung von Vokabelgeneratoren und Sinnstiftung anzubieten, vielleicht hilft es etwas, mit Vokabeln alleine ist gar so billig jonglieren – wir sind hier auf dem Niveau von Trickbetrügereien, wahrscheinlich mit dem Ansinnen gepaart, durch oberschlaues und treuherziges Auftreten bei Sponsoren einen Geldsegen locker zu machen.

          Wenn von Ethik in einem Sinn die Rede sein soll, die dem Gewicht der damit möglichen Aussagen eher angemessen ist, dann sind die ersten Fragen hier gesellschaftspolitischer Natur, sowie solche, wie hier von Menschen zu Menschen über Menschen geredet werden kann. Technik ist ein Hilfswerkzeug, und zur fundamentalen Frage, am Beginn einer ethischen Betrachtung, gehört die Forderung an die Politik, eben dies zu gewährleisten, dass von Menschen zu Menschen über Menschen handelnd die Rede sei, und zwar nicht durch schön lobendes Reden, sondern ganz hart gesagt:

          dass von Staats wegen der Beweis an misstrauische Bürger aktiv zu erbringen ist, dass nicht der Staat mit dem sich neu anbahnenden Technik-Spielzeug als Terror-Apparat auftritt. Die Forderung, dem durch aktive Beweissischerung entgegenzutreten, ist durchaus naheliegend. Skandalisierend abzuwimmeln ist in dieser Welt nun schon wenig.

          Weil, das ist das erste, was mit solchen Maschinen angestellt werden kann – höchst intelligent und unscheinbar Katastrophen inszenieren, Menschen gegeneinander ausspielen, zentrale Machtpositionen absichern. Wir erinnern uns hier leicht an die Augenauswischerei, mit der man konfrontiert wird, wenn man nachfragt wie es um die Fernbedienbarkeit von Verkehrsflugzeugen steht, Standard und prinzipiell in Verwendung, etwa seit den 1990er Jahren. Ach.

          Frage nach Ethik? Wir sehen stattdessen entmündigte Gestalten, noch und noch, denen immer wieder gleich übers Maul gefahren wird, wenn der Bürger Ansprüche an ein korrekterweise zu erwartendes Wohlverhalten stellt, zumindest wenn man in Grundzügen dem Erbe der bürgerlichen Aufklärung die Treue halten will.

          Nun, wenn nurmehr Vokabeln akkumuliert und aufgeschlichtet werden (wozu englischsprachige Formulierung von Haus aus massiver einlädt, als etwa auf Deutsch oder auf Französisch), so ist plötzlich die Rückverkettung der Personen in ihre Historie in einem größeren Zusammenhang nurmehr ein Mythenzirkus aus einer Schublade des Unterhaltungskinos. Dass dies gefährlich werden könnte, ist da schon garnicht mehr auf dem Radar.

          Nun. Ethik in den Sandkasten. Die Ontologie als Softwareinstrument gleich daneben. Verharmlosung wo immer es geht. Lieben Gruß vom Land der kastrierten Idioten & und schnuckelig unverfänglichem Geplänkel …

          ein Stück massive Verwirrung im Sprachbaukasten dazu (sagte da jemand postfaktisch?),

          dann bleibt die Tendenz aufrecht: dass die Leute immer weniger wissen, wovon sie eigentlich reden.

          (Mist, das wird immer gleich so lang, auch wenn ich nur kurz eine Antwort abladen wollte. Sorry.)

        2. Hallo!
          vielen Dank für Ihre Antwort!

          „richtig und die gesamte Energie zur Nutzung dieses Spielraums sollte in die Unfallvermeidung fließen, nicht in die „Unfalloptimierung““

          Das steht ja vollkommen außer Frage! Natürlich sollen die Hersteller das tun und ich denke auch, dass wir damit einiges an furchtbaren, tödlichen Unfällen vermeiden werden können. (90%der tödichen Unfälle sind auf menschliches Versagen zurückzuführen, ein Großteil davon könnte man also verhindern).

          Trotzdem: das Leben ist nicht zu ein Hundert Prozent vorhersagbar, nicht jede Situation lässt sich ausschließen und vermeiden. Einmal weil man niemals alle Informationen hat, eine Unfallsituation vorherzusagen, einmal weil die Komplexität der Vorhersagen ins Unendliche steigt. Und genau dieser (zugegeben kleine) Prozentsatz an Unfällen sollte „optimiert“ werden.

          „Ich als Softwareentwickler wollte keinen Algorithmus entwickeln, der Leben gegeneinander aufrechnet. Und ich als Autobesitzer in kein Fahrzeug steigen, dass im Zweifel mein Leben opfert.“

          Das mag ja sein, aber nichts tun ist keine Option! Weil wenn man es nicht programmiert, überlässt man es dem Zufall bzw. dem, was der Unfallvermeidungsalgorithmus übrig lässt. Ich denke, das KANN man machen, ist dann aber eben eine moralische Position, übersetzt in das Trolleyproblem: Sie würden den Zug weiterfahren lassen, weil sie Menschenleben nicht gegenrechnen möchten. Das ihr gutes Recht und sie haben das auch gut argumentiert.
          Was mich allerdings an Ihrer Argumentation stört ist, dass sie die Frage an und für sich für sinnlos halten („das die Diskussion in Bereiche lenkt, die sich vortrefflich für lange Reden und noch längere Abhandlungen eignen, die den enormen Vorteil haben, niemals konkret werden zu müssen.“), sich aber gleichzeitig direkt zu der Fragestellung positionieren? Sie möchten also, weil sie offenbar schon die Lösung für uns alle herausgefunden haben, eine Diskussion vermeiden. Wieso? Stören sie etwa mögliche unangenehme (weil utilitaristische) Gegenargumente? VErstehen Sie, dass sie sich schon lange in der Diskussion die sie für sinnloshalten befinden?

          Viele Grüße

          1. “ Ich denke, das KANN man machen, ist dann aber eben eine moralische Position, übersetzt in das Trolleyproblem: Sie würden den Zug weiterfahren lassen, weil sie Menschenleben nicht gegenrechnen möchten.“
            Nochmals, das Trolleyproblem ist ein Framing das die Diskussion in ein binäres Entscheidungschema zwingt, welches mit der Realität nichts zu tun hat. Den ein reales Auto fährt nicht auf Schienen und hat deswegen nicht nur die Möglichkeiten A zu töten oder B zu töten. Sondern es hat eine große Zahl weiterer Optionen, unter anderem Option C – zwischen A und B hindurchzu fahren. In diesem Sinne geht es also gar nicht um die Bewertung von A oder B, sondern ausschließlich darum eine möglichst optimale Lösung C zu finden, dahingehend müssen die Resourcen fließen. In so fern bleibe ich bei meine Aussage, dass die Diskussion sinnlos ist, weil die falschen Fragen gestellt werden. Und um das klarzustellen, investiere ich gerne Zeit.
            Man kann innerhalb der falschen Fragen durchaus anfangen utilitaritisch zu argumentieren. Nur wenn man dann anfängt konkret zu werden, und Algorithmen müssen konkret sein (politisch korrekte Schwurbelikeit ist nichts mit der Computer etwas anfangen können), wird das eine äußerst hässliche Diskussion, wenn man anfängt Frauen gegen Männer, Steuerzahler gegen Harzter, Junge gegen Alte … gegeneinander aufzurechnen um ihnen einen konkreten Wert zu geben, den nur mit so einem kann ein Algorithmus arbeiten. Abgesehen von den technischen Schwierigkeiten diese Bewertung rechzeitig durchzuführen – ist es das was man sich so unter Maschinenethik vorstellt?

  2. Das Problem der Weichenstellung ist keines. Bei Inbetriebnahme muss der Besitzer eines solchen Fahrzeugs bestimmen, wie sich die KI in bestimmten Fällen entscheiden soll. Und schon ist die Verantwortung wieder beim Menschen. Das „Problem“ entsteht nur, wenn man der Maschine diese Entscheidung überlassen will, die aber per se keine Verantwortung tragen kann. Dann wäre letztlich ohnehin der Besitzer verantwortlich. Also kann man das auch gleich an den Anfang des „Problems“ setzen.

    Abgesehen davon: wer würde in ein Fahrzeug einsteigen, das im Falle des Falles das Leben der Insassen riskiert, nur weil es rechnerisch vielleicht besser wäre? Niemand. Entsprechend werden sich auch die Besitzer selbstfahrender Autos für den Selbstschutz entscheiden (mit Ausnahmen vielleicht) – und das machen menschliche Fahrer ohnehin schon aus Instinkt.

    1. Ja. Eigentlich sollte das der abschliessende Kommentar zu der Frage sein.

      Trolley-Pseudoprobleme sind m.E. vor allem die Domäne pseudointellektueller Berufs-Derailer. Sie stellen scheinbar elementare Situationen dar, die sich bei aber beim Nachdenken als ein absurdes Framing herausstellen – die Vorstellung, es gebe elementare „moralphilosopischen“ Situationen, die irgendwie berechenbar wären, macht wenig Sinn, außer wenn es abstrakte, kategorische, formalisierbare Antworten auf ethische Fragen gäbe – ethische Frage sind aber nach meinem starken Dafürhalten normalerweise konkret … es gibt keine richtige Antwort, die man „einprogrammieren kann und gut ist“.

      Schon gar nicht kann oder sollte ein Computer, der schließlich allen Beteuerungen der zahlreichen AI-Propheten entgegen noch immer nichts *verstehen* kann, diese Fragen – algorithmisch oder durch irgendwelche gelernten Heuristiken – „entscheiden“.

      Trolleyprobleme stiften vor allem Verwirrung und lenken von genau dem Punkt ab, den du gerade gemacht hast.

      Ich habe den hier genannten Vortrag noch nicht gehört, kann aber auf jeden Fall auch den über Automatisierung im Flugverkehr empfehlen. Da werden einige Unterschiede zwischen Autopilot in der Luft und am Boden deutlich gemacht.

      1. Wo die ethischen Fragen abstrakt sind und eine relativ klare Antwort haben, etwa „du sollst nicht grundlos töten“, kann ein Computer immer noch nichts mit ihnen anfangen, solange er bloß Daten verarbeitet und nicht versteht. Nein, ein selbstlernendes neuronales Netz o.Ä. reicht da nicht. Die mögen nach gewissen Vorgaben beeindruckende Klassifikationsergebnisse liefern, aber die Art Fehler, die sie machen, entlarvt ihr fehlendes Verständnis unmittelbar.

        Nebst Materialfehler, menschlichem Versagen, haben wir dann bald Unfälle, die durch vor Hybris triefenden AI-lern vermarkteten Computerprogrammen ausgelöst wurden, die sich wider Erwarten anders zu verhalten beginnen als vorab verlautbart. Oder durch Trojaner gekaperte werden. Das Ganze schmeckt dann nach Vorsatz.

        Hier schon mal ein prophylaktisches: „told you so“.

  3. „selbstfahrendes Auto Stadtviertel mit belegt höheren Kriminalitätsraten umfahren darf“ das hat doch absolut nichts mit selbstfahrenden Autos zu tun. (Tipp: GPS Navigation gibts schon länger).

    jad schrieb:
    > Das Problem der Weichenstellung ist keines.

    Ich schließe mich dem voll und ganz an. Das einzige Problem in dieser Beziehung ist ob man die selbstfahrende Autos überaupt so schnell fahren lassen soll, dass es zu Unfällen kommen kann.

    Insgesamt ist diese philosophische Debatte über solche Entscheidungen ja nur Ablenkung von den vielen(!) wirklichen Problemen:
    1.) Autosoftware ist unglaublich komplex und gänzlich von uns nicht einsehbar
    2.) Autosoftware lädt dazu Fahrer vollkommen zu überwachen: ist viel einfacher es direkt als über Nummerschilder zu machen. Und es gibt *viele* Interessenten, nicht nur Versicherungen.
    3.)

  4. 3.) Netzpolitik, die Liste bitte fortsetzen und nicht die von Medien vorgekauten Probleme wiederholen, danke!

    (Bitte größer/kleiner Zeichen escapen und nicht den Text dazwischen rauslöschen)

  5. Solange ich Geduld hatte, mir das zeitgeistkonforme Gebrabbel zu geben (im aufliegenden Video etwa bis zur Hälfte durchgehend, danach in Stichproben), gab es mir doch wieder nur einen neuen Aufguss von obergeilen Projektionen in selbstreferentiellen Glaubenskonstrukten – nichts wirklich durchgekaut, nichts rigoros genug geerdet, dass man die Rede von verantwortungsbewusst denkenden Menschen unterstellen möchte. Das geht dann nicht persönlich gegen die vortragende Referentin (als da sie in einem gegebenen Kontext mitschwimmt), das ergibt einen Auftritt von sich gegenseitig verherrlichenden Glaubensbezeugungen. Wenn es wenigstens in einigen Details tragfähig wäre, könnte man einhaken, aber wie sich das im Kreis dreht, hat man ein Problem etwa wie mit der Rabulistik, wo immer man hingreift, muss bittesehr der Versuch der genaueren Betrachtung für den Hingreifenden ins Leere laufen.

    Noch nicht einmal die einfachsten Anfoderungen an rigide erkenntnistheoretische Gewissenhaftiigkeit kommen dieserart auf den Prüfstein. Motorenunsterstützte Fortbewegung? ach, es ist sowieso immer schon dagewesen, weitere Fragen hierzu mögen wir nicht. Gesellschaftspolitische Fundierung, mit der die Motivation zur Forschung sich begründete? Brauchen wir nicht. Es gelten die Annahmen zur ewigen Kriegsführung jeder gegen jeden, und deren Überführung in finanz-opportune Entscheidungsmodelle wie Kostenersparnis, billige Produktion, Gier beim Umgang mit dem Material. Und stets die Forderung nach Gewissheit: was heute Verschwendung ist, muss morgen mehr Verschwendung werden.

    War von Ethik die Rede? Kurz verschlagwortete Denkschulen vielleicht, aber inhaltlich weit und breit davon keine Spur. Beim vorgeführten Thema macht das einen Wust von ideologischer Berauschtheit.

    Es gibt kein Selbst das aus Maschinen spricht! Es gibt nur erneut immer wieder die alte und immer noch mehr irre rotierende Gier einserseits, beflügelt andererseits, aus elementarer Entfremdung Kapital schlagen zu wollen. Dies gepaart mit dem absoluten Unwillen, dass der Mensch erstmal sich selbst zum Thema mache bevor er antritt, eine Transzendierung seiner selbst zu riskieren. Man laviert dann nurmehr andauernd zwischen drohenden Bauchlandungen, so ist für Unterhaltsamkeit Sorge getragen.

    Wenn denn wenigstens die Basis gewissenhaft studiert wäre, so könnte man dem mit einem Bündel Humor entgegensehen, der Mensch kann nun eben leider nicht anders, als immer wieder mit dem Kopf gegen dieselbe Wand rennen, wenn sie auch immer wieder neu angestrichen ist. Aber wenn mit dem Brett vor dem Kopf elementare erkenntnistheoretische Errungenschaften dermaßen ignoriert werden, kann einem nur bange werden, vor dem totalitären Anstrich, der mit solch verantwortungslosen Aufguss den Menschen um die Ohren fliegt, sobald mit freidrehenden Vokabelgeneratoren, auf der Basis des Verzichts auf Verantwortungsdenken, zur nurmehr lobbygesteuerten Entscheidungsfindung übergegangen wird, weitab entsprechend tragfähiger Vernunft.

    Wäre ich jetzt fleißig, würde ich mich brav einreihen in der Kiste mit den Vokabelkonstrukten. HIer nur knapp als Idee für einen Einstieg vielleicht ein kleiner Ausblick auf die verkappterweise hier verheimlichte Methodik, die als Ersatz für gewissenhaften Erkenntnisgewinn herhalten muss: Man nehme die Projektion einer Utopie, die an den Anfang gestellt wird, hernach wird diese Projektion zur Tatsache umformuliert und mit Glaubensartikeln umstellt, bis dem Betrachter Hören und Sehen vergangen ist, vor lauter Verknotungen ideologischer Versatzstücke, die sich bei solcher Art Beliebigkeit des Ansatzes willkürlich hin- und herschieben und nach Dafürhalten an den Haaren herbeiziehen lassen.

    Beispielhaft hierzu das absurde Trolleyproblem, schnuckelig und makaber. Aber wollte vielleicht nicht jemand einmal an so einem konkreten Denkmuster durchbuchstabieren, dass dies haarsträubender Unfug ist, motiviert durch einen Erlebnishorizont, der über Kriegsgewinnlerei nicht hinausreicht, kulturtheoretisch gesehen? der keinen Platz hat, zudem, im gegebenen Zusammenhang, weil an keiner Stelle fundiert hergeleitet, … als ein technisches Konstrukt im reinen Konjunktiv, herbeigezerrt rein nur zur Ausschmückung, die affichierte Projektion dramatisieren soll? als dramatisierende Beigabe ohne jede innere Verbindung zum Thema? der Konjunktiv selbst als Glaubensartikel, die Verknüpfung dieses Konjunktivs mit der vorsätzlichen Projektion (die Utopie muss als mit Leben gefüllt angenommen sein) soll dann selbst wiederum nur ein weiterer Glaubensartikel sein, usw, … in der Folge also nichts als irre Rückverkettungen ohne jede Verwurzelung in eine Welt des Physischen, gar des Vorsatzes, dass Personen und Dinge in der Geographie zu verschieben seien. Und konstruktiv im Sinne von braven Zeitgenossen, die konkret Lösungen zu konketen Fragen suchen schon garnicht. Es ist absoiuter Unfug, auf Maschinen die Aufgabe zu projezieren, dass Wertigkeit von Menschenexistenz bemessen sei. Diese einfache Substanz wird in der Dramatik der Erzählweise mit theatralischer Geste verschwiegen: sie ist irrelevant. Schon der oberflächliche Versuch, da etwas herunterzubrechen auf existentiell sinnvoll Darstellbares wird beim Versuch scheitern, über zufällig auftretende oberflåchliche Erscheinungen zu abstrahieren, schon gar, wenn nicht dazu als weiterer Glaiubensartikel eine totalitäre Überwachungsmaschine imaginiert wird. Wes Geistes Kind hier wabert, wird gleich sichtbar, wenn man sich von der superschlau anmutenden Oberfläche nicht blenden lässt: eine Verachtung menschlicher Würde, die ihresgleichen sucht.

    … das Spiel mit der Entfremdung um seiner selbst willen. Hatte ich weiter oben schon.

    Solange kein Mensch zwingend korrekte Aussagen dazu tätigen kann, was Leben ist (außer vielleicht gebährende Mütter und Totenbestatter), solange bleibt so ein zwangsfixiertes Kleben an kaputtmachenden Überprojektionen, wie vor allem der nervenden Leier vom Glauben an ewigen Fortschritt, nur eine bodenlose Luftnummer. Und sobald sich so etwas real mit Gesellschaftspoilitik verknüpft, wird es brandgefährlich für alle, wenn nicht mit solide rückverkoppeltem Verantwortungsdenken verknüpft.

    ****

    Zum Protokoll bis dahin: Natürlich kann man die Erwartung von Verhaltensweisen in Algorithmen einbetonieren, warum nicht, aber die erste Beobachtung hierzu ist zwingend diejenige, dass Vehikel, mit denen der öffentliche Raum bevölkert wird, stets nur nach dem menschlichen Vorbild der sozialen Interaktion gestrickt sind. Es gibt hier kein Selbst in der Maschine. Es gibt nur eine Übernahme von Verhaltensweisen, in der Fortschreibung dessen, was als soziale Interaktion beobachtet wurde. Straßenverkehr findet zwischen Menschen statt, nicht zwischen Maschinen. Und vermittels von Maschinen wird diese Grundlage kopiert.

    Was aber liefert das Gebrabbel auf der gedanklichen Schiene dann, wo sich eine ganze Szene vokabelgenerierend gemütlich eingerichtet hat, wo satte Dotierungen harren, wie immer, wenn in einer absoluten Verschwendungsindustrie eine Schraube gedreht wird? Bitte dennn realistischerweise vorderhand mit exaltierten Kapriolen rechnen!

    … die noch nicht einmal mehr unterhaltsam sind, als da unmittelbar mit Gefährlichkeiten und tyrannischen Bedrohungen verknüpft – sonderlich, als da, sobald die soziale Interaktion hinausdividiert wird, nurmehr reine Kampfroboter übrigbleiben. So schaut das aus. So buchstabiert sich Fortschritt im ewig immer gleichen Trott von Dummheit, wenn man näher hinschaut.

    Nebenbei noch angefügt, kann man durchaus Ethik auch dementsprechend buchstabieren, wie man es etwa nach Sartre lernen konnte, als Anforderung, die der Mensch mit sich trägt, als Gerüst seiner Selbstachtung, woran er sich aufrichten kann, die er von daher als einen Imperativ hochhält, auch dann noch, wenn er sie nicht befolgt, und sie auch dann noch zu beschützen bereit ist.

    So kommen wir dann dem wieder näher, dass man nicht gleich davonläuft, wenn man sich auf Menschliches einlassen will, und über die Angst vor sich selbst nur bei der Manie und der Lust an der Zerstörung landet, dass der Mensch abzuschaffen sei. Diese Fragen muss Ethik klären können, stabil und sauber, bevor Fragen zur Transzendierungen über ein Jenseits des Menschlichen beginnnen sollen.

    Aber wenn man sich die Riege des aktuellen gesellschaftspolitisch handelnden Personals in etwa demselben Zeitgeisttheater anschaut, lässt sich kaum mehr erwarten als ein Witzfigurenkabinett, entsprechend, wie von Sinnzusammenhängen nurmehr Vokabeln verblieben. Und genau auch so jämmerlich schaut das Niveau der in diesem Fall verabreichten Zusammenballungen aus. Ethik ist hierin nur eine Vokabel, und alles, was darüber hinausgeht, eine drohende Zumutung, es sei denn, mit Hilfe der Vokabel ließen sich die Leute zum Narren halten und sie sich somit populistisch ausbeuten. Garantiert kolonialistisch-imperial kompatibel. Das kann man dann auch wieder den Sponsoren leichter verkaufen.

  6. Das Hauptproblem ist doch:

    Während die einen nachdenken, machen die anderen schon. Und setzen damit die Maßstäbe für die Zukunft.

    Diese Tesla-Gewaltspirale als solche zu erkennen und zu benennen ist vielleicht ein erster Schritt?

  7. Ich verstehe das Problem aber halte es für aufgebauscht.
    Die Karre soll bremsen und gut ist.
    In den meisten Fällen sind die bisherigen CPUs auf Proteinbasis, die die KFZ aktuell steuern, im Krisenfall auch überfordert und können im besten Fall auf die Klötzer gehen.
    Es passiert doch jedes Jahr das irgendjemand mit Herzinfarkt in eine Gruppe von Leuten fährt, was bei optimalen Betriebsbedingungen der Steuereinheit Mensch nicht passiert wäre.
    Solange die Hard- und Software optimal funktioniert ist eigentlich davon auszugehen das die autonomen KFZ regelkonform fahren und schon deshalb die Häufigkeit eines Unfalls erheblich absinkt. Zusätzlich reagieren die Systeme dann voraussichtlich auch schneller, sind nicht abgelenkt beim fahren und werden bei einem Systemcheck rumnörgeln wenn irgendetwas am Fahrzeug die Betriebssicherheit gefährdet.
    Ist das System defekt, ist das ähnlich tragisch wie Hirnschlag am Steuer mit den daraus resultierenden Folgen für das Umfeld. Einhundert Prozent Sicherheit gibt es nicht.
    Was mir mehr Sorgen bereitet ist die Möglichkeit der lückenlosen Überwachung der Fahrgäste und die Möglichkeiten die KFZ als ferngelenkte Waffe sowie als automatische Enführungshilfe zu verwenden.
    Auch halte ich es für unethisch darüber entscheiden zu lassen wer mehr wert ist. Ersetzen wir Rentner und Kinder durch weiß und schwarz und jedem sollte klar sein wo so was hinführen kann. Das Leben ist von Zufällen geprägt, von denen nicht immer alle positiv für einen sind.
    Aber das ist alles noch Zukunftsmusik.

    1. <> BItte hierzu nochmals einzuhaken gewollt zu haben:

      Chomsky hat seine Generative Grammatik nicht für Maschinen geschrieben. Das darin ausgebreitete Phänomen läuft darauf hinaus: Warum kann der Mensch Sätze sprechen und verstehen, die zuvor noch nie jemand gesprochen oder gehört hat (in einer Sprache, in der er kundig ist)?

      Unter diesem Blickwinkel ist es eine üble Herabwürdigung, Denkvorgänge mit CPUs zu korrelieren. Bestenfalls ist es eine schnöde Ablenkung oder ein schlechter Witz.

      Die verknüpfte Beobachtung zur Sprache auf Handlungsweisen transferiert, übersetzt sich leicht: Warum ist der Mensch zu Handlungen fähig, die noch nie jemand vorstrukturiert hat?

      Und nun zur Hoffnung auf Unfallreduktion durch das Märchen von perfekten Maschinen: Wie muss ein Messaufbau gestaltet sein, um beim Nachvollzug menschlicher Handlung eben diese Realität mit einfließen zu lassen?

      Konkreter: Wie oft haben Menschen lebensgefährlche Situtationen dadurch entschärft, dass sie ganz ohne Vorstrukturierung zu einer entschärfenden Handlungsabfolge gefunden haben?

      Wenn man da schon Milchmädchenrechungen anstellt, bitte, dann zumindest mit einem Horizont, der des Menschlichen würdig ist. Maschinen haben plötzlich sehr schlechte Karten, wenn man den Plot angemessen zeichnet.

      Alternativ kann man auch die Motivation von Menschen zur Selbstdestruktion reflektieren, das fängt dann mit Entfremdung und daraus geborener Aggressivität an, das gehört zugleich zu höchst zivilisatorischen Verhaltenskonventionen, von daher ist das kein ganz triviales Unterfangen, darüber zu stichhaltigen Aussagen zu finden: Warum man so schnell bei der Hand ist, den Menschen zu verachten und gering zu schätzen.

      Kein Argument für Maschinen hier. Nur für Nachlässigkeit bei der Beobachtung des (eben!) Selbst.

  8. Ich halte die Fragestellung für unethisch. Wenn in Kalifornien ein einzelnes Auto einen einzelnen Menschen tötet, sprechen wir über Ethik in Europa. Wenn in Deutschland (oder Polen) 3.000 Menschen jährlich im Straßenverkehr durch menschliche Fahrer getötet werden, haben wir keine ethische Probleme? Wenn ein deutsches Flugzeug trotz funktionsfähigem Autopiloten in den Alpen durch einen seelisch Kranken Selbstmordattentäter dazu genutzt werden kann, 150 Menschen zu ermorden, haben wir keine ethischen Diskussionen in Europa wegen zu wenig Einsatz von Technik? Wenn in Bad Aibling ein spielsüchtiger Fahrdienstleiter Menschen in den Tod schicken kann, weil wir nach 200 Jahren Eisenbahn in Deutschland immer noch keine technische Verriegelungen auf Bahnstrecken gegen Benutzung in beide Richtung auf einander zu haben, haben wir keine ethischen Diskussion? Ich habe den Eindruck, dass sich diese Pseudoethik, wie sie hier beschrieben wurde, nicht am menschlichen Leben orientiert und damit eher unethisch ist.

    1. Das liegt daran, dass es ja im Grunde gar nicht um Ethik geht, sondern darum, wen man im Fall der Fälle zur Verantwortung ziehen kann. Bzw. besser gesagt, erhofft man sich von der „Lösung“ dieses Problems, dass man sich _aus_ der Verantwortung ziehen kann.

      Frei nach Gödel halte ich das konstruierte Problem allerdings für unentscheidbar und mithin nicht lösbar. Die ganze Diskussion dreht sich im Kreis und eigentlich müssten die Politiker sich einfach mal hinstellen und sagen:
      „Autonomes Fahren reduziert die Zahl der Unfälle und Unfalltoten um XX% – das kriegen wir mit keiner anderen Technik hin, also nehmen wir lieber dieses beliebig unwahrscheinliche Szenario in Kauf als die XX% Unfälle und Verkehrstoten!“

      Aber das wäre vermutlich zu vernünftig.

      just my 2 cent

      1. Es gibt hier sprachvergewaltigende Verwirrungen, nicht aber ein Problem. Andere Baustelle.

        Es gibt hier kein Selbst, das Maschinen zugesprochen werden kann, allenfalls der Versuch von Mimese von menschlichem Sozialverhalten. Das Spiel damit, ein Selbst anzuführen ist reißerischer Klamauk, führt die Genauigkeit der Betrachtung in die Irre.

        Der Rest zu dem Kapitel steht in der Kulturhistorie etwa unter dem Titel Entfremdung und ist zutiefst menschlich. Maschinen sind woanders.

        Die Ableitung der sprachlichen Schlamperei, auf der Schiene von idiotischer Unverschämtheit (darauf aubauend, es könnte da ein Selbst gehen, das infantile Gemüter als vermeintliche Tatsache mit dem Holzhammer projezieren wollen) führt dann zu dem weiteren Missgriff, ein Begriff von Ethik könne Maschinen übergestülpt werden. Das ist reiner Unfug ohne Substanz. Ethik hat ausdrücklich nur das Wohlverhalten von Menschen zum Thema.

        Bitte erstmal hinschauen, wenn man da ein Problem sehen will. Ich sehe hier keines. Ich sehe nur aufgebauschte, nur rein sprachlich eingeführte Frechheit.

        Der eingebrachte Vergleich mit Autopiloten bei Fliegern finde ich da eher hilfreich – hier ist die Betrachtung sachlich korrekt geblieben, man kann darüber sprechen, ohne aufgrund der sprachlichen Missgriffe Bauchweg zu bekommen – auch wenn sich die Kategorien aufgrund der je ad hoc ganz anders gearteten Freiheiten in der Entscheidungsfindung verschieben.

        Und über die Versachlichung bekommt das Thema eine ganz andere Schlagseite, die mit Wohlverhalten überhaupt nichts zu tun hat, das ist nur üble Nebelkerzenwerferei: Die Mimese des menschlichen Verhaltens führt zu Maschinen, die sich einerseits in ein Verkehrsgeschehen integrieren können, rein stupide mitschwimmend, weil alles andere geht in Richtung Kampfroboter.

        Der entscheidende Punkt ist nun hingegen, man kann ein Selbst, das der Maschine nicht zukommt, durch den viel einfacheren Zugriff via Abstrahierung der mechanischen Abfolgen, von außen einführen.

        Per Fernbedienung. Und damit kommt der Begriff der Ethik durch eine ganz andere, verflixt reale Tür herein, in die Chose, indem das hochgradig ein Politikum ist, eine Frage, die zwischen Menschen zu entscheiden ist, was gewollt ist und was nicht.

        Wie brutal die Menschen da auf einer Schiene der Verblödung für dumm verkauft werden, die Unmündigkeit zur grundlegenden politischen Figur wird, der den ethischen Diskurs ersetzen soll, kann man auf dem Nebenschauplatz betrachten, wo klammheimlich nun vorgeschrieben ist, dass demnächst in allen motorisch fahrenden Wohnzimmersesseln ein nicht abschaltbares Schnüffelmikrophon mitfährt. Das ist bereits so bestimmt. Hat das jemand bemerkt?

        Vielleicht könnte man also bitte einmal dazu übergehen, wenn es um die Gier zur Machtkonzentration geht, Handlungsabläufe im öffentlichen Raum betreffend, sich als wie erwachsene Menschen aufzuführen, die eine leise Ahnung davon haben wollen, was hier auf dem Spiel steht, als sich mit gedanklichen Zuckerstückchen, in Gestalt von technischem Klimbim auf der Schiene von Kindersandkastenspielzeug, ruhigstellen zu lassen.

        Es handelt sich durchgehend um das Verhalten von Menschen und nicht um die knallige Ablenkung mit lausigen oberaffengeilen Übertragungen.

        Vorschlag zur klärenden Erläuterung in einem anderen Kapitel der Augenauswischerei, Unfälle betreffend: Hier trifft für Maschinen in der Automaten-Mimese dasselbe zu wie mit Menschen. Bitte sich nicht für dumm verkaufen lassen: Da ändert sich überhaupt nichts. Unfälle sind die Risikokomponente bei gefährlichen Verhaltensweisen, und die werden per gesellschaftspolitischen Vorgaben gesteuert.

        Dieser Blick möge das erläutern: Bis vor den 1990er Jahren war die Erkundung der motorischen Vehikel eine Stufe des Pubertierens, bis dahin wurde wesentlich mehr Gefährdung toleriert. Mit den 1990ern ging der Umgang mit den motorischen Vehikeln in ein Selbstverständnis des Alltagsrepertoires über (gleichzeitig auch die Abstumpfung zur Ressourcengefräßkeit des Massenindividialverkehrs), von da an wurde das gesellschaftlich nicht mehr akzeptiert, in hiesigen Breiten gingen die Unfallzahlen seither rapide zurück. Anderswo auf der Welt sind diese historischen Punkte leicht auf anderem Stand.

        Es gibt auch hier dann hirnrissige Exaltierungen, etwa die Idee, jetzt dürften am Straßenrand keine Bäume mehr stehen, oder alle möglichen Kollissionsflächen im Hochbau müssten gepolstert werden. Nun ja … so oder so bleibt der Umgang mit gefährlichen Tonnagen im Massenverschub genau ein ebensolcher. Und das Spiel mit Virtualisierungen gehört wiederum eindeutig ins Reich der Glaubensartikel.

        … da kann man dem ehrwürdigen Plato Weihrauch spendieren wie man will, die Unwägbarkeit bleibt im Prinzip eine ebensolche, beim Übergang von der puren Idee zur harten Physik taucht man zugleich in die Realtiät des Historischen ein, und, hoppla, plötzlich kann man am Zeitpfeil nicht einfach mehr herumdrehen, Unwägbarkeiten kommen daher ohne um Erlaubnis gefragt zu haben, es ist nicht alle Existenz schlicht nur ein Experiment. Aber bei dieserart brutalen Verkürzungen wären wir nun wieder bei den Kriegsstrategen, und an der Stelle muss ich mich dann einbremsen.

  9. Das hier ist doch beeindruckend, mit einer gewissen Wahrscheinlichkeit wurden dabei Menschenleben gerettet, man beachte auch, wann der Alarm losgeht … „Tesla Model X, autopilot avoids a crash in The Netherlands“ youtube com.

  10. Ich sehe der Anforderung der „Perfekten Entscheidung“ die ein Mensch selbst niemals erreicht wenn von Beginn an jede Entscheidung einen mehr oder minder großen Makel haben wird.
    Es ist vermessen von Menschen zu verlangen eine Maschine zu bauen die ethisch und moralisch „ein über-guter Mensch“ ist.

    Im Bereich der notwendigen Entscheidung spielt die Entscheidungszeit und und Leistungsfähigkeit eine Rolle.
    1. Fremdkontakt total vermeiden
    2. wenn nicht total vermeidbar Personenschäden vermeiden
    3. wenn Personenschäden auch nicht vermeidbar, dann angemessen der Geschwindigkeit des Autos und seiner Schutzwirkung und Menge der Insassen und umgebender Personen, Anzahl und schwere der Verletzungen minimal halten.

    Das wird beim lesen und in Medien immer als gefühlskalt empfunden werden, aber es geht nicht besser.

    1. Die Idee von einer „Perfekten Entscheidung“ ist zuallerst einmal eine gedankliche Fehlschaltung, aus der Kiste, wo auch der Übermensch wohnt und ähnliche Ungeheuer, im Gefolge des monotheistischen Erbes mit laaaanger Tradition, die sich mit bestialischen Absolutheitsansprüchen schon bis in die Gene der abendländischen Population festgefressen haben wird. Wir sind die Einzigartigen & unersetzlich und wir sind perfekt, zumindest von der Idee her, und wenn die menschliche Hülle für diese Ansprüche zu schwach ist, dann basteln wir uns eben ein Konstrukt, mit dem wir uns dem Wahnsinn auf anderer Tour annähern.

      So gehen dann die Geschichten von Hochkulturen auf ihrem Weg zum Untergang.

      Der springende Punkt ist nicht der nach der Bemühung um in höchstem Maß angemessenem Verhalten, das ist schon fein und oft unabdinglich, vielmehr in der Verinnerlichung des Anspruchs, dass dies zusammen mit einem Horizont von Absolutheit imaginiert wird, am besten mit Ewigkeitsgarantie.

      Und wenn in den Abgründen von Neuronalen Netzen Entwicklungen ablaufen, die der Mensch nicht mehr überblickt, dann heißt das nicht, dass hier die Einlösung von Heilsversprechen losgetreten wurde – diesen Unfug legt nur die klerikal-imperialistische Vorprägung in der Kultur des Abendlandes so leicht nahe, und ein Riesenpublikum verfällt hernach in schwelgerische Phasen von kindlichem Gemüt (wie das Mantra oft genug wiederholt wurde: lasset die Kinderlein zu mir kommen!), tatsächlich hat dieser Wahn ja eine fürchterlich irre reale Resonanz…

      besonders auch beim Fachpersonal …

      nein, in den unabsehbaren Abgründen lauert nicht die Einlösung von Glaubensversprechen sondern nichts als einfach nur ein nacktes Chaos, vom Betrachter her gesehen.

      Der gesellschaftliche Nachdruck auf die Betonung eines sicheren Betriebs im alltäglichen Umgang mit der rollenden Massentonnage auf der Fahrbahn, hat zu einem Maß an Perfektion geführt, das man eher auch wieder kaputtschlagen kann, wenn es mit nicht einlösbaren Versprechen einer renditegeilen Wirtschaft gepaart wird, im Gleichschritt mit dem infantilen Hang zur Unverantwortlichkeit, wies es sonderlich in diesem so überaus modernen Neoliberalala-Horizont als ganz normale Brutalität sich eingeschlichen hat.

      Bitte einmal an den Fingern die Faktoren mitzählen, zur Einschätzung, was da alles zu erwarten ist, bevor man ein weiteres Mal dummerweise der Ideologie des Hoffens auf ewigen Fortschritt auf den Leim geht. Das mit der Hoffnung ist schon auch fein, aber das mit dem Anspruch auf Absolutheit und Ewigkeitsgarantie ist das Gegenteil, Ausdruck einer Deformation.

  11. Ok. Meine 10 Gangmitglieder und ich haben einen neuen Trick: wir springen alle gleichzeitig vor ein selbstfahrendes Auto, das dann automatisch gegen die Wand fährt. Wenn wir etwas verwertbares finden, nehmen wir es mit.

    1. Es ginge auch weniger brachial, wie an so einer yankee-typischen Alle-Seiten-Stop-Kreuzung geschehen, wo ein Singlespeed-Pedaleur ohne Freilauf seine Form des Stop mit abwechselndem Vor und Zurück praktizierte, um nicht absteigen zu müssen, und die Software von so einem Guglding per diesem Verhalten in die Wüste geschickt wurde. Wenn man da mit einem Transporter nebenan wartet, schieben vier Leute zwei Latten unter das immobilisierte Ding und tragen es weg.

      Man muss ja nicht immer gleich so kriegerische Phantasie entwickeln …

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.