Moralkriterien bei selbstfahrenden Autos



  • Hi Nachtfeuer,

    nachtfeuer schrieb:

    Gut, später gibt es vermutlich auch selbstfahrende Autos.

    Bis das kommt ists noch ne lange Weile hin. Zum selbst fahren gehört nämlich nicht nur das Steuern und möglichst vermeiden von Unfällen, sondern im Falle eines unvermeidbaren Unfalls die Entscheidung, fahre ich jetzt die zwei Omas oder das kleine Kind tot. Mit solchen moralischen Entscheidungen ist die Rechentechnik derzeit noch überfordert, und ob man das, in Algoritmen gegossen durhc die Gesetze und Zulassungen bekommt?...

    Gruß Mümmel


  • Mod

    muemmel schrieb:

    Zum selbst fahren gehört nämlich nicht nur das Steuern und möglichst vermeiden von Unfällen, sondern im Falle eines unvermeidbaren Unfalls die Entscheidung, fahre ich jetzt die zwei Omas oder das kleine Kind tot.

    Gehört nicht hierher, aber die Entscheidung ist doch total illusorisch. Niemand trifft bewusst diese Entscheidung, dazu ist die Zeit zu kurz, also sowieso Zufall oder Bauchgefühl: Moral kam da aus Zeitgründen gar nicht rein. Und der Rechner hätte sich in der Bewertung für die Option 50.000001% vs 49.999999% entschieden - also letztlich auch nur noch Zufall oder Bauchgefühl. Schlechter wird es damit nicht.



  • Hi Marc++us,

    Marc++us schrieb:

    Gehört nicht hierher, aber die Entscheidung ist doch total illusorisch. Niemand trifft bewusst diese Entscheidung, dazu ist die Zeit zu kurz, also sowieso Zufall oder Bauchgefühl: Moral kam da aus Zeitgründen gar nicht rein. Und der Rechner hätte sich in der Bewertung für die Option 50.000001% vs 49.999999% entschieden - also letztlich auch nur noch Zufall oder Bauchgefühl. Schlechter wird es damit nicht.

    Nun, klar wird da niemand erst lange überlegen, aber in solchen Fällen wo in Sekundenbruchteilen entschieden werden muss trifft bei uns das Bauchgefühl die Entscheidung, und die ist viel besser als Du denkst. Forschungen haben gezeigt, dass Entscheidungen aus dem Bauchgefühl heraus vielfach besser als gut überlegte Entscheidungen sind. Das sogenannte Bauchgehirn (die Summe der Nerven in unserem Bauch) hat nicht die gleiche bewusste Entscheidungs- und Abwägemöglichkeit, aber eine verglichen mit dem normalen Gehirn um ein vielfaches höhere Reaktionsgeschwindigkeit und Auswertetiefe.

    Außerdem kann man als Mensch Reflexe trainieren. Zum Beispiel habe ich mich daran gewöhnt, bei notwendigen starken Bremsungen automatisch immer auch ein bisschen in eine freie Richtung zu lenken, so dass ich wenn es nicht reicht nur noch einen Ruck weiter drehen muss und am Problem vorbei fahre, z.B. in den Straßengraben oder die freie Gegenspur...

    Das Problem ist aber eben nicht, dass die Entscheidung fehlerhaft ist, die der Fahrcomputer trifft, sondern dass der Programmierer bereits in der Erstellungsphase vorgibt, wer in dem Fall zu töten ist. Es ist sozusagen ein indirekter Tötungsbefehl, der da vom Programmierer in die Software eingebaut werden muss. Ich kann zwar mit Notwehr begründen warum ich nicht vor den Baum gefahren bin und mich selber damit umgebracht hätte, sondern statt dessen lieber die alte Oma umgeraucht habe. Aber in den Algoritmen festlegen, dass die Oma minderwertiger ist, da finden sich doch gleich wieder ein paar, die dann Eutanasie rufen.

    Gruß Mümmel



  • Zeit ist zu kurz, das stimmt. Aber der Vorgang läuft nicht unbewusst ab. Korrekter wäre: der innere Autopilot übernimmt und wird auch nicht gestört. Wenn es wirklich eng wird, hat man eher gefühlt zu lange Zugriffszeit auf (Um-)Steuerung, aber Zeit zum Beten hat man in aller Regel schon noch.
    (Rallyfahrer haben geübtere Autosteuerung, die auch Panikbewegungen verhindert)
    (Instabile Flugzeuge sind Computergesteuert, was issn da?)

    Außerdem unterscheiden sich Kinder und Omis im Straßenverkehr ganz oft, dass muss man nicht der Software allein überlassen. Manche Omas und Opas kann man schon von weiten sehen. Die schätzen dann die Geschwindigkeit völlig falsch ein und gehen auf die Straße. Da kann man meist noch bremsen.
    Kinderwahrnehmung braucht Antizipation, wenn die überraschend auf die Straße laufen, hat man oft keine Zeit mehr.

    Die bessere Analogie wäre vielleicht gewesen für Tiere bremsen, ja oder nein?
    Ich habe gestern eine totgefahrene Katze auf der Straße gesehen. Normalerweise soll man nicht bremsen, z.B. um keine Auffahrunfälle zu provozieren. Ich bremse aber doch ganz oft. Aber manchmal nützt das sowieso nix, da im Zweifelsfall öfter auch zu spät. Bei Igeln kann man aber oft lenken, dass man sie überfährt, aber nicht plattfährt.



  • muemmel schrieb:

    Aber in den Algoritmen festlegen, dass die Oma minderwertiger ist, da finden sich doch gleich wieder ein paar, die dann Eutanasie rufen.

    ein lebensbewertungsalgorithmus. klingt irgendwie nach sf. nach welchen kriterien könnte man leben bewerten? am verhältnis guter vs. schlechter taten, die jemand begangen hat?


  • Mod

    Aber es ging ja um die Entscheidung in Sekundenbruchteilen, nicht um das Umfahren von Hindernissen.

    Und ich denke nicht, dass die Software hier so wesentlich schlechter entscheidet... der Mensch ist ja auch vielfältig, während ein Fahrer auf das Kind zusteuert, weil es ein kleineres Hindernis ist, nimmt der andere die alte Frau, weil die ihr Leben schon hatte. Oder nimmt man doch das Kind, weil es bessere Heilungschancen hat als eine alte Frau? Bei der sind Knochenbrüche dramatischer... also keine 5 Leute würden hier gleich handeln.

    In der Software kannst Du die geschätzte Aufprallenergie berechnen, sowie die geschätzte Masse des Objekts, daraus weisst Du dann, wer vermutlich am wenigsten tödlich getroffen wird und auf den steuerst Du zu. Oder man hat in den Auto-Optionen eine Auswahl drin, wo man - ähnlich wie bei der heutigen Dynamiksteuerung - wählt zwischen "Primär Eigenschutz" oder "Primär Fremdschutz" - bei Eigenschutz fährt man auf das leichteste Ziel zu, bei Fremdschutz minimiert man die Aufprallenergie pro Volumen.

    Ich habe gerade mal nachgesehen, 30000 Unfälle mit Fussgängern pro Jahr fallen an, davon knapp 500 tödlich. Die von Muemmel genannte "moralische Duellsituation" kommt sicherlich nur sehr selten vor, das sollte die Einführung von autonomen Fahren nicht bremsen.

    Immerhin kann man dann auch Kleidung mit irgendwelchen Beacons tragen, die bereits vor der Sichtbarkeit zusätzlich das Auto informieren.



  • nachtfeuer schrieb:

    (Instabile Flugzeuge sind Computergesteuert, was issn da?)

    Der Computer steuert da nicht wirklich selbst, sondern sorgt nur dafür dass das Flugzeug da hin fliegt, wo man es hin lenkt. Siehe Modell-Heli ohne Stabistange oder Drohne. Da findet das gleiche statt. Die FBL-Elektronik schafft nur eine künstliche Trägheit und verschafft dir die Zeit zum reagieren.
    Außerdem gibts die instabilen Flugzeuge derzeit nur beim Militär, und da sind Kollateralschäden eindeutig eingepreist. 😉 Und in der Luft hat man zwei Dimensionen zum ausweichen.

    Außerdem unterscheiden sich Kinder und Omis im Straßenverkehr ganz oft, dass muss man nicht der Software allein überlassen.

    Wenn man nicht selber fährt, hat man als Normalbürger keine Chance, rechtzeitig zu reagieren, weil man als nur-Überwacher nicht mit Gedanken, Blick und Händen ausreichend aufs Übernehmen und Ausweichen fixiert ist.

    Und letztlich kann es immer passieren, dass beide nicht vorhersehbar in die Fahrspur stolpern. Man muss rechts oder links am Hindernis vorbei, aber rechts ist grade ne Oma auf die Straße gestolpert und links ein Kind auf der Straße hingefallen. Wie soll der Code aussehen, der an der Stelle entscheidet, wer totzufahren ist?
    Wie will man ein solches Auto versichern. Wer garantiert mir, dass ich im Falle eines solchen Tötungsdeliktes sowohl als Programmierer als auch als Besitzer und (nicht)Lenker des Autos straffrei bleibe.

    Außerdem ist das selbstfahrende Auto der größte Schwachsinn an sich.
    In jeder Kultur gibts ein 1/4 - 1/6 geistig Minderbenmittelte. Kraftfahrer ist noch eine der wenien Möglichkeiten, wo sie trotz ihren geistig nicht zu Höhenflüen reichenden Fähigkeiten erfolgreich einen eigenen Beruf ausüben können und sich ihren Lebensunterhalt selbst verdienen können. Wass will man nach der Automatisierung das Fahrens mit den ganzen übrig bleibenden Haupt- und Sonderschülern anfangen. sollen die alle hartzen?

    Das Ziel muss ein unauffällig im Hintergrund lauerndes Sicherheitssystem sein, das bei kritischen Fällen den Fahrer unterstützend eingreift, so wie es derzeit ABS und ESP tun.

    Gruß Mümmel



  • Die Autonomität bei Fahrzeugen (PKW sowie LKW) beschreibt grundsätzlich verschiedene Funktionen und bedeutet nicht, dass ein Fahrzeug vollkommen alleine fahren kann.
    Nehmen wir beispielsweise einen Assistenten zur Vermeidung von Frontkollisionen, oder zum Halten der Spur. Beides sehr sinnvolle Erweiterungen.
    Im Stau ist es schon genial, oder als autonomes Einparken.

    Ich finde auch den Titel des Threads schon sehr irreführend. Man könnte einem vollkommen autonom getriebenen Fahrzeug natürlich eine KI einer gewissen Form unterstellen, aber nicht in der Art, dass diese moralische Entscheidungen treffen könnte.
    Vor allem gibt es auch kein autonomes Fahren mit Gesichtserkennung von Fußgängern 🤡



  • Marc++us schrieb:

    Immerhin kann man dann auch Kleidung mit irgendwelchen Beacons tragen, die bereits vor der Sichtbarkeit zusätzlich das Auto informieren.

    diese beacons könnten auch zugleich zur standortbestimmng und identifikation von personen dienen. 😃



  • Hi Marc++us,

    Marc++us schrieb:

    Ich habe gerade mal nachgesehen, 30000 Unfälle mit Fussgängern pro Jahr fallen an, davon knapp 500 tödlich. Die von Muemmel genannte "moralische Duellsituation" kommt sicherlich nur sehr selten vor, das sollte die Einführung von autonomen Fahren nicht bremsen.

    Vermutlich auch deshalb selten, weil man als Mensch instinktiv ausweicht und notfalls auch den Frontalcrash mit einem Baum provoziert um keinen totzufahren.

    Aber selbst wenn es noch so selten ist, es wird in Deutschland das KO-Kriterium sein, um derartige Systeme nicht zulassungsfähi zu machen.
    FürDeutschland war ja schon der Tsunami von Japan ein Grund, die deutschen Atomkraftwerkew stillzulegen. Und das trotz der extrem gerinen Wahrscheinlickeit meterhoher Tsunamis auf dem Rhein.

    Das Mercedes-Projekt mit den Hintereinander fahrenden LKWs ist zum Beispiel eindeutig auf fahrerloses Fahren ausgelegt. Was, wenn dabei aber mal nach einem vorangegangenen Unfall oder Motorschaden noch Personen auf der Autobahn sind und versuchen die Fahrbahn zu überqueren.

    Oder Jugendliche machen sich einen Scherz und werfen eine Beate-Uhse-Bumspuppe auf die Fahrbahn. Die Elektronik erkennt einen liegenden Menschen, weicht aus und fährt in einen vollbesetzten Bus.

    Es ist wie es ist, autonomes Fahren ist derzeit noch nicht vermittelbar, und ein nicht selbst tätiger mensch auf dem Fahrersitz hat im Ernstfall eine viel zu lange Reaktionszeit ehe er vom Zustand Scheintot in den Zustand aktiv zurückfindet. Die Elektronnik kann derzeit nur versuchen, Flüchtigkeitsfehler, Aufmerksamkeitslücken und Fehleinschätzunen es Fahrers zu erkennen und auszubügeln.

    Kann mich übrigens an eine Folge von Raumschiff enterprise erinnern, als die Schiffärztin die Prüfung als Commander ablegen wollte und immer wieder gescheitert ist, bis sie irgendwann begriff, das die entscheidende Prüfung die war, ob sie in der Lage ist für die Rettung des ganzen Schiffes notfalls einen einzelnen Mitarbeiter in den sicheren Tod zu schicken.

    Gruß Mümmel



  • Ich sehe da kein Problem. Wenn man annehmen muss, dass statistisch weniger tödliche Unfälle mit autonomen Autos passieren würden, wäre es dann nicht moralisch falsch diese nicht zu nutzen? Wenn es soweit ist, dann kann man nicht mehr mit Moral gegen selbstfahrende Autos argumentieren.



  • wenn nun ein selbstlenkendes fahrzeug einen unfall verursacht, wird bestimmt der hersteller haftbar gemacht. das wäre zumindest korrekt.

    aber der besitzer manchmal auch, wenn der technisch mangelhafte zustand seiner schlamperei zu schulden ist (wartungsintervalle nicht eingehalten und so).



  • muemmel schrieb:

    Aber selbst wenn es noch so selten ist, es wird in Deutschland das KO-Kriterium sein, um derartige Systeme nicht zulassungsfähi zu machen.
    FürDeutschland war ja schon der Tsunami von Japan ein Grund, die deutschen Atomkraftwerkew stillzulegen. Und das trotz der extrem gerinen Wahrscheinlickeit meterhoher Tsunamis auf dem Rhein.

    Du musst aber auch bedenken, die Autoindustrie stellt das Rückgrat der deutschen Wirtschaft dar und hat viel Unterstützung in der Politik und Bevölkerung ("Der Deutschen liebstes Kind"). Da sind entsprechende Gesetze schnell modifiziert.

    Die Atomkraft war in Deutschland schon sehr lange umstritten und die AKW-Hasser haben nur auf so eine Gelegenheit, wie den Tsunami in Japan, gewartet, obgleich es natürlich lächerlich ist, da Deutschland weltweit eines der Gebiete mit dem geringsten Risiko für schwere Erdbeben ist.


  • Mod

    muemmel schrieb:

    Oder Jugendliche machen sich einen Scherz und werfen eine Beate-Uhse-Bumspuppe auf die Fahrbahn. Die Elektronik erkennt einen liegenden Menschen, weicht aus und fährt in einen vollbesetzten Bus.

    Was würde es für einen Unterschied machen, wenn da nun ein Mensch sitzen würde? Der hatte den gleichen Fehler gemacht. Ist dein Problem, dass die Elektronik der ersten Generation noch nicht absolut unfehlbar wäre, sondern nur 10x besser als ein durchschnittlicher Mensch? Klingt für mich nämlich immer noch nach einem großen Fortschritt.

    Aber selbst wenn es noch so selten ist, es wird in Deutschland das KO-Kriterium sein, um derartige Systeme nicht zulassungsfähi zu machen.

    Mal sehen. Derzeit ist Deutschland jedenfalls voll auf Kurs, sich als digitales Nordkorea technisch zu isolieren. Das wird natürlich nur so lange gut gehen, wie der Rest der Welt noch etwas von uns will. Wenn der Rest der Welt aber in ein paar Jahrzehnten auf autonome Gemeinschaftstaxis umstellt (eben Knopf auf dem Handy drücken und wenige Minuten später kommt das nächste von alleine direkt zu deinem Standort), dann sieht die hiesige Industrie mit ihren Totfahrmodellen alt aus. Wenn davor kein gewaltiges Umschwenken kommt, dann bricht echt alles zusammen.



  • Man muss zunächst 12 bis 20 tödliche Unfälle mit "autonomen Autos" abwarten, dann hat man ausreichend statistisches Material, um sagen zu können, was wahrscheinlich weniger gefährlich ist, Mensch oder KI. Das nimmt dann als neues Ziel für die Weiterentwicklung.



  • Da fällt mir grad die Moral Machine des MIT ein, die sich mit solchen Entscheidungen selbstfahrender Autos befasst. Ist ganz spaßig, das mal durchzumachen: http://moralmachine.mit.edu/

    Meine Entscheidungen haben mehr oder weniger darauf basiert:
    1. Wenn Auswahl zwischen zwei Einzelpersonen kollidiert das Auto mit der älteren Person
    2. Wenn Auswahl zwischen zwei Gruppen kollidiert das Auto mit der kleineren (="Anzahl Mitglieder") Gruppe
    3. Wenn Auswahl zwischen Kollision mit Hindernis (wie Betonpfeiler etc.) und Kollision mit anderen Menschen immer Kollision mit Hindernis, da der "Fahrer" des Autos die Kontrolle an das Auto abgibt und somit auch die Konsequenzen tragen sollte, im Gegensatz zu Fußgängern etc.

    Man kann natürlich immer einen Fall konstruieren, bei dem meine Entscheidungsfindung eine moralisch "falsche" Entscheidung trifft.
    Ist ein schwieriges Thema..

    Mich persönlich reizt das Thema Autonomes Fahren aber eh nicht so. Für mich ist Autofahren in 80% der Fälle Spaß und den lasse ich mir nur ungern nehmen. Schön eine Kurve anbremsen und runterschalten, die Kurve flott durchfahren und dann den Motor beim Beschleunigen ganz hochdrehen und in den nächsten Gang schalten.. 😋 😋 😋 Gut, ich fahre aber auch fast nur Landstraßen und wenig Stadt/Autobahn. Wäre es genau andersrum, würde ich es vmtl. auch anders sehen.



  • GPC schrieb:

    Für mich ist Autofahren in 80% der Fälle Spaß

    Na du hast es noch gut ... 😞
    Ich glaube mein Spaßreservoir war nach ner halben Million Kilometer aufgebraucht. Mittlerweile ist es einfach nur noch Stress - mit dem Motorrad übrigens auch. Kein Spaß mehr ... armer abbes 😞 😞 😞
    Deshalb hoffe ich ja, dass bald etwas "Budder beide Fische" kommt. Für den Berufsverkehr wäre das nämlich eine enorme Entlastung. Stop&Go geht immer 🙂

    Das Auto bekommt übrigens auch viel mehr mit als du. 360° Perspektive mit Radar, Laser, IR und Schall machen es Möglich. Dunkelheit, starker Regen, Nebel ... alles Unfallfaktoren, die an Gewichtigkeit verlieren werden.



  • muemmel schrieb:

    [...], als die Schiffärztin [...]

    Boah, das war Deanna. Banause!



  • GPC schrieb:

    1. Wenn Auswahl zwischen zwei Einzelpersonen kollidiert das Auto mit der älteren Person

    Warum so pauschal? Der Wissenschaftler, der gerade an der Krebsheilung arbeitet oder der jugendliche Intensivtäter, du würdest den Wissenschaftler umfahren?



  • Swordfish schrieb:

    muemmel schrieb:

    [...], als die Schiffärztin [...]

    Boah, das war Deanna. Banause!

    OMG. Er hat wirklich Deanna mit Beverly* verwechselt!
    Geht garnicht ... muemmel, du bist raus!

    * Pulaski lasse ich einfach mal außen vor, die war ... anders.


Anmelden zum Antworten