Moralkriterien bei selbstfahrenden Autos
-
muemmel schrieb:
Aber in den Algoritmen festlegen, dass die Oma minderwertiger ist, da finden sich doch gleich wieder ein paar, die dann Eutanasie rufen.
ein lebensbewertungsalgorithmus. klingt irgendwie nach sf. nach welchen kriterien könnte man leben bewerten? am verhältnis guter vs. schlechter taten, die jemand begangen hat?
-
Aber es ging ja um die Entscheidung in Sekundenbruchteilen, nicht um das Umfahren von Hindernissen.
Und ich denke nicht, dass die Software hier so wesentlich schlechter entscheidet... der Mensch ist ja auch vielfältig, während ein Fahrer auf das Kind zusteuert, weil es ein kleineres Hindernis ist, nimmt der andere die alte Frau, weil die ihr Leben schon hatte. Oder nimmt man doch das Kind, weil es bessere Heilungschancen hat als eine alte Frau? Bei der sind Knochenbrüche dramatischer... also keine 5 Leute würden hier gleich handeln.
In der Software kannst Du die geschätzte Aufprallenergie berechnen, sowie die geschätzte Masse des Objekts, daraus weisst Du dann, wer vermutlich am wenigsten tödlich getroffen wird und auf den steuerst Du zu. Oder man hat in den Auto-Optionen eine Auswahl drin, wo man - ähnlich wie bei der heutigen Dynamiksteuerung - wählt zwischen "Primär Eigenschutz" oder "Primär Fremdschutz" - bei Eigenschutz fährt man auf das leichteste Ziel zu, bei Fremdschutz minimiert man die Aufprallenergie pro Volumen.
Ich habe gerade mal nachgesehen, 30000 Unfälle mit Fussgängern pro Jahr fallen an, davon knapp 500 tödlich. Die von Muemmel genannte "moralische Duellsituation" kommt sicherlich nur sehr selten vor, das sollte die Einführung von autonomen Fahren nicht bremsen.
Immerhin kann man dann auch Kleidung mit irgendwelchen Beacons tragen, die bereits vor der Sichtbarkeit zusätzlich das Auto informieren.
-
nachtfeuer schrieb:
(Instabile Flugzeuge sind Computergesteuert, was issn da?)
Der Computer steuert da nicht wirklich selbst, sondern sorgt nur dafür dass das Flugzeug da hin fliegt, wo man es hin lenkt. Siehe Modell-Heli ohne Stabistange oder Drohne. Da findet das gleiche statt. Die FBL-Elektronik schafft nur eine künstliche Trägheit und verschafft dir die Zeit zum reagieren.
Außerdem gibts die instabilen Flugzeuge derzeit nur beim Militär, und da sind Kollateralschäden eindeutig eingepreist.
Und in der Luft hat man zwei Dimensionen zum ausweichen.Außerdem unterscheiden sich Kinder und Omis im Straßenverkehr ganz oft, dass muss man nicht der Software allein überlassen.
Wenn man nicht selber fährt, hat man als Normalbürger keine Chance, rechtzeitig zu reagieren, weil man als nur-Überwacher nicht mit Gedanken, Blick und Händen ausreichend aufs Übernehmen und Ausweichen fixiert ist.
Und letztlich kann es immer passieren, dass beide nicht vorhersehbar in die Fahrspur stolpern. Man muss rechts oder links am Hindernis vorbei, aber rechts ist grade ne Oma auf die Straße gestolpert und links ein Kind auf der Straße hingefallen. Wie soll der Code aussehen, der an der Stelle entscheidet, wer totzufahren ist?
Wie will man ein solches Auto versichern. Wer garantiert mir, dass ich im Falle eines solchen Tötungsdeliktes sowohl als Programmierer als auch als Besitzer und (nicht)Lenker des Autos straffrei bleibe.Außerdem ist das selbstfahrende Auto der größte Schwachsinn an sich.
In jeder Kultur gibts ein 1/4 - 1/6 geistig Minderbenmittelte. Kraftfahrer ist noch eine der wenien Möglichkeiten, wo sie trotz ihren geistig nicht zu Höhenflüen reichenden Fähigkeiten erfolgreich einen eigenen Beruf ausüben können und sich ihren Lebensunterhalt selbst verdienen können. Wass will man nach der Automatisierung das Fahrens mit den ganzen übrig bleibenden Haupt- und Sonderschülern anfangen. sollen die alle hartzen?Das Ziel muss ein unauffällig im Hintergrund lauerndes Sicherheitssystem sein, das bei kritischen Fällen den Fahrer unterstützend eingreift, so wie es derzeit ABS und ESP tun.
Gruß Mümmel
-
Die Autonomität bei Fahrzeugen (PKW sowie LKW) beschreibt grundsätzlich verschiedene Funktionen und bedeutet nicht, dass ein Fahrzeug vollkommen alleine fahren kann.
Nehmen wir beispielsweise einen Assistenten zur Vermeidung von Frontkollisionen, oder zum Halten der Spur. Beides sehr sinnvolle Erweiterungen.
Im Stau ist es schon genial, oder als autonomes Einparken.Ich finde auch den Titel des Threads schon sehr irreführend. Man könnte einem vollkommen autonom getriebenen Fahrzeug natürlich eine KI einer gewissen Form unterstellen, aber nicht in der Art, dass diese moralische Entscheidungen treffen könnte.
Vor allem gibt es auch kein autonomes Fahren mit Gesichtserkennung von Fußgängern
-
Marc++us schrieb:
Immerhin kann man dann auch Kleidung mit irgendwelchen Beacons tragen, die bereits vor der Sichtbarkeit zusätzlich das Auto informieren.
diese beacons könnten auch zugleich zur standortbestimmng und identifikation von personen dienen.
-
Hi Marc++us,
Marc++us schrieb:
Ich habe gerade mal nachgesehen, 30000 Unfälle mit Fussgängern pro Jahr fallen an, davon knapp 500 tödlich. Die von Muemmel genannte "moralische Duellsituation" kommt sicherlich nur sehr selten vor, das sollte die Einführung von autonomen Fahren nicht bremsen.
Vermutlich auch deshalb selten, weil man als Mensch instinktiv ausweicht und notfalls auch den Frontalcrash mit einem Baum provoziert um keinen totzufahren.
Aber selbst wenn es noch so selten ist, es wird in Deutschland das KO-Kriterium sein, um derartige Systeme nicht zulassungsfähi zu machen.
FürDeutschland war ja schon der Tsunami von Japan ein Grund, die deutschen Atomkraftwerkew stillzulegen. Und das trotz der extrem gerinen Wahrscheinlickeit meterhoher Tsunamis auf dem Rhein.Das Mercedes-Projekt mit den Hintereinander fahrenden LKWs ist zum Beispiel eindeutig auf fahrerloses Fahren ausgelegt. Was, wenn dabei aber mal nach einem vorangegangenen Unfall oder Motorschaden noch Personen auf der Autobahn sind und versuchen die Fahrbahn zu überqueren.
Oder Jugendliche machen sich einen Scherz und werfen eine Beate-Uhse-Bumspuppe auf die Fahrbahn. Die Elektronik erkennt einen liegenden Menschen, weicht aus und fährt in einen vollbesetzten Bus.
Es ist wie es ist, autonomes Fahren ist derzeit noch nicht vermittelbar, und ein nicht selbst tätiger mensch auf dem Fahrersitz hat im Ernstfall eine viel zu lange Reaktionszeit ehe er vom Zustand Scheintot in den Zustand aktiv zurückfindet. Die Elektronnik kann derzeit nur versuchen, Flüchtigkeitsfehler, Aufmerksamkeitslücken und Fehleinschätzunen es Fahrers zu erkennen und auszubügeln.
Kann mich übrigens an eine Folge von Raumschiff enterprise erinnern, als die Schiffärztin die Prüfung als Commander ablegen wollte und immer wieder gescheitert ist, bis sie irgendwann begriff, das die entscheidende Prüfung die war, ob sie in der Lage ist für die Rettung des ganzen Schiffes notfalls einen einzelnen Mitarbeiter in den sicheren Tod zu schicken.
Gruß Mümmel
-
Ich sehe da kein Problem. Wenn man annehmen muss, dass statistisch weniger tödliche Unfälle mit autonomen Autos passieren würden, wäre es dann nicht moralisch falsch diese nicht zu nutzen? Wenn es soweit ist, dann kann man nicht mehr mit Moral gegen selbstfahrende Autos argumentieren.
-
wenn nun ein selbstlenkendes fahrzeug einen unfall verursacht, wird bestimmt der hersteller haftbar gemacht. das wäre zumindest korrekt.
aber der besitzer manchmal auch, wenn der technisch mangelhafte zustand seiner schlamperei zu schulden ist (wartungsintervalle nicht eingehalten und so).
-
muemmel schrieb:
Aber selbst wenn es noch so selten ist, es wird in Deutschland das KO-Kriterium sein, um derartige Systeme nicht zulassungsfähi zu machen.
FürDeutschland war ja schon der Tsunami von Japan ein Grund, die deutschen Atomkraftwerkew stillzulegen. Und das trotz der extrem gerinen Wahrscheinlickeit meterhoher Tsunamis auf dem Rhein.Du musst aber auch bedenken, die Autoindustrie stellt das Rückgrat der deutschen Wirtschaft dar und hat viel Unterstützung in der Politik und Bevölkerung ("Der Deutschen liebstes Kind"). Da sind entsprechende Gesetze schnell modifiziert.
Die Atomkraft war in Deutschland schon sehr lange umstritten und die AKW-Hasser haben nur auf so eine Gelegenheit, wie den Tsunami in Japan, gewartet, obgleich es natürlich lächerlich ist, da Deutschland weltweit eines der Gebiete mit dem geringsten Risiko für schwere Erdbeben ist.
-
muemmel schrieb:
Oder Jugendliche machen sich einen Scherz und werfen eine Beate-Uhse-Bumspuppe auf die Fahrbahn. Die Elektronik erkennt einen liegenden Menschen, weicht aus und fährt in einen vollbesetzten Bus.
Was würde es für einen Unterschied machen, wenn da nun ein Mensch sitzen würde? Der hatte den gleichen Fehler gemacht. Ist dein Problem, dass die Elektronik der ersten Generation noch nicht absolut unfehlbar wäre, sondern nur 10x besser als ein durchschnittlicher Mensch? Klingt für mich nämlich immer noch nach einem großen Fortschritt.
Aber selbst wenn es noch so selten ist, es wird in Deutschland das KO-Kriterium sein, um derartige Systeme nicht zulassungsfähi zu machen.
Mal sehen. Derzeit ist Deutschland jedenfalls voll auf Kurs, sich als digitales Nordkorea technisch zu isolieren. Das wird natürlich nur so lange gut gehen, wie der Rest der Welt noch etwas von uns will. Wenn der Rest der Welt aber in ein paar Jahrzehnten auf autonome Gemeinschaftstaxis umstellt (eben Knopf auf dem Handy drücken und wenige Minuten später kommt das nächste von alleine direkt zu deinem Standort), dann sieht die hiesige Industrie mit ihren Totfahrmodellen alt aus. Wenn davor kein gewaltiges Umschwenken kommt, dann bricht echt alles zusammen.
-
Man muss zunächst 12 bis 20 tödliche Unfälle mit "autonomen Autos" abwarten, dann hat man ausreichend statistisches Material, um sagen zu können, was wahrscheinlich weniger gefährlich ist, Mensch oder KI. Das nimmt dann als neues Ziel für die Weiterentwicklung.
-
Da fällt mir grad die Moral Machine des MIT ein, die sich mit solchen Entscheidungen selbstfahrender Autos befasst. Ist ganz spaßig, das mal durchzumachen: http://moralmachine.mit.edu/
Meine Entscheidungen haben mehr oder weniger darauf basiert:
1. Wenn Auswahl zwischen zwei Einzelpersonen kollidiert das Auto mit der älteren Person
2. Wenn Auswahl zwischen zwei Gruppen kollidiert das Auto mit der kleineren (="Anzahl Mitglieder") Gruppe
3. Wenn Auswahl zwischen Kollision mit Hindernis (wie Betonpfeiler etc.) und Kollision mit anderen Menschen immer Kollision mit Hindernis, da der "Fahrer" des Autos die Kontrolle an das Auto abgibt und somit auch die Konsequenzen tragen sollte, im Gegensatz zu Fußgängern etc.Man kann natürlich immer einen Fall konstruieren, bei dem meine Entscheidungsfindung eine moralisch "falsche" Entscheidung trifft.
Ist ein schwieriges Thema..Mich persönlich reizt das Thema Autonomes Fahren aber eh nicht so. Für mich ist Autofahren in 80% der Fälle Spaß und den lasse ich mir nur ungern nehmen. Schön eine Kurve anbremsen und runterschalten, die Kurve flott durchfahren und dann den Motor beim Beschleunigen ganz hochdrehen und in den nächsten Gang schalten..
Gut, ich fahre aber auch fast nur Landstraßen und wenig Stadt/Autobahn. Wäre es genau andersrum, würde ich es vmtl. auch anders sehen.
-
GPC schrieb:
Für mich ist Autofahren in 80% der Fälle Spaß
Na du hast es noch gut ...
Ich glaube mein Spaßreservoir war nach ner halben Million Kilometer aufgebraucht. Mittlerweile ist es einfach nur noch Stress - mit dem Motorrad übrigens auch. Kein Spaß mehr ... armer abbes
Deshalb hoffe ich ja, dass bald etwas "Budder beide Fische" kommt. Für den Berufsverkehr wäre das nämlich eine enorme Entlastung. Stop&Go geht immer
Das Auto bekommt übrigens auch viel mehr mit als du. 360° Perspektive mit Radar, Laser, IR und Schall machen es Möglich. Dunkelheit, starker Regen, Nebel ... alles Unfallfaktoren, die an Gewichtigkeit verlieren werden.
-
muemmel schrieb:
[...], als die Schiffärztin [...]
Boah, das war Deanna. Banause!
-
GPC schrieb:
1. Wenn Auswahl zwischen zwei Einzelpersonen kollidiert das Auto mit der älteren Person
Warum so pauschal? Der Wissenschaftler, der gerade an der Krebsheilung arbeitet oder der jugendliche Intensivtäter, du würdest den Wissenschaftler umfahren?
-
Swordfish schrieb:
muemmel schrieb:
[...], als die Schiffärztin [...]
Boah, das war Deanna. Banause!
OMG. Er hat wirklich Deanna mit Beverly* verwechselt!
Geht garnicht ... muemmel, du bist raus!* Pulaski lasse ich einfach mal außen vor, die war ... anders.
-
Provieh-Programmierer schrieb:
GPC schrieb:
1. Wenn Auswahl zwischen zwei Einzelpersonen kollidiert das Auto mit der älteren Person
Warum so pauschal? Der Wissenschaftler, der gerade an der Krebsheilung arbeitet oder der jugendliche Intensivtäter, du würdest den Wissenschaftler umfahren?
Ich persönlich habe keine Ahnung, wie ich reagieren würde, käme ich in die Situation.. 50:50 würde ich sagen. Aber es geht ja darum, was soll das Auto machen. Und wie ich schrieb:
GPC schrieb:
Man kann natürlich immer einen Fall konstruieren, bei dem meine Entscheidungsfindung eine moralisch "falsche" Entscheidung trifft.
Das Auto weiß ja nichts über die Hintergründe der Personen, also bleiben nur äußerliche Kriterien wie Alter bzw. eigentlich ja Körpergröße. Wenn sich beide Personen abwenden, kann man schließlich keinen Gesichtsscan machen um das Alter zu schätzen (hab auch keine Ahnung, ob das technisch überhaupt in so kurzer Zeit möglich ist). Jedenfalls habe ich junges Leben höher gewichtet als älteres Leben. Ob das okay ist? Keine Ahnung, kommt auf den Einzelfall an. Aber den kann so ein Auto halt nicht in Millisekunden prüfen
-
Übrigens bringt Vögel füttern auch immer wieder interessante Nebenerkenntnisse.
Am Anfang konnte ich so gut wie gar nicht unterscheiden, wer da ankommt, außer, wenn sie ganz nah dran sind.
Als dann doch mal mehr seltsame Exoten angeflogen kamen, hatte ich mir angewöhnt, mit dem Fernglas genauer hinzusehen.
Über die Jahre erkennt man seine Pappenheimer aber auch so - einfach an der Art, wie sie sich bewegen. Gleiche Typen unterscheiden sich oft dadurch, wie sie in den Sektor hinein und zum Futter fliegen oder manche sind panischer als andere usw.
Manchmal dachte ich aber auch - wie? ich gucke wohl nicht richtig? hä??
u.a. ein hellblauer Spatz und gleichzeitig ein schneeweißer Spatz daneben. Die Tiere waren zum Glück lange genug da, sonst hätte ich denken müssen, ich bin versehentlich auf Droge oder krank und leicht wahrnehmungsgestört o.ä.
Das war eine sehr seltsame Spatzentruppe.Was die Moral angeht: Es ist doch immer wieder ein beliebtes Totschlagsargument der Selbstgerechtigkeit. "..könnte ein kleines Kind totfahren oder totgefahren haben. Das hört man oft zu schwierigen Entscheidungen zum Straßenverkehr.
Gleichzeitig dürfen aber potentiell gefährliche Epileptiker ein halbes Dorf totfahren und keiner schert sich drum.
Gleichzeitig dürfen LKWs an den unmöglichsten gefährlichen Stellen parken, und keiner schert sich drum.
Gleichzeitig dürfen Lkws mehrere Schulklassen auf einmal totfahren und keiner schert sich drum.
Gleichzeitig dürfen überreiche Spekulanten ganze Sozialstrukturen in Dörfern und Kleinstädten und Landesweit zerstören und keiner schert sich drum.
Gleichzeitig darf die Nato mit Planungen und Umsetzungen ankommen, die weit unter die Gürtellinie dessen gehen, was ein normal ethisch denkender Mensch überhaupt für vertretbar oder ertragbar hält aber keiner schert sich drum.
Wir brauchen nicht über Feinheiten bei Moralentscheidungen diskutieren, wenn sich über Jahrhunderte etablierte Werte und Normen grobmotorisch und kackfrech unterwandert oder in den Dreck getreten werden und keiner schert sich drum.
-
GPC schrieb:
Das Auto weiß ja nichts über die Hintergründe der Personen, also bleiben nur äußerliche Kriterien wie Alter bzw. eigentlich ja Körpergröße. Wenn sich beide Personen abwenden, kann man schließlich keinen Gesichtsscan machen um das Alter zu schätzen (hab auch keine Ahnung, ob das technisch überhaupt in so kurzer Zeit möglich ist). Jedenfalls habe ich junges Leben höher gewichtet als älteres Leben. Ob das okay ist? Keine Ahnung, kommt auf den Einzelfall an. Aber den kann so ein Auto halt nicht in Millisekunden prüfen
Korrigiere: Ein Mensch wüsste so etwas nicht. Das Auto wäre doch eine vollvernetzte Maschine und würde per Gesichtserkennung online einen Vergleich des projizierten Restlebensbruttosozialbeitrags der zur Auswahl stehenden Opfer machen können.
-
Mal abgesehen von ein paar fehlenden Daten zu den Personen.. ich habe so meine Zweifel, ob das in der Kürze der zur Verfügung stehenden Zeit möglich ist.
