Moralkriterien bei selbstfahrenden Autos



  • Hi,

    hier noch eine kritsche Betrachtung zum thema voll automatisicertes Fahren aus der Zeit:
    http://www.zeit.de/mobilitaet/2017-02/autonomes-fahren-autos-fahrer-lernen

    Gruß Mümmel



  • Hi,

    hier noch mal ein neuer Beitrag zum Thema wer beim automatisierten Fahren haftet.
    http://www.faz.net/aktuell/wirtschaft/neue-mobilitaet/autonomes-fahren-wer-haftet-wenn-das-auto-von-selbst-faehrt-14944912.html
    Ergebnis, der Fahrer hats weiter an der Backe.

    Ich vermute, dass die Zahl der Unfälle nach unten gehen wird, aber dafür die Schwere der Unfälle drastisch nach oben, weil bei automatisiertem Fahren eben auch totale Fehlfunktionen vorkommen können, die bei menschlichen Fahrern kaum denkbar sind.

    Wie soll eigentlich bei automatischem Fahren im Winter bei 20 cm Schnee die Spurerkennung funktionieren? Wenn ein Fahrer das ganze Jahr nur automatisiert fährt und dann gerade im Winter unter solchen Bedingungen selbst eingreifen muss, dann weiß man schon vorher, das das vor die Wand geht.

    Gruß Mümmel



  • Das braucht etwas Zeit, bis es klappt. Man muss sehen, dass dies eine gewaltige Herausforderung für die IT ist, und genau das bringt uns vorwärts. Unfälle und Haftung sind sekundär. Es geht um die Zukunft und die Beherrschung eines gewaltigen Marktes.



  • Hi Erhard,

    Erhard Henkes schrieb:

    Das braucht etwas Zeit, bis es klappt. Man muss sehen, dass dies eine gewaltige Herausforderung für die IT ist, und genau das bringt uns vorwärts.

    Ich tippe da mal auf mindestens 20 Jahre...

    Unfälle und Haftung sind sekundär.

    Außer eben für den der drin sitzt bzw. Halter ist...

    Es geht um die Zukunft und die Beherrschung eines gewaltigen Marktes.

    vor allem letzteres, aber gehts darum nicht eigentlich immer???

    Gruß Mümmel


  • Global Moderator

    muemmel schrieb:

    Hi Erhard,

    Erhard Henkes schrieb:

    Das braucht etwas Zeit, bis es klappt. Man muss sehen, dass dies eine gewaltige Herausforderung für die IT ist, und genau das bringt uns vorwärts.

    Ich tippe da mal auf mindestens 20 Jahre...

    In Deutschland vielleicht, wenn das beim Regulierungswahn überhaupt hier kommt. Anderswo sind die Prototypen doch schon produktiv im Einsatz. Da wird die Serienreife - wenigstens für lokal eingeschränkte Taxidienste - nicht lange auf sich warten lassen. Und mit den dadurch gewonnenen praktischen Erfahrungen wird es dann Ratzfatz gehen. Dann wird Made in USA auf einmal ein Qualitätssiegel für Autos 😮



  • Zynismus ein.
    Was die Moral angeht, wen das Auto im Zweifelsfall auswählen soll, das wird dann ganz einfach geregelt. Jeder bekommt einen Chip eingepflanzt mit den wichtigen Daten (Steueraufkommen, Diagnosen, gezahlte Rentenbeiträge), der jährlich aktualisiert wird und vom Auto abgerufen werden kann. Dann ist die Entscheidung ja ganz einfach - insbesondere wenn dann auch noch Hartz-4 Daten hinterlegt sind.
    Gleichzeitig werden dann auch noch die Sozialkassen entlastet und der anständige Bürger muss weniger Steuern und Beiträge zahlen.
    Zynismus aus.



  • Hi,

    Merkel hat schon mal die Weichen für die Zukunft gestellt.
    http://www.focus.de/auto/news/automatisiertes-fahren-kommt-merkel-in-20-jahren-darf-man-nur-noch-mit-sondererlaubis-selbst-auto-fahren_id_7234707.html
    Wenn dann 2037 eine Demo gegen die 8. Wiederwahl von Merkel angesetzt ist, dann kommt keiner hin, weil einfach alle Autos eine Sperre gegen das Ansteuern des Demoraumes zugesendet bekommen.
    Drachen muss man bekämpfen, solange es noch möglich ist!

    Gruß Mümmel



  • muemmel schrieb:

    Drachen muss man bekämpfen, solange es noch möglich ist!
    Gruß Mümmel

    Wir laufen eindeutig in Richtung zentrale Überwachung und Diktatur. Nur für die Alpha-Oligarchen gibt es dann noch etwas Freiheit, Luxus und freie(n) Fahrt/Flug. Alles klar absehbar. 😉



  • @muemmel
    Danke muemmel. Ich hatte schon die Befürchtung dass mehr Blut als Adrenalin in meinem Blutkreis wäre. Aber dank dieser verbalen Eruption des Focus ist dies nicht der Fall. 🤡



  • Hi,

    hier mal eine recht gründliche Betrachtung dieser ganzen Probleme in der NZZ.
    https://www.nzz.ch/meinung/bekennt-euch-zu-euren-zauberlehrlingen-ld.1321407
    Interessant auch, dass da einge Experten hinter vorgehaltener Hand nicht wie Merkel davon ausgehen dass man in 20 Jahren nur noch mit Sondererlaubnis selber fahren darf, sondern bis 2075 als Zeitrahmen für echte selbstfahrende Autos als denkbar ansehen.

    Gruß Mümmel



  • Hi,

    wie will man eigentlihc in Zukunft absichern, dass ein durch KI gesteuertes Auto nicht bei einem besonders rücksichtslosen Fahrer (egal ob beim von Hand steuern des Autos oder im sonstigen Leben) nicht entscheidet, dass dessen Tod für den Rest der Gesellschaft positiv wäre und den Wagen vor die Wand setzt?

    Gruß Mümmel



  • muemmel schrieb:

    wie will man eigentlihc in Zukunft absichern, dass ein durch KI gesteuertes Auto nicht bei einem besonders rücksichtslosen Fahrer (egal ob beim von Hand steuern des Autos oder im sonstigen Leben) nicht entscheidet, dass dessen Tod für den Rest der Gesellschaft positiv wäre und den Wagen vor die Wand setzt?

    Das wird doch durch das 1. Asimov’sche Gesetz garantiert, du Hirni!
    (Und ja, die Reihenfolge *ist* wichtig: https://xkcd.com/1613/)



  • Hi Scrontch,

    scrontch schrieb:

    Das wird doch durch das 1. Asimov’sche Gesetz garantiert, du Hirni!

    Nein, so einfach ist es nicht, denn ein Auto MUSS töten können. Im Straßenverkehr wird es immer wieder Fälle geben, wo es keinen Ausweg gibt, bei dem niemand umkommt. Das Auto muss dann den minimalsten Schaden ermitteln, und diesen gezielt herbeiführen, da ein Nichthandeln (gemäß Asimows 1. Robotergesetz) dann unter Umständen noch mehr Schaden anrichten würde (zum Beispiel, wenn ein großer Tankwagen die Wahl hat, einen alten Mann auf dem Bürgersteig oder einen entgegenkommenden Schulbuss umzufahren. Wenn er nicht reagiert nimmt er den Bus auf die Hörner undverursacht vielleicht 50 oder 100 Tote, die jeder 60-70 Lebensjahre verlieren. Der alte Mann wäre vieleicht nächste Woche von allein gestorben.)

    Gruß Mümmel



  • Mein Kommentar war nicht wirklich ernstgemeint.
    Deiner wohl auch nicht?
    Das Auto *muss* diesbezüglich überhaupt nichts können.
    Wieso sollten wir beim Auto *höhere* Moralkriterien anwenden als beim menschlichen Fahrer?
    Was steht denn im Strafgesetzbuch/StVO zum Fall in dem ich in den Schulbuss fahre statt auf den Opa?



  • Hi Scrontch,

    scrontch schrieb:

    Mein Kommentar war nicht wirklich ernstgemeint.
    Deiner wohl auch nicht?
    Das Auto *muss* diesbezüglich überhaupt nichts können.
    Wieso sollten wir beim Auto *höhere* Moralkriterien anwenden als beim menschlichen Fahrer?
    Was steht denn im Strafgesetzbuch/StVO zum Fall in dem ich in den Schulbuss fahre statt auf den Opa?

    Selbstfahrende Autos werden in solche oder ähnliche Situationen geraten und müssen dann einen Algorithmus haben, wie sie sich in dieser Frage verhalten.

    In Deutschland wird man sich das Maul darüber zerreißen, ohne wirklich was davon verstanden zu haben, und in Amerika wird man Musterprozesse und Sammelklagen mit zwölfstelligen Entschädigungsforderungen führen.
    Die Herstelle können vorläufig dabei nur verlieren.

    Gruß Mümmel



  • Nehmen wir mal einen Tesla X. Wie ist er programmiert?



  • Hi Erhard,

    Erhard Henkes schrieb:

    Nehmen wir mal einen Tesla X. Wie ist er programmiert?

    Um es mit Merkel zu beantworten: Nicht hilfreich.

    Musk wird sich da kaum zu sehr auf die Finger gucken lassen. Das kann man vermutlich nur per try and error rausbekommen.

    Gruß Mümmel



  • muemmel schrieb:

    Musk wird sich da kaum zu sehr auf die Finger gucken lassen. Das kann man vermutlich nur per try and error rausbekommen.

    Die Software wird doch ständig per Updates geändert. Das ist ein unbeherrschbares "moving target".



  • muemmel schrieb:

    Selbstfahrende Autos werden in solche oder ähnliche Situationen geraten und müssen dann einen Algorithmus haben, wie sie sich in dieser Frage verhalten.

    Nein, müssen sie nicht. Genauso wenig, wie ein Schachcomputer entscheiden muss, ob er verliert oder gewinnt, wenn ein verrückter Psychopath ein Menschenleben davon abhängig macht. Der Algorithmus löst ein Problem innerhalb einer Domäne, und diese Domäne beinhaltet nicht das (unlösbare) Problem, ob nun das eine oder andere Menschenleben moralisch vertretbarer umzubringen wäre.

    Diese Diskussion erübrigt sich aber im Angesicht der Tatsache, dass der Fahrer für das Verhalten seines Wagens nach wie vor verantwortlich ist (zu dem Ausmaß, zu dem er noch darüber verfügt). Wenn es zu einem Vorfall kommt, in dem ich eine Oma umgemäht habe, weil der Wagen durch den Algo so gesteuert wurde, dann muss ich das Verhalten meines Wagens vor Gericht rechtfertigen, als ob ich selbst am Steuer gesessen hätte. Eine Antwort wie "Der Wagen entschied darüber" würde bspw. gar nicht erst erklären, wie es überhaupt dazu kam, oder viel mehr wie ich es dazu kommen ließ. Der Autopilot ist nur eine Hilfe, genau wie Servo Lenkung oder andere Leckerlis. Ein Algo muss kein definiertes Verhalten haben, wenn ich ihm ein Problem zu präsentieren versuche, für das er nicht spezifiziert ist.



  • Hi Arcoth,

    Arcoth schrieb:

    muemmel schrieb:

    Selbstfahrende Autos werden in solche oder ähnliche Situationen geraten und müssen dann einen Algorithmus haben, wie sie sich in dieser Frage verhalten.

    Nein, müssen sie nicht. Genauso wenig, wie ein Schachcomputer entscheiden muss, ob er verliert oder gewinnt, wenn ein verrückter Psychopath ein Menschenleben davon abhängig macht. Der Algorithmus löst ein Problem innerhalb einer Domäne, und diese Domäne beinhaltet nicht das (unlösbare) Problem, ob nun das eine oder andere Menschenleben moralisch vertretbarer umzubringen wäre.

    Doch müssen sie, denn diese Situationen werden kommen, und nicht entscheiden kann im schlimmsten Falle heißen weder dem Opa noch dem Kind ausweichen, sondern beide totfahren.

    Diese Diskussion erübrigt sich aber im Angesicht der Tatsache, dass der Fahrer für das Verhalten seines Wagens nach wie vor verantwortlich ist (zu dem Ausmaß, zu dem er noch darüber verfügt). Wenn es zu einem Vorfall kommt, in dem ich eine Oma umgemäht habe, weil der Wagen durch den Algo so gesteuert wurde, dann muss ich das Verhalten meines Wagens vor Gericht rechtfertigen, als ob ich selbst am Steuer gesessen hätte. Eine Antwort wie "Der Wagen entschied darüber" würde bspw. gar nicht erst erklären, wie es überhaupt dazu kam, oder viel mehr wie ich es dazu kommen ließ. Der Autopilot ist nur eine Hilfe, genau wie Servo Lenkung oder andere Leckerlis. Ein Algo muss kein definiertes Verhalten haben, wenn ich ihm ein Problem zu präsentieren versuche, für das er nicht spezifiziert ist.

    Wenn man nicht bereits reaktionsbereit mit den Händen an der Lenkung dasitzt hat man gar keine Chance schnell genug zu reagieren. Und bei einer mehrstündigen Autofahrt wird es kaum einer fertig bringen, die ganze Zeit unbeschäftigt und trotzdem hellwach und reaktionsbereit am Steuer zu sitzen.
    Außerdem ist es die Frage, wie weit man überhaupt technisch dann noch in der Lage ist zu reagieren, oder ob da nicht von der Konstruktion her schon der Riegel vorgeschoben ist.
    Ich kann mich noch an den Versuch erinnern, einem Touran mal beim Einparken beim Lenken ins Steuer zu greifen. Erst passierte gar nichts und ich konnte das Steuerr (fast) nicht bewegen, und dann bei größerem Krafteinsatz mit einem Ruck gab die Automatik auf und ich konnte ohne jeden Widerstand lenken. Wenn das bei normaler Fahrgeschwindigkeit oder gar auf der Autobahn bei 130 pasiert hat man das Auto hinterher völlig verrissen und kann heilfroh sein, wenn man nicht einen anderen rammt oder sich überschlägt.

    Das beste Beispiel wie so was ausgeht ist doch, wenn einer bei normaler Landstraßenfahrt und tiefem Randstreifen mit den rechten Rädern unbemerkt von der Straße abkommt. Ein kurzer Schreck und dann wird von vielen panisch gegenglenkt und das Auto landet im Gegenverkehr. Ist laut Polizeiaussagen gar nicht so selten. Und das passiert Leuten die jeden Tag selber fahren so. Wie sollen das erst Leute schaffen, die seit Jahren nicht mehr selber ans Steuer gegriffen haben. Mach doch einfach mal den Test und lass Leute die seit langem nur noch mit Rückfahrtpiepsern, Rückfahrtkamera und diversen Einparkhilfen einparken ein ganz normales altes Auto ohne jede Hilfe längs in eine knappe Parklücke einparken. Aufgabe stellen, zugucken und ablachen.

    Außerdem werden wir spätestens ab 2030 laut Merkel nur noch mit Sondergenehmigung einen Wagen selbst lenken dürfen. Und wenns verboten wird, wird man auch Möglichkeiten finden, uns dartan zu hindern.

    Gruß Mümmel