Moralkriterien bei selbstfahrenden Autos



  • Hi Arcoth,

    Arcoth schrieb:

    Soweit ich sehen kann, konnte der Autopilot ohne den zugefrorenen Geschwindigkeitsmesser nicht mehr ordentlich operieren. Soll er sich eine Geschwindigkeit ausdenken?

    Jedes Navi zeigt heute die Geschwindigkeit durch Berechnung über Satelitennavigation an. Zusätzlich lässt sich die Geschwindigkeit für einen gewissen Zeitraum aus der letzten zuverlässig gemessenen Geschwindigkeit und den danach erfolgten Beschleunigungen mitkoppeln. Diese Werte sollten zumindest als Kontrollwerte mitgeführt werden und bei auftretenden Abweichungen der Pilot frühzeitig informiert/gewarnt werden.

    Aber das erinnert mich an ein Gespräch mit einem Piloten von einer Bundeswehr-Transall vor ca 15 Jahren, wo er mir erzählte, das Transatlantikflüge von ihnen nur nachts bei klarem Himmel vorgenommen werden können, damit der Navigator oben aus der Navigationskuppel mit dem Sextanten nach den Sternen den Standort bestimmen kann.

    Gruß Mümmel



  • Arcoth schrieb:

    scrontch schrieb:

    Hier wäre mit nur etwas mehr KI wohl nichts passiert und 228 Menschenleben gerettet worden. Stattdessen hat es das System vorgezogen die simple Panne von einer menschlichen Crew komplett vermasseln zu lassen.

    Soweit ich sehen kann, konnte der Autopilot ohne den zugefrorenen Geschwindigkeitsmesser nicht mehr ordentlich operieren. Soll er sich eine Geschwindigkeit ausdenken?

    Eine Pitot-Sonde war zugefroren.
    Es gibt aber 3 davon. Und dann noch GPS.
    Geschwindigkeitssensoren waren also noch genügend vorhanden.
    Wenn einer von 4 spinnt ist es eigentlich einfach den Spinner zu identifizieren.



  • Hi,

    hier noch ein rech objektiver Beitrag zum Thema bei Krone.at:
    http://www.krone.at/1674664

    Gruß Mümmel



  • http://www.handelsblatt.com/unternehmen/industrie/technik-hinter-dem-uber-unfall-das-sind-die-fuenf-stufen-des-autonomen-fahrens/21100770.html?nlayer=Newsticker_1985586
    Videos ... Echt erstaunlich, was da so veröffentlicht wird. Schaut euch das Video vom Fahrer/Fahrerin an (interior). Da sieht man, dass der menschliche Fahrer wenig Sicherheit bietet. Wir benötigen also Level 5, was es momentan nicht gibt, und die Straße dort war absolut übersichtlich.



  • Hi,

    Wenn die Computer so weit sind, dass sie einen volltrunkenen deutsch sprechenden Ausländer mit Hasenscharte ohne einlernen fehlerfrei verstehen, dann werden sie auch in der Lage sein allein ordentlich Auto zu fahren.

    Gruß Mümmel



  • Hi,

    Im sonnigen Kalifornien mag das mit den sebstfahrenden Autos ja gehen, aber was ist wenn 20 Zentimeter Schneematsch auf der Straße liegen? Da weiß jeder menschliche Fahrer problemlos wo er langfahren muss. Ich glaube nicht, dass die Intelligenz der Autos das in den nächsten 10 Jahren hinbekommt.
    Auch mit den Vowarnzeiten wann der Fahrer eingreifen muss ist das so eine Sache. Es kann immer von jetzt auf gleich ein Eingriff nötig werden. Hab selbst schon erlebt wie auf der Autobahn Kinder hinter einem Busch hervorgerannt kamen. War zum Glück ein Standstreifen da, so dass ich noch vorbei gekommen bin.
    Assistenzsysteme sollten nach äußeren Gefahren Ausschau halten, aber auch darauf achten das der Fahrer aufpasst und sich nicht wie in LKWs schon vorgekommen während der Fahrt die Fußnägel schneidet oder sonst wie abgelenkt ist. Das Uber-Auto hätte in dem Moment wo der Fahrer nach unten sieht sofort die Weiterfahrt ablehnen müssen. Nur dann kann eine teilautomatisierte Fahrt gelingen, wenn die KI sowohl auf die äußeren Bedingungen als auch auf den Fahrer achtet.

    Wie weit es bis dahin noch ist sieht man an den Android-Tippsysteme. Ich gebe KI ein und bekomme KINDERBUMSPUPPEN angeboten. Und das in einem Beitrag über Autos und Computer. Will ich einem solchen Hersteller wirklich meine Sicherheit in einem Auto ohne eigene Einflussmöglichkeit anvertrauen? Nur weil vielleicht im Moment viele Nutzer nach derartigen Puppen suchen bekomme ich die auch angeboten. Wenn dann in dem Moment viele im Auto wenden beschließt mein Wagen dann auf der Autobahn auch zu wenden und ich werde zum Geisterfahrer...

    Gruß Mümmel



  • Naja, der Uber-Fall war ja mehr eine Mischung aus Versagen der KI und menschlichem versagen.

    Als Testfahrer sollte man auch ein wenig die Straße im Blick haben und nicht irgendwas anderes machen. - Man ist ja schließlich Kontrollinstanz falls das Auto einen Fehler macht.

    Insofern trägt für mich die Fahrerin die Hauptschuld. Denn es war keine "Wir zeigen wies geht fahrt." sondern eben eine Testfahrt um die Zuverlässigkeit der KI zu prüfen.



  • Nach Meinung vieler, die die Videos gesehen haben, hat die Frau mit dem Fahrrad so plötzlich die Fahrbahn betreten, dass auch ein menschlicher Autofahrer den Unfall wohl kaum hätte verhindern können.

    Wenn man annimmt, dass diese Einschätzung zutrifft: Worin genau besteht dann das Versagen der KI? Was hätte sie besser machen sollen?



  • Hi,

    Ein Mensch hätte den Unfall vielleicht nicht verhindert aber zumindest gebremst so dass die Frau überlebt hätte.
    Die KI hätte bremsen müssen, außerdem durch zusätzliche Sensoren die Frau eher bemerken müssen. Außerdem muss KI die noch nicht völlig autonom fährt eben auch den Fahrer auf Aufmerksamkeit überwachen.

    Gruß Mümmel



  • Wie sind solche Kontrollfahrer ausgebildet?



  • Natürlich hätte ein Mensch den Unfall verhindert! Das Uber-Auto ist ca. 60 km/h gefahren. Und die Fahrrad-Fahrerin war keine Fahrerin, sondern hat ihr Rad GESCHOBEN!!! Wie schnell schiebt man denn ein Fahrrad bis zur Mittelspur? Eben, nicht so schnell, wie wenn man drauf fährt!

    Dann kommen noch die Reflektoren der Räder, die auf jeden Fall ein SUV locker beleuchtet, genauso wie Straßenschilder reflektieren. Von weitem hätte der Uber-Fahrer schon erkennen können, das da jemand vom Straßenrand sich zur Mittelspur bewegt. Da will man mir doch nicht erzählen, das man da keine Zeit hat sich auf eine Reaktion vorzubereiten?

    Das Uber-Video ist absolut blödsinnig, da viel zu dunkel: in der Stadt mit Straßenbeleuchtung und SUV-Scheinwerfer, hätte der Auto-Fahrer nicht eine gehende Person frühzeitig erkannt??? Zumindest eine Vollbremsung oder ein rumreißen des Lenkrad hätte schlimmeres verhindert (vielleicht ein paar blaue Flecken bei der Fahrrad-schiebenden Person).

    Ich selber bin mal Nachts auf der Autobahn mit 80 km/h gefahren (Autobahn, ohne Straßenbeleuchtung), da sprang mir ein Reh direkt vor das Auto (ich konnte praktisch in seine Augen schauen). Ich habe es trotzdem geschafft ruck zuck auszuweichen! Weil ich nach vorne schaute! Mit ESP ist das heute auch kein Problem, wenn man das Lenkrad rum reißt um einem plötzlich auftretenden Hindernis auszuweichen!
    Schreckmoment, aber alles gut gegangen.
    Auf der Landstraße mit Bäumen am Wegesrand oder einer engen Straße in der Stadt sollte man vielleicht eher eine Vollbremsung einlegen, da rechts und links kein Platz wie auf der einsamen Autobahn sein wird.



  • Gruum schrieb:

    Wie sind solche Kontrollfahrer ausgebildet?

    Wahrscheinlich genauso wie die US-Autofahrer: gar nicht! 😉



  • Hi Artchi,

    Ich gehe auch davon aus, dass man mit eigenen Augen mehr gesehen haben wird als auf diesem Video.
    Mit dem Reh ist es so eine Sache, mir ist mal eines schräg von oben die Böschung runter direkt vors Auto gesprungen, da konnte ich gar nichts mehr machen, aber gestern ist mir unter ähnlichen Bedingungen wie in dem Video aber geringerer Entfernung eines in die Spur gelaufen und ich konnte noch bremsen und ausweichen. Aber dazu muss man eben auf die Straße gucken.

    Gruß Mümmel



  • Also beim Autofahren in der Nacht ist mir schon ein paar mal aufgefallen, das man im Dunkeln mit wechselhaftem Licht manche Fußgänger erst zu spät sieht. Einzig und alleine die Vernunft dieser Fußgänger nicht ohne zu gucken die Fahrbahn zu überqueren hat mich davor gerettet sie zu überfahren.



  • Hi,

    Ist schon seltsam, der Unfall des Tesla im Autopilot-Modus. https://www.welt.de/wirtschaft/article175056091/Toedlicher-Tesla-Unfall-Autopilot-war-an-Fahrer-reagierte-nicht-auf-Kollisionswarnungen.html
    Da wird der Fahrer 5 Sekunden lang gewarnt und anstatt selbst zu bremsen kracht der dann mit vollem Schmackes auf den Betonpoller drauf. Wenn das schon Autopilot heißt, dann darf es nicht nur als Tempomat funktionieren sondern muss auch bei Hindernissen bremsen.
    Wenn man sich den Wagen nach dem Unfall anguckt, der hat ja gar kein Vorderteil mehr, da könnte ja der Fahrer fast nach vorne aussteigen. So sähe in Europa nicht mal ein Kleinwagen nach einem Crash mit Tempo 100 aus. Der hat ja eine passive Sicherheit die gegen Null geht. Ich möchte mit der Kiste nicht fahren.

    Gruß Mümmel



  • Hi,

    Die Volvo-eigenen Sicherheitssysteme die den Unfall sicher verhindert hätten waren bei dem Uber-Auto deaktiviert und durch das Uber-System ersetzt.
    Die Volvo-Systeme haben bei Tests sogar bei dem schlechten Video 1 Sekunde vor dem Aufprall die Fußgängerin erkannt.
    http://www.manager-magazin.de/unternehmen/autoindustrie/unfall-mit-volvo-xc90-zulieferer-gibt-uber-die-schuld-a-1200473.html

    Gruß Mümmel



  • muemmel schrieb:

    Ich gehe auch davon aus, dass man mit eigenen Augen mehr gesehen haben wird als auf diesem Video.

    Auf jeden Fall sieht da JEDER Mensch mehr als auf dem Uber-Video zu sehen ist. Das Video von Uber ist lächerlich.

    Die Straße ist eigentlich gut beleuchtet:

    https://www.youtube.com/watch?v=CRW0q8i3u6E

    ca. 31. Sekunde ist die Unfallstelle. JEDER aufmerksame Autofahrer hätte die Frau sehen müssen.

    Selbst wenn das von mir verlinkte Video zu hell aufgenommen wurde, sollte jedem klar sein, das es sich nicht um eine stock dustere Straße auf dem Land handelt.



  • Hi,

    auf alle Fälle erleichtern wir mit selbstfehrenden Autos, vor allem wenn sie keine Eingriffsmöglichkeiten für die Insassen mehr haben den Terroristen die Arbeit ganz gewaltig.
    Es genügt dann einen Crash-Algorithmus zu programmieren und irgendwie auf die Autos zu übertragen, und schon kann man ohne eigenes Risiko und ohne Selbstmordattentäter mit einem Vorgang der auf tausende Autos übertragen wird (Bluetooth, Wifi...) wenn man es drauf anlegt tausende Menschen umbringen.

    Gruß Mümmel


Anmelden zum Antworten