Autonomes fahren: wer muss sterben?
Hallo zusammen,
eine Frage zu automonem fahren. Also fahren ohne Fahrzeugführer. Daran wird ja derzeit geforscht und entwickelt.
Nach welchen Kriterien soll entschieden werden, wer sterben muss bzw. verletzt wird?
Folgendes Szenario als Beispiel
Jemand befährt eine schmale Landstraße. Völlig unvorhersehbar springt ein Kind hinter einem Fahrzeug hervor auf die Fahrbahn. Zum Anhalten reicht der Weg nicht!
- Weicht man nach rechts aus, so kollidiert man mit einem 50 Jährigen Familienvater, der hinter dem geparkten Fahrzeug steht. Dieser würde zerquetscht.
- Weicht man nach links aus, so kollidiert man mit einem entgegenkommenden LKW. Nur man selbst würde sterben oder schwer verletzt.
- Alternativ überfährt man das siebenjährige Kind.
Als Fahrer - sei es mal eine 78 Jährige alleinstehende Dame - kann man sich definitiv keine Gedanken mehr darüber machen. Dafür reicht die Zeit nicht. Der Unfallausgang ist ein Zufall und Moralich in jedem Falle in Ordnung.
Doch wie enscheidet ein autonomes System das das Fahrzeug steuert?
Theoretisch liegen bald ja alle Informationen vor. Das Umfeld wird bestmöglich überwacht, aber es kann nur im physikalisch möglichen Rahmen gehandelt werden.
- nimmt das System den Tod des "Besitzers" in Kauf? Die Dame wäre neutral betrachtet sozial am wenigsten wertvoll. Dies ist jetzt übrigens nicht meine persönliche Meinung, sondern ein Fakt. Doch verkauft sich ein so handelndes Fahrzeug überhaupt?
- wird der Mann geschütz, weil er sich für seine Kinder und Ehefrau sorgen muss?
- wird das Kind geschützt, weil es noch die höchste Lebenserwartung hat?
- wird das Kind überfahren, weil es den geringsten Schaden verursacht?
Ich selbst möchte das Steuer nie aus der Hand geben, aber der Trend wird sich nicht stoppen lassen.
Was glaubt ihr, wie der Algorithmus handeln sollte?
Beste Antwort im Thema
Zur Ausgangsfrage:
Ein gutes automatisches, vernetztes und autonomes System (wie z.B. Skynet) wird die Wertlosig-, Nutzlosig- und Gefährlichkeit der menschlichen Existenz erkennen und versuchen, alle zu überfahren.
Vor so was müsst ihr Angst haben 😁
918 Antworten
Der Fragestellung hier liegt eine falsche Annahme zugrunde.
Das automatisierte Fahren basiert zwar schon darauf, dass das Fahrzeug - in welcher Form auch immer - mit der Umgebung vernetzt ist. Allerdings ist es nicht so wahrscheinlich, dass tatsächlich alle Fahrzeuge untereinander kommunizieren können. Das ist nicht realistisch.
Vielmehr wird das Fahrzeug eine sehr ausgeprägte Umfeldsensorik haben, mit der die Umgebung gescannt wird. Redundanzen sind auf jeden Fall nötig, aber nicht in dem Sinne, dass die Sensoren tatsächlich doppelt vorhanden sind. Sehr wahrscheinlich wird die Redundanz so dargestellt, dass verschiedene Sensortypen dasselbe beobachten. Ebenso werden sich die entsprechenden Steuergeräte selbst und gegenseitig überwachen.
Auf keinen Fall wird das System wissen, wer die anderen Fußgänger/Fahrer sind. Das ist auch nicht relevant. Für ein automatisiertes System macht es keinen Unterschied, ob der Fußgänger 10 Jahre oder 90 Jahre alt ist (sollte es im Übrigen auch für uns nicht machen). Es werden lediglich Hindernisse erkannt. Im Übrigen wäre es äußerst fraglich (auch rechtlich gesehen), eine Entscheidungslogik zu hinterlegen, die den "Wert" eines Menschenlebens bewertet und danach handelt.
Vermutlich würde das System eine Vollbremsung einleiten und auf der eigenen Spur bleiben, denn in allen anderen Fällen würde das automatisierte Fahrzeug aktiv eine Kollision verursachen. Es ist nämlich schon ein Unterschied, ob das Auto in den Gegenverkehr oder gegen ein stehendes Hindernis neben der Fahrspur fährt, oder ob dem Fahrzeug eine Kollision aufgezwungen wird. Und nochmal: es ist unerheblich, ob ein Kind oder ein älterer Mensch vor das Auto läuft. Nach unserem Verständis sind alle Menschenleben gleich viel Wert. Aber wie gesagt, das Fahrzeug wird ohnehin nicht wissen, wer vor das Auto läuft - nur dass es passiert.
Dieses Problem hat übrigens auch einen Namen: Weichen-Dilemma bzw. Trolley-Problem bei Wikipedia
Zitat:
@Ja-Ho schrieb am 19. Dezember 2014 um 21:20:05 Uhr:
Wenn ich mitfahren will, nehm ich Bus oder Bahn.
Da hst du absolut recht! Und was mich persönlich betrifft: selbst das will ich nicht! 😁
Bis das autonome Fahren wirklich spruchreif ist, wird sowieso alles derart vernetzt sein, daß dank Google und Co. das Fahrzeug eh weiß wer sich gerade in seiner Umgebung wo aufhält.
Zitat:
..............
Die gleichen Diskussionen gab es doch anfangs beim ABS auch, heute denkt da keiner mehr darüber nach und es ist normal dass es in allen heutigen Fahrzeugen verbaut ist. Seim proßitscher äs äwweri jähr - so geht es immer mit neuen Techniken. Erst von vielen verteufelt, dann wird weniger darüber geredet, dann normal, dann kaum vorstellbar warum noch ohne.
es wird nur von der grossen masse nicht mehr in frage gestellt.
ob es immer richtig funktioniert, das weiss man im grunde gar nicht.
wir hoffen es nur.
Ähnliche Themen
Zitat:
@Go}][{esZorN schrieb am 19. Dezember 2014 um 19:00:00 Uhr:
Schleudersitz auslösen und Fzg notsprengen.mfg
Ich seh es bildlich vor mir: 10 Sprengsatzgestützte Anker am Unterboden schiessen in den Asphalt und bremsen innerhalb von 0,5 sekunden von 70 auf 0 während der Fahrer 120m hoch katapultiert wird bevor sich der Fallschirm öffnet. James Bond lässt grüßen. Nur was passiert in einem Tunnel? 😉 😁
Im Ernst, was soll passieren? Vollbremsung, fertig. Ob das Kind vors Auto springt oder nicht ist nicht Aufgabe des Bordcomputers. Er muss wie der Fahrer einfach nur schnellstmöglich bremsen, tut er das ist die Pflicht erfüllt, egal was mit dem Kind passiert.
Zitat:
@John-Mac-Dee schrieb am 20. Dezember 2014 um 15:47:40 Uhr:
Er muss wie der Fahrer einfach nur schnellstmöglich bremsen, tut er das ist die Pflicht erfüllt...
Wenn er feststellt, daß ein Ausweichen möglich ist, ohne andere Fahrzeuge/Personen zu gefährden, muß er auch das tun.
Nur dumm, dass dies nicht bewusst abläuft. In der kurzen Zeit reagiert man irgendwie, was aber nicht zwangsläufig richtig sein muss.
Zitat:
@ixe_und_tic schrieb am 20. Dezember 2014 um 09:18:02 Uhr:
Deshslb werden derart relevante Systeme mehrfach redundant ausgelegt.
Bei einem ABS ist nichts redundant.Also - um die Sicherheit braucht man sich keine übermäßig großen Sorgen zu machen.
Ja, so wie im AKW Forsmark 2006 z.B., wo trotz 4-facher Redundanz das Notkühlsystem bei einem Störfall nicht ansprang, um mal den bekanntesten Fall einer solchen Fehleinschätzung zu nennen. Dabei bezweifle ich mal, daß das autonome Navigationssystem im Auto überhaupt komplett mehrfach redundant ausgeführt wird. Das ist im sehr teuer und bringt im Endeffekt wenig. Aber das ist nun auch OT.
Zitat:
Ja, so wie im AKW Forsmark 2006 z.B., wo trotz 4-facher Redundanz das Notkühlsystem bei einem Störfall nicht ansprang, um mal den bekanntesten Fall einer solchen Fehleinschätzung zu nennen.
Hier soll aber ein System mit Redundanz weiterlaufen, was ganz anderes als im Auto. Abgesehen davon gab es in Forsmark keine echte Redundanz, lt. Bericht liefen 2 der 4 Notsysteme, die konnten aber aufgrund technischer Defekte und Fehlplanung nicht das gesamte Kraftwerk versorgen. Echte Redundanz hätte bedeutet dass eins der 4 Systeme dafür ausgereicht hätte.
Im Auto gibt es aber immer die Rückfallebene Fahrer, d.h. die Redundanz dient nur der Fehlerprüfung, im Fehlerfall wird die Fahraufgabe wieder an den Fahrer zurückgegeben.
Man redet viel über die seltenen Systemausfälle, wir haben 2 Millionen aktenkundige Unfälle pro Jahr durch menschliches Versagen. Wie viele hätten wir durch technisches Versagen? 2000? Das Gefühl die Kontrolle abzugeben führt bei solchen Systemen zu ziemlich realitätsfernen Gefahreneinschätzungen.
Zitat:
@Moers75 schrieb am 20. Dezember 2014 um 17:11:52 Uhr:
Man redet viel über die seltenen Systemausfälle, wir haben 2 Millionen aktenkundige Unfälle pro Jahr durch menschliches Versagen. Wie viele hätten wir durch technisches Versagen? 2000? Das Gefühl die Kontrolle abzugeben führt bei solchen Systemen zu ziemlich realitätsfernen Gefahreneinschätzungen.
du weißt bloß nicht, wieviel fälle durch scheinbar menschliches versagen in wirklichkeit auf technisches/konstruktives versagen zurückzuführen sind.
das waren erstmal alles fahrfehler, zu hohe geschwindigkeit etc. siehe aktueller fall bremsen/gm
da wurden etliche rehabilitiert.
und wenn es bei mir damals dank des glatteis vermutenden abs und dadurch deutlich verlängerten bremsweges gekracht hätte, hätte man mir auch erstmal so was in der art vorgeworfen.
überhaupt da der fehler sporadisch auftrat.
hätte ich dabei profan gesagt ins gras gebissen, wäre das ganze wahrscheinlich ebenso wegen zu hoher geschwindigkeit/nichtbeachten eines stopschildes zu den akten gelegt worden.
Zitat:
@Moers75 schrieb am 20. Dezember 2014 um 17:11:52 Uhr:
Im Auto gibt es aber immer die Rückfallebene Fahrer, d.h. die Redundanz dient nur der Fehlerprüfung, im Fehlerfall wird die Fahraufgabe wieder an den Fahrer zurückgegeben.
Na dann verstehe ich den Sinn des ganzen nicht, wenn ich als Fahrer jederzeit bereit sein (und sitzen) muß, das Fahrzeug innerhalb einer Sekunde zu übernehmen. Mit mehr Zeit kann man bei einem Technikausfall bei 150km/h wohl kaum rechnen.
Es ist auch ein bischen blauäugig zu glauben, daß eine bevorstehende Gefahrsituation (z.B. durch Hard- oder Softwarefehler) von einem Kontrollsystem überhaupt erkannt werden müßte.
Zitat:
@Kung Fu schrieb am 20. Dezember 2014 um 17:43:10 Uhr:
Es ist auch ein bischen blauäugig zu glauben, daß eine bevorstehende Gefahrsituation (z.B. durch Hard- oder Softwarefehler) von einem Kontrollsystem überhaupt erkannt werden müßte.
Das hängt von der Ausgestaltung des Entwicklungsprogramms ab. Eine Hard- und/oder Software-Überprüfungs- und Korrektur-Umgebung ließe sich technisch auf jeden Fall realsieren.
Zitat:
@Drahkke schrieb am 20. Dezember 2014 um 18:11:54 Uhr:
Das hängt von der Ausgestaltung des Entwicklungsprogramms ab. Eine Hard- und/oder Software-Überprüfungs- und Korrektur-Umgebung ließe sich technisch auf jeden Fall realsieren.Zitat:
@Kung Fu schrieb am 20. Dezember 2014 um 17:43:10 Uhr:
Es ist auch ein bischen blauäugig zu glauben, daß eine bevorstehende Gefahrsituation (z.B. durch Hard- oder Softwarefehler) von einem Kontrollsystem überhaupt erkannt werden müßte.
Sicherlich - in der Luftfahrt geht es ja auch.
Trozdem fielen schon Flieger vom Himmel, weil alle drei Hydraulikrkreise zeitgleich ausfielen.
Ist aber sehr selten.
Die Steuerung (aktuell alles by wire) ist dreifach ausgeführt: Aktoren, Kabel, etc.
Zitat:
@ixe_und_tic schrieb am 20. Dezember 2014 um 19:12:41 Uhr:
Trozdem fielen schon Flieger vom Himmel, weil alle drei Hydraulikrkreise zeitgleich ausfielen.
Ist aber sehr selten.
Ausser der Tatsache daß wir Alle früher oder später Sterben müssen, gibt es nicht viele Dinge die zu 100% sicher sind.
Im Straßenverkehr sterben mehr Menschen durch Rasen, Kiffen oder Saufen, als durch technische Defekte am KFZ.
Zitat:
@Angus Young schrieb am 20. Dezember 2014 um 19:53:06 Uhr:
Ausser der Tatsache daß wir Alle früher oder später Sterben müssen, gibt es nicht viele Dinge die zu 100% sicher sind.Zitat:
@ixe_und_tic schrieb am 20. Dezember 2014 um 19:12:41 Uhr:
Trozdem fielen schon Flieger vom Himmel, weil alle drei Hydraulikrkreise zeitgleich ausfielen.
Ist aber sehr selten.
Im Straßenverkehr sterben mehr Menschen durch Rasen, Kiffen oder Saufen, als durch technische Defekte am KFZ.
Dir empfehle ich in diesem Sinne den Highway to Hell für den heutigen Abend
😛