Autonomes fahren: wer muss sterben?

[Duftbaumdeuter42280]

Hallo zusammen,

eine Frage zu automonem fahren. Also fahren ohne Fahrzeugführer. Daran wird ja derzeit geforscht und entwickelt.

Nach welchen Kriterien soll entschieden werden, wer sterben muss bzw. verletzt wird?

Folgendes Szenario als Beispiel
Jemand befährt eine schmale Landstraße. Völlig unvorhersehbar springt ein Kind hinter einem Fahrzeug hervor auf die Fahrbahn. Zum Anhalten reicht der Weg nicht!
- Weicht man nach rechts aus, so kollidiert man mit einem 50 Jährigen Familienvater, der hinter dem geparkten Fahrzeug steht. Dieser würde zerquetscht.
- Weicht man nach links aus, so kollidiert man mit einem entgegenkommenden LKW. Nur man selbst würde sterben oder schwer verletzt.
- Alternativ überfährt man das siebenjährige Kind.

Als Fahrer - sei es mal eine 78 Jährige alleinstehende Dame - kann man sich definitiv keine Gedanken mehr darüber machen. Dafür reicht die Zeit nicht. Der Unfallausgang ist ein Zufall und Moralich in jedem Falle in Ordnung.

Doch wie enscheidet ein autonomes System das das Fahrzeug steuert?
Theoretisch liegen bald ja alle Informationen vor. Das Umfeld wird bestmöglich überwacht, aber es kann nur im physikalisch möglichen Rahmen gehandelt werden.
- nimmt das System den Tod des "Besitzers" in Kauf? Die Dame wäre neutral betrachtet sozial am wenigsten wertvoll. Dies ist jetzt übrigens nicht meine persönliche Meinung, sondern ein Fakt. Doch verkauft sich ein so handelndes Fahrzeug überhaupt?
- wird der Mann geschütz, weil er sich für seine Kinder und Ehefrau sorgen muss?
- wird das Kind geschützt, weil es noch die höchste Lebenserwartung hat?
- wird das Kind überfahren, weil es den geringsten Schaden verursacht?

Ich selbst möchte das Steuer nie aus der Hand geben, aber der Trend wird sich nicht stoppen lassen.

Was glaubt ihr, wie der Algorithmus handeln sollte?

[Sir Donald]

Zitat:

@olsql schrieb am 18. Dezember 2017 um 11:43:41 Uhr:

Begeben wir uns doch alle mal aufs haftungsrechtliche Glatteis. 😉

Zeitpunkt 1
Der tastet sich mit all seinen Sensoren schön langsam ran. Weil der das so gut kann erreicht der dabei evtl eine höhere Geschwindigkeit, als die Versicherung veranschlagen würde, kann ja sein. Nichtmal unwahrscheinlich...

Zeitpunkt2
Jetzt fängt der an zu rutschen und merkt hopla, Systemgrenze.

Zeitpunkt3
Selbst mit Aufforderung/Warnung/ausreichend ist man dann im Moment NACH der Übergabe noch zu schnell. Als Fahrzeugführer.

Zeitpunkt 1, die Sensoren melden unterschiedlichen Grip bevor Du es merkst.
Vor Jahren hat bei Starkregen bei Meinem damaligen das ASR angefangen zu Blinken ohne das man beim Geradeausfahren merkte das Aquaplaning droht, aber das ASR merkt das durch minimal unterschiedliche Raddrehzahlen.

Zeitpunkt 2, die Systeme reduzieren das Tempo ohne das der Fahrer einen Schimmer hat was los ist und flucht über die bescheuerten Assis.

Zeitpunkt 3, Fahrer übernimmt selbst weil er meint das das System spinnt und macht einen Abflug wegen nicht angepasster Geschwindigkeit.

Im Übrigen regeln die Systeme Heute schon ohne das der Fahrer was mitbekommt.

[Duftbaumdeuter49661]

Zitat:

@Sir Donald schrieb am 18. Dezember 2017 um 16:54:12 Uhr:

Zitat:

@olsql schrieb am 18. Dezember 2017 um 11:43:41 Uhr:

Zeitpunkt3
Selbst mit Aufforderung/Warnung/ausreichend ist man dann im Moment NACH der Übergabe noch zu schnell. Als Fahrzeugführer.

Zeitpunkt 3, Fahrer übernimmt selbst weil er meint das das System spinnt und macht einen Abflug wegen nicht angepasster Geschwindigkeit.

Er übernimmt, weil er muss! ...und macht einen Abflug wegen nicht angepasster Geschwindigkeit...

Was der meint, interessiert keinen.

[Duftbaumdeuter41082]

also ich will schlafen, wenn die Hüppe schon autonom fährt - deshalb sollte das geringste Auprallgewicht ausschlaggebend sein.

[Duftbaumdeuter49661]

Spannend wirds auch wenn der in nen anderen autonomen Stufe 5 einer anderen Marke semmelt und beide alles richtig gemacht haben, laut ihrer Box. Sonst war niemand da. 😁

[Duftbaumdeuter41082]

aber vielleicht gibts dann auch Klamotten mit Stufe 5 - das Kind hüpft weg und der Rentern beamt sich weg - ists nioch früh genug, an den Strassenrand, wenn nicht, dann nicht

[Go}][{esZorN]

Dieser Thread nähert sich langsam aber sicher Pflegestufe fünf.

[Kurvenräuber40831]

aber nur wegen dem User olsql und seinen aberwitzigen Beiträgen!

[Reifenfüller135087]

Genau, alle anderen sind super. 😛

[Friesel]

Moin

olsql

Nun werde dir mal in deiner eigenen Argumentation einig. Bisher schreibst du: Level 3 übergibt bei nicht vorhandenem, bestimmungsmäßigen Bedingungen schlagartig an den dann natürlich überforderten Fahrer.

Jetzt übergibt er angeblich nur die Verantwortung, der Rest aber läuft weiter.

Das sind zwei komplett unterschiedliche Dinge. Merkst du als Hobbyjurist doch wohl selber, oder?

Zitat:

Das ist doch wohl ein Unterschied! Es muss doch möglich (und erlaubt) sein zu differenzieren.

Oh, andere können das, du mußt das noch lernen.

Zitat:

Der wär übrigens gut für Stufe 5 später, falls man mal einen angefahren hat (shit happens). Dann könnte der Roboter als Garant erste Hilfe leisten, falls es nicht reicht nur zu blinken und einen Notruf abzusetzen, während ein Mensch verblutet....

Hat jetzt was mit einem autonomen Auto zu tun, welches lange vor dir merkt ob es glatt ist? Zwei völlig unterschiedliche Themen. Erläutere doch mal.

Zitat:

Ist halt die spannende Frage, wie die Rechtsprechung "im Stich lassen" interpretieren wird.

Hm, was macht son Auto wohl, wenn es bemerkt hat das ein UNfall passiert ist. Davon ab das man bei Levle 4 ja noch im AUto sitzt und wach ist, son Mensch macht schon ordenltich rums beim überfahren.

Zitat:

Ich verstehe doch richtig, daß "Computer" und Mensch gleichgestellt sein sollen? Der Mensch hat sein StGB und muss in den Knast. Und beim Computer? Höhere Gewalt? Niemand? Die Karre?

Die Frage stellt sich erst ab Stufe 5. Wenn das System sauber funktioniert wird es, ähnlich schon heute bei modernen Autos, nach einem Aufprall einen Notruf absetzen. Bei Stufe 4 sitzt da noch ein Mensch drin, der dann mit bsicht weiterfahren müßte. Immernoch anderes Thema. Gingen dir die argumente zur Übergabe so schnell aus? Wow, wie nicht anders zu erwarten war.

Zitat:

Er übernimmt, weil er muss! ...und macht einen Abflug wegen nicht angepasster Geschwindigkeit...

Du mußt mal dein Käferwissen beiseite wischen. Schon heute entdeckt dein Auto weit vor dir das etwas nicht stimmt. Die ganzen Assistenten werden ja nicht verbaut weil der Mensch so gut und unfehlbar ist.
Entdeckt also ein autonomes Auto das es glatt ist wird er langsamer und ruckartiges Lenken vermeiden. EBenso starkes Bremsen. Er wird das machen was viele im Käfer nicht konnten. Dabei wird er eine Warnung aussprechen, Glätte, übernimm mal. Da geht keiner in den Graben weil der Wagen schlagartig einen zu schnell fahrenden Wagen übernehmen muß.

Denk doch mal nach, wer würde so einem System, welches schlagartig an den Fahrer übergibt, eine Zulassung geben? Schon heutige Assistenzsysteme bekommen nur schwer eine Zulassung, wenn sie in einer zu schnellen Kurve plötzlich die ESP abschalten, was in einer solchen Situation zum Abflug führen würde. Schon in den 80ern wurden die ABS Systeme für Allradfahrzeuge umprogrammiert weil diese genau das machten. Ihnen wurde die Zulassung entzogen bis es geändert war.

Zitat:

Spannend wirds auch wenn der in nen anderen autonomen Stufe 5 einer anderen Marke semmelt und beide alles richtig gemacht haben, laut ihrer Box. Sonst war niemand da. 😁

Nachdenken. Dann wird wohl nicht alles richtig gelaufen sein, oder? Und wer haftet dann? Ach ja, hatten wir schon vor 100 Seiten, der Hersteller. Steht so im Gesetz.

Moin
Björn

[Duftbaumdeuter49661]

Zitat:

@Friesel schrieb am 20. Dezember 2017 um 11:56:01 Uhr:

...
Denk doch mal nach, wer würde so einem System, welches schlagartig an den Fahrer übergibt, eine Zulassung geben? Schon heutige Assistenzsysteme bekommen nur schwer eine Zulassung, wenn sie in einer zu schnellen Kurve plötzlich die ESP abschalten, was in einer solchen Situation zum Abflug führen würde. Schon in den 80ern wurden die ABS Systeme für Allradfahrzeuge umprogrammiert weil diese genau das machten. Ihnen wurde die Zulassung entzogen bis es geändert war.

Nicht die Kontrolle wird übergeben, sondern "nur" die Haftung.

Zitat:

@Friesel schrieb am 20. Dezember 2017 um 11:56:01 Uhr:

Moin

olsql

Nun werde dir mal in deiner eigenen Argumentation einig. Bisher schreibst du: Level 3 übergibt bei nicht vorhandenem, bestimmungsmäßigen Bedingungen schlagartig an den dann natürlich überforderten Fahrer.

Jetzt übergibt er angeblich nur die Verantwortung, der Rest aber läuft weiter.

Das sind zwei komplett unterschiedliche Dinge.

Hier bist du schon sehr nah dran! 🙂 Er übergibt die Haftung/Verantwortung! "Schlagartig", wie du so schön treffend formulierst...

Zitat:

@Friesel schrieb am 20. Dezember 2017 um 11:56:01 Uhr:

Zitat:

Spannend wirds auch wenn der in nen anderen autonomen Stufe 5 einer anderen Marke semmelt und beide alles richtig gemacht haben, laut ihrer Box. Sonst war niemand da. 😁

Nachdenken. Dann wird wohl nicht alles richtig gelaufen sein, oder? Und wer haftet dann? Ach ja, hatten wir schon vor 100 Seiten, der Hersteller. Steht so im Gesetz.

Ja! Aber welcher? 😁

omg...

[Friesel]

Moin

Na, bisher war es bei dir auch die Kontrolle, warum sonst sollte ein menschlicher Fahrer mit der Situation überfordert sein, wenn das System "plötzlich" übergibt.

Gleiches gilt für die Haftung. Wo steht denn geschrieben das die Haftung mit der Millisekunde an den Fahrer übergeht, in der das Fahrzeug zur Übernahme auffordert? Vieleicht endet die "Fahrzeughaftung" ja auch erst mit der Überhname.

Hast du dazu einen Beleg, oder ist das wieder nur deine Antiautonommeinung?

Zitat:

Ja! Aber welcher? 😁

Einer von beiden wird einen Fehler gemacht haben. Im zweifel beide. Dann zahlen, wie heute auch schon, beide Hersteller (Heute Versicherungen) Wenn keines der autonomen Systeme einen Fehler gemacht hat, dann ist auch kein Unfall passiert. Leuchtet ein, oder? Und wenn dann doch ein Unfall passiert, ja dann hat mindestens einer der Hersteller einen Fehler im System. Klar, oder? Hat mit Gott wenig zu tun.

Moin
Björn

[Duftbaumdeuter49661]

Zitat:

@Friesel schrieb am 20. Dezember 2017 um 19:05:03 Uhr:

Moin

Na, bisher war es bei dir auch die Kontrolle, warum sonst sollte ein menschlicher Fahrer mit der Situation überfordert sein, wenn das System "plötzlich" übergibt.

1.
"Inadäquate mentale Modelle; (😁haha😁) für eine bestimmungsgemäße Nutzung von teil- und hochautomatisierten Fahrfunktionen muss der Fahrer über Vorstellungen verfügen, welche Funktionen ein System enthält, wie es funktioniert und warum es auf diese Art und Weise funktioniert. Entsprechen diese Vorstellungen nicht den Funktionsprinzipien der Systeme sind zwei Folgen denkbar: entweder ein übersteigertes Vertrauen in das System, das sicherheitskritische Anwendungen wahrscheinlich werden lässt oder die Erfahrung von Systemverhalten, das nicht den Erwartungen des Fahrers entspricht und in Misstrauen und Nichtnutzung münden kann und letztlich positive Sicherheitsgewinne durch das System ungenutzt lässt."

https://www.bmvi.de/blaetterkatalog/index.html?catalog=364530#page_28

Zitat:

Gleiches gilt für die Haftung. Wo steht denn geschrieben das die Haftung mit der Millisekunde an den Fahrer übergeht, in der das Fahrzeug zur Übernahme auffordert? Vieleicht endet die "Fahrzeughaftung" ja auch erst mit der Überhname.

Was meinst du denn wie lang der Hersteller mit dem geplatzten Reifen weiterfährt um dich zu warnen, also wie lange der haften möchte? Der übergibt dir sofort! Ob du willst oder nicht, ready or not!...

Wo das dann in Zukunft ganz, ganz genau beschrieben steht? In der Betriebsanleitung des Fahrzeugs! Keine Sorge...

Zitat:

Hast du dazu einen Beleg, oder ist das wieder nur deine Antiautonommeinung?

Mit dieser Meinung, dass das mit der Übergabe, selbst mit Warnung, nur ein Witz sein kann, stehe ich wenigstens nicht ganz alleine da. Die Arbeitsgruppe Recht berichtet:

2.
"Verschiebung der grundlegenden Tätigkeitsinhalte von einer aktiven
Steuerungsaufgabe hin zu einer passiven Monitoring-Aufgabe; Men
schen sind für diese Form von Aufgaben, insbesondere für die Überwa-
chung von Systemen, die mit angenommen hoher Zuverlässigkeit arbei
ten, wenig geeignet und führen diese Tätigkeiten zudem ungern aus. Die
Folgen dieser Fehlbeanspruchung sind Abwendung, gedankliche Loslö-
sung, Monotonie-Erleben und verringertes Situationsbewusstsein. Die
Forderung nach einer raschen und sicheren Übernahme in kritischen
Situationen bzw. beim Erkennen von Systemgrenzen durch das System
scheint vor diesem Hintergrund fast paradox und wurde frühzeitig als
eine Ironie der Automatisierung beschrieben. Während des Regelbetrie-
bes wird der Fahrer systematisch von der Steuerungsaufgabe ausge-
schlossen und damit unterfordert, um dann bei Systemgrenzen und kri
tischen Situationen die Steuerung wieder übertragen zu bekommen."

https://www.bmvi.de/blaetterkatalog/index.html?catalog=364530#page_28

Aber die sind wahrscheinlich auch doof! 😁

[Friesel]

Moin

Zitat:

Aber die sind wahrscheinlich auch doof! 😁

Nö, wer sagt das? Das hier aber von Assistenzsystemen gesprochen wird hast du mitbekommen? Welche Erkenntnisse können die Jungs und Mädels vom Bmvi den über Level 3,4 und 5 haben?

Das deine Nummer 1 sich auf Assistenzsysteme Stufe 1 und 2 bezieht, hast du rauslesen können?

Zitat:

Was meinst du denn wie lang der Hersteller mit dem geplatzten Reifen weiterfährt um dich zu warnen, also wie lange der haften möchte? Der übergibt dir sofort! Ob du willst oder nicht, ready or not!...

Und wieder schreibst du deine Meinung oder glauben. Uninteressant. Das steht übrigens auch im Gesetz, in einer angemessenen Zeit. DIE gilt es noch zu definieren. Ansonsten, schon wieder, wird so ein System keine Zulassung bekommen. Wenn du dich anderen Aufgaben widmen kannst, dann MUß das System ohne dich auskommen können. Dann MUß es eine angemessene Zeit weiter arbeiten, bis du bereit bist manuell weiter zu fahren. Das allerdings übersteigt anscheinend deine Vorstellungskraft.

Zitat:

Mit dieser Meinung, dass das mit der Übergabe, selbst mit Warnung, nur ein Witz sein kann, stehe ich wenigstens nicht ganz alleine da. Die Arbeitsgruppe Recht berichtet:

kommt auf die Funktionalität des Systems an. Piloten sind ja auch nicht plötzlich überfordert nur weil ein Triebwerk ausfällt, oder?

Moin
Björn

[Duftbaumdeuter49661]

Zitat:

@Friesel schrieb am 20. Dezember 2017 um 21:53:39 Uhr:

Zitat:

Aber die sind wahrscheinlich auch doof! 😁

Nö, wer sagt das? Das hier aber von Assistenzsystemen gesprochen wird hast du mitbekommen?

Zitat:

eine bestimmungsgemäße Nutzung von teil- und hochautomatisierten

Sag mal, bekommst Du selbst denn auch noch etwas mit? Entschuldige bitte, wenn ich so direkt zurückfrage.

Zitat:

Welche Erkenntnisse können die Jungs und Mädels vom Bmvi den über Level 3,4 und 5 haben?

Das deine Nummer 1 sich auf Assistenzsysteme Stufe 1 und 2 bezieht, hast du rauslesen können?

Warum ergibt sich dann Änderungsbedarf? Also warum will Dobrindt Europa- und Internationales Recht "anpassen"?

Während seine eigene Arbeitsgruppe warnt?!

[Friesel]

Moin

Zitat:

Sag mal, bekommst Du selbst denn auch noch etwas mit? Entschuldige bitte, wenn ich so direkt zurückfrage.

Du liest nur was du willst, oder? Wieviele hochautomatisierte Systeme, sprich Stufe 345 kennen sie denn im Alltagstrimm? Der Rest des Textes geht um Stufe bis 2 Systemen, sollte ein Genie wie du doch erkenen können, oder?

Zitat:

Warum ergibt sich dann Änderungsbedarf? Also warum will Dobrindt Europa- und Internationales Recht "anpassen"?

Definiere und belege.

Zitat:

Während seine eigene Arbeitsgruppe warnt?!

Lese und verstehe wovor. Ist nicht so schwer.

Das schöne ist: Der Welt ists egal was du so denkst. Mir auch.

Moin
Björn