Autonomes Fahren und Flugzeugabstrurz
Der Flugzeugabsturz in Indonesien (Boeing 737/ 800 MAX) zeigt wieder einmal dass man sich auf Automatik nie völlig verlassen kann.
Und Autonomes Fahren basiert letztendlich auf rein automatische Steuerung.
In dem Fall ein falscher Sensor der den Steigungwinkel des Flugzeugs anzeigt, misst falsch. Die Automatik steuert dagegen und versucht das Flugzeug faktisch in den Grund zu fliegen. Diese Automatik bleibt auch erhalten nachdem das Flugzeug auf manuelle Steuerung geschalten ist. Die Piloten kämpfen rund 10 Minuten dagegen an, dann fliegt das Flugzeug ins Meer.
Ja sie hätten extra einen "Trimmschalter" ausschalten müssen um auch diese auszuschalten. Sie erhalten aber auch noch falsche Geschwindigkeiten und Absturzwarnung. Die Automatik dreht durch.
Die Moral von der Geschichte, gänzliche Automatik ist niemals sicher.
Deshalb Unterstützung wie Notbremsung einleiten oder sonstige Warnungen können nicht schaden. Aber sich gänzlich darauf zu verlassen kann fatal enden.
Beste Antwort im Thema
Schreib doch mal an Boeing ,da ist mann bestimmt dankbar über den Tipp den Trimmschalter auszuschalten.
B 19
39 Antworten
Moin
Johnes
Wie auch damals, das Problem ist schon eine rein technische Frage. Zur ethischen macht man es erst wenn man akzeptiert und tolleriert das Menschen viel mehr Unfällt und Tote erzeugt als ein Computer.
Das ist der große Unterschied zur Fliegerei. Dort wird eben nacht akzeptiert oder tolleriert das Mensche eben mal einen Fehler machen. Wäre es so würde es bis heute keine automatiken im Flieger geben, und wenn es nach älteren Piloten geht würde man sie besser wieder abschaffen. Tante Ju flog auch sicher durch die Luft.
Auch in der Fliegerei nahm man einem Jahrelang ausgebildeten, hoch bezahlten und stetig medizinisch sowie im Simulatortrainig überwachten Piloten eine ganze Reihe an Aufgaben über den Autopiloten ab, oder aber, wie beim Airbus, verhindert einfach das der Pilot Fehleingaben macht, indem hier das System autonom überwacht und gegenregelt.
Nur mal ein Beispiel, würden PKW autonom ein Tempolimit einhalten, was meinst du wieviel weniger an Unfällen passieren würden? Autonom Alkotests durchführen, oder bei deutlicher Übermüdung Warnblinklicht einschalten und das Tempo auf 50 kmh reduzuieren.... Da bringt noch keiner wen um, wie im anderen Thema sugeriert.
Ein Unfallscenario ist ein Unfallscenario. Entweder sagt man dem System entscheide nach Zufall, oder man gibt ihm andere Parameter wie zu erwartende Aufprallgeschwindigkeit etc. Wer muß sterben, oder aber wen tötet, opfert oder selektiert das System ist da eine rein menschliche, reingedeutete Wahrnehmung, welche nichts mit der Realität zu tun hat.
Auch hier stellt niemand dem Menschen die Frage warum er nach links in die Kindergruppe und nicht nach rechts gegen den Baum ausgewichen ist. Es ist passiert, niemand wollte das aktiv, fertig.
Wenn dadurch aber zunächstmal tausende solcher Scenarien von vorne weg vermieden werden, weil Computer sich an Tempo 30 halten, sich nicht ablenken lassen vom Minirock, keine Nachrichten auf dem Handy schreiben, nicht betrunken fahren, nicht übermüdet fahren, nicht...
Dann stellt sich mehr die Frage: Warum müßen durch Vermeidung von solchen Systemen über 3000 Menschen jedes Jahr im Straßenverkehr sterben? Warum 300.000 Unfälle mit Personenschaden geschehen? Warum verlangst du das?
Moin
Björn
Zitat:
@OO--II--OO schrieb am 9. November 2018 um 10:33:18 Uhr:
. . . und meist is ja auch keine Störung . . . und wenn ich die Sensoren mess', liefern natürlich alle prima Signale . . . blöde Situation grad . . . evtl. mal anderes Steuergerät probieren.
Genau, es gibt schon bei den simplen Assistenzsystemen massenhaft Fehlfunktionen, die man nicht in den Griff bekommt. Die machen aber (fast) nix, weil die Systeme eben gar nicht zwingend gebraucht werden, also auch nicht immer funktionieren müssen.
Das läßt aber grob auf die rein technische Problematik blicken, die sich beim vollautonomen Navigieren u.a. stellt, wo im Prinzip jeder Fehler ein Toter sein kann.
Du hast das Baujahr gelesen?
Tja, is halt heutzutage noch 'ne etwas abstrakte/beängstigende Vorstellung, sich "lieber" von einem nicht funktionierenden Roboter überfahren zu lassen als von einem nicht funktionierenden Menschen . . . selbst wenn die Statistik irgendwann mal die Roboter als die besseren Fahrer ausweist . . .
@ WarLord :
Kein Gemecker über's Baujahr bitte ;-)
Sporadische Fehler gibt's auch bei anderen + jüngeren Autos mal (gleiches Problem hatten auch schon Bekannte am E36 (Sensor verbogen, hat über 30 km/h noch prima funktioniert, nur drunter hat er "Glatteis-ähnliches-Signal" gesendet) und Passat 3B (Sensor halb-defekt, nicht immer plausible Werte).
Vielleicht leichter auslesbar (E36 hat auch mit auslesen nix bzw. "alles ok" angezeigt), aber dafür auch deutlich mehr solches Elektronik-Zeugs drin = deutlich mehr Fehlerquellen.
Laß dann so ein Auto mal in die Jahre kommen . . .
Ähnliche Themen
Gibt doch einen Unterschied. Moderne Fahrzeuge überwachen die Radsensoren besser und zuverlässiger als die vor 20-30 Jahren. Gerade für das ESP ist eine kontinuierliche Auslesung erforderlich. Nicht nur im Moment, wo gebremst wird.
Ich bin in der Lage eine recht gute Eigendiagnose zu machen. Ich bin in dem Berufsfeld tätig und kann solche Sensorik deutlich besser ?rüfen als die meisten Werkstätten, die nur nen Stecker in den Wagen poppen können und dann sagen: Muss alles neu! (Oder "Stand der Technik!")
Zitat:
@Friesel schrieb am 9. November 2018 um 10:39:05 Uhr:
Wie auch damals, das Problem ist schon eine rein technische Frage. Zur ethischen macht man es erst wenn man akzeptiert und tolleriert das Menschen viel mehr Unfällt und Tote erzeugt als ein Computer.
Falsch! Es ist eine ethische Frage, ob man akzeptiert, das eine Maschine einen Menschen überfährt, oder ob es ein Mensch ist. Das ist keine technische Frage. Es ist immer noch ein gewaltiger Unterschied für die Opfer, ob man durch einen Unfall verletzt wird, oder ob man absichtlich von einem Roboter zum terminieren selektiert wird. Und dabei spielt es keine Rolle, ob der Mensch am Steuer auf sein Handy gegafft hat. Er hat dich nicht vorsätzlich überfahren.
MfG
Also ich kenne moderne Modelle, wo nach ein paar Monaten die Notbremsassistenten anfangen zu spinnen und z.B. oft in Tunneldurchfahrten und Kurven einfach mal ne Vollbremsung hinlegen. Die Vertragswerkstätten sagen dann nur "kennen wir schon kann man nix machen.."
Zitat:
@OO--II--OO schrieb am 9. November 2018 um 10:59:20 Uhr:
@ WarLord :
Kein Gemecker über's Baujahr bitte ;-)
Sporadische Fehler gibt's auch bei anderen + jüngeren Autos mal (gleiches Problem hatten auch schon Bekannte am E36 (Sensor verbogen, hat über 30 km/h noch prima funktioniert, nur drunter hat er "Glatteis-ähnliches-Signal" gesendet) und Passat 3B (Sensor halb-defekt, nicht immer plausible Werte).
Vielleicht leichter auslesbar (E36 hat auch mit auslesen nix bzw. "alles ok" angezeigt), aber dafür auch deutlich mehr solches Elektronik-Zeugs drin = deutlich mehr Fehlerquellen.
Laß dann so ein Auto mal in die Jahre kommen . . .
Kein Ding. Solche Macken kenn ich, die sorgen aber nicht dafür, dass der Wagen auf eine Seite hin ausbricht...
Die genannten Schwierigkeiten treten aber bei älteren ABS Systemen, welche Steuergerät und Block separat haben, deutlich häufiger auf als bei Systemen, welche eine Einheit sind und noch die elektronische Bremskraftverteilung drin haben.
Moin
Johnes
Zitat:
Falsch!
Da wir hier Meinungen und Auffassungen diskutieren kann meine schon mal nicht falsch sein, sie entspricht nur nicht der deinen. Deine ist schließlich auch nicht falsch, ich sehe es nur anders.
Zitat:
Es ist eine ethische Frage, ob man akzeptiert, das eine Maschine einen Menschen überfährt, oder ob es ein Mensch ist. Das ist keine technische Frage.
Du meinst der Mensch steht dann an der Himmelsforte und ärgert sich? Tot, oder verletzt, ist eben Tot oder verletzt. Warum das geschehen ist ist dann erst mal egal.
Aber du kannst ja mal den Eltern erklären das es doch viel toller ist das ihre Tochter von einem betrunkenen auf sein Handy schauenden Fahrer getötet wurde, als wenn das durch einen Computer geschehen wäre. Aber warte, der ist selten Betrungen und spielt auch nicht am Handy.
Bevor eine Maschine einen Menschen überfährt ist ein Unfall ja schon passiert. Wenn ein Fahrzeug einfach so auf den Gehweg fährt und auf Menschen jagd macht, dann gebe ich dir recht. Obwohl das Menschen ja auch machen..... Siehe Frankreich.
Aber wenn ein Computer entscheiden soll ob er nach links oder rechts ausweicht, dann hat vermutlich ein Mensch schon einen Fehler gemacht, sonst würde der Computer doch normal weiter geradeaus fahren, oder nicht? Er muß also nur entscheiden weil ein Mensch einen Fehler gemacht hat.
Zitat:
Es ist immer noch ein gewaltiger Unterschied für die Opfer, ob man durch einen Unfall verletzt wird, oder ob man absichtlich von einem Roboter zum terminieren selektiert wird.
Interessiert den der überfahren wird herzlich wenig. Und nochmal, er selektiert niemanden zum terminieren. Etwas weniger Terminator schauen bitte. Es würde maximal entschieden ob links oder rechts. Nichts anderes macht der Mensch. Der eine denkt an die Kinder und fährt sich selber in den Baum, der andere denkt an sich und lenkt in die Menschenmenge. Die meisten aber denken gar nicht. Sie lenken einfach und verlieren die Kontrolle weil ein Hase auf die Straße sprang. Sie hätten niemanden töten müßen, der Hase war schon lange wieder weg, aber fahren dennoch in die entgegenkommende Fahrradgruppe.
Tot ist tot. Wenn man aber Tot vermeiden kann ohne absichtlich andere zu opfern, was soll daran schlecht sein? Ob mit oder ohne Maschine, es wäre jemand in deiner Dilemmasituation gestorben. Aber wieviele solcher Situationen werden ganz ohne Tote vermieden, wieveiel Situationen verlaufen glimpflicher als bisher ab?
Und dabei spreche ich nur von dem benannten sich an Geschwindigkeiten zu halten, nicht gefährlich zu überholen, nicht betrunken oder übermüdet zu fahren, nicht am Handy spielen, nicht den coolen Mann mukieren und extrawild fahren, nicht den Röcken nach zu sehen oder zu posen.
Alles Gründe zu denen sich nur der Mensch aktiv entscheidet, und was zu, ich vermute mal, weit über 50% aller Unfällen führt. Hier entscheidet sich also ein Mensch aktiv das Risiko einzugehen einen Menschen zu töten. Eine Entscheidung die eine Maschine gar nicht erst treffen wird.
Zitat:
Und dabei spielt es keine Rolle, ob der Mensch am Steuer auf sein Handy gegafft hat. Er hat dich nicht vorsätzlich überfahren.
Was auch die Maschine nur machen würde, wenn sie ohne jeden Grund jagd auf Menschen macht. Dies aber macht sie nicht wenn sie einem schon geschehenen Unfall versucht glimpflich ablaufen zu lassen, das ist genau der Fehler in deiner Argumentation, auch schon damals.
Moin
Björn
Zitat:
@Johnes schrieb am 9. November 2018 um 09:57:13 Uhr:
Zitat:
bei einer Bremsung das ABS auf Grund fehlerhafter Sensorsignale reinregelt und die Bremse blockiert oder
Ich habe noch nicht erlebt, wie ein ABS fehlerhaft eingreift und dann das Auto umlenkt. In der Regel hat es ungefähr eine Sekunde geregelt und dann versagt, wobei das Rad (oder alle Räder) dann blockiert haben, weil man überbremst hat. Mir ist das aber im
Was muss ich mir denn unter "überbremsen" vorstellen?
Wenn es eng wird, trete ich so schnell und so fest wie möglich auf die Bremse, und hoffe dann, das es nicht knallt. Wer dann noch gute Reaktionen hat, versucht noch zu lenken.
Mir ist das wohl mal beim Sicherheitstrining passiert, auf der bewässerten Fläche. Angeblich haben bei einem Versuch alle 4 Räder blockiert, hat man mir gesagt. Im Auto sieht man das ja nicht. Angefühlt hat es sich IMHO auch nicht anders, und ich bin gerade weiter gerutscht.
Zitat:
Es gibt beides, hab ich im zur Zeit bei meinem (BMW E30) :
-- tagelang is gar nix
-- manchmal geht unter'm Fahren mal das ABS-Störungslicht an (ABS ist dann abgeschaltet, Störung ist beim nächsten Start aber wieder weg, Licht bleibt aus)
-- und dann aber auch noch ab und zu mal der unangenehme Fall : trockene Straße, bester Grip ---> aber das ABS rappelt als wäre Glatteis (= Bremspedal hart und längerer Bremsweg, gaaanz doof)
-- und dann ist wieder tagelang gar nix . . . und alles funktioniert wie vorgesehen . . .Irgendein Sensor sendet wohl ab und zu mal zweifelhafte/falsche/zu wenig Signale, als würde ein Rad (fast) blockieren, aber wohl grad so an der Grenze, daß sie nicht sicher als Fehler erkannt werden. Und mein ABS Bj. 1989 ist nur mit speziellem Gerät auslesbar . . . hat aber kaum jemand (angeblich soll aber auch Ausblinken irgendwie gehen, muß ich mal rausfinden) . . . und meist is ja auch keine Störung . . . und wenn ich die Sensoren mess', liefern natürlich alle prima Signale . . . blöde Situation grad . . . evtl. mal anderes Steuergerät probieren.
Der Fehler kommt bei den Systemen öfter vor. Bei mir was es 2006 dass ich erstmalig damit konfrontiert war, ich hab aber blitzschnell die Zündung ausgemacht und dann mechanisch runter gebremst. In der Regel liegt das an verdreckten Sensoren, die dann noch so eben n Plausibles Signal liefern, dazwischen aber Zähne "vergessen" und das in periodischen Abständen, so dass das System das nicht als Fehler erkennt. Aufm Scope kann man das schon sehen...
Der weitere Auswuchs von dem Fehler ist, dass man auf der Autobahn bremst, das ABS meint ein Rad blockiert und macht das Einlassventil zu, dann womöglich noch das Auslassventil vom ABS Block auf und dann fehlt die Bremsleistung auf nem ganzen Rad auf der Vorderachse. Damit hats mich schon einmal bei knapp 250km/h Richtung Leitplanke gefeuert... Da hast du auch keine Sekunde mehr wo du auf ne Fehlererkennung o.ä. warten kannst, sondern blos noch Zehntelsekunden. Ich war davon zwar überrascht worden, weil ich die Probefahrt eigentlich wegen einem anderen Problem gemacht hatte, aber bin bei sowas recht wach und konzentriert unterwegs und auch ein geübter Fahrer, der dann schnell weis wie er zu reagieren hat... Der normale Autofahrer hat in so einer Situation eigentlich keine Chance mehr, da unfallfrei raus zu gehen.
Ich hab die Bremse gelöst, das ABS ging dann raus und dann habe ich das Auto etwa nen halben Meter vor Leitplankeneinschlag damals wieder eingefangen bekommen, allerdings war dann mein nächstes Problem vor mir, wärend ich nun ein nicht funktionierendes Bremssystem hatte hatte ich noch mindestens 170, eher 190km/h auf dem Tacho und etwa 200m vor mir einen PKW der bereits neben dem LKW war und die Autobahn war nur 2-Spurig...
Gedanklich hatte ich mich dann schon von dem 500er Mercedes verabschiedet, den Kopf an die Kopfstütze gelegt um mich auf den folgenden scheinbar unausweichlichen Crash vor zu bereiten und bin auf den Standstreifen gewechselt und habe es tatsächlich geschaft, mit etwa 170km/h rechts zwischen Leitplanke und LKW berührungsfrei durch zu kommen... Da hatte ich die Hose nass, dass kann ich dir sagen...
Im weiteren Verlauf hat sich dann heraus gestellt, das ab 160km/h / 190km/h je Vorderradsensor stehen blieb, also obwohl man schneller fuhr, bis zu 250km/h war ein Drehzahlsignal Vorderachse trotzdem nur 160km/h und das andere 190km/h. Das hat nicht gereicht, um einen Fehler aus zu lösen, aber um beim Bremsvorgang das ABS rein zu feuern. Nach erneuerung der Drehzahlkränze, die dünn gerostet waren, war das Problem weg...