Zu deiner Frage, Dagwood: Ohne diese Software wäre doch die ganze Diskussion überflüssig, denn diese Autos können doch nur mit genau dieser fahren. Und ihre Aufgabe, Unfälle zu vermeiden - oder eben im Falle der Unvermeidbarkeit die Folgen möglichst "vertretbar" zu halten - erfüllen. Oder deutlicher: Welche Folgen werden eben im Falle der Unvermeidbarkeit eines Unfalles in Kauf genommen?

Im Artikel wird natürlich auch das Prinzip der Zufälligkeit angesprochen. Doch bliebe wiederum die vorherige Entscheidung, WANN die Umschaltung von programmierter Entscheidungsbasis auf Zufallscharakter erfolgen sollte.

Mal noch einen Schritt weiter gedacht: Was wäre, wenn wir hier übereinstimmend zu einer begründeten Entscheidung kämen, dass solche Autos besser nicht weiter entwickelt werden sollten?

Nichts wäre dann! Denn es würde keinen Entwickler oder Forscher interessieren zu welcher Entscheidung wir oder andere kommen! Außer, sie brauchten Geld von uns für so was zu entwickeln!

Ich muß doch immer entscheiden, wieviel "Sicherheit" ich kaufe.
Spurassistent,Totwinkelassistent,Distronic, Abs,esp,usw. Für normale Geldbeutel einfach zu teuer.
Die Weiterentwicklung schadet nicht.

John ich danke dir - ja Entwicklung stoppen !

Ich versuchs mal so:

Logbucheinträge eines Mercedes Benz vom 8.2.2023 16:05h direkt nach einem schweren Unfall. (Alle Logbucheinträge innerhalb einer Zeitspanne von 7 Millisekunden geschrieben)

--------------------------------------
--Verhindern von Personenschäden physikalisch nicht mehr möglich.

--Situationsbewertung liefert, dass entweder Herr A in Fahrzeug 1 oder Herr B in Fahrzeug 2 den Unfall nicht überleben wird. Es besteht physikalisch noch die Möglichkeit, jeden der beiden zu retten. Aber nicht beide.

--Starte Peronenbewertung...
--Beide sind männlich und 50 Jahre alt. A hat keine Vorerkrankungen. Bei B ist in den letzten Jahren Bluthochdruck und Übergewicht festgestellt worden. Abfragen in der Cloud ergeben ausserdem Kreditkartenabrechnungen eines Fitnessstudios bei A und Bezahlung von Fastfood bei McDonalds bei B.

--Berechnung der wahrscheinlichen Restlebensdauern...
A: 35,31 Jahre
B: 23,97 Jahre

--Das Mercedes Benz Ethikmodul entscheidet auf Basis der gängigen Kriterien, dass es sinnvoller und moralischer ist, A überleben und B sterben zu lassen. Notwendige Schritte werden auf Basis dieser Entscheidung eingeleitet.

------------------------------------------

Hier geht es nicht um Fehler. Alles funktioniert perfekt.

Sind die Kriterien ok? Welche sonst? Kann es überhaupt eine sinnvolle Bewertung des "Wertes" eines Menschenlebens geben?

Darf man das überhaupt? Darf eine Maschine das auf Basis der "Aktenlage"?

Wenn das ganze so oder ähnlich funktionieren würde, müsste man nicht dann Alten, Kranken und Behinderten von der Benutzung eines solchen Fahrzeugs abraten? Ist die Frage nach wertvollem und weniger wertvollem Leben nicht eine Frage, die wir _nie_ _wieder_ stellen wollten?

(dass A eine bislang unenddeckte Krebserkrankung hatte und nur einen Monat später verstarb und dass das System leider aufgrund des Sichtwinkels den besetzten Kindersitz hinter B nicht "gesehen" hat, sei nur am Rande bemerkt)

MM

ps: Ja. Das war jetzt alles hochgradig zynisch. Ungefähr genauso zynisch wie einen Algorithmus über Leben und Tod entscheiden zu lassen.

War nur ein Gedankenspiel, Steffek!

Ja, mM, sehr zynisch, aber treffend. Es ist ja schon etwas gewonnen, wenn man sich über solche Fragen Gedanken macht. Und was beim Redakteur des Spiegels anfängt, über einen zufälligen Leser und User hier, der das zur Diskussion stellt, weitergeht, kann vielleicht bei einem landen, der einen kennt, der weiß, wie man an einen rankommt, der maßgeblich in Entscheidungsprozesse eingebunden ist. Und der sich vielleicht Argumenten nicht verschließt. Menschen regieren die Welt und das Wirtschaftsgeschehen, nicht das Geld!!!!!

Ich weiss gar nicht ob so eine Entscheidung überhaupt getroffen werden muss. Ich hatte mal nen ähnlichen Unfall. Ich kann garantieren, die Entscheidung auszuweichen, habe ich gar nicht getroffen. Das war Reflex. den Baum hatte ich gar nicht auf dem Zettel. Hätte wohl draufgehalten, wenn ich alle Umstände sauber abgewogen hätte. es ging um ein Reh, aber das ist ja Wurst, denke ich. Wenn ein Profirennfahrer den Wagen gelenkt hätte, er hätte wohl beide Hindernisse unfahren. Also, wenn ein Computer errechnet, dass kein sicheres Ausweichen möglich ist, und dann nicht ausweicht, ist das doch ok. Der kann das viel schneller und besser als jeder Rennfahrer. Darüber hinaus, würde der PC das Hindernis wohl schon sehr viel früher bemerken als ich. er kann eben nicht abgelenkt werden- Ich glaube wirklich, wenn solche Technik 99 von 100 Unfällen vermeiden kann, dann hat sie, meiner Meining nach, ihre Berechtigung. Entscheiden muss die Technik da dann gar nichts. Jedenfalls nicht wer lebt oder stirbt.

Mann kann auch ne Risikoberechnung mit hinterlegen. Wahrscheinlichkeit bei Ausweichmanöver zu sterben unter X%, dann ausweichen, darüber, draufhalten. Bremsend natürlich. Dann entscheidet wieder nicht der PC wer lebt oder stirbt. Das Aufkommen solcher Fälle dürfte aber sehr gering sein und die Fälle der vermiedenen Unfälle mehr als drastisch senken.

doppelo,

Du hast nicht aufgepasst. Ein Rechner funktioniert schneller als Du. Er hat alle Zeit der Welt, eine Entscheidung zu treffen.

Menschen reagieren intuitiv. Deshalb sind wir auch mit Recht geneigt, die Entscheidungen in solchen Situationen nicht zu bewerten oder zu verurteilen.

Einem Rechner können wir diese mildernden Umstände aber nicht zusprechen.

Wir müssen wohl verlangen, dass er die beste aller möglichen Entscheidungen trifft. Gibt es aber in dieser Situation eine beste Entscheidung? Kann man Eltern vermitteln, dass Ihr Sohn nicht überleben durfte, weil eine _Maschine_ entschieden hat, dass das Leben eines anderen Unfallbeteiligten "wertvoller" war?

MM

Nein, ganz sicher nicht. Darum hatte ich Möglichkeiten aufgezeigt, dass die Maschine gar nicht entscheiden muss. Unbeantwortet ist auch die Frage, ob diese Technik nicht Sinn macht, wenn dadurch z.B. 99 von 100 Leben gerettet würden. Es ist ein schwieriges Thema. Ich für meinen Teil würde diese Technik, wie gesagt, befürworten.

Außerdem: Reflexe sind Entscheidungen, nichts anderes. Natürlich welche, die nicht von Überlegungen, sondern von Erfahrungen diverser Art gesteuert werden.

Ich hatte mal einen LKW überholt, der plötzlich nach links zog. In Bruchteilen von Sekunden "entschied" ich, keinen Bremsvorgang einzuleiten, sondern den Überholvorgang fortzusetzen; das ging aber nur durch ein Herumreißen des Steuers, was wiederum bewirkte, dass ich vor dem Lkw (Frontseite) quer in den Straßengraben segelte. Ergebnis: keine Verletzten, Auto sogar noch fahrbereit. Strafe nicht bezahlt (Überholen eines Linksabbiegers; der LkW-Fahrer bezahlte: Abbiegen ohne Richtung anzuzeigen), Freispruch von mir vor Gericht: besonnen und reaktionsschnell gehandelt!

Mittlerweile ist dort Überholverbot.

Wäre natürlich da ein Baum gestanden oder der Graben nicht ausgesprochen klein gewesen? Hätte ich vielleicht doch durch Bremsen einen Unfall vermeiden können? Hätte ich den Überholvorgang nicht vorausschauen können?
Ein Computerprogramm hätte es wohl!

Doch um solche Fälle, in denen die Maschine dem Menschen überlegen ist, geht es ja gar nicht. Es geht um das, was bei unvermeidbaren Unfällen passiert.

Doppel0, die Maschine MUSS aber entscheiden. Auch ich musste entscheiden!

Angenommen, an der Stelle, an der ich im Straßengraben landete, stand ein Kind. Der Computer hätte es sicher gesehen und gewusst, wenn ....... dann ....... Vielleicht dann kein Bremsvorgang! Aber: ich hatte 3 Leute im Auto. Alter? Egal oder nicht egal?

ICH kann das alles ausklammern und für den Reflex gelten alle diese Kriterien nichts.

Aber die Automatik weiß alles!

Ohne Entscheidung geht es nicht.

Banales Beispiel: Jeder 2-jährige kann von 10 Karten eine ausspielen und dann die nächste, ohne jede Ahnung von Skat. Nur eine Frage der Motorik. Auch er trifft dabei Entscheidungen. Ohne Entscheidungen gibt es keine Handlungen, keine Reaktionen.

Der Bordcomputer in einem Fahrzeug wird nie eine Entscheidung der Wertigkeit treffen können, denn diese liegt dem Programmierer vor.
Haftet im Todesfall der Programmierer?
Es ist ein weiterer Schritt zum gläsernen Menschen und aushebeln von persönlicher Freiheit. Datenschutz möchte ich hier nur mal am Rande erwähnen.
Der Mißbrauch von Fahrzeugen würde sich nicht damit eindämmen lassen. Die Sicherheit im Straßenverkehr ist da nur ein kleiner Aspekt, welcher völlig überschätzt wird. Ich denke das für manche "Neuzeitkapitalisten" wie Google, Zuckerberg usw dem Mensch ein Rotz intressiert, denn es geht nur um Kapitalerwirtschaftung in immer größeren Dimensionen. Da sind solche Projekte als Anlage der Sprung zu Donald Trump und co...
Zugeständnisse an den "mündigen Bürger" werden da gern in kleinen Dosen verabreicht.
Die Autobauer haben Technik und Innovation in ihren Schubladen, seit Jahren, welche sie als neueste Errungenschaft verkaufen, wenn die Politik meint mal wieder hinterherzuhinken.
Amerika schickt Satelliten ins Weltall, verkauft sie als Wettersonden, obwohl es nur um Spionage geht und glauben echt das Volk ist so blöd, darum machen wir das.
Dem Autodieb würde eine solche Zukunft sicher gefallen. Sie knacken die Elektronic von Fahrzeugen heute schon in massen, per Datenkabel.
Wer Rücksichtlos Rasen, oder fahren will, wird das auch in Zukunft machen.

So oder so die einzige Art von kühl geplanter Hinrichtung, bei der ich auch noch um die Henkersmahlzeit und die "letzten Worte" beschissen werde. Und noch nichtmal ein menschliches Gesicht, das ich mit meinem letzten Atem verfluchen kann.

Aber total praktisch isses ansonsten...

Warum das Thema so wichtig ist? Weil es einer der ersten Fälle ist, in denen nicht wir die Technologie sondern die Technologie uns und unser Leben bewertet.

Keine Ahnung, ob es einmal zu einer grossen Revolution der Roboter kommt wie im Film. AI ist tatsächlich ein Thema, dass unter Umständen ausser Kontrolle geraten kann.

Sicher bin ich mir nur, dass es (schon jetzt? Bald?) objektiv immer schwieriger wird, zu bewerten, wer hier eigentlich wen beherrscht.

Die Möglichkeit einer wenn auch seltenen Entscheidung über Leben und Tod durch ein Stück Software ist dabei nur eine besonders augenfällige Perversion.

Ich bin weder per se technologiefeindlich noch bin ich besonders ängstlich. Aber ich bin mal sehr gespannt, was da noch kommen wird und welche Merkwürdigkeiten wir in Zukunft dann normal finden (müssen).

Man gewöhnt sich...

MM

die techniche Entwicklung und Visionen hält niemand auf. Ich bin 1950 geboren und was hat sich nicht alles seit meinen Kinder- und Jugendtagen ge/verändert auf diesem Sektor.
Manches ist ein Segen, vieles ein Fluch.
Was nun mein Auto anbelangt, dass auch technologich bestens ausgestattet ist, so ist es aber doch auch so, dass ich mittlerweile fast noch nicht mal mehr ne Glühbirne im Motorraum selbst wechseln kann.... an beschädigte Elektronik erst gar nicht zu denken. Mit jedem Sch......... muss man heute in die völlig überteuerten Werkstätten fahren.
Mein erstes Auto 1968 war für 250 DM ein verrosteter Käfer, Baujahr 1952, noch mit Seilzugbremsen, unsynchronisiert, damals schon fast 90 000 km aufm Buckel, aber er fuhr mich noch 3 Jahre und hab ihn sogar noch einmal fast ohne Mangel durch den TÜV bekommen.
Desweiteren hat man ja verboten, ohne Freisprechanlage im Auto zu telefonieren. Ok. Aber auch MIT Freisprechanlage ist es für mich nach wie vor ein enorm hohes Risiko während des Fahrens zu telefonieren. Man ist einfach wesentlich unkonzentrierter auf den fliessenden Verkehr. Also....... telef. ich nicht. Wer was von mir will, muss halt später anrufen.
Silvio hat es schon sehr gut beschrieben...... heute endet vieles in einem Kaufrausch...... es wird einem ja auch heutzutage sehr einfach gemacht.
Last but not least: Sicherlich sind viele Erfindungen/Neuerungen auf allen Gebieten nützlicher und sinnvoller Art, aber manch einfacher und unkomplizierteren Handhabung trauere ich heute ein Stück nach.

...im übrigen ist das ein kleiner Nebenparagraph beim Verhandeln von TTIP zum Thema Steuern...besteuern in Zukunft...oh oh

1968 waren leute in deinem alter aber auch nicht in der lage in urlaub zu fliegen noch hatten die wenigsten überhaupt autos, geschweige geld für luxus.damals hat man auch nicht 1500-2500 euro verdient im monat. 250 mark war sicher viel mehr wert, als heute 250 euro. 1968 warst du mit über 60 ein greis, oder oft schon tot. 1968 würde ich gar kein auto besitzen, oder hätte überhaupt die technischen hilfsmittel dazu eins fahren zu können. kostenvergleiche hinken gewaltig.

das technik ältere menschen überfordert ist kein geheimis und die konzentration lässt halt nach. das sehe ja selbst wenn opi vor mir fährt. fahren autos mit 180 kw, aber kommen kaum um die kurve. wenn eine freisprecheinrichtung überfordert, sollte der beifahrer aber auch schweigen bei der fahrt.

das selber basteln am auto sollte man doch leuten überlassen, die sich damit auskennen. wer denn wirklich begabt ist, bekommt auch die neuen techniken geregelt. lampenwechsel bei den xenon ist ja eigentlich nicht wirklich nötig. so lang ich das fahre, war noch nie ne lampe kaputt. überhaupt sind die autos zuverlässiger als früher...sagt jedenfalls papa.

ich denke das computer gesteuerte autos kommen werden. vielleicht hat man dann gar kein eigenes auto mehr, sondern zahlt nur dafür das man eins benutzen darf, dass in der nähe ist. es würde älteren, behinderten auf jeden fall freiheit geben. autos sind halt gebrauchsgegenstände, aber ich glaube das sehen nicht alle so.

...wird nach Steuern kommen ploppi, ziemlich sicher sogar. finde ich auch für die Zukunft machbar.
Leider ist unsrere Gesellschaft noch nicht bereit um den Reichtum im Teilen zu erkennen und ergötzen sich am Egoismus...

ich finde car-shareing ne coole sache und kenne einige die das nutzen. die meiste zeit steht das eh nur rum. im letzten jahr stand mein auto 7 monate rum. aufgrund steuerlichen befreiungen, darf es aber auch kein anderer benutzen....verrückte welt manchmal.

...beim carshearing spielen da schon viele Faktoren der zukunft mit. Im sinne eine super sache für die Großstadt. Auf dem Lande unmachbar.
Selbst beim Cars...werden Grenzen des erlaubeten überschritten, nehmen nur nicht viele wahr.
Für die nächsten 10 jahre sicher ein gutes Modell, wenn der jeweilige Händler nicht auf Gewinnmaximierung ausgelegt ist^^

...sorrry john,
noch ein satz zu eben dann zu deinem Automobil.
Du schreibst oft bescheiden kompliziert, eben im anderen fred, hab ich dich nahe wahrnehmen können und hätte gern weiter über dies komplizierte thema geschnakt. ich teile nicht oft deine Meinung, manchmal biste echt Mensch.
Genug geschmeichelt?
...@john2,
aus welchen Grunde steht dein Bedürfnis diese Frage des autonomen Mobils zu stellen?
...würde mich interressieren.

Langeweile

Ich vermute eher Interesse an Gefahren von Technologie, die mal nicht offensichtlich sind.

Ich glaube, John hat genau wie ich (und Du auch Dagwood) Spass daran, das Haar in der Suppe zu finden und knallhart zu stellen.

Und je besser sich ein solches Haar versteckt umso größer ist der Heureka-Effekt.

MM

(bin ehrlich gespannt, inwieweit das vielleicht richtig sein könnte)

...ich versuche immer Gegensätze zu finden. Viele Fragen viele Antworten. Bin Neugierig auf Leben und versuche meist eine friedvolle geile Lösung zu erahnen, oder vielleicht mit zu gestalten.
Verrückte Gedanken sind mir dabei oft hilfreich. Mein streben ist aber eher Gerechtigkeit und Gleichheit.
Ob das jetzt mit dem Haar in der Suppe zusammen geht, weiß ich nicht zu beurteilen.
...ich kann mir sehr gut vorstellen in solch autonomen Autos cheffeurt zu werden und dabei ne Runde Skat zu spielen.
In vielen Städten, wie Berlin, fahren U-Bahnen schon seit Jahren autonom. Auch die S-Bahn in Teilen.
So neu ist das alles nicht.