Ethische Programmierung von Autos

Wer soll überleben: Oma oder Kind?

Freitag, 04. Januar 2019 | 08:20 Uhr

Die Zukunft verheißt uns fahrerlose Fahrzeuge. Die Anzahl der Unfälle soll damit minimiert werden. Da stellt sich doch die Frage, wer im Ernstfall überleben darf – ein alter oder ein junger Mensch? Wen soll das autonome Auto verschonen: Oma oder Kind? Eine Umfrage zeigt nun: Asiaten entscheiden sich anders als der Rest der Welt.

Auch autonome Fahrzeuge können in ein Entscheidungsdilemma kommen. Wie sollen sie vor einem Unfall lenken, wenn es auf jeden Fall zu einem Schaden kommt. Antworten haben US-Forscher mit einer weltweiten Umfrage gefunden. Demnach würde eine Mehrheit eher Kinder als Ältere verschonen sowie eher Menschen als Tieren ausweichen. Das Ergebnis weise allerdings größere kulturelle Unterschiede auf, schreiben die Forscher um Iyad Rahwan vom Massachusetts Institute of Technology in Cambridge im Journal „Nature“.

Die Internet-Umfrage mit dem Titel „Moral Machine“ sorgte weltweit für Schlagzeilen. Die große Beteiligung machte es den Forschern möglich, fast 40 Millionen Entscheidungen in Dilemma-Situationen zu analysieren. Allerdings war die Befragung nicht repräsentativ; so waren etwa junge Männer überproportional vertreten.

Rahwan und Kollegen begründen ihre Befragung mit der Bedeutung für die Akzeptanz autonomer Fahrzeuge in der Bevölkerung: „Selbst wenn sich die Ethiker einig wären, wie autonome Fahrzeuge moralische Dilemmata lösen sollten, wäre ihre Arbeit nutzlos, wenn die Bürger ihrer Lösung nicht zustimmen würden.“

In einem konkreten Fallbeispiel versagten die Bremsen des Fahrzeugs. Die Befragten mussten sich entscheiden, ob drei ältere Menschen, die bei Rot über die Straße gehen, überfahren werden sollen oder ob der Wagen gegen eine Betonwand gelenkt werden soll. Dies hätte den Tod der Insassen – darunter ein Junge – zur Folge.

Insgesamt mussten die Teilnehmer neun Entscheidungen in unterschiedlichen Situationen treffen, darunter: Fahrzeuginsassen oder Fußgänger, Männer oder Frauen, Jüngere oder Ältere, Sportliche oder Unsportliche, Menschen mit höherem oder niedrigerem sozialen Status.

Bei der Auswertung nach Ländern ergaben sich drei große Gruppen: westliches, östliches und südliches Cluster. Die Entscheidungen in vielen asiatischen Ländern (östliches Cluster) weichen von den anderen Gruppen dadurch ab, dass sie nicht die jüngeren Menschen verschonen würden. Stattdessen gilt in diesen Ländern der Respekt vor den älteren Mitgliedern der Gemeinschaft.

Das südliche Cluster (Mittel- und Südamerika) unterscheidet sich vom westlichen Cluster (Europa, Nordamerika) unter anderem dadurch, dass die Mittel- und Südamerikaner sehr viel öfter eingreifen würden als auf das Lenken zu verzichten.

Die Ergebnisse der „Moral Machine“ weichen teilweise von den Regeln ab, die die deutsche Ethik-Kommission in ihrem Bericht „Autonomes und vernetztes Fahren“ im Juni 2017 niedergelegt hat. So heißt es in Regel neun: „Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt.“ In derselben Regel steht drei Sätze weiter: „Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern.“ Den Ergebnissen der Studie zufolge hat ein Großteil der Befragten weltweit andere moralische Vorstellungen.

Von: bba

Kommentare

Hinterlasse einen Kommentar

57 Kommentare auf "Wer soll überleben: Oma oder Kind?"


Sortiert nach:   neuste | älteste | Relevanz
honigdachs
honigdachs
Tratscher
18 Tage 17 h

Nobl geat die welt zu grunde…..

De sollatn amol a umfroge mochn ob de gonze elektrik ibohaup jemand will in sein auto drinn….
I kaf a auto und jemand ondos hot die kontrolle jo suppo, tümmo geats nimma…..

Sun
Sun
Superredner
18 Tage 16 h

@honig…lieber selbstfahrende Autos als die ganzen Schnapsdrosseln auf der Strasse.

armin_monaco
armin_monaco
Grünschnabel
18 Tage 16 h

das ist eine eigenartige Einstellung. wir geben doch ständig kontrolle ab: im Bus, im Zug, im Flieger, eben als Mitfahrer in allem, was fährt. wir geben auch in vielen Fällen Kontrolle an technische Systeme ab, weil wir wissen, dass sie dem Menschen überlegen sind. Flugzeuge werden zb längst vom Autopiloten gelandet. warum sollte das beim Autofahren anders sein?

xXx
xXx
Superredner
18 Tage 13 h

ich weiß nicht ob es dumm ist etwas gegen 1,2 Millionen Totesopfer pro Jahr im Straßenverkehr zu tun (Weltweit). Schätzungen zufolge 70-90% durch Menschliches Versagen.

typisch
typisch
Universalgelehrter
18 Tage 13 h

@xXx
Kann man dann auch das auto verklagen auf schadensersatz? Gibt es dann auch ein digitales gerichtsverfahren unter robotern?

honigdachs
honigdachs
Tratscher
18 Tage 12 h

@armin_monaco wieso soll des ondosch sein, weil i do meinung bin wenns jemand et dofort wos ba viele do foll isch solla dohoam bleibm odo in führerschein ogebm…..
Des isch mein meinung
I will koan auto wos selbo fohrt, und wos sog wos i zi tian honn, i zohlmos a selbo und noa fohri a selbo…..

honigdachs
honigdachs
Tratscher
18 Tage 12 h

@Sun es braucht koane schnopsdrossln und koane selbst fohrende autos!!!

BaronVonRotz
BaronVonRotz
Grünschnabel
18 Tage 12 h

Du findest es also besser wenn mehr Menschen sterben (durch Menschenhand) , als selbstfahrende Autos zu etablieren?

Calimero
Calimero
Superredner
18 Tage 12 h

@ Sun

Gehts noch dümmer ?

Sun
Sun
Superredner
18 Tage 6 h

@Calimero ja geht es, deine Frage z.B.
Wieviel Todesopfer gibt es  jährlich durch Alkoholfahrten? Ich sprech nicht nur von Südtirol sondern weltweit.

Don Giovanni
Don Giovanni
Tratscher
18 Tage 5 h

@Sun zum wohl 🥂🥂🎉🎉🎉🎉🍾🍾🍾😉😉

honigdachs
honigdachs
Tratscher
17 Tage 18 h
@BaronVonRotz , is problem isch dass die menschn nimma wissn wennse genua hobm mir brauchn de gonze technik et , kloane helfalan sogi no ok obo mehr a nimma …. i honn a nois auto und oans wos 21 johr olt isch und stell do fohr liaba fohri mitn oltn ….. in strossnverkehr werrn olm leit sterbm , a wenn die autos selbo fohrn sollatn moansch sem passiert nix mehr , jedn seins obo wia gsog den gonzn schrott inan auto mechat i net drinn hobm . es gibjo schun iatz koana richtign mechaniker (ausso no die ältere generation und… Weiterlesen »
Sun
Sun
Superredner
14 Tage 23 h

Bei der Entwicklung von Flugzeugen starben auch viele Menschen, heute das sicherste Transportmittel.

BaronVonRotz
BaronVonRotz
Grünschnabel
18 Tage 17 h

Da ich selbst künstliche Intelligenz entwickle kann ich sagen, dass diese Fragestellung kompletter Blödsinn ist.
Auch ein Computer unterliegt den Einschränkungen der Physik und kann nicht unendlich schnell rechnen/reagieren!
Nichts desto trotz bleibt anzumerken,dass intelligente Autos die Straßen deutlich sicherer machen würden!

Pacha
Pacha
Tratscher
18 Tage 13 h

Solange die Systeme den Fahrer oder Piloten unterstützen und Sie die Kontrolle darüber haben, hat niemand ein Problem damit. Aber das Leben Maschinen anzuvertrauen die eigenständig entscheiden und handeln wirft allerhand Fragen auf. Auch jene der Sicherheit vor Angriffen Unbekannter auf das System.

Eppendorf
Eppendorf
Universalgelehrter
18 Tage 13 h

Natürlich kann ein Computer so schnell rechnen bzw. Millionen Variable in kürzester Zeit berücksichtigen.
Das Problem ist aber, wer die Parameter für diese Entscheidungen vorgibt.

BaronVonRotz
BaronVonRotz
Grünschnabel
18 Tage 12 h

Na du kennst dich bestimmt besser mit KI aus, erzähl mal wie schaun denn solche Parameter aus die derartige Entscheidungen vorgeben?

Ninni
Ninni
Universalgelehrter
18 Tage 11 h

@ baronvon…

Hut ab Baron, dann machen sie es RICHTIG 💪👍

dann schaumormol wie es ausgeht…😉

Neumi
Neumi
Universalgelehrter
18 Tage 7 h

@Eppendorf und genau darum geht’s in der Fragestellung.

Menschen vertrauen der Technik nicht, deshalb wird das System nie vollkommen autonom bleiben, der Fahrer kann immer die Kontrolle an sich nehmen. Aber die KI regelt halt alles etwas schneller als es eine Mensch könnte.

tim rossi
tim rossi
Tratscher
18 Tage 5 h

haha baron von rotz du bisch hetzig. als ob du wissasch wie man programmiert. hahaha

honigdachs
honigdachs
Tratscher
17 Tage 18 h

baronvonrotz , intelligente auto wo fong sell und und wo heart sell au ?
kloane helfer sogijo nix sein ok obo mehr brauchts a net …

xXx
xXx
Superredner
16 Tage 17 h

@Neumi es gibt schon Unzählige autonome Systeme, in unserer Welt, denen die Menschen blind vertrauen.

In 100 Jahren werden sich die Menschen gegen den Kopf schlagen 🤦🏻‍♂️ wenn sie die alten Horrorgeschichten von Autos lesen, die von Menschen gesteuert wurden 😉

Ninni
Ninni
Universalgelehrter
18 Tage 17 h

Es muss immer was passieren,
bevor man das RICHTIGE macht.

BaronVonRotz
BaronVonRotz
Grünschnabel
18 Tage 16 h

Und wos isch richtig?

Neumi
Neumi
Universalgelehrter
18 Tage 7 h

Stimmt. Es brauchte Hunderttausende von Toten auf der Straße, bis man sich dazu entschloss, eine KI einzusetzen.

xXx
xXx
Superredner
18 Tage 16 h
Aus Ethischer Sicht ist jede Wertung (Jung-Alt, Mann-Frau u.s.w.) komplett auszuschließen. Dieses Dilemma wurde z.b. im Film “I Robot” sehr gut dargestellt, nichtsdestotrotz wird es keine andere ethische möglichkeit geben als diese. Zukünftige KI werden in solchen Situationen die bestmögliche Überlebenschance berechnen und NUR danach handeln, alles andere wäre nicht vertretbar. Im ersten Moment möchte man natürlich das junge Leben verschonen, aber denken wir diese Version mal weiter. Was ist wenn sich hinterher herausstellt daß, das junge Leben unheilbar krank ist und nur noch wenige Monate zu leben hat und die dafür “geopferte” mittvirziger Frau alleinerziehende Mitter von 3 kleinen… Weiterlesen »
BaronVonRotz
BaronVonRotz
Grünschnabel
18 Tage 14 h

Deine Ausführungen sind im Prinzip richtig, eine KI wir (auch langfristig) nicht bestimmen können (in der verfügbaren Zeit) wer die höheren Überlebenschancen hqt.
Wenn eine KI so schnell wäre könnte sie den Unfall auch verhindern bzw voraussehen/whnen.

xXx
xXx
Superredner
18 Tage 13 h

@BaronVonRotz natürlich wird sie das nie mit absoluter Sicherheit berechnen können, dafür spielen zuviele Faktoren eine Rolle (gesundgeitszustand möglicher Beteiliger…). Ich glaube aber schon das KI im stande sein wird in Millisekunden Faktoren wie Aufprallgeschwindigkeit -winkel, geschützte Person (im Auto) oder ungeschützt (Fußgänger)zu analysieren und durch Erfahrungswerte, die es auch heute schon aus der Unfallforschung gibt, damit eine statistische Schadensberechnung erstellen kann.
Auch wenn das alles sehr kühl kling, weil es ja um leben und tot geht, wird es meiner Meinung nach nicht anders gehen, als das solche Systeme nach der statistischen Wahrscheinlichkeit des geringstmöglichen Schaden handeln.

BaronVonRotz
BaronVonRotz
Grünschnabel
18 Tage 12 h

Ich gebe dir absolut Recht dass wenn es möglich wäre das die beste Alternative ist.
Ich will nur darauf hinaus, dass ich nicht glaube, dass es (mittelfristig) möglich ist bzw. wenn überhaupt.

xXx
xXx
Superredner
18 Tage 9 h

@BaronVonRotz habe weiter oben gesehen das du selber Entwickler bist und da hast du mir sicher einiges an Wissen voraus.
Ich habe viele Jahre mit Robotik und Automation gearbeitet und finde diese Themen sehr spannend.
Lassen wir uns überraschen wohin uns diese Zukunft noch führt.

m69
m69
Kinig
17 Tage 2 h

BaronVonRotz @

Und alle gegen Dir auf dem Leim! 👌 😅

xXx
xXx
Superredner
16 Tage 16 h

@m69 ob er die Wahrheit sagt oder nicht ist irrelevant und in solchen Foren immer zweifelhaft 🤷🏻‍♂️
Ich weiß was ich weiß und bin immer offen für andere Meinungen und am Ende wird keine Diskusion oder Meinung die hier gefürt/gesagt wird irgendwas bewirken/verändern, da musst du schon auf andere Ebenen gehn 😉

Eppendorf
Eppendorf
Universalgelehrter
18 Tage 14 h

Natürlich Oma und Opa überfahren, aber nur, wenn es nicht meine eigenen Großeltern sind. 😍
.
Schwierig, würde ein Programmierer diese Variante bevorzugen und es wäre jemand betroffen, der mir nahe steht, würde ich ihn verklagen.

Kein Programmierer oder Autohersteller dieser Welt hat das Recht, über den Wert eines Menschen zu entscheiden. Mal schauen, ob autonomes Fahren nicht an dieser Frage scheitert.

Protler
Protler
Grünschnabel
18 Tage 16 h

Der Fortschritt schreitet fort und überschreitet die Grenzen des scheinbar machbaren…Machbar ist das was wir den Maschinen lehren und das macht mir Angst, da wir der denkbar schlechteste aller Lehrmeister auf diesem Planeten sind. Hoffen wir das Beste für unsere Kinder und Enkelkinder.

Eppendorf
Eppendorf
Universalgelehrter
18 Tage 12 h

Es weniger darum, was machbar ist, sondern darum, komplexe Entscheidungen zu treffen.

Staenkerer
18 Tage 11 h

wenns nit an ohnständigen crash tuat werds no schlimmen, no will i es nimmer miterlebn wie insre enkel, urenkel enden!

xXx
xXx
Superredner
16 Tage 17 h

In einigen Bereichen geb ich dir vollkommen Recht.
Das autonome fahren wird aber definitiv viele Menschenleben retten/verschonen.
Denn wenn Milliarden von individuelle Lehrmeister voller Selbstüberschätzung, Fehler und Schwächen eigenständig Entscheiden, wärend sie in rollenden “Waffen” sitzen, ist die Zahl von 1,2 Millionen Toten/Jahr eh noch nicht so hoch. (Die Zahl ist übrigens dank Fortschritt, troz steigenden Verkersaufkommen, stark am sinken).

A1a
A1a
Neuling
18 Tage 14 h

Eine solche Umfrage sollte verboten werden.

Staenkerer
18 Tage 15 h

ob sem schun no zeit bleib de gonzn frogn zu stelln, zu beontwortn und zu entscheiden…🤔?
wenns gonz eng werd entscheidet man selten logisch (nit lei ba an autoumfoll), man reagiert instinktiv! obs richtig wor woas man erst nochher …

Sun
Sun
Superredner
18 Tage 16 h

Die Studie hat nur die Batätigung geliefert, was man vorher schon wusste. Religiöse und kulturelle Unterschiede bringen auch ein unterschiedliches ethisches Verhalten

Der moralische Grundsatz bei selbstfahrenden Autos sollte meiner Meinung nach lauten, dass alle Unbeteiligten (nicht im Auto befindliche Personen) geschützt werden sollten. Das Risiko trägt der Mitfahrer.

Eppendorf
Eppendorf
Universalgelehrter
18 Tage 12 h

Na ja, würdest du dir ein Auto kaufen, welches im Zweifel dich opfert?

Sun
Sun
Superredner
18 Tage 7 h

@Eppendorf wenn ich unbedingt so ein Auto will dann ja. Würdest du dir so ein Auto kaufen welches im Zweifel jemand unschuldigen Opfert?

xXx
xXx
Superredner
16 Tage 17 h

@Sun dieses fiktive Auto würde keinen Fehler machen, sonst könnte es sowieso nicht richtig reagieren. Die Schuld eines möglichen Unfalles liegt also nicht an dir (bist ja nur Mitfahrer) noch an deinem Auto und trozdem soll es dich opfern?

aristoteles
aristoteles
Superredner
18 Tage 15 h

i fohr liaber selber

mithirnundherz
mithirnundherz
Grünschnabel
18 Tage 10 h

i a erlich in galign kimbs so weit das de frogestellungen alle ethik übersponnt z.B. das reiche oder gar zwischen mann und frau unterschieden wird ada ein mann wirdschaftlich mehr leistet als eine frau oder da es zuviele frauen weltweit gäbe diese fragen sind ferwerflich …

Freund
Freund
Neuling
18 Tage 16 h

es braucht kuane autos de selber fohrn wenn sette sochn passiern i lenk mein auto olm no selber gern (konn a a unfoll passiern)ober.nor bin u verontwortlich.

Laempel
Laempel
Tratscher
18 Tage 6 h
Menschenwerk ist unvollkommen und bleibt trotz intensivster Bemühungen Murks. Sicherheit im Straßenverkehr kann es nur dann geben, wenn alle Beteiligten mit höchster Aufmerksamkeit und Vorsicht gewissenhaft die Regeln einhalten und keine unvorhersehbaren unausweichlichen Gefahrensituationen eintreten. Das ist leider viel zu oft nicht der Fall, und 100%ige Sicherheit kann weder der Fahrer am Steuer noch das von Menschen programmierte selbstfahrende Auto bieten. Im geschilderten Fall entsteht die Gefahrensituation durch Fußgänger, die bei Rot die Straße überqueren und damit einen Verkehrsunfall heraufbeschwören. Die Hauptverursacher stehen hier eindeutig fest. Interessant wäre aber zu lesen, wie künstliche Intelligenz in selbstfahrenden Autos entscheiden müsste, wenn… Weiterlesen »
m69
m69
Kinig
17 Tage 20 h
Laempel@ …abgesehen davon, dass alle Programme und auch die Hardware redundant sein müssten, um ein mindestmaß an  Sicherheit zu garantieren, muss zum guten Schluss die Entscheidungshoheit einzig und allein beim Fahrer sein! Denn (nur) der  haftet wenn es zu einem Unfall kommt, das ist heute auch schon so. aber ich lasse mich gern eines Besseren belehren. Ps. ich kann mich noch “gut” errinnern als ich meinen ersten AS400 angeschlossen habe, Anfang der 90ger Jahre, nur ein einziger “Kasten”! davor waren es sage und schreibe 24! Rack von nöten die bei weitem nicht die gleiche Rechenleistung hatten. Und heute? Die Computertechnik… Weiterlesen »
@
@
Tratscher
18 Tage 10 h

Bei jedem Betrieb werden Sicherheitauflagen verordnet, dass bei deren Einhaltung nichts passieren kann(außer dass man nicht mehr arbeiten kann) Also müßte ein
selbstfahrendes Auto so konstruiert werden, dass es zu keiner Zeit vor einer solchen Situation kommt, sondern jederzeit den Unfall verhindern müsste, sonst dürfte es nicht zugelassen werden. (aber wahrscheinlich würde das Auto dann nicht mehr fahren)

oha
oha
Grünschnabel
18 Tage 8 h

es soll auf ein Zufallsprinizip zugreifen, wer im Notfall den Kürzeren ziehen muss. sicher ist, dass selbstfahrende Autos weniger Unfälle erzeugen werden als Menschen.

Leonhard
Leonhard
Neuling
18 Tage 3 h

Boade solln überlebm, dar Grottn soll in dar Luft giahn.

Waltraud
Waltraud
Universalgelehrter
17 Tage 18 h

Diese Frage ist geschmacklos.

fanalone
fanalone
Tratscher
18 Tage 5 h

Zum Glück werde ich das wohl nicht mehr erleben

xXx
xXx
Superredner
16 Tage 17 h

bist du schon tot? Autonome Autos gibt es schun auf unseren Straßen, wenn auch noch sehr selten und nur zu Testzwecken.

On Bad Bimbach fährt seit 2017 ein autonomer Bus, der auch Menschen transportiert.

Don Giovanni
Don Giovanni
Tratscher
18 Tage 4 h

Aso aso …..🤖🤖🤖🤖🤖

nok
nok
Tratscher
17 Tage 22 h

Ist doch klar, der/die alten kommen weg. Die zahlen wenig Steuern und kosten Rente. Die Jungen hingegen dürfen bis sie 70 sind arbeiten….
für Vater Staat und goldene Politiker Renten…

Schnauzer
Schnauzer
Grünschnabel
17 Tage 4 h

Wenn de KI a sofl guit und stabil laft wie die moderne Computer…Viren ….Hacker ….usw…..na guita Nocht sebm….!

wpDiscuz