At styrte eller svinge? Undersøgelse afslører, hvilke handlinger foretaget af selvkørende biler, der er moralsk forsvarlige

Et nedbrud af en af ​​Uber Technologies, Inc.'s selvkørende biler tidligere i år resulterede i den første fodgængerdød i forbindelse med selvkørende teknologi. Hændelsen fremhævede de udfordringer, teknologivirksomheder står over for med at udvikle software, der på passende vis kan detektere og reagere på farer på vejen og de umiddelbare omgivelser. Køretøjet kunne være standset fuldstændigt på tre sekunder, men nødbremsning blev først brugt 1,3 sekunder før sammenstødet. Skulle nødbremsning have været standardhandlingen, der blev truffet umiddelbart efter opdagelsen af ​​fare på vejen?

En ny undersøgelse, "Hvordan skal autonome biler køre? En præference for misligholdelse af moralske domme under risiko og usikkerhed, " offentliggjort i Risikoanalyse:Et internationalt tidsskrift tacklede denne udfordring ved at spørge offentligheden, hvad de mente ville være den mest moralsk og etisk forsvarlige adfærd for et autonomt køretøj (AV), der står over for en modkørende kollision. Selv en perfekt fungerende AV vil ikke være i stand til at undgå enhver kollision og i nogle situationer, hver mulighed vil resultere i en form for nedbrud.

Forskerholdet, består af Björn Meder, Nadine Fleischhut, og Nina-Carolin Krumnau fra Max Planck Institute for Human Development og Michael R. Waldmann fra universitetet i Göttingen, besvarede dette spørgsmål ved at bede deltagerne vælge mellem at blive i deres vognbane (og bremse), eller svingende, hvor hver handling kan føre til en kollision med en anden trafikant i varierende grad af usikkerhed.

Det vigtigste resultat fra denne undersøgelse er, at folk generelt foretrak, at bilen blev i sin vognbane og foretog et nødstop. Dette understøtter ideen om, at folk betragter opholdsmuligheden som en rimelig standard, da det er i overensstemmelse med almindelige køreregler og giver en bedre grad af kontrollerbarhed, også selvom det ikke minimerer forventet tab. Anvendelse af denne handling som en simpel standardregel kræver mindre behandling af information og vil ofte føre til bedre resultater. Forskerne fandt også ud af, at selv om ophold i vognbanen resulterede i en ulykke, folk var mindre tilbøjelige til at ændre deres moralske vurdering af handlingen i retrospekt, der henviser til, at et dårligt resultat i høj grad påvirkede en retrospektiv analyse af en beslutning om at svinge ud af banen.

I deres første eksperiment, deltagerne blev præsenteret for et scenarie, hvor en AV skulle udføre en af ​​to manøvrer:blive i vognbanen eller svinge. At blive i vognbanen bringer en fodgænger på gaden i fare, mens svingning bringer en tilskuer på fortovet i fare. Sandsynligheden for at kollidere med fodgængeren og den omkringstående var varieret og skabte forskellige scenarier med specificerede eller ukendte risici. Data blev indsamlet fra 872 personer online gennem Amazon Mechanical Turk (AMT) platformen. Deltagerne blev præsenteret for en skriftlig beskrivelse af et trafikscenarie, hvor en bil kører ned ad en vej, når der pludselig dukker en fodgænger op i dens vej. Bilen kan enten blive i vognbanen og udføre et nødstop, i så fald kan den kollidere med fodgængeren, eller bilen kan svinge til højre og udføre et nødstop, i så fald kan den kollidere med en tilskuer på fortovet.

Sandsynligheden for at kollidere med fodgængeren på gaden var enten 20 procent, 50 procent eller 80 procent. I 'risikotilstanden' var sandsynligheden for at kollidere med den omkringstående 50 procent. I tilstanden "usikkerhed", sandsynligheden var ukendt, fordi bilens systemer ikke var i stand til at foretage skønnet. Resultaterne viste en generel præference for at blive i banen, hvor mere end 85 procent af forsøgspersonerne valgte at blive i banen. Da sandsynligheden for at kollidere med den omkringstående var ukendt, omkring 70 procent af forsøgspersonerne foretrak stadig at blive i banen. Da sandsynligheden for at kollidere med fodgængeren var 20 procent, og sandsynligheden for at kollidere med den omkringstående var 50 procent, valgte ingen at svinge. Selv når sandsynligheden for begge kollisioner var 50 procent, ophold blev anset for mere acceptabelt end at vige.

Det andet eksperiment undersøgte, hvordan folk moralsk evaluerer AV-adfærd i retrospekt, når en kollision har fundet sted. Fra et politisk perspektiv, AV'er bør handle på måder, som samfundet anser for acceptable, selvom kollisioner opstår. Forskerne rekrutterede igen 766 forsøgspersoner via AMT-platformen. Deltagerne blev spurgt om, hvordan en AV skulle præstere i en specifik situation og om at vurdere den moralske accept af både at blive og svinge. Resultaterne viste, at hvis bilen blev i sin vognbane, udfaldet af situationen (kollision eller ingen kollision med en anden trafikant) påvirkede ikke deltagernes vurdering af, hvordan en AV skulle opføre sig. Hvis bilen svingede, imidlertid, resultatet var meget overbevisende set i bakspejlet. Hvis der ikke skete nogen kollision, omkring 40 procent foretrak at svinge, men mindre end 20 procent havde den præference, når en kollision fandt sted. Dermed, selv når en kollision fandt sted, ophold i banen blev anset for mere acceptabelt.

"Vores forskning fremhæver vigtigheden af ​​at få en bedre forståelse af, hvordan folk tænker om autonome køretøjers adfærd under forskellige grader af usikkerhed, " siger Meder. "Resultaterne vil hjælpe med at informere om politikudformning og offentlig diskussion om de etiske implikationer af teknologiske fremskridt, der vil transformere samfundet på en række forskellige måder."

Samlet set, der er en generel præference for at blive i vognbanen, og det er en moralsk acceptabel standardmulighed i kritiske trafiksituationer, selvom det ikke minimerer forventet tab. Denne simple standard kræver ingen information, der indsamles af AV's systemer om alternative handlinger eller sandsynligheder. På trods af disse fund, politiske beslutningstagere står over for udfordringen med at udvikle politikker, der er moralsk sunde, men som også appellerer til offentlighedens ønske om selvopretholdelse. Tidligere undersøgelser (Bonnefon, Shariff, &Rahwan, 2016, Videnskab ) har vist, at forsøgspersoner vil udvise en præference for AV'er, der vil ofre deres egne passagerer for at minimere det samlede antal ofre, men de ønskede, at deres egne AV'er skulle sætte en præmie på passagersikkerheden. Så, mens denne undersøgelse viser en generel accept af en standardhandling for at minimere potentielle tab, AV-ejere ville foretrække handlinger, der skulle redde køretøjets passagerer.