Hvordan skal autonome køretøjer programmeres?

En massiv ny undersøgelse udviklet af MIT-forskere afslører nogle distinkte globale præferencer vedrørende etik af autonome køretøjer, samt nogle regionale variationer i disse præferencer.

Undersøgelsen har global rækkevidde og en unik skala, med over 2 millioner online-deltagere fra over 200 lande, der vejer ind i versioner af en klassisk etisk gåde, "Trolleyproblemet". Problemet involverer scenarier, hvor en ulykke med et køretøj er nært forestående, og køretøjet skal vælge en af ​​to potentielt dødelige muligheder. I tilfælde af førerløse biler, det kan betyde, at man vender sig mod et par mennesker, snarere end en stor gruppe af tilskuere.

"Undersøgelsen forsøger dybest set at forstå den slags moralske beslutninger, som førerløse biler kan være nødt til at ty til, " siger Edmond Awad, en postdoc på MIT Media Lab og hovedforfatter af et nyt papir, der beskriver projektets resultater. "Vi ved endnu ikke, hvordan de skal gøre det."

Stadig, Awad tilføjer, "Vi fandt ud af, at der er tre elementer, som folk synes at bifalde mest."

Ja, de mest eftertrykkelige globale præferencer i undersøgelsen er at skåne menneskers liv i forhold til andre dyrs liv; at spare mange menneskers liv frem for nogle få; og bevare de unges liv, frem for ældre mennesker.

"De vigtigste præferencer var til en vis grad universelt aftalt, " Awad bemærker. "Men i hvilken grad de er enige i dette eller ej varierer mellem forskellige grupper eller lande." F.eks. forskerne fandt en mindre udtalt tendens til at favorisere yngre mennesker, frem for de ældre, i hvad de definerede som en "østlig" klynge af lande, herunder mange i Asien.

Papiret, "The Moral Machine Experiment, " bliver offentliggjort i Natur .

Forfatterne er Awad; Sohan Dsouza, en ph.d.-studerende i Media Lab; Richard Kim, en forskningsassistent i Media Lab; Jonathan Schulz, en postdoc ved Harvard University; Joseph Henrich, en professor ved Harvard; Azim Shariff, en lektor ved University of British Columbia; Jean-François Bonnefon, en professor ved Toulouse School of Economics; og Iyad Rahwan, en lektor i mediekunst og -videnskab ved Medielaboratoriet.

Awad er postdoc i MIT Media Labs Scalable Cooperation-gruppe, som ledes af Rahwan.

For at gennemføre undersøgelsen, forskerne designede det, de kalder "Moral Machine, "et flersproget online spil, hvor deltagerne kunne angive deres præferencer vedrørende en række dilemmaer, som autonome køretøjer kan stå over for. For eksempel:Hvis det kommer helt ned i det, bør autonome køretøjer skåne livet for lovlydige tilskuere, eller, skiftevis, lovovertrædende fodgængere, der måske jaywalker? (De fleste i undersøgelsen valgte førstnævnte.)

Alt i alt, "Moral Machine" kompilerede næsten 40 millioner individuelle beslutninger fra respondenter i 233 lande; undersøgelsen indsamlede 100 eller flere svar fra 130 lande. Forskerne analyserede dataene som helhed, samtidig med at deltagerne opdeles i undergrupper defineret efter alder, uddannelse, køn, indkomst, og politiske og religiøse synspunkter. Der var 491, 921 respondenter, der tilbød demografiske data.

Forskerne fandt ikke markante forskelle i moralske præferencer baseret på disse demografiske karakteristika, men de fandt større "klynger" af moralske præferencer baseret på kulturelle og geografiske tilhørsforhold. De definerede "vestlige, " "østlige, "og" sydlige "klynger af lande, og fandt nogle mere udtalte variationer langs disse linjer. For eksempel:Respondenter i sydlige lande havde en relativt stærkere tendens til at favorisere skånende unge frem for ældre, især sammenlignet med den østlige klynge.

Awad foreslår, at anerkendelse af disse præferencer bør være en grundlæggende del af at informere offentligheds diskussion om disse spørgsmål. I alle regioner, since there is a moderate preference for sparing law-abiding bystanders rather than jaywalkers, knowing these preferences could, i teorien, inform the way software is written to control autonomous vehicles.

"The question is whether these differences in preferences will matter in terms of people's adoption of the new technology when [vehicles] employ a specific rule, " han siger.

Rahwan, for his part, notes that "public interest in the platform surpassed our wildest expectations, " allowing the researchers to conduct a survey that raised awareness about automation and ethics while also yielding specific public-opinion information.

"On the one hand, we wanted to provide a simple way for the public to engage in an important societal discussion, " Rahwan says. "On the other hand, we wanted to collect data to identify which factors people think are important for autonomous cars to use in resolving ethical tradeoffs."

Beyond the results of the survey, Awad suggests, seeking public input about an issue of innovation and public safety should continue to become a larger part of the dialogue surrounding autonomous vehicles.

"What we have tried to do in this project, and what I would hope becomes more common, is to create public engagement in these sorts of decisions, " Awad says.