Selvkørende biler:hvorfor vi ikke kan forvente, at de er moralske

Lige siden virksomheder begyndte at udvikle selvkørende biler, mennesker har spurgt, hvordan designere vil løse det moralske spørgsmål om, hvem en selvkørende bil skal dræbe, hvis et dødsulykke er uundgåeligt. Nyere forskning tyder på, at dette spørgsmål kan være endnu vanskeligere for bilproducenter at besvare end tidligere antaget, fordi de moralske præferencer, folk har, varierer så meget mellem landene.

Forskerne, baseret på Harvard University og MIT, udviklet et online spil, der simulerer situationer, hvor en dødelig bilulykke var uundgåelig. De bad omkring 40 millioner mennesker fra over 200 lande om at vælge mellem forskellige ulykkesresultater, såsom at dræbe fodgængere frem for bilens passagerer.

Resultaterne afslørede tre kulturelle klynger, hvor der var betydelige forskelle i, hvilke etiske præferencer folk havde. For eksempel, i den sydlige klynge (som omfattede det meste af Latinamerika og nogle tidligere franske kolonier), der var en stærk præference for at skåne kvinder frem for mænd. Den østlige klynge (som omfattede mange islamiske lande samt Kina, Japan og Korea) havde en lavere præference for at skåne yngre mennesker frem for ældre mennesker.

Forskerne konkluderede med at sige, at disse oplysninger skulle påvirke selvkørende biludviklere. Men er det virkelig tilfældet? Mens dette papir fremhæver en interessant opdagelse om globale variationer i moralske præferencer, det fremhæver også en vedvarende misforståelse om AI, og hvad det egentlig kan. I betragtning af den nuværende AI-teknologi, der bruges i selvkørende biler, tanken om, at et køretøj kunne tage en moralsk beslutning, er faktisk umulig.

Fantasien om 'moralsk maskine'

Selvkørende biler er uddannet til at træffe beslutninger om, hvor de skal styre, eller hvornår de skal bremse, ved hjælp af specifik (eller svag) AI (kunstig intelligens, der er fokuseret på at fuldføre en smal opgave). De er designet med en række sensorer, kameraer og afstandsmålerlasere (lidar), som giver information til en central computer. Computeren bruger derefter AI til at analysere disse input og træffe en beslutning.

Selvom teknologien i øjeblikket er relativt enkel, biler vil i sidste ende overgå mennesker i disse grundlæggende køreopgaver. Imidlertid, det er urealistisk at tro, at selvkørende biler også skal være i stand til at træffe en etisk beslutning, som selv de mest moralske mennesker ikke ville have tid til at tage i et uheldsscenario. En bil skulle programmeres med generel AI, hvis den forventedes at gøre dette.

Generel AI er ækvivalent med det, der gør os til mennesker. Det er evnen til at tale, nyd musik, finde ting sjove eller foretage moralske vurderinger. Det er i øjeblikket umuligt at producere generel AI på grund af kompleksiteten i menneskelig tanke og følelser. Hvis vi har brug for moralske autonome køretøjer, kommer vi ikke dertil i flere årtier, hvis nogensinde.

Et andet problem med den nye forskning var, at mange af de situationer, deltagerne blev bedt om at bedømme, var urealistiske. I et scenarie, der afspejler det berømte "vognproblem", deltagerne blev spurgt, hvem bilen skulle dræbe, hvis dens bremser mislykkedes:dens tre passagerer (en voksen mand, en voksen kvinde og en dreng) eller tre ældre fodgængere (to mænd og en kvinde).

Folk kan nøje overveje denne slags problemer, når de besvarer et spørgeskema. Men i de fleste ulykker i virkeligheden, en chauffør ville ikke have tid til at træffe sådanne vurderinger i et splitsekund, før det sker. Det betyder, at sammenligningen er ugyldig. Og i betragtning af den nuværende AI-teknologi for selvkørende biler, disse køretøjer vil heller ikke kunne foretage disse vurderinger.

Nuværende selvkørende biler har sofistikerede sanseevner og kan skelne fodgængere fra andre genstande, såsom lygtepæle eller vejskilte. Imidlertid, forskningsforfatterne foreslår, at selvkørende biler kan, vil og måske burde kunne foretage mere avancerede skel. For eksempel, de kunne genkende mennesker, der blev anset for mere ønskelige for samfundet, såsom læger eller atleter, og vælg at gemme dem i et crash -scenario.

Virkeligheden er, at design af biler til at foretage sådanne avancerede domme ville indebære fremstilling af generel AI, hvilket i øjeblikket er umuligt. Der er også spørgsmålet om dette overhovedet er ønskeligt. Hvis det nogensinde er muligt at programmere en bil til at beslutte, hvilket liv der skal reddes, det er ikke noget, jeg mener, vi skal tillade. Vi bør ikke tillade de præferencer, der er identificeret i forskning, hvor stor prøvestørrelsen som helst, at bestemme værdien af ​​et liv.

I deres mest grundlæggende form, selvkørende biler er designet til at undgå ulykker, hvis de kan, og minimer hastigheden ved stød, hvis de ikke kan. Selvom, ligesom mennesker, de er ikke i stand til at træffe en moralsk beslutning før en uundgåelig ulykke. Men selvkørende biler vil være sikrere end menneskelige chauffører, da de er mere opmærksomme, kan reagere hurtigere og vil bruge bremsesystemets muligheder fuldt ud i et uheldsscenario.

I øjeblikket, den største etiske udfordring, som selvkørende bildesignere står over for, er at afgøre, hvornår der er nok beviser for sikker adfærd fra simuleringer og kontrollerede test på vej til at introducere selvkørende biler til vejen. Men det betyder ikke, at de er "moralske", eller bliver snart. At sige det er at forveksle den specifikke AI ved at udføre køreopgaver med generel AI, som sandsynligvis ikke vil eksistere i vores levetid.

Ultimativt, selvkørende biler vil være mere sikre end mennesker. De vil opnå dette gennem design og undgå ulykker, hvor det er muligt, og reducere skader, hvor ikke. Imidlertid, bilerne vil ikke være i stand til at træffe moralske beslutninger, som selv vi ikke kunne. Denne forestilling er stadig en langt ude fantasi, og ikke en, vi skal holde håbet om. I stedet, lad os koncentrere os om sikkerhed:noget vi vil have berettiget tillid til.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.