Selvkørende biler kan ikke være helt sikre – hvad er godt nok? 3 spørgsmål besvaret

Den 19. marts et Uber selvkørende køretøj, der blev testet i Arizona, ramte og dræbte Elaine Herzberg, som gik på cykel over gaden. Det er første gang et selvkørende køretøj dræber en fodgænger, og det rejser spørgsmål om etikken i at udvikle og teste nye teknologier. Nogle svar skal vente, indtil den fulde undersøgelse er afsluttet. Ikke desto mindre, Nicholas Evans, en filosofiprofessor ved University of Massachusetts-Lowell, der studerer etikken i autonome køretøjers beslutningsprocesser, siger, at nogle spørgsmål kan besvares nu.

1. Kunne en menneskelig chauffør have undgået dette styrt?

Sandsynligvis det. Det er let at tro, at de fleste mennesker ville have problemer med at se en fodgænger krydse en vej om natten. Men det, der allerede er klart om denne særlige begivenhed, er, at vejen ikke var så mørk, som den lokale politichef i første omgang hævdede.

Chefen sagde også oprindeligt, at Herzberg pludselig trådte ud i trafikken foran bilen. Imidlertid, de foruroligende og alarmerende videooptagelser frigivet af Uber og lokale myndigheder viser, at dette ikke er sandt:Snarere, Herzberg var allerede gået over den ene bane af den to-sporede vej, og var i gang med at fortsætte vejkrydset, da Uber'en ramte hende. (Sikkerhedschaufføren bemærkede heller ikke fodgængeren, men videoen antyder, at chaufføren kiggede ned, ikke gennem forruden.)

En normal menneskelig chauffør, nogen, der aktivt er opmærksom på vejen, ville sandsynligvis have haft lidt problemer med at undgå Herzberg:Med forlygter tændt, mens du kørte 40 mph på en faktisk mørk vej, det er ikke svært at undgå forhindringer på en med det samme, når de er 100 fod eller mere foran, herunder mennesker eller dyreliv, der forsøger at komme på tværs. Dette styrt kunne undgås.

En tragisk konsekvens af dette faktum er klar:En selvkørende bil dræbte en person. Men der er også en offentlig betydning. I det mindste kørte denne ene Uber-bil selv på befolkede gader, mens den ikke var i stand til at udføre den afgørende sikkerhedsopgave at opdage en fodgænger, og bremse eller styre for ikke at ramme personen.

I kølvandet på Herzbergs død, sikkerheden og pålideligheden af ​​Ubers selvkørende biler er kommet på tale. Det er også værd at undersøge etikken:Ligesom Uber er blevet kritiseret for at udnytte sine drivere til profit, virksomheden kan formentlig udnytte kørslen, ride- og gående offentligt til egne forskningsformål.

2. Selvom dette styrt var undgået, er selvkørende biler stadig generelt sikrere end menneskedrevne biler?

Ikke endnu. Dødstallet på de amerikanske veje er virkelig alarmerende:cirka 32, 000 dødsfald om året. Det føderale skøn er, at 1,18 mennesker dør pr. 100 millioner vejkilometer, der køres af mennesker. Ubers biler kørte kun 3 millioner miles, imidlertid, før deres første dødsfald. Det er ikke rimeligt at lave statistisk analyse fra et enkelt datapunkt, men det er ikke en god start:Virksomheder bør sigte efter at gøre deres robotter mindst lige så gode som mennesker, hvis endnu ikke opfylder løftet om at blive væsentligt bedre.

Selvom Ubers autonome biler var bedre bilister, tallene fortæller ikke hele historien. Af de 32, 000 mennesker, der dør på de amerikanske veje hvert år, 5, 000 til 6, 000 er fodgængere. Når man tilstræber sikkerhedsforbedringer, skal målet være at reducere de samlede dødsfald – eller at lægge særlig vægt på at beskytte de mest udsatte ofre? Det er bestemt hypotetisk muligt at forestille sig et selvkørende bilsystem, der halverer antallet af trafikdræbte – til 16, 000 – mens dødsraten for fodgængere fordobles – til 12, 000. Samlet set, det virker måske langt bedre end menneskelige chauffører – men ikke set ud fra folk, der går langs landets veje!

Min forskergruppe har arbejdet med at udvikle etiske beslutningsrammer for selvkørende biler. En potentiel tilgang kaldes "maximin". Mest fundamentalt, den tankegang antyder, at folk, der designer autonome køretøjer – både fysisk og i form af software, der kører dem – bør identificere de værst mulige resultater af enhver beslutning, selvom det er sjældent, og arbejde for at minimere deres virkninger. Enhver, der har været så uheldig at blive ramt af en bil både som fodgænger og i et køretøj, ved, at det er langt værre at være til fods. Under maximin, folk bør designe og teste biler, blandt andet, at prioritere fodgængersikkerhed.

Maximin er sandsynligvis ikke den bedst mulige – og er bestemt ikke den eneste – moralske beslutningsteori at bruge. I nogle tilfælde, det værste resultat kunne undgås, hvis en bil aldrig kører ud af sin indkørsel! Men maximin giver stof til eftertanke om, hvordan man kan integrere selvkørende biler i dagligdagen. Selvom autonome biler altid vurderes som sikrere end mennesker, hvad der tæller som "sikkert" betyder meget.

3. Hvor meget bedre skal selvkørende biler være end mennesker, før offentligheden accepterer dem?

Selv hvis folk kunne blive enige om, hvordan selvkørende biler skal være sikrere end mennesker, det er ikke klart, at folk skal være okay med selvkørende biler, når de først bliver knapt bedre end mennesker. Hvis noget, det er, når tests på gaderne i byen bør begynde.

Overvej et nyt lægemiddel udviklet af en medicinalvirksomhed. Virksomheden kan ikke markedsføre det, så snart det er bevist ikke at dræbe folk, der tager det. Hellere, stoffet skal gennemgå en række tests, der beviser, at det er effektivt til at behandle det symptom eller den tilstand, det er beregnet til. I stigende grad, lægemiddeltests forsøger at bevise, at en medicin er væsentligt bedre end den, der allerede er på markedet. Folk bør forvente det samme med selvkørende biler, før virksomheder sætter offentligheden på spil.

Ulykken i Arizona var ikke bare en tragedie. Manglen på at se en fodgænger i svagt lys var en undgåelig grundfejl for en selvkørende bil. Autonome køretøjer burde kunne meget mere end det, før de får lov til at blive kørt, selv i prøver, på åben vej. Ligesom medicinalvirksomheder, massive teknologivirksomheder bør forpligtes til grundigt – og etisk – at teste deres systemer, før deres selvkørende biler tjener eller bringer offentligheden i fare.

Denne artikel blev oprindeligt publiceret på The Conversation. Læs den originale artikel.