De hverdagslige etiske udfordringer ved selvkørende biler

En masse diskussion og etisk tanke om selvkørende biler har fokuseret på tragiske dilemmaer, som hypotetikere, hvor en bil skal beslutte, om den skal køre over en gruppe skolebørn eller kaste sig ud af en klippe, dræbe sine egne beboere. Men den slags situationer er ekstreme tilfælde.

Som det seneste styrt-hvor en selvkørende bil dræbte en fodgænger i Tempe, Arizona - demonstrerer, det hverdagslige, hverdagssituationer ved hvert kryds, drejning og kryds præsenterer meget hårdere og bredere etiske spørgsmål.

Yderstes etik

Som filosof, der arbejder med ingeniører i Stanford's Center for Automotive Research, Jeg var i første omgang overrasket over, at vi tilbragte vores laboratoriemøder med at diskutere, hvad jeg syntes var et let spørgsmål:Hvordan skal en selvkørende bil nærme sig et krydsfelt?

Min antagelse havde været, at vi ville tænke over, hvordan en bil skulle bestemme mellem passagerernes liv og fodgængeres liv. Jeg vidste, hvordan jeg skulle tænke over sådanne dilemmaer, fordi disse styrtscenarier ligner en berømt filosofisk hjerneforsker kaldet "vognproblemet." Forestil dig, at en løbende vogn slynger ned ad sporene og er nødt til at ramme enten en gruppe på fem eller en enkelt person - ville du dræbe en for at redde fem?

Imidlertid, mange filosoffer tvivler i dag på, at undersøgelse af sådanne spørgsmål er en frugtbar metode til forskning. Barbara Fried, en kollega i Stanford, for eksempel, har argumenteret for, at tragiske dilemmaer får folk til at tro, at etiske spørgsmål for det meste opstår under ekstreme og frygtelige omstændigheder.

Faktisk, etiske spørgsmål er allestedsnærværende. Hver dag, hverdagslige situationer er overraskende rodede og komplekse, ofte på subtile måder. For eksempel:Skal din by bruge penge på et diabetesforebyggelsesprogram eller på flere socialarbejdere? Skulle dit lokale sundhedsministerium ansætte en anden inspektør for restauranthygiejnestandarder, eller fortsætte et program med gratis nåle og injektionsmateriel?

Disse spørgsmål er ekstremt vanskelige at besvare på grund af usikkerhed om konsekvenserne - f.eks. Hvem der bliver berørt og i hvilken grad. De løsninger, filosoffer har foreslået til ekstreme og desperate situationer, hjælper lidt her.

Problemet er det samme med selvkørende biler. At tænke igennem ekstreme situationer og nedbrudsscenarier kan ikke hjælpe med at besvare spørgsmål, der opstår i hverdagslige situationer.

En udfordring ved overgange

Man kunne spørge, hvad kan være så svært ved hverdagslige trafiksituationer som at nærme sig et krydsfelt, kører gennem et kryds, eller dreje til venstre. Selv hvis sigtbarheden ved overgangen er begrænset, og det nogle gange er svært at sige, om en nærliggende fodgænger faktisk ønsker at krydse gaden, chauffører klarer dette hver dag.

Men for selvkørende biler, sådanne hverdagslige situationer udgør en udfordring på to måder.

Først, der er det faktum, at det, der er let for mennesker, ofte er svært for maskiner. Uanset om det er at genkende ansigter eller cykle, vi er gode til opfattelse og mekaniske opgaver, fordi evolutionen byggede disse færdigheder til os. At, imidlertid, gør disse færdigheder svære at undervise eller konstruere. Dette er kendt som "Moravec's Paradox."

Sekund, i en fremtid, hvor alle biler er selvkørende biler, små ændringer i kørselsadfærd ville gøre en stor forskel i aggregatet. Beslutninger truffet af ingeniører i dag, med andre ord, vil ikke afgøre, hvordan en bil kører, men hvordan alle biler kører. Algoritmer bliver til politik.

Ingeniører lærer computere at genkende ansigter og objekter ved hjælp af metoder til maskinlæring. De kan også bruge maskinlæring til at hjælpe selvkørende biler med at efterligne, hvordan mennesker kører. Men dette er ikke en løsning:Det løser ikke problemet, at omfattende beslutninger om sikkerhed og mobilitet træffes af ingeniører.

Desuden, selvkørende biler bør ikke køre som mennesker. Mennesker er faktisk ikke særlig gode chauffører. Og de kører på etisk foruroligende måder, beslutter, om de skal give efter ved overgange, baseret på fodgængernes alder, race og indkomst. For eksempel, forskere i Portland har fundet ud af, at sorte fodgængere passeres af dobbelt så mange biler og måtte vente en tredjedel længere end hvide fodgængere, før de kunne krydse.

Selvkørende biler burde køre mere sikkert, og mere retfærdigt end folk gør.

Mundane etik

De etiske problemer uddybes, når du tager hånd om interessekonflikterne, der dukker op i dagligdagse situationer som f.eks. sving og kryds.

For eksempel, designet af selvkørende biler skal afbalancere andres sikkerhed-fodgængere eller cyklister-med interesserne for bilers passagerer. Så snart en bil kører hurtigere end gangtempo, det er ikke i stand til at forhindre i at støde ind i et barn, der kan løbe på vejen i det sidste sekund. Men gangtempo er, selvfølgelig, alt for langsomt. Alle har brug for at komme til steder. Så hvordan skal ingeniører finde balancen mellem sikkerhed og mobilitet? Og hvilken hastighed er sikker nok?

Der er også andre etiske spørgsmål, der dukker op. Ingeniører skal lave afvejninger mellem mobilitet og miljøpåvirkninger. Når de bruges på tværs af alle bilerne i landet, små ændringer i computerstyret acceleration, sving og bremsning kan have enorme virkninger på energiforbrug og forureningsemissioner. Hvordan skal ingeniører afveje rejseeffektivitet med miljøpåvirkning?

Hvad skal trafikens fremtid være?

Mundane situationer udgør nye tekniske og etiske problemer, men de får også folk til at stille spørgsmålstegn ved grundlæggende antagelser i trafiksystemet.

For mig selv, Jeg begyndte at stille spørgsmålstegn ved, om vi overhovedet har brug for steder, der kaldes "crosswalks"? Trods alt, selvkørende biler kan potentielt gøre det sikkert at krydse en vej overalt.

Og det er ikke kun overgange, der bliver unødvendige. Trafiklys ved kryds kan også være fortid. Mennesker har brug for lyskryds for at sikre, at alle kommer til at krydse krydset uden styrt og kaos. Men selvkørende biler kunne koordinere indbyrdes problemfrit.

Det større spørgsmål her er dette:I betragtning af at selvkørende biler er bedre end menneskelige chauffører, hvorfor skulle bilerne være underlagt regler, der var designet til menneskelig fejlbarhed og menneskelige fejl? Og for at udvide dette tankeeksperiment, overvej også det mere generelle spørgsmål:Hvis vi, som et samfund, kunne designe vores trafiksystem fra bunden, hvordan ville vi have det skal se ud?

Fordi disse hårde spørgsmål vedrører alle i en by eller i et samfund, de kræver, at en by eller et samfund er enige om svar. Det betyder at afbalancere konkurrerende interesser på en måde, der fungerer for alle - uanset om folk kun tænker på overgange eller om trafiksystemet som helhed.

Med selvkørende biler, samfund kan redesigne deres trafiksystemer. Fra krydset til overordnet trafikdesign - det er dagligdags situationer, der rejser virkelig hårde spørgsmål. Ekstreme situationer er en distraktion.

Vognproblemet besvarer ikke disse hårde spørgsmål.

Denne artikel blev oprindeligt offentliggjort på The Conversation. Læs den originale artikel.