Bør etik eller menneskelig intuition drive de moralske domme over førerløse biler?

Når man står over for kørselsdilemmaer, mennesker viser en høj vilje til at ofre sig selv for andre, træffe beslutninger baseret på ofrets alder og svinge ud på fortove for at minimere antallet af mistede liv, afslører ny forskning offentliggjort i open-access tidsskrift Grænser i adfærdsmæssig neurovidenskab . Dette er i modstrid med etiske retningslinjer under disse omstændigheder, som ofte dikterer, at intet liv skal værdsættes frem for et andet. Denne forskning håber at indlede diskussioner om, hvordan selvkørende køretøjer bør programmeres til at håndtere situationer, der bringer menneskeliv i fare.

"De teknologiske fremskridt og adoption af autonome køretøjer bevæger sig hurtigt, men de sociale og etiske diskussioner om deres adfærd halter bagefter, " siger hovedforfatter Lasse T. Bergmann, som afsluttede denne undersøgelse med et hold ved Institut for Kognitiv Videnskab, Universitetet i Osnabrück, Tyskland. "Den adfærd, der vil blive betragtet som rigtig i sådanne situationer, afhænger af, hvilke faktorer der anses for at være både moralsk relevante og socialt acceptable."

Trafikulykker er en stor kilde til dødsfald og kvæstelser i verden. Efterhånden som teknologien forbedres, automatiserede køretøjer vil overgå deres menneskelige modstykker, redde liv ved at eliminere ulykker forårsaget af menneskelige fejl. På trods af dette, der vil stadig være omstændigheder, hvor selvkørende køretøjer skal træffe beslutninger i en moralsk udfordrende situation. For eksempel, en bil kan svinge for at undgå at ramme et barn, der er kørt ud på vejen, men derved bringer andre liv i fare. Hvordan skal den programmeres til at opføre sig?

En etisk kommission iværksat af det tyske transportministerium har udarbejdet et sæt retningslinjer, repræsenterer medlemmernes bedste dømmekraft i en række spørgsmål vedrørende selvkørende biler. Disse ekspertvurderinger kan imidlertid, ikke afspejler menneskelig intuition.

Bergmann og hans kolleger designede et virtual reality-eksperiment for at undersøge menneskelig intuition i en række mulige kørescenarier. Forskellige sæt af tests blev oprettet for at fremhæve forskellige faktorer, som måske eller måske ikke opfattes som moralsk relevante.

Baseret på et traditionelt etisk tankeeksperiment, vognproblemet, testpersoner kunne vælge mellem to vejbaner, hvorpå deres køretøj kørte med konstant hastighed. De blev præsenteret for et moralsk udfordrende kørselsdilemma, såsom en mulighed for at flytte vognbaner for at minimere tabte liv, et valg mellem ofre i forskellig alder, eller en mulighed for selvopofrelse for at redde andre.

Den afslørede, at menneskelig intuition ofte var i modstrid med etiske retningslinjer.

Bergmann forklarer, "Den tyske etiske kommission foreslår, at en passager i køretøjet ikke må ofres for at redde flere mennesker; en intuition, der generelt ikke deles af forsøgspersoner i vores eksperiment. Vi oplever også, at folk valgte at redde flere liv, selv hvis dette involverer at svinge ud på fortovet - til fare for mennesker, der ikke er involveret i trafikuheldet. Desuden, emner, der betragtes som aldersfaktoren, for eksempel, vælger at redde børn frem for ældre."

Han fortsætter, "Hvis autonome køretøjer overholder retningslinjer dikteret af den etiske kommission, vores eksperimentelle beviser tyder på, at folk ikke ville være tilfredse med de beslutninger, deres biler træffer for dem."

Professor Gordon Pipa, medforfatter, også baseret på universitetet i Osnabrück fortsætter, "Det er presserende, at vi begynder at engagere os i en samfundsdiskussion for at definere målene og begrænsningerne for fremtidige regler, der gælder for selvkørende køretøjer. Dette skal ske, før de bliver en integreret del af vores daglige liv."

Bergmann forklarer, at der er behov for yderligere forskning. "Mens 'dilemma'-situationer fortjener mere undersøgelse, andre spørgsmål bør også diskuteres. Kørsel kræver en indviklet afvejning af risici versus belønninger, for eksempel fart versus faren for, at en kritisk situation udspiller sig. Beslutningsprocesser, der går forud for eller undgår en kritisk situation, bør også undersøges."