Spørgsmål og svar med en juridisk ekspert:Når en Tesla på autopilot dræber nogen, hvem er så ansvarlig?

I slutningen af ​​2019 kørte Kevin George Aziz Riads bil ud af en californisk motorvej, kørte over for rødt lys og kørte ind i en anden bil og dræbte de to personer inde. Riads bil, en Tesla Model S, var på autopilot.

Tidligere på året indgav Los Angeles Countys anklagere to anklager om manddrab i køretøjer mod Riad, nu 27, og sagen markerer den første forbrydelsesretsforfølgelse i USA af en fatal bilulykke, der involverer et førerassistentsystem. Det er også den første retsforfølgning af et styrt, der involverer Teslas autopilotfunktion, som findes på over 750.000 biler i USA. I mellemtiden forfølger ofrenes familie civile sager mod både Riad og Tesla.

Tesla er omhyggelig med at skelne mellem dens autopilotfunktion og en førerløs bil, og sammenligner dens førerassistentsystem med den teknologi, flypiloter bruger, når forholdene er klare. "Tesla Autopilot aflaster chauffører for de mest kedelige og potentielt farlige aspekter af vejkørsel," siger Tesla online. "Vi bygger autopilot for at give dig mere selvtillid bag rattet, øge din sikkerhed på vejen og gøre motorvejskørsel mere behagelig... Føreren er stadig ansvarlig for og i sidste ende kontrollen over bilen."

Fabrikanten af ​​elbiler lægger helt klart sikkerhedsbyrden på føreren, men forskning tyder på, at mennesker er modtagelige for automatiseringsbias, en overdreven afhængighed af automatiserede hjælpemidler og beslutningsstøttesystemer. Nu er det op til domstolene at afgøre, hvem der er skyldig, når brugen af ​​disse systemer resulterer i fatale fejl.

I øjeblikket er Riad ude mod kaution og nægter sig skyldig i anklager om manddrab. NYU News talte med Mark Geistfeld – NYU Law Sheila Lubetsky Birnbaum professor i civile retssager og forfatteren til California Law Review papiret "A Roadmap for Autonomous Vehicles:State Tort Liability, Automobile Insurance, and Federal Safety Regulation" – om betydningen af ​​disse strafferetlige anklager og hvad de kan betyde for fremtidens forbrugertillid til ny teknologi.

Kan du kaste lidt lys over den juridiske præcedens, som den strafferetlige retsforfølgning af Kevin George Aziz Riad skaber? Hvilket budskab sender det til forbrugere og producenter af lignende teknologi?

For det første er de strafferetlige anklager overraskende, baseret på hvad vi ved - de kriminelle sigtelsesdokumenter giver som sædvanlig ingen detaljer. Typisk, hvis du ikke var opmærksom, kørte over for rødt lys og ramte nogen – hvor tragisk det end er – ville du ikke få en kriminel sigtelse ud af den adfærd i langt de fleste tilfælde. Man ser virkelig ikke mange straffesager for motorkøretøjsulykker uden for spritkørselssager.

Hvis chaufføren blev fundet skyldig i manddrab, kunne denne sag virkelig være den mest forstyrrende, den mest nye, den mest banebrydende præcedens. Det er et stærkt afvigelse fra fortiden, hvis den strafferetlige retsforfølgning blot er baseret på, at han stoler på autopilot, når han skulle have overtaget. Hvis det er det, der foregår, vil du muligvis se, at der kommer mange flere straffesager fremad, end vi gør i dag.

Erstatningsansvar eller civilretlige anklager er derimod meget almindelige. Det er, når sagsøgte ville betale erstatning for forvoldte skader. Størstedelen af ​​erstatningssøgsmål ved statsdomstole i hele landet stammer fra motorkøretøjsulykker, hvor en chauffør påstås uagtsomt at have forårsaget ulykken, hvilket tydeligvis skete i denne sag, fordi chaufføren gik over rødt lys.

Hvis denne sag på en eller anden måde signalerer, at strafansvar er mere muligt blot ved at stole på teknologien, så kan det blive et dybtgående skift i arten af ​​juridiske forpligtelser fremover.

Hvilken forpligtelse har en avanceret teknologivirksomhed som Tesla til at informere chauffører, enten direkte eller gennem reklame- og marketingmeddelelser, om, at de er ansvarlige for alle skader, uanset om bilen er på autopilot?

De har helt klart en forpligtelse til at advare den person, der sidder på førersædet, om at overtage køretøjet - at det ikke er i stand til at klare alt på egen hånd. Du ser den advarsel i Tesla-køretøjer, og næsten alle køretøjer har den type advarsel. For eksempel, når du bruger en kortfunktion, mens du kører, vil mange biler tilbyde en advarsel:"Dette vil distrahere dig, vær opmærksom på vejen."

Producenter har også en forpligtelse til at huske på følelsen af ​​selvtilfredshed, der følger med køreteknologi, mens de designer bilen. Tesla eller andre producenter kan ikke bare sige:"Hey, vær opmærksom, det er dit ansvar." De skal faktisk forsøge at lægge noget ind i designet for at sikre, at chaufførerne forbliver opmærksomme. Så forskellige producenter har forskellige tilgange til dette problem – nogle biler vil stoppe, hvis dine hænder ikke er på rattet, og andre biler har kameraer, der begynder at bippe, hvis du ikke er opmærksom.

I henhold til gældende lovgivning, hvis føreren kommer i et styrt, og der var en passende advarsel, og selve designet er tilstrækkeligt nok til at holde føreren opmærksom, vil bilproducenten ikke være ansvarlig. Men der er en mulig undtagelse her:Der er en formulering af ansvarsreglen, der er temmelig bredt vedtaget over hele landet, inklusive i Californien, hvor denne sag vil finde sted. Under denne regel er forespørgslen baseret på, hvad forbrugerne forventer, at producenten gør. Og forbrugernes forventninger kan være stærkt påvirket af markedsføring og annoncering og så videre.

For eksempel, hvis Tesla skulle annoncere, at autopilot aldrig kommer i et styrt, og så en forbruger kommer i et styrt, ville Tesla være ansvarlig for at have frustreret disse forventninger.

I dette tilfælde blev chaufføren sigtet på baggrund af ideen om, at han var alt for afhængig af sin bils autopilot. Hvad siger dette om vores grundlæggende antagelser om, hvorvidt mennesker eller teknologi er mere troværdige?

Der er en vigtig skelnen mellem overdreven tillid og selvtilfredshed. Jeg tror, ​​at selvtilfredshed blot er en naturlig menneskelig reaktion på manglen på stimulans - i dette tilfælde manglen på ansvar for at udføre alle køreopgaverne. Du kan kede dig og lulle dig ind i en følelse af selvtilfredshed, men jeg tror ikke, at den adfærd er alt for afhængig af teknologi.

Ideen om overdreven tillid kommer i spil med den potentielle natur af forseelsen her. Måske vil chaufføren i dette tilfælde forsvare sig ved at sige, at han med rimelighed troede, at bilen havde alt under kontrol, var fuldt ud i stand til at løse dette problem, og så han ikke behøvede at bekymre sig om at reagere, hvis tingene skulle vise sig anderledes. Nu på det tidspunkt ville han tro på teknologien i stedet for på sin egen evne til at stoppe køretøjet og komme ud af problemet på en sikker måde. Hvis der er blind tiltro til teknologien frem for at tage over, når du kunne have gjort det, og hvis du er ansvarlig som følge heraf, bliver det en meget dyb, interessant form for besked, som loven sender.

Tror du, at dette skift i ansvar vil skade forretningen for virksomheder som Tesla?

Det store problem, som producenter af autonome køretøjer som Tesla står over for lige nu, er at vinde forbrugertillid, når de introducerer en ny teknologi på markedet. Behovet for tillid i de tidlige stadier af disse produkter er enormt vigtigt. Og alle producenter er bekymrede over det problem, fordi de ved, at hvis der er nogle forfærdelige nedbrud, vil forbrugerne miste tilliden til produktet. I sidste ende vil teknologien ende med at tage over; det er bare et spørgsmål om det er før end senere. Og tid er penge i denne sammenhæng – så hvis du bare bliver langsommere, fordi forbrugerne er meget bekymrede over teknologiens sikkerhedsydelse, vil det skade industrien. Det resultat ønsker de åbenbart at undgå. Denne teknologi vil stadig tage over – det er bare et spørgsmål om, hvor lang tid det tager, før det sker. Der er bare så mange fordele ved at bruge autonome køretøjer, også i sikkerhedsdimensionen.

Om dens autopilot og fuld selvkørende kapacitet siger Tesla:"Selvom disse funktioner er designet til at blive mere dygtige over tid, gør de aktuelt aktiverede funktioner ikke køretøjet autonomt." Hvilke ansvarsproblemer forudser du, hvis/når disse køretøjer bliver autonome?

Det er et kompliceret spørgsmål, og det er det spørgsmål, som alle er interesserede i. Når først disse køretøjer bliver helt autonome, så er der bare bilen. Mennesket i bilen er ikke engang et element i situationen. Så det store spørgsmål er:når disse køretøjer styrter, hvem betaler så? Man skulle tro, at producenten ville være ansvarlig - og det vil øge omkostningerne ved disse køretøjer og gøre dem meget sværere at distribuere. Der er mange mennesker, der tror, ​​at i tilfælde af et nedbrud, bør producenten hele tiden være ansvarlig. Jeg er stærkt skeptisk over for den konklusion, fordi jeg synes, det er et meget tættere opkald, end de fleste gør det til.

I sidste ende afhænger disse problemer af, hvordan føderale regulatorer som National Highway Traffic Safety Administration regulerer køretøjet. De bliver nødt til at fastsætte en sikkerhedsstandard, som producenten skal opfylde, før den kommercielt kan distribuere produktet som fuldt autonomt. Spørgsmålet er, hvor regulatorerne sætter den standard, og jeg tror ikke, det er nemt at få det rigtige. På det tidspunkt vil der være en god debat at føre:Fik de det rigtigt eller ej? Vi er stadig et par år ude. Jeg tror, ​​vi alle vil have disse samtaler i 2025.