Den mest dødelige fase i selvkørende udvikling

Sidste uge, US National Transportation Safety Board (NTSB) udgav sin foreløbige rapport om Uber selvkørende ulykke, der dræbte en kvinde i marts.

NTSB fandt ud af, at bilen identificerede en genstand på vejen sekunder før styrtet, men køretøjet standsede ikke. Radaren og Lidar-sensorerne på den modificerede Volvo XC-90 SUV registrerede den 49-årige Elaine Herzberg omkring seks sekunder før styrtet. Køretøjet klassificerede Herzberg først som et objekt, så som et køretøj, og endelig som en cykel, da hun gik sin cykel over gaden.

Cirka et sekund før nedslaget, det selvkørende system fastslog, at nødbremsning var nødvendig for at undgå en kollision. Men, Uber havde deaktiveret Volvos fabriksudstyrede automatiske nødbremsesystem for at undgå sammenstød med sin egen teknologi, sagde rapporten.

Tingene blev værre derfra.

NTSB fandt også, at Ubers selvkørende software var blevet trænet til ikke at anvende sin egen nødbremsning i situationer, der risikerede "uregelmæssig køretøjsadfærd." Dette blev gjort for at give en behagelig tur:For mange falske positive påvisninger (f.eks. træblade, buske eller plastikposer på vejen) ville resultere i et stort antal nødbremser, som ingen passagerer vil tolerere.

Så, i stedet, virksomheden stolede på, at backup-driveren greb ind i sidste øjeblik for at undgå katastrofe. Det skete ikke.

Nytænkning af niveau-3 og betinget automatisering

Det meste af selvkørende test i dag kræver menneskelig indgriben. Dette er det, der omtales som niveau-3 eller betinget automatisering – stadiet i udviklingen af ​​autonome køretøjer, som jeg synes er det farligste, fordi det involverer overdragelse af køretøjskontrol til backupchaufføren i nødstilfælde.

Få virksomheder har allerede valgt at springe niveau 3 over og målrette mod det sikrere niveau 4 (fuld autonomi).

Faktisk, Jeg vil argumentere for, at niveau 3 eksplicit bør forbydes på åbne veje. At have et menneskeligt skridt inde i kontrolsløjfen i det sidste mulige minut er intet mindre end en garanteret katastrofe.

Med begge automatiske nødbremsesystemer, der ikke er tilgængelige i Uber-køretøjet, virksomheden stolede på, at backup-operatøren greb ind med det samme for at forhindre et nedbrud. Dette er problematisk, fordi det giver mange vanskeligheder at overføre kontrol fra bil til menneske, især i situationer, hvor backupoperatøren har zonet ud. Videooptagelser viste operatøren kigge ned umiddelbart før styrtet. Hun bremsede først efter sammenstødet. Herzberg blev dræbt.

Niveau 3 giver også chauffører en falsk følelse af sikkerhed. I marts, en Tesla-chauffør blev dræbt i en ulykke i Californien, da hans køretøj kørte på autopilot. I maj 2016 en Tesla-chauffør døde, da hans bil, også på autopilot, styrtede ind i en lastbil i Florida. Disse køretøjer er designet til kørsel af mennesker, assisteret af selvkørende teknologier, ikke drevet af computere med menneskelig opsyn.

Reguleringsindgreb – vejen frem

NTSB-rapporten fremhæver ikke kun manglerne ved Ubers testprogram, men også en svigt i reguleringsprøver på åbne veje.

En rapport offentliggjort sidste år viste, at klarheden af ​​selvkørende software varierer på tværs af de forskellige udbydere. Waymos selvkørende software var 5, 000 gange sikrere end Ubers, ifølge rapporten. Dette blev målt efter frekvensen af ​​frakoblinger, da det automatiserede system tvang backupchaufføren til at tage kontrol over køretøjet. Ubers rate var 1 frakobling pr. kørt kilometer, mens Waymo's var 1 frakobling hver 5. 128 km!

Industrien er selvregulerende, og det er uvist, hvordan de afgør, om deres teknologi er sikker at køre på offentlig vej. Tilsynsmyndighederne har heller ikke opstillet kriterierne for at træffe sådanne afgørelser.

Selvom det er nødvendigt at teste ydeevnen af ​​selvkørende software under virkelige forhold, forsøgene på åbne veje skal ikke handle om at teste systemernes sikkerhed. Sikkerhedstest bør evalueres grundigt, før køretøjerne tillades på offentlig vej.

En passende fremgangsmåde ville være, at tilsynsmyndigheder kommer med et sæt standardiserede tests, og anmode virksomheder om at benchmarke deres algoritmer på de samme datasæt.

Tilsynsmyndighederne bør følge en gradueret tilgang til certificering. Først, det selvkørende system evalueres i simuleringsmiljøer. Dette giver tillid til, at systemet fungerer sikkert. Dette efterfølges af test i den virkelige verden i afgrænsede miljøer (f.eks. på test-senge). Når køretøjerne har bestået benchmark-testene, regulatorerne kan tillade dem på åbne veje, men også med sikkerhedsforhold.

Denne tragiske hændelse bør være en katalysator for regulatorer til at etablere en stærk og robust sikkerhedskultur til at vejlede innovationer inden for selvkørende teknologier. Uden dette, Implementering af autonome køretøjer ville ikke gå nogen steder særlig hurtigt.