En projektor havde alt for sjov med bilteknologi

Stop det. Kan du narre et Tesla Autopilot-system med en projektor?

Virkelig, betragtes et projiceret billede af et menneske af bilsystemet som en virkelig person?

Og siger du, at Mobileye 630 PRO betragter det projekterede vejskilt som et rigtigt vejskilt?

Dette er resultater fra et team af forskere, der viste den slags fantomangreb, der kan forekomme for at narre førerassistancesystemer.

Holdet skrev et papir og leverede en videodemo om deres eksperimenter og resultater. Papiret hedder "Phantom of the ADAS:Phantom Attacks on Driver-Assistance Systems."

Forfatterne er Ben Nassi, Dudi Nassi, Raz Ben-Netanel, Israel Mirsky, Oleg Drokin, og Yuval Elovici. Forfattertilknytninger omfatter Ben-Gurion University of the Negev og Georgia Tech. De brugte Tesla Model X og Mobileye 630 PRO-systemerne til test. De brugte også en række projicerede billeder; disse omfattede en menneskeskikkelse og et hastighedsskilt på gaden.

De ville vide, om man kan få et system til at tro, at det er en virkelig verdenssituation - at forvirre systemet og tage et niveau af kontrol over systemet. "Phantoms kan også få Tesla Model X (HW 2.5) til at bremse pludseligt."

En videodemo viste, hvordan bilen reducerede sin hastighed fra 18 mph til 14 mph som følge af et fantom, der blev opdaget som en person.

Bemærk, at de brugte ordet "fantom" meget - "Et fantom er et dybdeløst objekt beregnet til at få ADAS'er og autopilotsystemer til at opfatte objektet og betragte det som ægte. Objektet kan være en hindring (f.eks. person, bil, lastbil, motorcykel), bane, eller vejskilt, " sagde Nassi.

Men hvorfor skulle et berømt selvkørende mærke som Tesla have et system, der ville se fantomer som rigtige forhindringer? Nassi adresserede dette på sit websted i FAQ-sektionen. "Vi mener, at dette sandsynligvis er resultatet af en 'better safe than sorry'-politik, der betragter en visuel projektion som et rigtigt objekt, selvom objektet ikke detekteres af andre sensorer (f.eks. radar og ultralydssensorer)."

Falske vejlinjer var en del af deres eksperimenter, og en instruktion blev læst om at krydse over til den anden side af vejen, via falske linjer og fantombaner.

Alex Kidman, Gizmodo , skrev om forsøgene onsdag. Problemet med Mobileye og Tesla-systemer, han skrev, var, at forskerne fandt ud af, at billedgenkendelsesmodellen tillod fantomobjekterne at blive genkendt som rigtige. Alt i alt, der er én stor perceptuel udfordring, når fantomangreb går imod avancerede køreassistentsystemer (ADAS) og autopiloter.

En video fra 28. januar blev indsendt af Cyber ​​Security Labs ved Ben Gurion University.

Teslas autopilotværktøj betragtes generelt som den nuværende guldstandard i autonome køretøjer, sagde Gizmodo . Ja, forfatterne af papiret betragter Mobileye 630 PRO og Tesla Model X, HW 2.5 som nutidens mest avancerede ADAS- og autopilotteknologier.

Teslas autopilotniveau giver mulighed for begrænset, ikke fuld, selvkørende:Køretøjet har kun fuld kontrol i nogle situationer og vil informere føreren, hvornår den skal overtage.

Som Ars Technica Jim Salter understregede i sin artikel, "Selvfølgelig, ingen burde lade en Tesla køre sig selv uden opsyn i første omgang, ", da autopilot ikke er controlleren for en fuldt autonom bil.

Salter gjorde det for at bygge bro over til et andet vigtigt punkt:"Inden for disse begrænsninger, selv de værste reaktioner, der er demonstreret i Nassis video – den af ​​Model X, der svinger for at følge falske vognbanemarkører på vejen – virker ikke så slemt. Faktisk, det klip demonstrerer præcis, hvad der skulle ske:Ejeren af ​​Model X - bekymret for, hvad pokker hans eller hendes dyre bil kunne gøre - trykkede på bremsen og tog kontrollen manuelt, efter at autopiloten gik i en usikker retning."

Holdet sagde, at de afslørede resultater til Mobileye og Tesla, de to systemer, der blev brugt i forsøgene. "Vi holdt Tesla og Mobileye opdateret via en række mails sendt fra begyndelsen af ​​maj til den 19. oktober."

Abstraktet fra deres papir:

"...vi undersøger en ny perceptuel udfordring, der får ADAS'erne og autopiloterne af semi/fuldt autonome til at betragte dybdeløse objekter (fantomer) som ægte. Vi viser, hvordan angribere kan udnytte denne perceptuelle udfordring...uden behov for fysisk at nærme sig angrebssted, ved at projicere et fantom via en drone udstyret med en bærbar projektor eller ved at præsentere et fantom på et hacket digitalt billboard, der vender ud mod internettet og er placeret i nærheden af ​​veje... en bils ADAS eller autopilot betragter fantomerne som rigtige objekter, får disse systemer til at udløse bremserne, styre ind i vognbanen for modkørende trafik, og udsende meddelelser om falske vejskilte."

Muligheder for afbødning? Forfatterne, at afbøde, præsenteret "en model, der analyserer et detekteret objekts kontekst, overflade, og reflekteret lys, som er i stand til at detektere fantomer med 0,99 AUC. Endelig, vi forklarer, hvorfor implementeringen af ​​køretøjskommunikationssystemer kan reducere angriberes muligheder for at anvende fantomangreb, men ikke vil eliminere dem."

Salter gik tilbage til seks måneder siden, når "Ben Nassi, en ph.d. studerende ved Ben-Gurion Universitet rådgivet af professor Yuval Elovici, udførte et sæt vellykkede spoofing-angreb mod et Mobileye 630 Pro Driver Assist System ved hjælp af billige droner og batteridrevne projektorer. Siden da, han har udvidet teknikken til at eksperimentere – også med succes – med at forveksle en Tesla Model X."

Salter, alt i alt, vejede ind i hans syn på, hvad forskningen lærte, og hvorfor det var vigtigt:"for det meste, Det ser ud til, at Teslaen reagerer ret rimeligt og godt på disse bevidste forsøg på at forvirre sine sensorer. Vi synes, at denne form for arbejde er vigtigt, imidlertid, da det demonstrerer behovet for defensivt design af semi-autonome køresystemer."

Forfatterne i deres papir skrev, "Vi har intet imod Tesla eller Mobileye, og grunden til, at deres produkter blev brugt i vores eksperimenter, er, fordi deres produkter er de bedste og mest populære produkter på markedet."

© 2020 Science X Network