Deepfakes afslører sårbarheder i visse ansigtsgenkendelsesteknologier

Mobile enheder bruger ansigtsgenkendelsesteknologi til at hjælpe brugere med hurtigt og sikkert at låse deres telefoner op, foretage en økonomisk transaktion eller få adgang til lægejournaler. Men ansigtsgenkendelsesteknologier, der anvender en specifik brugergenkendelsesmetode, er meget sårbare over for deepfake-baserede angreb, der kan føre til betydelige sikkerhedsproblemer for brugere og applikationer, ifølge ny forskning, der involverer Penn State College of Information Sciences and Technology.

Forskerne fandt ud af, at de fleste applikationsprogrammeringsgrænseflader, der bruger ansigtsbekræftelse - en funktion ved ansigtsgenkendelsesteknologi, der bruger computersyn til at bekræfte tilstedeværelsen af ​​en live-bruger - ikke altid registrerer digitalt ændrede fotos eller videoer af personer, der er lavet til at ligne en live version af en anden, også kendt som deepfakes. Applikationer, der gør brug af disse detektionsforanstaltninger, er også betydeligt mindre effektive til at identificere deepfakes, end hvad app-udbyderen har hævdet.

"I de seneste år har vi observeret en betydelig udvikling af ansigtsgodkendelses- og verifikationsteknologier, som er blevet implementeret i mange sikkerhedskritiske applikationer," sagde Ting Wang, lektor i informationsvidenskab og teknologi og en hovedefterforsker på projektet. "I mellemtiden har vi også set betydelige fremskridt inden for deepfake-teknologier, hvilket gør det ret nemt at syntetisere levende udseende ansigtsbilleder og video til lave omkostninger. Vi stiller derfor det interessante spørgsmål:Er det muligt for ondsindede angribere at misbruge deepfakes for at narre ansigtsbehandlingen verifikationssystemer?"

Forskningen, som blev præsenteret i denne uge på USENIX Security Symposium, er den første systemiske undersøgelse af sikkerheden ved verificering af ansigtsliv i virkelige omgivelser.

Wang og hans samarbejdspartnere udviklede en ny deepfake-drevet angrebsramme, kaldet LiveBugger, der muliggør tilpasselig, automatiseret sikkerhedsevaluering af ansigtsbekræftelse. De evaluerede seks førende kommercielle applikationsprogrammeringsgrænseflader til verificering af ansigtslivhed. Ifølge forskerne kan enhver sårbarhed i disse produkter arves af de andre apps, der bruger dem, hvilket potentielt kan true millioner af brugere.

Ved at bruge deepfake billeder og videoer, der er sikret fra to separate datasæt, forsøgte LiveBugger at narre apps' metoder til bekræftelse af ansigtslivhed, som har til formål at verificere en brugers identitet ved at analysere statiske billeder eller videobilleder af deres ansigt, lytte til deres stemme eller måle deres respons. til at udføre en handling på kommando.

Forskerne fandt ud af, at alle fire af de mest almindelige verifikationsmetoder nemt kunne omgås. Ud over at fremhæve, hvordan deres rammer gik uden om disse metoder, foreslår de forslag til forbedring af teknologiens sikkerhed – herunder eliminering af verifikationsmetoder, der kun analyserer et statisk billede af en brugers ansigt, og matcher læbebevægelser med en brugers stemme i metoder, der analyserer både lyd og video fra en bruger.

"Selvom verifikation af ansigtets livlighed kan forsvare sig mod mange angreb, rejser udviklingen af ​​deepfake-teknologier en ny trussel mod den, som man hidtil ikke ved meget om," sagde Changjiang Li, doktorgradsstuderende i informationsvidenskab og teknologi og med-førsteforfatter på papir. "Vores resultater er nyttige for leverandører til at rette op på sårbarhederne i deres systemer."

Forskerne har rapporteret deres resultater til de leverandører, hvis applikationer blev brugt i undersøgelsen, og en af ​​dem har siden annonceret sine planer om at gennemføre et deepfake-detektionsprojekt for at imødegå den nye trussel.

"Ansigtsbekræftelse er blevet anvendt i mange kritiske scenarier, såsom onlinebetalinger, netbanker og offentlige tjenester," sagde Wang. "Derudover er et stigende antal cloud-platforme begyndt at give ansigtsverifikation som platform-as-a-service, hvilket reducerer omkostningerne betydeligt og sænker barrieren for virksomheder til at implementere teknologien i deres produkter. Derfor er sikkerheden ved ansigtsbehandling. verifikation af livlighed er meget bekymrende." + Udforsk yderligere

Ny metode registrerer deepfake-videoer med op til 99 % nøjagtighed