Ansigtsgenkendelsesteknologi:I vores hastværk med at implementere den, ignorerer vi risiciene?

Taylor Swift bruger det til at identificere stalkere. Detailbutikker bruger det til at tilbyde en no-checkout, kasseløs oplevelse. Selv kirker går ind for at holde styr på deres menigheder.

I stigende grad, ansigtsgenkendelsessoftware – teknologi, der let identificerer mennesker baseret på deres ansigter – har fundet vej til de mest intime hjørner af vores liv.

Fordelene, vi får at vide, er utallige. Retshåndhævende myndigheder, lufthavne, og virksomhedsejere har været hurtige til at tage værktøjet i brug i sikkerhedens navn. Og, detailhandlere og sociale medieplatforme fremhæver bekvemmelighed som en stor grund til, hvorfor de er hoppet med på ansigtsgenkendelsesvognen.

Sidste måned, Londons politiafdeling meddelte, at det ville begynde at installere kameraer på steder, der er populære blandt shoppere og turister for at få øje på mistænkte for kriminelle, gør London til den seneste i en voksende liste over byer, der har taget ansigtsgenkendelse til sig. Beslutningen har sat gang i en igangværende debat blandt fortalere for privatliv om, hvordan man korrekt balancerer sikkerhed med individuel privatliv og frihed.

David Choffnes, en lektor ved Northeastern, hvis forskning fokuserer på distribuerede systemer, netværk, privatliv, og sikkerhed, advarer om, at med så meget på spil, det er værd at overveje de potentielle risici ved disse overvågningsværktøjer, før du skynder dig at implementere dem.

"Jeg tror, ​​at vi virkelig skal forstå risiciene ved disse teknologier, før vi implementerer dem i meget stor skala, hvor ukendte risici kunne manifestere sig i ekstremt stor skala, " siger Choffnes, som er et stiftende medlem af Northeasterns Cybersecurity and Privacy Institute.

Fordelene fra et offentligt sikkerhedsperspektiv er ret lette at forstå, han siger. Hvis nogen stjæler en bil eller kidnapper et barn, videoovervågning kan gøre forskellen mellem at identificere gerningsmanden inden for få timer efter forbrydelsen fandt sted, når de retshåndhævende myndigheder har størst chance for at opklare en forbrydelse. Det var et ad hoc overvågningsnetværk, trods alt, som hjalp myndighederne med hurtigt at identificere og finde de mistænkte i Boston Marathon-bombningen i 2013.

"En stor motivator for de implementeringer, vi ser i dag, er kriminalitet, " siger Choffnes. "[Tænkningen går] der er sager, der kan være blevet løst, hvis vi havde overvågningsbilleder på det sted, hvor forbryderne var, så lad os sætte det op overalt."

På den anden side, han siger, vi må ikke overse de eksisterende tilfælde af misbrug, misbruge, og uautoriseret brug af overvågningsdata. Dette har muliggjort alle former for ondsindet adfærd, herunder stalking, afpresse, og foringssteder.

"Kundlinjen er, at jo mere overvågning der er, jo større mulighed er der for, at disse data bliver kompromitteret eller misbrugt, " siger Choffnes. "Og hvis dataene ikke var der i første omgang, det ville der ikke være mulighed for."

På dette tidspunkt, det er svært at kende alle skaderne og fordelene ved ansigtsgenkendelse eller offentlige overvågningskameraer, siger Choffnes. Han er alvorligt bekymret over, hvordan visse regeringer har brugt ansigtsgenkendelse til at spore og arrestere fredelige, pro-demokratiske demonstranter.

"Det er den slags ting, jeg bekymrer mig om på længere sigt, er hvordan det her kunne bruges mod lovlydige borgere, " siger han. "Og i sidste ende, vi har ikke data til at vide eller kvantificere, hvad fordelene er, og hvorvidt skaderne opvejer disse fordele."

Som en del af et forskningsprojekt sidste år, Choffnes fandt ud af, at Ring-enheder, som er trådløse videodørklokker, så folk kan se besøgende ved deres dørtrin, brugte bevægelsessensorer til at optage besøgende i 10 sekunder uden nogen indikation til de besøgende om, at de blev filmet.

Virksomheden, som ejes af Amazon, har modtaget kritik for at samarbejde med mere end 400 politiafdelinger. Ring har sagt, at partnerskaberne blev dannet for at hjælpe med politiets efterforskning, og yde yderligere beskyttelse mod kriminelle og ubudne gæster.

Derefter, sidste måned, det blev afsløret, at enhedens mobilapplikation er spækket med tredjeparts trackere, der sender personlige oplysninger til analyse- og marketingvirksomheder, inklusive kundens navn, IP-adresse, mobilnetværksudbyder, og sensordata. Choffnes er ikke overrasket over nyheden.

"Jeg tror, ​​at når nogle forbrugere lærer, at videodata bliver delt, de vil sige stort, sende det til retshåndhævelse [og andre parter]; Jeg har intet at skjule, " siger han. "Og andre vil måske indse, at de ikke ønsker at have et foder af aktiviteter omkring deres hjem, herunder deres egne aktiviteter, sendt til politiet og arkiveret på ubestemt tid, især uden deres viden og informerede samtykke."

Og stadigvæk, onlinesalget af enheden er skudt i vejret. Næsten 400, 000 ringeklokker blev solgt i december, hvilket gør det til den største måned for salg nogensinde - i samme måned, som virksomheden kom under beskydning for flere hacks. Choffnes antager, at bekvemmelighed og frygt sandsynligvis drev dette salg.

"Der er også en forstærkende effekt, " siger han. "Hvis du ser din nabo poste billeder af nogen, der stjæler noget fra deres dørtrin, så tænker du, "Hej, det er en sej enhed, der giver dem mulighed for at vide, hvad der skete, nu vil jeg have en, også, fordi det får mig til at føle mig mere sikker, hvis jeg har denne enhed." ironien er, at det faktisk ikke giver yderligere beskyttelse mod nogen, der stjæler pakker."

Choffnes siger, at han ikke ejer en Ring – eller nogen anden – videodørklokke.

"Jeg har lært nok af internetforbundne dørklokker til at holde dem sikkert begrænset til mit laboratorium, " han siger.