Hvorfor regulering af ansigtsgenkendelsesteknologi er så problematisk - og nødvendig

Brugen af ​​automatiseret ansigtsgenkendelsesteknologi (FRT) bliver mere og mere almindelig globalt, især i Kina, Storbritannien og nu Australien.

FRT betyder, at vi kan identificere individer baseret på en analyse af deres geometriske ansigtstræk, tegner en sammenligning mellem en algoritme, der er oprettet ud fra det taget billede, og en, der allerede er gemt, såsom kørekort, forældremyndighed eller konto på sociale medier.

FRT har mange private og offentlige applikationer, når identitetsbekræftelse er nødvendig. Disse omfatter adgang til et sikkert område, låse en mobil enhed op eller stige ombord på et fly. Det er også i stand til at genkende folks stemninger, reaktioner og, tilsyneladende, seksualitet.

Og det er mere værdifuldt for politiet end almindelige CCTV -kameraer, da det kan identificere enkeltpersoner i realtid og knytte dem til lagrede billeder. Dette er af enorm værdi for staten i kriminelle efterforskninger, terrorbekæmpelse og grænsekontrol.

Hvordan det påvirker rettighederne til privatliv

Men implementeringen af ​​FRT, som allerede bruges af AFP og statspolitiet og af private virksomheder andre steder (lufthavne, sportssteder, banker og indkøbscentre), er underreguleret og baseret på tvivlsomme algoritmer, der ikke er offentligt gennemsigtige.

Denne teknologi har store konsekvenser for folks privatlivsrettigheder, og dets anvendelse kan forværre eksisterende skævheder og diskrimination i politi praksis.

Brugen af ​​FRT påvirker privatlivets rettigheder ved at oprette en algoritme med unikke personlige egenskaber. Dette reducerer igen folks karakteristika til data og muliggør deres overvågning og overvågning. Disse data og billeder gemmes også i et bestemt tidsrum, åbner mulighed for hacking eller svindel.

Ud over, FRT kan udsætte mennesker for potentiel diskrimination på to måder. Først, statslige instanser kan misbruge teknologierne i relation til visse demografiske grupper, hvad enten det er med vilje eller på anden måde.

Og for det andet, forskning peger på, at etniske minoriteter, mennesker med farve og kvinder fejlagtigt identificeret af FRT i højere hastigheder end resten af ​​befolkningen. Denne unøjagtighed kan føre til, at medlemmer af visse grupper bliver udsat for hårdhændet politi eller sikkerhedsforanstaltninger, og deres data opbevares uhensigtsmæssigt.

Dette er især relevant i forhold til lokalsamfund, der allerede er målrettet uforholdsmæssigt i Australien.

Hvad lovgiverne forsøger at gøre

Parlamentet har udarbejdet et lovforslag i et forsøg på at regulere dette rum, men det lader meget tilbage at ønske. Lovforslaget er i øjeblikket ved andenbehandling; der er ikke fastsat nogen dato for afstemning.

Hvis bestået, lovforslaget ville muliggøre udveksling af identitetsoplysninger mellem Commonwealth -regeringen, stats- og territorieregeringer og "ikke-statslige enheder" (som ikke er specificeret) gennem oprettelsen af ​​et centralt knudepunkt kaldet "The Capability", samt National Driver License Facial Recognition Solution, en database med oplysninger i regeringsidentitetsdokumenter, fx kørekort.

Lovforslaget ville også give Ministeriet for Indre Anliggender tilladelse til at indsamle, bruge og dele identifikationsoplysninger i forbindelse med en række aktiviteter, såsom forebyggelse af svig, retshåndhævelse, samfunds sikkerhed, og trafiksikkerhed.

Det ville være langt foretrukket, at en sådan lovgivning kun tillader identitetsdeling for et begrænset antal alvorlige lovovertrædelser. Som skrevet, dette lovforslag vedrører personer, der ikke er blevet dømt for strafbare handlinger - og faktisk, behøver ikke at mistænkes for nogen lovovertrædelse.

Også, det australske folk har ikke givet samtykke til, at deres data deles på denne måde. En sådan deling ville have en uforholdsmæssig virkning på vores ret til privatliv.

Vigtigere, krænkelsen af ​​retten til privatlivets fred forstærkes af, at lovforslaget ville give den private sektor adgang til identitetstilpasningstjenesterne. Selvom den private sektor allerede i nogen grad anvender billed sammenligning og verifikationsteknologier, som f.eks. af banker, der f.eks. søger at opdage hvidvaskning af penge, lovforslaget ville forlænge dette. Lovforslaget giver ikke tilstrækkelige sikkerhedsforanstaltninger eller sanktioner for private enheder, hvis de bruger hubben eller folks data uhensigtsmæssigt.

Forekomsten af ​​falsk-positive i identitetskampe

I praktisk forstand, der er også bekymringer om pålideligheden og nøjagtigheden af ​​FRT, som udvikler sig hurtigt, men ikke er uden større problemer. Om disse problemer bare er fejl eller en funktion i FRT, skal stadig ses.

Erfaringer fra Storbritannien illustrerer disse spørgsmål klart. Syd Wales politi, den britiske nationale ledelse inden for teknologi til ansigtsgenkendelse, brugte systemet udviklet af et privat australsk firma kaldet Neoface ved 18 offentlige sammenkomster mellem maj 2017 og marts 2018. Det fandt ud af, at 91% af kampene, eller 2, 451 tilfælde, forkert identificeret uskyldige medlemmer af offentligheden som værende på en overvågningsliste. Manuelt tilsyn med programmet afslørede, at kampene var falske positive.

London Metropolitan Police driver også en FRT -pilot. Det registrerede noget bedre tal, men havde stadig en falsk-negativ identifikationsrate på 30% på Notting Hill Carnival og 22% på erindringsdagen, begge i 2017.

Private virksomheders centrale rolle i udviklingen af ​​denne teknologi er også vigtig at markere. FRT -algoritmer er patenteret, og der er ingen offentligt tilgængelig indikation af målingen eller standarden, der repræsenterer en identitet "match".

Lovgivning i en hurtig bevægelse, teknologisk drevet rum er ikke en misundelsesværdig opgave. Der er en vis fordel ved en vis fleksibilitet i juridiske definitioner og regler, så loven ikke bliver statisk og overflødig for tidligt. Men selv den mest generøse fortolkning af lovforslaget vil indrømme, at det er en fejlbehæftet måde at regulere brugen af ​​en kraftfuld og problematisk teknologi, der er kommet for at blive, kan lide det eller ej.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.