Ansigtsgenkendelse:Storbritanniens planer om at overvåge migrantforbrydere er uetiske – og de vil ikke fungere

En eftermiddag i vores laboratorium testede min kollega og jeg vores nye prototype til ansigtsgenkendelsessoftware på en bærbar computer. Softwaren brugte et videokamera til at scanne vores ansigter og gætte vores alder og køn. Det gættede rigtigt min alder, men da min kollega, som var fra Afrika, prøvede det, kunne kameraet slet ikke registrere et ansigt. Vi prøvede at tænde lys i rummet, justerede hendes siddepladser og baggrund, men systemet kæmpede stadig med at opdage hendes ansigt.

Efter mange mislykkede forsøg opdagede softwaren endelig hendes ansigt - men fik hendes alder forkert og gav det forkerte køn.

Vores software var kun en prototype, men vanskeligheden ved at arbejde med mørkere hudtoner afspejler erfaringerne fra farvede mennesker, der forsøger at bruge teknologi til ansigtsgenkendelse. I de seneste år har forskere påvist uretfærdigheden i ansigtsgenkendelsessystemer og fundet ud af, at softwaren og algoritmerne udviklet af store teknologivirksomheder er mere præcise til at genkende lysere hudtoner end mørkere.

Alligevel rapporterede Guardian for nylig, at det britiske indenrigsministerium planlægger at få migranter, der er dømt for kriminelle handlinger, til at scanne deres ansigter fem gange om dagen ved hjælp af et smart ur udstyret med ansigtsgenkendelsesteknologi. En talsmand for indenrigsministeriet sagde, at ansigtsgenkendelsesteknologi ikke ville blive brugt på asylansøgere, der ankommer ulovligt til Storbritannien, og at rapporten om brugen af ​​den på migrantforbrydere var "rent spekulativ."

Få den rigtige balance

Der vil altid være en spænding mellem national sikkerhed og individuelle rettigheder. Sikkerhed for de mange kan prioriteres over privatlivets fred for nogle få. For eksempel, i november 2015, da terrorgruppen ISIS angreb Paris og dræbte 130 mennesker, fandt Paris-politiet en telefon, som en af ​​terroristerne havde forladt på stedet, og læste beskeder gemt på den.

Der er mange nuancer i dette spørgsmål. Vi må spørge os selv, hvis rettigheder begrænses af en krænkelse af privatlivets fred, i hvilken grad, og hvem bedømmer, om en krænkelse af privatlivets fred er i balance med alvoren af ​​en strafbar handling?

I tilfælde af lovovertrædere, der tager billeder af deres ansigter flere gange om dagen, kan vi hævde, at krænkelsen af ​​privatlivets fred er i den nationale sikkerhedsinteresse for de fleste mennesker, hvis forbrydelsen er alvorlig. Regeringen er berettiget til at træffe en sådan beslutning, da den er ansvarlig for sine borgeres sikkerhed. For mindre lovovertrædelser kan ansigtsgenkendelse dog være en for stærk foranstaltning.

Indenrigsministeriet har i sin plan ikke skelnet mellem mindre og alvorlige lovovertrædere; Det har heller ikke givet overbevisende beviser for, at ansigtsgenkendelse forbedrer folks overholdelse af immigrationslovgivningen.

På verdensplan ved vi, at ansigtsgenkendelse er mere tilbøjelige til at blive brugt til at overvåge farvede mennesker ved at overvåge deres bevægelser oftere end hvide menneskers. Dette på trods af, at ansigtsgenkendelsessystemer er mere præcise med lysere end mørkere hudtoner.

At tage et billede af dit ansigt og uploade det fem gange om dagen kunne føles nedværdigende. Fejl med mørkere hudtoner kan gøre indtjekning i systemet mere end blot en frustrerende oplevelse. Det kan få alvorlige konsekvenser for lovovertrædere, hvis teknologien svigter.

Fejlene i ansigtsgenkendelse kan også skabe nationale sikkerhedsproblemer for regeringen. For eksempel kan det misidentificere en persons ansigt som en anden. Ansigtsgenkendelsesteknologi er ikke klar til noget så vigtigt som national sikkerhed.

Alternativet

En anden mulighed, som regeringen overvejer for migrantforbrydere, er lokationssporing. Elektronisk overvågning holder allerede styr på personer med straffeattest i Det Forenede Kongerige ved hjælp af ankelmærker, og det ville være fornuftigt at anvende den samme teknologi på ligeligt migrant- og ikke-migrantforbrydere.

Placeringssporing kommer med sine egne etiske spørgsmål for personligt privatliv og raceovervågning. På grund af elektronisk overvågnings påtrængende karakter kan nogle mennesker, der bærer disse enheder, lide af depression, angst eller selvmordstanker.

Men lokationssporingsteknologi giver i det mindste muligheder. For eksempel kan data håndteres følsomt ved at følge retningslinjer for databeskyttelse, såsom den britiske databeskyttelseslov 2018. Vi kan minimere mængden af ​​lokalitetsdata, vi indsamler, ved kun at spore en persons placering en eller to gange om dagen. Vi kan anonymisere dataene og kun gøre folks navne synlige, når og hvor det er nødvendigt.

Det britiske indenrigsministerium kan bruge lokationsdata til at markere mistænkelig aktivitet, såsom hvis en gerningsmand kommer ind i et område, som de er blevet spærret fra. For mindre lovovertrædere behøver vi ikke spore personens nøjagtige placering, men kun det generelle område, såsom et postnummer eller en by.

Som samfund bør vi stræbe efter at bevare menneskers værdighed og privatliv, undtagen i de mest alvorlige tilfælde. Endnu vigtigere bør vi sikre, at teknologi ikke har potentialet til at diskriminere en gruppe mennesker baseret på deres etnicitet. Loven og reglerne bør gælde ligeligt for alle mennesker.

Indenrigsministeriets talsmand tilføjede:"Offentligheden forventer, at vi overvåger dømte udenlandske lovovertrædere ... Udenlandske kriminelle bør ikke være i tvivl om vores vilje til at deportere dem, og regeringen gør alt for at øge antallet af udenlandske lovovertrædere, der udvises. " + Udforsk yderligere

Ansigtsgenkendelse var nøglen til at identificere amerikansk skudmistænkt

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.