Hvorfor nogle byer og stater vægrer sig ved ansigtsgenkendelsesteknologi

Politiafdelinger rundt om i USA beder borgere om at stole på, at de bruger ansigtsgenkendelsessoftware som et andet praktisk værktøj i deres værktøjskasse til bekæmpelse af kriminalitet. Men nogle lovgivere - og endda nogle teknologigiganter - sætter bremsen i gang.

Er frygt for en altseende, kunstigt intelligent sikkerhedsapparat overblæst? Ikke hvis man ser på Kina, hvor fremskridt inden for computersyn anvendt på store netværk af gadekameraer har gjort det muligt for myndighederne at spore medlemmer af etniske minoritetsgrupper for tegn på subversiv adfærd.

Amerikanske politiembedsmænd og deres partnere i videoovervågningsindustrien hævder, at det ikke vil ske her. De skubber tilbage mod en bevægelse fra byer, stater og føderale lovgivere til at forbyde eller begrænse brugen af ​​teknologien. Og indsatsen er ikke begrænset til typiske bastioner af liberal aktivisme, der vedtog forbud i år:San Francisco, Oakland, Berkeley og Boston-forstæderne Somerville og Brookline.

Tag den vestlige Massachusetts by Springfield, et tidligere produktionscenter, hvor et flertal af de 155, 000 indbyggere er latino eller sorte, og hvor politibrutalitet og retssager om uredelighed har kostet byen millioner af dollars. Springfield politi siger, at de ikke har planer om at implementere ansigtsgenkendelsessystemer, men nogle byrådsmedlemmer flytter alligevel for at blokere for enhver fremtidig regeringsbrug af teknologien.

Ved en høring i oktober om emnet, Springfields byrådsmedlem Orlando Ramos sagde, at han ikke ønsker at tage nogen chancer. "Det ville kun føre til mere racediskrimination og raceprofilering, " han sagde, citerer undersøgelser, der fandt højere fejlprocenter for ansigtsgenkendelsessoftware, der bruges til at identificere kvinder og mennesker med mørkere hudtoner.

"Jeg er en sort kvinde, og jeg er mørk, "en anden Springfield-rådmand, Tracye Whitfield, fortalte byens politikommissær, Cheryl Clapprood, hvem er hvid. "Jeg kan ikke godkende noget, der vil målrette mig mere, end det vil målrette dig."

Clapprood forsvarede teknologien og bad rådet om at stole på, at hun ville følge den omhyggeligt. "Ansigtsgenkendelsesteknologien kommer ikke og taber et net fra himlen og fører dig til fængsel, " hun sagde, bemærker, at det kunne tjene som et nyttigt efterforskningsværktøj ved at markere eftersøgte mistænkte.

Rådet har endnu ikke handlet, og Springfields borgmester har truet med at nedlægge veto mod det forslag, som Ramos planlægger at genindføre i januar.

Lignende debatter over hele landet fremhæver racemæssige bekymringer og duellerende fortolkninger af teknologiens nøjagtighed.

"Jeg ville ønske, at vores ledelse ville se på videnskaben og ikke på hysteriet, " sagde Lancaster, Californien, Borgmester R. Rex Parris, hvis by nord for Los Angeles arbejder på at installere mere end 10, 000 gadelyskameraer, siger Parris, kunne overvåge kendte pædofile og bandemedlemmer. "Der er måder at indbygge sikkerhedsforanstaltninger på."

Forskning tyder på, at ansigtsgenkendelsessystemer kan være nøjagtige, i hvert fald under ideelle forhold. En gennemgang af branchens førende ansigtsgenkendelsesalgoritmer fra National Institute of Standards and Technology viste, at de var mere end 99 % nøjagtige, når de matchede hovedbilleder af høj kvalitet til en database med andre frontale stillinger.

Men at forsøge at identificere et ansigt fra et videofeed - en potentielt nyttig teknik for detektiver - kan få nøjagtigheden til at falde. NIST fandt ud af, at genkendelsesnøjagtigheden kunne falde til under 10 %, når man bruger loftmonterede kameraer, der almindeligvis findes i butikker og offentlige bygninger.

Agenturet har ikke undersøgt ydeevnen af ​​ansigtsgenkendelse på kropskameraoptagelser, selvom eksperter generelt mener, at dens ofte hoppende video vil gøre teknikken endnu mindre pålidelig.

I oktober, Californiens guvernør Gavin Newsom underskrev et midlertidigt forbud mod, at politiafdelinger bruger ansigtsgenkendelse med kropskameraer. Nogle andre stater har lignende begrænsninger.

Mens Californiens tre-årige moratorium blev modarbejdet af retshåndhævende grupper, virksomheder, der leverer videoovervågningsudstyr, har for det meste reageret med skuldertræk. Mange virksomheder bevægede sig allerede forsigtigt, før de underkastede sig det juridiske, etiske risici og publicitetsrisici ved en teknologi, der står over for tilbageslag fra privatlivets fred, borgerlige frihedsrettigheder og fortalere for raceretfærdighed, for ikke at nævne bipartisk bekymring i Kongressen.

Axon, som leverer kropsbårne kameraer til de fleste af Californiens storbyer og er den største udbyder på landsplan, havde allerede dannet et AI-etisk udvalg af eksterne eksperter, der konkluderede, at ansigtsgenkendelsesteknologi endnu ikke er pålidelig nok til at retfærdiggøre brugen af ​​den på politikameraer. Falsk identifikation kan få nogen til at blive såret eller dræbt, sagde Axon CEO Rick Smith.

Selvom ansigtsgenkendelsessoftware var helt præcis, Smith sagde i et interview, muligheden for at spore folks opholdssted giver anledning til forfatningsmæssige og privatlivsmæssige bekymringer. "Vil vi have, at alle, der går i nærheden af ​​en politibetjent, skal få deres ansigt identificeret og logget ind i en database?" han sagde.

Microsoft afviste sidste år en unavngiven californisk politimyndigheds anmodning om at udstyre alle politibiler og kropskameraer med Microsofts ansigtsgenkendelsessoftware. det skrev virksomhedens præsident og juridiske chef Brad Smith i en ny bog om teknologipolitik. Han sagde, at politiet ville matche et billede af enhver, der blev holdt over, selv rutinemæssigt, mod en database over mistænkte for andre forbrydelser.

Smith sagde, at teknologien fejlagtigt ville identificere for mange mennesker, især kvinder og farvede. Direktøren har advaret om, at ureguleret ansigtsgenkendelse kan udløse "masseovervågning i et hidtil uset omfang, " selvom han er imod et direkte forbud. Microsoft hyrede i november en advokat til at udtale sig imod et foreslået forbud i Portland, Maine.

Andre virksomheder, herunder Amazon, som markedsfører et ansigtsidentifikationssystem kaldet Anerkendelse til retshåndhævelse, har vist færre betænkeligheder ved at sælge deres teknologi til politiet. Nogle retshåndhævende myndigheder fodrer billeder fra videoovervågning ind i software, der kan søge i offentlige databaser eller sociale medier for et muligt match.

Todd Pastorini, daglig leder hos det biometriske retsmedicinske firma DataWorks Plus, sagde, at det er vigtigt at skelne mellem overvågning af publikum i realtid - hvilket er sjældent i USA - og den "ekstremt effektive" metode til at køre billeder gennem en pulje af kendte politi-mugshots eller kørekortfotos for at hjælpe med at identificere en mistænkt.

"Samfundet og offentligheden vil blive frustreret", hvis regeringer blokerer for retshåndhævelse fra at vedtage en teknologi, der bliver ved med at blive bedre, han sagde.

Blandt hans South Carolina-firmas største ansigtsmatchende kunder er Detroit og New York City, hvoraf sidstnævnte første gang adopterede ansigtsgenkendelse i 2011 og også bruger software fra det franske firma Idemia.

"Jeg ville absolut være modstander af et forbud, " sagde New Yorks politikommissær James O'Neill til journalister i efteråret.

O'Neill, som gik på pension i begyndelsen af ​​december, tilføjede, at ansigtsgenkendelseshits kun er en del af en undersøgelse. "Der er så meget video i New York City i dag, at det ville være uansvarligt at undlade at bruge ansigtsgenkendelse, " han sagde.

© 2019 The Associated Press. Alle rettigheder forbeholdes.