Amazons ansigtsgenkendelsesværktøj fejlidentificerede 28 medlemmer af Kongressen i ACLU-testen

Amazons kontroversielle ansigtsgenkendelsesprogram, Anerkendelse, falsk identificerede 28 medlemmer af Kongressen under en test af programmet af American Civil Liberties Union, Det sagde borgerrettighedsgruppen torsdag.

I sin test, ACLU scannede billeder af alle medlemmer af Kongressen og fik systemet til at sammenligne dem med en offentlig database på 25, 000 mugshots.

Gruppen brugte standardindstillingen "tillidstærskel" på 80 procent for genkendelse, hvilket betyder, at testen talte et ansigtsmatch med 80 procents sikkerhed eller mere.

Ved den indstilling, systemet fejlidentificerede 28 medlemmer af kongressen, hvoraf et uforholdsmæssigt stort antal var farvede, tagge dem i stedet som helt andre mennesker, der er blevet anholdt for en forbrydelse.

Ansigterne på medlemmer af Kongressen, der blev brugt i testen, omfatter republikanere og demokrater, mænd og kvinder og lovgivere i alle aldre.

Amazon svarede, at når man bruger ansigtsgenkendelse til retshåndhævelsesaktiviteter, det anbefaler at sætte konfidensgrænsen til 95 procent eller højere.

En talsmand fra Amazon Web Services sagde i en erklæring, at testresultaterne kunne være blevet forbedret ved at øge konfidensgrænsen. Mens 80 procent er en acceptabel tærskel for billeder af hverdagsting og -genstande, det er ikke passende til at identificere personer med et "rimeligt niveau af sikkerhed."

I sin rapport om sine resultater, ACLU sagde, at standardindstillingen for programmet var 80 procent, og at Amazon anbefaler det niveau for ansigtsbaseret brugerverifikation.

Værktøjet bruges til ansigtsgenkendelse på arenaer uden for retshåndhævelse. For eksempel, under det kongelige bryllup mellem prins Harry og Meghan Markle i maj, Det britiske tv-selskab Sky News brugte Rekognition til at hjælpe det med at identificere berømtheder, da de gik ind i Windsor Castle.

Softwaren er også blevet brugt af Pinterest til at matche billeder, af butikker for at spore folk, at identificere potentielt usikkert eller upassende indhold online og finde tekst i billeder.

Privatliv og politiarbejde

Amazon er for nylig kommet under beskydning for at sælge ansigtsgenkendelsestjenesten til retshåndhævende myndigheder på grund af bekymring for, at den kan blive brugt til at spore folk, der går i deres dagligdag, eller ved politiske protester eller i andre situationer, hvor de fleste nu går ud fra, at de er anonyme.

På grund af disse bekymringer, borgerrettighedsgrupper, Fortalere for privatlivets fred og endda nogle Amazon-ansatte og -aktionærer har bedt CEO Jeff Bezos om at stoppe med at tillade politi og føderale agenturer at bruge ansigtsgenkendelsesteknologien.

Resultaterne af ACLU's test "demonstrerer, hvorfor kongressen bør slutte sig til ACLU i at opfordre til et moratorium for retshåndhævende myndigheders brug af ansigtsovervågning, " skrev Jacob Snow, en teknologi- og borgerrettighedsadvokat for ACLU i det nordlige Californien.

To år siden, Amazon byggede ansigts- og produktgenkendelsesværktøjet som en måde for kunderne hurtigt at søge i en database med billeder og søge efter match. Genkendelse kræver, at brugeren har to sæt billeder. Den første er generelt en stor database med kendte personer. Brugeren indsender derefter billeder på enkeltpersoner, som softwaren derefter sammenligner med dem i den store database for at finde, hvad den mener er match.

Snow sagde, at produktet er blevet "aggressivt" markedsført til politiet. Mindst to bureauer, en i Orlando, Florida, og en i Washington County, Oregon, tester Rekognition i øjeblikket.

Analytikeren, der er ansvarlig for Washington Countys program, siger, at det aldrig ville stole på ansigtsgenkendelsessoftware for så meget som at gå op og tale med en potentiel mistænkt, meget mindre arrestere dem.

Afdelingen sætter slet ikke en tillidsgrænse, fordi alle beslutninger er truffet af mennesker, sagde Chris Adzima, senior informationssystemanalytiker ved Washington County Sheriff's Office i Hillsboro, Oregon.

"Når vi har et billede fra en aktiv efterforskning, efterforskeren vil sætte det ind i vores system, og systemet vil spytte de fem mest sandsynlige resultater ud. Derefter vil efterforskeren se disse fem igennem for at afgøre, om nogen af ​​disse er mulige spor, " han sagde.

Selv da, efterforskeren skal foretage ordentlig due diligence, kører navnet for at se, om personen havde en rekord eller kendt kontakt med potentielle ofre.

Mens Adzima sagde, at Washington County har god succes med at bruge ansigtsgenkendelse til at hjælpe med at identificere personer, der til sidst blev bundet til forbrydelser, "næsten ingen af ​​dem var under en 95 procents konfidensgrænse, " han sagde.

Ansigtsgenkendelsesteknologi blev med succes brugt til at identificere den mand, der blev arresteret for skyderiet på Capital Gazettes nyhedsrum i Baltimore, Maryland.

Men ACLU og andre fortalere for privatlivets fred siger, at teknologien er en krænkelse af privatlivets fred. Og de siger, at det kunne bruges til at målrette og spore immigranter eller demonstranter.

I maj, 34 borgerrettighedsgrupper sendte et brev til Amazons CEO Jeff Bezos, siger, at folk skal være "fri til at gå ned ad gaden uden at blive overvåget af regeringen."

Samme måned, medlemmer af Congressional Black Caucus, sendte også et brev til Bezos, som sagde, at de var urolige over de "dybtgående negative utilsigtede konsekvenser" denne teknologi kunne have for afroamerikanere, papirløse immigranter og demonstranter.

"Race-baserede 'blinde pletter' inden for kunstig intelligens, især dem, der kommer til udtryk i ansigtsgenkendelsesteknologi, er veldokumenteret, " i brevet stod der.

Disse "blinde pletter" i ansigtsgenkendelse AI omfatter en hændelse i 2015, hvor en Google-fotoapplikation identificerede billeder af afroamerikanske brugere som "gorillaer", og en undersøgelse udgivet tidligere på året fra Massachusetts Institute of Technology, der fandt ansigtsgenkendelsessoftware, bruges til at identificere en persons køn, havde en fejlrate på 0,8 procent for lyshudede mænd og 34,7 procent for mørkhudede kvinder. Undersøgelsen brugte tre forskellige typer kommerciel software til ansigtsgenkendelse.

Seks medlemmer af Congressional Black Caucus blev fejlidentificeret i ACLU's test af anerkendelse.

Reps. Jimmy Gomez (D-Calif.) og John Lewis (D-Ga.), som begge blev falsk identificeret under testen, sendte et brev til Bezos torsdag, hvori han bad om at mødes med det samme for at løse teknologiens "mangler" "for at forhindre unøjagtige resultater."

©2018 USA Today
Distribueret af Tribune Content Agency, LLC.