Amazon taler for at regulere ansigtsgenkendelsesteknologi

Amazon har sluttet sig til rækken af ​​andre teknologivirksomheder, inklusive Microsoft og Google, ved at anerkende risiciene ved ansigtsgenkendelsessoftware og opfordre den føderale regering til at indføre nationale regler for teknologien.

Amazon Web Services CEO Andy Jassy fortalte en interviewer mandag, at han bifaldt føderal lovgivning, der begrænser misbrug af cloud-baseret software til ansigtsgenkendelse. såsom Amazon Rekognition, ved Recodes Code 2019-konference i Arizona.

"Uanset om det er private virksomheder eller vores politistyrker, du skal være ansvarlig for dine handlinger, og du skal holdes ansvarlig, hvis du misbruger den, " sagde Jassy.

"Jeg tror, ​​at problemet omkring ansigtsgenkendelsesteknologi er et reelt problem, " han sagde.

Amazon Rekognition bruger kunstig intelligens til at identificere folks ansigter på billeder og videoer. En koalition af 85 borgerlige frihedsgrupper har kritiseret virksomheden for at sælge ansigtsovervågningsteknologien til regeringer som en "ny magt til at målrette og udskille immigranter, religiøse minoriteter, og farvede mennesker i vores samfund, " som medlemmer skrev i et januarbrev til Amazon. Undersøgelser har også vist, at Rekognition har større chancer for at fejlidentificere billeder af mørkere huder end mænd med lysere hud.

Jassys meddelelse mandag afspejlede et blogindlæg fra februar fra Amazon Web Services, der anerkendte potentialet for misbrug af teknologien.

Han gentog virksomhedens holdning om, at retshåndhævende kunder kun bør bruge resultater af ansigtsgenkendelsessøgninger i deres beslutningsproces, hvis der er en tillidsscore på 99 %. Amazon tilbyder gratis træning til retshåndhævende kunder, Jassy sagde mandag, tilføjer, at kunder, der misbruger teknologien, vil blive afskåret fra at bruge platformen.

I de over to år, hvor cloud-tjenesten har været tilgængelig, der har ikke været en rapport om misbrug fra retshåndhævelsen, sagde Jassy. "Jeg er overbevist om, at bare fordi teknologi kan blive misbrugt, betyder ikke, at vi skal forbyde det og fordømme det."

Google har taget en hårdere holdning til at beskytte offentligheden mod potentielt misbrug af deres ansigtsgenkendelsesteknologi. I et blogindlæg i december, søgegiganten lovede ikke at sælge sine ansigtsgenkendelsesprodukter, før den udvikler politikker for at undgå skadelige resultater.

Jassy sagde, at Amazon planlægger at fortsætte med at sælge sin teknologi til regeringer. "Hvis vores regering ikke har adgang til alt det mest moderne, sofistikeret teknologi, som den private sektor har, vi er i problemer, " sagde Jassy. Under Amazons årlige aktionærmøde i sidste måned, kun 1,7 % af aktionærerne støttede et forslag, der opfordrede virksomheden til at stoppe med at sælge sin ansigtsgenkendelsesteknologi til regeringer.

Seattle Police Department (SPD) holdt op med at bruge deres ansigtsgenkendelsessoftware for omkring et år siden, sagde SPD-talsmand, sergent Sean Whitcomb. SPD havde modtaget national ros for ansigtsgenkendelsespraksis, der fulgte en stram politik, der blev udarbejdet med input fra American Civil Liberties Union of Washington i 2014. Politikken foreskrev, at SPD kun kunne bruge software til ansigtsgenkendelse til at sammenligne billeder fra fængslet med billede af en person, der var begrundet mistænkt for kriminel aktivitet. Whitcomb var usikker på, hvorfor SPD er holdt op med at bruge software til ansigtsgenkendelse.

Shankar Narayan, ACLU fra Washingtons teknologi- og frihedsprojektdirektør, kaldte Amazons meddelelse for et "velkomment skridt, " men han udtrykte bekymring over den type regulering, virksomheden vil foreslå.

"Ansigtsovervågning påvirker ikke samfund lige meget - en voksende række af beviser viser, at det sandsynligvis vil påvirke sårbare samfund som farvede mennesker uforholdsmæssigt meget, religiøse minoriteter og mange andre. Netop disse lokalsamfund burde have en mulighed, baseret på deres historiske erfaringer, at sige nej til brug af ansigtsovervågning fra statslige enheder, før vi overhovedet kommer til spørgsmålet om, hvordan teknologien skal implementeres, " sagde Narayan. "Det er vores håb, at teknologivirksomheder som Amazon og Microsoft, i overensstemmelse med deres offentlige bekymringserklæringer omkring ansigtsovervågning, vil støtte det sker.

©2019 The Seattle Times
Distribueret af Tribune Content Agency, LLC.