Hvor meget altseende AI-overvågning er for meget?

Da en CIA-støttet venturekapitalfond interesserede sig for Rana el Kalioubys ansigtsscanningsteknologi til at opdage følelser, datavidenskabsmanden og hendes kolleger foretog en sjælsundersøgelse-og afviste derefter pengene.

"Vi er ikke interesserede i applikationer, hvor du spionerer på mennesker, "sagde el Kaliouby, administrerende direktør og medstifter af Boston startup Affectiva. Virksomheden har uddannet sine kunstige intelligenssystemer til at genkende, om enkeltpersoner er glade eller triste, træt eller vred, ved hjælp af et fotografisk arkiv med mere end 6 millioner ansigter.

De seneste fremskridt inden for AI-drevet computersyn har fremskyndet kapløbet om selvkørende biler og drevet de stadig mere sofistikerede fotomærkningsfunktioner, der findes på Facebook og Google. Men da disse nysgerrige AI "øjne" finder nye applikationer i butikkens kasselinjer, politiets kropskameraer og krigszoner, teknologivirksomhederne, der udvikler dem, kæmper for at afbalancere forretningsmuligheder med vanskelige moralske beslutninger, der kan slukke kunder eller deres egne arbejdere.

El Kaliouby sagde, at det ikke er svært at forestille sig at bruge ansigtsgenkendelse i realtid til at opfange uærlighed-eller, i hænderne på et autoritært regime, at overvåge reaktion på politisk tale for at udrydde uenighed. Men det lille firma, som sprang af fra et MIT -forskningslaboratorium, har sat grænser for, hvad den vil gøre.

Virksomheden har afstået fra enhver sikkerhed, lufthavn, endda løgnopdagelses ting, "sagde el Kaliouby. I stedet Affectiva har indgået et partnerskab med bilproducenter, der forsøger at hjælpe trætte udseende chauffører med at holde sig vågne, og med forbrugermærker, der gerne vil vide, om folk reagerer på et produkt med glæde eller afsky.

Sådanne besværligheder afspejler nye betænkeligheder ved evnen og mulige overgreb ved altseende ser altid AI -kamerasystemer - selvom myndighederne bliver mere ivrige efter at bruge dem.

I umiddelbar kølvandet på torsdagens dødbringende skyderi mod en avis i Annapolis, Maryland, politiet sagde, at de vendte sig til ansigtsgenkendelse for at identificere den ikke -samarbejdsvillige mistænkte. De gjorde det ved at trykke på en statsdatabase, der indeholder krusbilleder af tidligere anholdte og, mere kontroversielt, alle, der har registreret et Maryland -kørekort.

Indledende oplysninger givet til de retshåndhævende myndigheder sagde, at politiet havde henvendt sig til ansigtsgenkendelse, fordi den mistænkte havde beskadiget sine fingeraftryk i et tilsyneladende forsøg på at undgå identifikation. Denne rapport viste sig at være forkert, og politiet sagde, at de brugte ansigtsgenkendelse på grund af forsinkelser i at få fingeraftryksidentifikation.

I juni, Orlando Internationale Lufthavn meddelte planer om at kræve ansigtsidentifikationsscanninger af passagerer på alle ankomne og afgående internationale flyvninger inden udgangen af ​​dette år. Flere andre amerikanske lufthavne har allerede brugt sådanne scanninger for nogle, men ikke alle, afgående internationale flyvninger.

Kinesiske firmaer og kommuner bruger allerede intelligente kameraer til at skamme jaywalkers i realtid og overvåge etniske minoriteter, udsætte nogle for tilbageholdelse og politisk indoktrinering. Tættere på hjemmet, overkameraer og sensorer i Amazons nye kassereløse butik i Seattle har til formål at gøre butikstyveri forældet ved at spore alle varer, som shoppere afhenter og sætter tilbage.

Bekymringer over teknologien kan ryste selv de største tech -virksomheder. Google, for eksempel, sagde for nylig, at det vil afslutte en forsvarskontrakt, efter at medarbejdere protesterede mod den militære anvendelse af virksomhedens AI -teknologi. Arbejdet indebar computeranalyse af dronevideooptagelser fra Irak og andre konfliktzoner.

Lignende bekymringer om offentlige kontrakter har vakt intern uenighed hos Amazon og Microsoft. Google har siden offentliggjort AI -retningslinjer med vægt på anvendelser, der er "samfundsmæssigt gavnlige", og som undgår "urimelig skævhed".

Amazon, imidlertid, har hidtil afledt det stigende pres fra medarbejdere og fortalere om fortrolighed for at standse anerkendelse, et kraftfuldt værktøj til ansigtsgenkendelse, som det sælger til politiafdelinger og andre offentlige instanser.

At sige nej til noget arbejde, selvfølgelig, betyder normalt, at en anden vil gøre det. Drone-footage-projektet, der involverer Google, kaldet Project Maven, har til formål at fremskynde arbejdet med at lede efter "livsmønstre, ting, der er mistænkelige, tegn på mulige angreb, "sagde Robert Work, en tidligere top -embedsmand fra Pentagon, der lancerede projektet i 2017.

Selvom det gør ondt at miste Google, fordi de er "meget, meget god til det, "Arbejde sagde, andre virksomheder vil fortsætte denne indsats.

Kommerciel og offentlig interesse for edb-vision er eksploderet siden gennembrud tidligere i dette årti ved hjælp af et hjernelignende "neuralt netværk" til at genkende objekter i billeder. Træning af computere til at identificere katte i YouTube -videoer var en tidlig udfordring i 2012. Nu, Google har en smartphone -app, der kan fortælle dig hvilken race.

Et stort forskningsmøde - den årlige konference om computervision og mønstergenkendelse, afholdt i Salt Lake City i juni - er blevet omdannet fra en søvnig akademisk samling af "nørdede mennesker" til en guldfisk -forretningsudstilling, der tiltrækker store virksomheder og offentlige instanser, sagde Michael Brown, en datalog ved Torontos York University og en konferencearrangør.

Brown sagde, at forskere er blevet tilbudt højtlønnede job på stedet. Men få af de tusinder af tekniske papirer, der blev indsendt til mødet, adresserer bredere offentlige bekymringer om privatlivets fred, bias eller andre etiske dilemmaer. "Vi har sandsynligvis ikke så meget diskussion, som vi burde, " han sagde.

Startups skaber deres egne veje. Brian Brackeen, administrerende direktør for Miami-baseret ansigtsgenkendelsessoftwarefirma Kairos, har fastlagt en generel politik mod at sælge teknologien til retshåndhævelse eller til regeringens overvågning, argumenterer i et nyligt essay om, at det "åbner døren for grov mishandling af de moralsk korrupte."

Boston-baseret opstart Neurala, derimod, bygger software til Motorola, der vil hjælpe politibårne kropskameraer med at finde en person i en mængde baseret på, hvad de har på, og hvordan de ser ud. CEO Max Versace sagde, at "AI er et spejl af samfundet, "så virksomheden vælger kun principielle partnere.

"Vi er ikke en del af den totalitære, Orwelliansk plan, " han sagde.

© 2018 Associated Press. Alle rettigheder forbeholdes.