Google bruger tvivlsomme taktikker til at målrette mod mennesker med mørkere hud i ansigtsgenkendelsesprojektet:kilder

Teknikgiganten Google vil have dit ansigt – især hvis du har "mørkere hud".

For at få det, virksomheden har finansieret et ansigtsgenkendelsesprojekt, der er rettet mod farvede mennesker med tvivlsomme taktikker, flere kilder med direkte kendskab til projektet fortalte New York Daily News.

Virksomhedens mål er at opbygge en massivt mangfoldig database, tilsyneladende, så produkter som de biometriske funktioner på dens kommende Pixel 4-smartphone ikke lider af en racemæssig skævhed.

I fortiden, Ansigtsgenkendelsesteknologi har notorisk haft sværere ved at identificere personer med mørkere hud.

Google ønsker at undgå den faldgrube – så meget, at det betalte sig at få lejede vikarer til at tage ud for at indsamle ansigtsscanninger fra en række mennesker på gaden ved at bruge gavekort på 5 USD som incitament.

En talsmand for Google anerkendte målet med dataindsamlingen.

"Vi udfører regelmæssigt frivillige forskningsundersøgelser. For nylige undersøgelser, der involverer indsamling af ansigtsprøver til maskinlæringstræning, der er to mål. Først, vi ønsker at bygge retfærdighed ind i Pixel 4s ansigtslåsningsfunktion. Det er afgørende, at vi har en mangfoldig prøve, som er en vigtig del af opbygningen af ​​et inkluderende produkt, " sagde talsmanden.

"Og for det andet, sikkerhed. Pixel 4s ansigtslås vil være en kraftfuld ny sikkerhedsforanstaltning, og vi ønsker at sikre, at den beskytter så bred en række mennesker som muligt. "

Men flere personer, der arbejdede for projektet, talte til Daily News i lange interviews og sagde, at Googles glubende appetit på data førte til tvivlsomme og vildledende metoder.

De sagde, at hold blev sendt for at målrette mod hjemløse i Atlanta, intetanende studerende på universitetscampusser rundt om i USA og deltagere i BET Awards-festlighederne i Los Angeles, blandt andet.

Arbejderne kendt som Google TVC'er - et akronym for at angive vikarer, sælgere eller entreprenører - fortalte Daily News, at de blev betalt gennem et tredjepartsarbejdsfirma ved navn Randstad.

De sagde, at Randstads projektledere specifikt bad TVC'erne om at gå efter farvede mennesker. skjule det faktum, at folks ansigter blev optaget og endda lyve for at maksimere deres dataindsamlinger.

Nogle fik besked på at indsamle ansigtsdata ved at karakterisere scanningen som et "selfie-spil" svarende til Snapchat, de sagde.

En sagde, at arbejderne blev bedt om at sige ting som, "Bare leg med telefonen i et par minutter og få et gavekort, "og, "Vi har en ny app, prøv det og få $5."

Kilderne sagde, at de blev instrueret af en Randstad-vejleder i ikke at fortælle emner, at de blev optaget.

"Vi fik besked på ikke at fortælle (folk), at det var video, selvom der stod på skærmen, at en video blev taget, " sagde en kilde, tilføjer, at video af hver bruger blev gemt under hver TVC's profil og periodisk gennemgået på præstationsmøder.

"Hvis personen skulle se på skærmen, efter at opgaven var fuldført, og sig, 'Åh, tog det en video?'... blev vi bedt om at sige, 'Åh, det er det ikke rigtig, ", sagde kilden.

TVC'er blev opfordret til at haste forsøgspersoner gennem undersøgelsesspørgsmål og en samtykkeaftale og gå væk, hvis folk begyndte at blive mistænksomme, sagde de lejede arbejdere.

"En af dagene med træning var dybest set at opbygge et ordforråd, der distraherer brugeren fra den aktuelle opgave så meget som muligt, " fortalte en af ​​de tidligere arbejdere til Daily News.

"Udtrykket 'minispil' blev bragt meget op, " sagde den tidligere medarbejder, der arbejdede i Los Angeles.

"Det var en del af dybest set sensorisk overbelastning af personen til at få det gjort så hurtigt som muligt og distrahere dem så meget som muligt, så de ikke engang rigtig havde tid til at indse, hvad der foregik, " han sagde.

"Dybest set distrahere dem og sige hvad som helst. "Bare gå videre og tryk på den næste knap. Du skal ikke engang bekymre dig om det." Den slags ting. Virkelig bare flyt det videre. "Lad os gå. Tryk på alle de næste knapper, " sagde den tidligere vikar, knipser med fingrene for at understrege.

Google har allerede erkendt, at det sendte folk ud for at bede om frivillige scanninger i bytte for gavekort på $5.

ZDNet rapporterede i juli, at en mand blev opsøgt af en i New York og bedt om at sælge sit ansigt til Google for $5. Manden sagde, at han fik at vide, at scanningen ville blive brugt til at "forbedre den næste generation af ansigtsgenkendelsestelefonoplåsning."

En Google-talsmand fortalte senere til TheVerge, at virksomheden indsamlede data gennem "feltundersøgelser" for at bygge sin ansigtsgenkendelsesfunktion "med robust sikkerhed og ydeevne."

Taler til Daily News, folkene, der arbejdede på projektet fra Los Angeles, sagde, at de blev opmuntret af Randstad til at tænke på sig selv som potentielle fuldtidsansatte hos Google, hvis de nåede deres daglige kvote af 3-D ansigtsscanninger.

Mens Randstad stod for den daglige drift, de ansatte sagde, at de havde ID-kort for at få dem ind i Googles Venice Beach-hovedkvarter.

Google-administratorer, i mellemtiden, var på regelmæssige telefonmøder og involveret i mange aspekter af dataindsamling og gennemgang, herunder mandatet til at gå efter "mørkere hudtoner, " sagde kilderne.

En tidligere ansat sagde, at Randstad sendte et team til Atlanta "specifikt" for at målrette mod sorte mennesker der, herunder hjemløse sorte mennesker.

"De sagde, at de skulle målrette mod hjemløse, fordi de er mindst tilbøjelige til at sige noget til medierne, " sagde den tidligere ansatte. "De hjemløse vidste slet ikke, hvad der foregik."

En Google-manager, der ofte var til konferenceopkald med holdene, kendte til turen – selvom han ikke var i hørevidde, da TVC'erne fik besked på at gå efter hjemløse, fortalte den tidligere lejede til Daily News.

Manageren talte med de TVC'er, der skulle til Atlanta og understregede, at virksomheden "forsøger at målrette mod mennesker med mørkere hud, " sagde den tidligere lejede.

En anden tidligere TVC sagde, at teammedlemmer i Californien specifikt fik at vide, at de kunne lokke personer med penge, ved at nævne en statslov, der siger, at gavekort mindre end $10 kan veksles til kontanter.

"De fortalte os endda, 'Hvis de ikke kan lide kaffe eller sådan noget, du kan fortælle hjemløse, at du kan bytte gavekortet ind for 5 USD kontant, " sagde det tidligere teammedlem.

"De var meget opmærksomme på alle de måder, du kunne incitamentere en person på og virkelig skærpe ind på personens kontekst for at gøre det næsten uimodståeligt."

Det tidligere TVC sagde, at universitetscampusser blev betragtet som "guldminen eller enhjørningen", fordi unge studerende typisk lever på stramme budgetter og reagerer på gavekort.

Daily News stødte på to TVC'er, der indsamlede data i en studielounge inde i hovedbiblioteket på California State University, Long Beach den 28. august.

Iført rygsække og ligne studerende selv, de to mænd gik fra bord til bord og tilbød $5 Starbucks-gavekort i bytte for 3-D ansigtsscanninger, som flere studerende senere sagde, at de ikke var klar over, at de solgte.

"Rotér dit ansigt i en cirkel ... Perfekt!" sagde en af ​​dem mænd klædt i en blå-hvid T-shirt til en studerende, der brugte mindre end to minutter med telefonen, før hun modtog sit gavekort på 5 USD.

"Åh gud, de har mit ansigt, "forårsstuderende Jenile Ho, 18, fortalte Daily News, da hun senere blev spurgt, om hun vidste, at hendes ansigt blev scannet.

"Jeg ved, han sagde Android. Jeg hørte ikke noget om Google, " påstod hun.

"De sagde, at de ville have os til at teste en ny telefon, en Android. Jeg lægger min mail ind. Min fyr sagde, at jeg skulle gøre det hele meget hurtigt. Han blev ved med at sige, 'Tryk på næste og upload. Næste og upload.' Jeg troede, de var studerende. Vi er nye her og prøver at få venner, " hun sagde.

"Skal jeg ændre mit ansigt?" spurgte Ho, mens hun grinede nervøst. "Jeg hørte lige Starbucks og sagde:'OKAY.' "

En anden elev sagde, at hun heller ikke huskede at have hørt noget om Google.

"De sagde bare, 'Vil du deltage i en undersøgelse? Vi giver dig et Starbucks gavekort, " Kelly Yam, 18, sagde.

"Vi måtte følge en prik med næsen. Jeg gjorde den handling at holde telefonen op til mit ansigt. Måske næste gang bliver jeg mere opmærksom. Jeg blev mest fristet af gavekortet, " hun sagde.

"De sagde, at det var en undersøgelse, og vi troede, de var studerende. Jeg tror ikke engang, at jeg var klar over, at der var en samtykkeerklæring, " hun sagde.

Andre studerende på biblioteket sagde, at de huskede folk, der gik rundt med en stor telefon og uddelte Starbucks-gavekortene på $5 samme sted i slutningen af ​​forårssemesteret.

Deon Williams, en sort studerende, sagde en fyr med telefonen lavede en hurtig linje for sin studiegruppe engang omkring maj.

"Jeg så på ham, da han gik hen til mig, synes godt om, hvem er den fyr? Han kom rigtig tæt på, "Williams, 23, fortalte Daily News.

"Han spurgte, om jeg ville have et gratis $5-kort ved at lave dataanalyse. De sagde ikke, at det var en scanning. Jeg tænkte bare på Starbucks. Jeg indsendte en falsk e-mail, " han sagde.

"Vi spurgte, hvem de arbejdede for, før nogen gjorde det. De sagde, at det var noget relateret til Google, " huskede han.

At være "meget nøjeregnende" er en del af jobbet, sagde TVC stadig på projektet i sidste måned.

"Jeg føler, at de ville have os til at forgribe sig på de svage, " sagde personalet.

En del af hastværket var beregnet til at forhindre forsøgspersoner i at læse samtykkeformularen, der skal klikkes på for at scanningen tælles, sagde TVC.

Et billede af aftalen, der blev delt med Daily News, så ud til at give Google stort spillerum med ansigtsdataene.

Det sagde, at Google kunne beholde scanningerne "så længe det er nødvendigt for at opfylde formålene, som forventes at vare omkring fem år."

Det gav også Google ret til at "aggregere forskningsdataene" på en måde, der gør forsøgspersoner anonyme, og "der er ingen grænse for, hvor længe eller på hvilken måde Google kan beholde bruge eller dele de samlede data."

Måske mest foruroligende, samtykkeaftalen gav Google ret til at "beholde, bruge eller dele ikke-personligt identificerende eller aggregerede data uden begrænsning til ethvert formål, " og sagde, at dataene kunne behandles "uden for landet, " inklusive steder "hvor du muligvis har færre rettigheder."

One of the ex-TVCs called the consent form particularly "troubling."

"This could be a companywide data set that could be used for anything, " the former staffer said.

Jacob Sne, a technology and civil liberties attorney at the ACLU of Northern California, said the project tactics revealed to the Daily News were cause for concern.

He said the new California Consumer Privacy Act, set to take effect next year, will require businesses collecting data to explicitly inform people about the purposes for which the data would be used.

I mellemtiden, businesses still must comply with Section 5 of the Federal Trade Commission Act, which prohibits deceptive conduct in the marketplace, han sagde.

"Privacy is a fundamental right, not a privilege for people who can afford it. Google should know that not being evil means not harvesting information from society's most vulnerable. The idea that people truly consented, through a process that was apparently rushed and misleading, is pure fiction, " Snow told the Daily News.

He called it "a complicated legal question" when asked if Google could be held liable for the conduct reported to the Daily News.

"It is not impossible for the actions of a contractor to be imputed to the company contracting with that entity under the law, " han sagde.

A list of specific questions sent to Google about its methods went unanswered, but the company acknowledged it needs to train its facial recognition machine to work on all kinds of facial features and that it's investigating the Daily News' claims of dubious tactics.

Randstad acknowledged it received a Daily News email requesting comment but did not respond by deadline.

©2019 New York Daily News
Distribueret af Tribune Content Agency, LLC.