Google indrømmer, at deres ansigtsscanningsprojekt for mørk hud overtrådte intern politik, fører til eftersyn

Google arbejder på at redde ansigt.

Teknologigiganten indrømmede, at den foretager ændringer, efter at en New York Daily News-undersøgelse fandt, at dets ansigtsgenkendelsesfeltforskningsprojekt var rettet mod hjemløse. kontante universitetsstuderende og fag med "mørkere" hud.

Google sagde, at en intern undersøgelse foranlediget af Daily News' afsløring i sidste måned afslørede overtrædelser af politikker blandt tredjepartsleverandører, der arbejdede fra deres kontorer, men gik på gaden hver dag for at anmode om ansigtsscanninger med gavekort på $5 som incitament.

Overtrædelserne førte til, at virksomheden stoppede og revidere projektet, og nu vil fremtidige ansigtsscanninger til produktudvikling være begrænset til kun Google -campusser, betyder ingen yderligere offentlig dataindsamling på området, en kilde bekræftede til Daily News torsdag.

Umiddelbart efter at Daily News offentliggjorde sin historie i sidste måned, Google suspenderede ansigtsscanningsprogrammet og startede en fuldstændig undersøgelse, fortalte en talsmand til Daily News dengang.

På onsdag, en talsmand erkendte over for Daily News, at dens interne undersøgelse afslørede en mangelfuld dataindsamlingsproces.

"Vi fandt ud af, at adfærden var i strid med vores træning og scripts, og vores politikker for frivillige studier, " sagde talsmanden.

"Fremadrettet, arbejdet udføres kun på Google -websteder, for at sikre, at vi har bedre kontrol over forskningen og interaktionerne med deltagerne, " han sagde.

Talsmanden forsvarede ånden i projektet, sagde, at dets mål var at opbygge "større inklusivitet i vores produkter, herunder sikkerhedsfunktionerne på Made by Google -enheder. "

Han kaldte målet "vigtigt og nødvendigt."

Google lancerede den interne undersøgelse, efter at flere personer, der arbejdede på projektet, fortalte Daily News, at en eller flere af projektemnerne skubbede dem til at bruge rov taktik.

De sagde, at Google desperat ønskede flere ansigtsscanninger fra mennesker med "mørkere hudtoner", så produkter som ansigtslås-funktionen på sin Pixel 4-smartphone ikke ville lide under en racemæssig skævhed.

Ansigtsgenkendelsesteknologi har en historie med at være god til at genkende hvide ansigter, men meget mindre præcis, når det kommer til mennesker med mørkere hud.

Med det mål at finjustere dets biometriske funktioner med mere forskelligartede data, Google hyrede teams af vikarer gennem personalepartner Randstad, gav nogle af dem arbejdsplads på et Google-kontor i Venedig, Californien, og så sendte dem ud i marken for at bede om scanninger.

Et hold blev sendt til Atlanta. En tidligere lejer med viden om turen sagde, at det eksplicitte mål var at målrette mod folk med "mørkere hud".

Medarbejderen sagde, at en Randstad-manager specifikt instruerede holdet til at målrette mod sorte hjemløse i Atlanta, fordi "de er mindst tilbøjelige til at sige noget til medierne."

Daily News fik billeder af folk, der stod i kø for at bytte deres ansigtsscanninger for gavekortene på $5 i en park i Atlanta, der er kendt som et samlingssted for hjemløse.

Rapporten fik Atlantas byadvokat til at sende et brev til topchefer i Google, hvor de krævede svar og irettesatte virksomheden for angiveligt at "udnytte" byens "mest sårbare befolkninger".

Andre, der arbejdede på Google-projektet, fortalte Daily News, at de følte sig presset til at maksimere deres samlinger ved at haste emner gennem samtykkeaftalen og placere scanningen som et "minispil" eller en ny app, der skulle testes.

Daily News så to Google-kontraktører indsamle ansigtsscanninger fra studerende i en studielounge inde i hovedbiblioteket på California State University, Long Beach den 28. august.

Iført rygsække og ligne studerende selv, de to mænd gik fra bord til bord og tilbød gavekortene i bytte for 3-D ansigtsscanninger, som flere studerende senere sagde, at de ikke var klar over, at de solgte.

En talsmand for universitetet fortalte Daily News, at skolen var overrasket over, at Google -entreprenører hemmeligt anmodede om scanninger fra studerende.

"Universitetet fandt din rapport foruroligende. Vi vidste ikke, at Googles underleverandører var på campus involveret i dette arbejde, " fortalte CSULB-talsmand Gregory Woods til Daily News.

"Det ville ikke have været vores praksis at tillade denne aktivitet i vores bibliotek, " han sagde.

©2019 New York Daily News
Distribueret af Tribune Content Agency, LLC.