Forskere siger, at Amazons ansigtsdetektionsteknologi viser bias

Ansigtsdetektionsteknologi, som Amazon markedsfører til retshåndhævelse, fejlidentificerer ofte kvinder, især dem med mørkere hud, ifølge forskere fra MIT og University of Toronto.

Fortalere for privatliv og borgerrettigheder har opfordret Amazon til at stoppe markedsføringen af ​​sin anerkendelsestjeneste på grund af bekymringer om diskrimination af minoriteter. Nogle Amazon-investorer har også bedt virksomheden om at stoppe af frygt for, at det gør Amazon sårbar over for retssager.

Forskerne sagde, at i deres test, Amazons teknologi betegnede kvinder med mørkere hud som mænd 31 procent af tiden. Kvinder med lysere hud blev fejlidentificeret 7 procent af tiden. Mørkere i huden havde en fejlrate på 1 procent, mens lysere mænd ikke havde nogen.

Kunstig intelligens kan efterligne deres menneskelige skaberes fordomme, når de kommer ind i hverdagen. Den nye undersøgelse, udgivet sent torsdag, advarer om potentialet for misbrug og trusler mod privatlivets fred og borgerlige rettigheder fra ansigtsdetektionsteknologi.

Matt Wood, general manager for kunstig intelligens med Amazons cloud-computing enhed, sagde undersøgelsen bruger en "ansigtsanalyse" og ikke "ansigtsgenkendelse" teknologi. Wood sagde, at ansigtsanalyse "kan spotte ansigter i videoer eller billeder og tildele generiske egenskaber såsom at bære briller; genkendelse er en anden teknik, hvorved et individuelt ansigt matches med ansigter i videoer og billeder."

I et fredagsindlæg på Mediums hjemmeside, MIT Media Lab-forsker Joy Buolamwini svarede, at virksomheder bør kontrollere alle systemer, der analyserer menneskelige ansigter for bias.

"Hvis du sælger et system, der har vist sig at have bias på menneskelige ansigter, det er tvivlsomt, at dine andre ansigtsbaserede produkter også er fuldstændigt bias-frie, " hun skrev.

Amazons reaktion viser, at den ikke tager de "virkelig alvorlige bekymringer afsløret af denne undersøgelse alvorligt, sagde Jacob Snow, en advokat hos American Civil Liberties Union.

Buolamwini og Inioluwa Deborah Raji fra University of Toronto sagde, at de studerede Amazons teknologi, fordi virksomheden har markedsført den til retshåndhævelse. Rajis LinkedIn-konto siger, at hun i øjeblikket er forskningsmentee for kunstig intelligens hos Google, som konkurrerer med Amazon om at tilbyde cloud-computing-tjenester.

Buolamwini og Raji siger, at Microsoft og IBM har forbedret deres teknologi til ansigtsgenkendelse, siden forskere opdagede lignende problemer i en undersøgelse fra maj 2017. Deres andet studie, som omfattede Amazon, blev gjort i august 2018. Deres papir vil blive præsenteret på mandag på en kunstig intelligens-konference i Honolulu.

Wood sagde, at Amazon har opdateret sin teknologi siden undersøgelsen og lavet sin egen analyse med "nul falske positive matches."

Amazons websted krediterer Rekognition for at hjælpe Washington County Sheriff Office i Oregon med at fremskynde, hvor lang tid det tog at identificere mistænkte fra hundredtusindvis af fotooptegnelser.

© 2019 The Associated Press. Alle rettigheder forbeholdes.