En universitetsprofessor ønsker at afsløre den skjulte skævhed i AI og derefter bruge den til gode

Lauren Rhue forsker i den hurtige verden af ​​kunstig intelligens og maskinlæringsteknologi. Men hun vil have, at alle i den sætter farten ned.

Rhue, en assisterende professor i informationssystemer ved University of Maryland Robert H. Smith School of Business, reviderede for nylig følelsesgenkendelsesteknologi inden for tre ansigtsgenkendelsestjenester:Amazon Rekognition, Face++ og Microsoft. Hendes forskning afslørede, hvad Rhue kaldte "virkelig skarpe" raceforskelle.

Amazon Rekognition tilbydes til brug for andre virksomheder. Face++ bruges til identitetsbekræftelse. Microsoft planlægger at stoppe med at bruge deres ansigtsgenkendelsesteknologi i år, inklusive følelsesgenkendelsesværktøjerne.

Rhue indsamlede billeder af sort-hvide NBA-spillere fra 2016-sæsonen og kontrollerede, i hvilken grad de smilede. Hun kørte derefter disse billeder gennem ansigtsgenkendelsessoftwaren.

Generelt tildelte modellerne flere negative følelser til sorte spillere, fandt Rhue. Derudover, hvis spillerne havde tvetydige ansigtsudtryk, var de sorte spillere mere tilbøjelige til at blive antaget for at have et negativt ansigtsudtryk, mens hvide spillere var mere tilbøjelige til at blive "givet fordelen af ​​tvivlen."

"Jeg synes, at vi alle skal tage et skridt tilbage og tænke, skal vi analysere ansigter på denne måde?" sagde Rhue.

Rhue, 39, er ikke den første til at udforske raceforskelle i AI-systemer. For eksempel har MIT-studerende Joy Buolamwini givet TED Talks om sin erfaring med en ansigtsanalysesoftware, der ikke kunne registrere hendes ansigt, fordi algoritmen ikke var blevet kodet til at identificere et bredt nok udvalg af hudtoner og ansigtsstrukturer.

"Med den nuværende entusiasme for kunstig intelligens, ser der ud til at være et behov for at skabe en model for alt, hvad du kan skabe en model for," sagde Rhue. "Men jeg vil virkelig gerne se lidt mere en pause og refleksion over, 'Har vi brug for det her? Hvad bringer det til bordet?'"

Brugen af ​​ansigtsgenkendelsesteknologi breder sig. Havnen i Baltimore bruger ansigtsgenkendelsesteknologi til at verificere afstigningspassagerers identitet. HireVue, der er baseret i Utah, udfører videointerviews for potentielle medarbejdere og scorer kandidaternes ansigter og følelser som en del af sin kandidatanalyse. AI er blevet implementeret til at scanne følelser og kropssprog for at finde potentielle trusler i menneskemængder.

Nogle stater begrænser brugen af ​​kunstig intelligens. Californien overvejer for eksempel at begrænse brugen af ​​kunstig intelligens til at screene jobkandidater for at undgå "diskriminerende påvirkning". I Illinois skal arbejdsgivere oplyse, når de bruger AI-værktøjer under videointerviews. Maryland har en lignende lov.

Og sidste sommer indførte Baltimores byråd et moratorium for brugen af ​​ansigtsgenkendelsesteknologi, der undtog politiafdelingen, indtil denne december.

Og da kunstig intelligens siver ind i alle områder af samfundet, vil Rhue bare have, at folk – og virksomheder – holder pause og tænker på de langsigtede virkninger.

"Disse typer systemer bliver i stigende grad indlejret i vores, i vores teknologi. Vi er ikke altid opmærksomme på dem. Vi er ikke altid klar over, hvordan de bliver brugt," sagde Rhue. "Og jeg tror, ​​det er vigtigt at forstå potentialet for bias. Og så er udligningen af ​​min forskning at se på menneskelig indgriben for at se, om det gør det bedre, hvis folk er i stand til at opveje den bias."

Rhue bemærkede, at der i enhver situation skal være en kombination af AI-værktøjer og menneskelig indgriben, der bruges til at afbøde skævhed. Hun ønsker at komme foran de "negative, utilsigtede konsekvenser."

Og hun synes, at resten af ​​hendes felt også begynder at prioritere den slags arbejde. Hun sagde, at George Floyds død i hænderne på politiet og efterfølgende opfordringer til raceretfærdighed i 2020 førte til en interesse i at forstå marginaliserede samfunds kampe, og hvordan teknologi kan fremme inklusion.

Jui Ramaprasad, der er lektor i informationssystemer ved Marylands handelsskole, arbejder med Rhue og har kendt hende, siden hun var doktorand ved New York University. Hun sagde, at det arbejde, som Rhue udfører med bias i maskinlæring, er noget af "det mest virkningsfulde arbejde" inden for deres felt.

"Jeg tror, ​​hun laver arbejde, som hun holder af, fordi det påvirker hende, det påvirker mennesker i samfundet," sagde Ramaprasad. "Jeg synes, det er virkelig svært at være den person, der udfører arbejdet, når man også er en person, der står over for den skævhed eller diskrimination i det miljø, vi lever og arbejder i."

På trods af de forskelle, hun har afdækket, tror Rhue på, at teknologien kan bruges til gode. Rhue har for eksempel forsket i crowdfunding på digitale platforme med fokus på Kickstarter, som kuraterer kampagner ud fra medarbejdernes interesse. I et forsøg på at fremhæve projekter fremsat af sorte skabere fandt hun ud af, at brug af forudsigende modeller frem for at stole på subjektiv menneskelig analyse øgede anbefalingsraten for sorte projekter uden at sænke succesraten.

"Jeg tror, ​​der er så meget potentiale for, at teknologi virkelig kan have en positiv indvirkning på inklusion, og især finansiel inklusion," sagde Rhue.

Uden for sin forskning underviser Rhue i datavisualisering til bachelor- og masterstuderende. Hun har tidligere undervist på Wake Forest University.

Rhue sagde, at hun kan se den indflydelse, hun gør i klasseværelset. Hun har fået elever til at fortælle hende, inklusive nogle på efterskole, at hun er den eneste sorte professor, de nogensinde har haft. Og hun har fået andre til at fortælle hende, at de ønsker at forfølge deres egen ph.d. fordi hun fik det til at virke muligt.

Will Hawks er assisterende professor i ledelse ved Nova Southeastern University Florida. Før det var han elev af Rhue's i Wake Forest.

Selvom Rhue ikke var hans første sorte professor - Hawks har tidligere gået på Florida A&M University, en historisk sort institution - det gjorde stadig indtryk at se hende på campus.

"At se nogen, der ligner dig, udføre ting, som du ikke tror kan opnås - det er det umulige, der bliver til virkelighed," sagde Hawks. "At være en sort, mandlig professor i samme branche nu ... vores tilstedeværelse betyder så meget mere for dem. Og jeg ved det, fordi jeg har været i deres sko."

Hawks kaldte Rhue en "game changer" for ham. Han har holdt kontakt med hende, siden han blev færdiguddannet; han nåede ud, da han søgte akademiske job og inviterede hende endda for nylig til at slutte sig til ham i at forske i hadforbrydelser kendt som "Zoom-bombninger", og hvordan disse hændelser påvirker organisationer og mennesker. Hawks mener, at Rhue ændrede sit livs kurs.

"Du ville ikke snakke med Dr. Will Hawks lige nu, hvis jeg ikke havde krydset veje med Dr. Rhue," sagde Hawks. + Udforsk yderligere

Teknologi til læsning af følelser klarer sig ikke i race-bias-testen

2022 Baltimore Sun.
Distribueret af Tribune Content Agency, LLC.