Whiteness of AI sletter farvede mennesker fra vores forestillede fremtid, argumenterer forskere

Den overvældende 'hvidhed' af kunstig intelligens – fra stockbilleder og filmiske robotter til dialekter af virtuelle assistenter – fjerner farvede mennesker fra den måde, menneskeheden tænker på sin teknologiforbedrede fremtid.

Det siger eksperter ved University of Cambridge. som antyder, at nuværende fremstillinger og stereotyper om kunstig intelligens risikerer at skabe en "racemæssigt homogen" arbejdsstyrke af håbefulde teknologer, bygge maskiner med bias indbygget i deres algoritmer.

De hævder, at kulturelle skildringer af AI som hvid skal udfordres, da de ikke tilbyder en "postracistisk" fremtid, men snarere en, hvorfra farvede mennesker simpelthen slettes.

Forskerne, fra Cambridges Leverhulme Center for Future of Intelligence (CFI), sige, at AI, ligesom andre science fiction troper, har altid afspejlet racetænkningen i vores samfund.

De hævder, at der er en lang tradition for grove racestereotyper, når det kommer til rumvæsner – fra den "orientaliserede" alien af ​​Ming den nådesløse til den caribiske karikatur af Jar Jar Binks.

Men kunstig intelligens portrætteres som hvid, fordi i modsætning til arter fra andre planeter, AI har attributter brugt til at "retfærdiggøre kolonialisme og segregation" i fortiden:overlegen intelligens, professionalisme og magt.

"I betragtning af at samfundet har, i århundreder, fremmet sammenslutningen af ​​efterretninger med hvide europæere, det kan forventes, at når denne kultur bliver bedt om at forestille sig en intelligent maskine, forestiller den sig en hvid maskine, " sagde Dr. Kanta Dihal, der leder CFI's 'Decolonising AI'-initiativ.

"Folk stoler på, at AI træffer beslutninger. Kulturelle skildringer fremmer ideen om, at AI er mindre fejlbarlig end mennesker. I tilfælde, hvor disse systemer racificeres som hvide, kan det have farlige konsekvenser for mennesker, der ikke er det, " hun sagde.

Sammen med sin kollega Dr. Stephen Cave, Dihal er forfatter til et nyt papir om sagen for afkolonisering af AI, offentliggjort i dag i tidsskriftet Filosofi og teknologi .

Artiklen samler nyere forskning fra en række områder, herunder menneske-computer-interaktion og kritisk raceteori, at demonstrere, at maskiner kan racificeres, og at dette fastholder racemæssige skævheder i den "virkelige verden".

Dette inkluderer arbejde med, hvordan robotter anses for at have forskellige raceidentiteter, med sorte robotter, der modtager mere onlinemisbrug, og en undersøgelse, der viser, at folk føler sig tættere på virtuelle agenter, når de opfatter fælles raceidentitet.

"En af de mest almindelige interaktioner med AI-teknologi er gennem virtuelle assistenter i enheder som smartphones, som taler på almindeligt hvidt middelklasseengelsk, " sagde Dihal. "Idéer om at tilføje sorte dialekter er blevet afvist som for kontroversielle eller uden for målmarkedet."

Forskerne gennemførte deres egen undersøgelse af søgemaskiner, og fandt ud af, at alle ikke-abstrakte resultater for AI havde enten kaukasiske træk eller bogstaveligt talt var farven hvid.

Et typisk eksempel på AI-billeder, der pryder bogomslag og almindelige medieartikler, er Sophia:den hyperkaukasiske humanoid erklæret for en "innovationsmester" af FN's udviklingsprogram. Men dette er blot en nylig iteration, siger forskere.

"Stockbilleder til AI destillerer visualiseringerne af intelligente maskiner i vestlig populærkultur, som den har udviklet sig gennem årtier, " sagde Cave, administrerende direktør for CFI.

"Fra Terminator til Blade Runner, Metropolis til Ex Machina, alle spilles af hvide skuespillere eller er synligt hvide på skærmen. Androider af metal eller plastik får hvide træk, som i I, Robot. Selv ulegeret AI – fra HAL-9000 til Samantha in Her – har hvide stemmer. Kun for ganske nylig har nogle få tv-shows, såsom Westworld, brugte AI-karakterer med en blanding af hudfarver."

Cave og Dihal påpeger, at endda virker klart baseret på slaveoprør, såsom Blade Runner, skildrer deres AI'er som hvide. "AI bliver ofte afbildet som at overliste og overgå menneskeheden, " sagde Dihal. "Hvid kultur kan ikke forestille sig at blive overtaget af overlegne væsener, der ligner racer, den historisk har indrammet som underlegen."

"Billeder af kunstig intelligens er ikke generiske repræsentationer af menneskelignende maskiner:deres hvidhed er en proxy for deres status og potentiale, " tilføjede Dihal.

"Portrætter af kunstig intelligens, da White placerer maskiner i et magthierarki over i øjeblikket marginaliserede grupper, og degraderer farvede til positioner under maskinernes. Efterhånden som maskiner bliver mere og mere centrale i automatiseret beslutningstagning på områder som beskæftigelse og strafferet, dette kan have stor betydning."

"Den opfattede hvidhed af AI vil gøre det sværere for farvede mennesker at avancere i feltet. Hvis udviklerdemografien ikke diversificerer, AI står til at forværre racemæssig ulighed, " sagde Dihal.