Kunne AI-robotter udvikle fordomme på egen hånd?

At vise fordomme over for andre kræver ikke et højt niveau af kognitiv evne og kan let udvises af kunstigt intelligente maskiner, ny forskning har foreslået.

Datalogi- og psykologieksperter fra Cardiff University og MIT har vist, at grupper af autonome maskiner kunne udvise fordomme ved blot at identificere, kopiere og lære denne adfærd fra hinanden.

Det kan se ud til, at fordomme er et menneskespecifikt fænomen, som kræver menneskelig erkendelse for at danne sig en mening om, eller stereotype, en bestemt person eller gruppe.

Selvom nogle typer computeralgoritmer allerede har udvist fordomme, såsom racisme og sexisme, baseret på at lære fra offentlige registre og andre data genereret af mennesker, dette nye arbejde demonstrerer muligheden for, at kunstig intelligens kan udvikle fordommesgrupper på egen hånd.

De nye resultater, som er publiceret i tidsskriftet Videnskabelige rapporter , er baseret på computersimuleringer af, hvordan ens fordomsfulde individer, eller virtuelle agenter, kan danne en gruppe og interagere med hinanden.

I et spil om at give og tage, hver enkelt tager en beslutning om, hvorvidt de donerer til nogen inden for deres egen gruppe eller i en anden gruppe, baseret på en persons omdømme såvel som deres egen donationsstrategi, som omfatter deres niveauer af fordomme over for udenforstående.

Mens spillet udfolder sig, og en supercomputer samler tusindvis af simuleringer, hvert individ begynder at lære nye strategier ved at kopiere andre enten inden for deres egen gruppe eller hele befolkningen.

Medforfatter til undersøgelsen Professor Roger Whitaker, fra Cardiff University's Crime and Security Research Institute og School of Computer Science and Informatics, sagde:"Ved at køre disse simuleringer tusinder og atter tusinder af gange, vi begynder at få en forståelse af, hvordan fordomme udvikler sig og de forhold, der fremmer eller hæmmer dem.

"Vores simuleringer viser, at fordomme er en kraftfuld naturkraft og gennem evolution, det kan nemt blive incitamenteret i virtuelle populationer, på bekostning af bredere forbindelse med andre. Beskyttelse mod fordomsfulde grupper kan utilsigtet føre til, at individer danner yderligere fordommesgrupper, resulterer i en sprækket population. Sådanne udbredte fordomme er svære at vende."

Resultaterne involverer individer, der opdaterer deres fordomsniveauer ved fortrinsvis at kopiere dem, der opnår en højere kortsigtet udbytte, hvilket betyder, at disse beslutninger ikke nødvendigvis kræver avancerede kognitive evner.

"Det er muligt, at autonome maskiner med evnen til at identificere sig med diskrimination og kopiere andre i fremtiden kan være modtagelige for fordomsfulde fænomener, som vi ser i den menneskelige befolkning, " fortsatte professor Whitaker.

"Mange af de AI-udviklinger, vi ser, involverer autonomi og selvkontrol, hvilket betyder, at enheders adfærd også påvirkes af andre omkring dem. Køretøjer og tingenes internet er to nyere eksempler. Vores undersøgelse giver en teoretisk indsigt, hvor simulerede agenter med jævne mellemrum anmoder andre om en form for ressource."

Et yderligere interessant fund fra undersøgelsen var, at under særlige forhold, som omfatter mere distinkte delpopulationer, der er til stede i en population, det var sværere for fordomme at få fat.

"Med et større antal underpopulationer, alliancer af ikke-fordomsfulde grupper kan samarbejde uden at blive udnyttet. Dette mindsker også deres status som minoritet, reducerer modtageligheden for, at fordomme slår igennem. Imidlertid, dette kræver også omstændigheder, hvor agenter har en højere tilbøjelighed til at interagere uden for deres gruppe, " konkluderede professor Whitaker.