Fremmer anbefalingsalgoritmer på sociale netværk ulighed?

Online sociale netværk hævder at skabe forbindelser og bringe mennesker sammen. Men de rangerings- og anbefalingsalgoritmer, der f.eks. foreslår, hvem der skal forbindes med, eller hvem de mest relevante videnskabsmænd på et felt er, er ikke retfærdige. En undersøgelse netop offentliggjort i tidsskriftet Scientific Reports viser, at algoritmerne kan forværre uligheder og diskriminere visse grupper af mennesker i de øverste rækker.

Undersøgelsen undersøgte, hvordan sociale mekanismer påvirker rangfordelingen af ​​to velkendte algoritmer, nemlig PageRank, en af ​​de vigtigste algoritmer, som Googles søgemaskine er bygget på, og Who-to-Follow, Twitters algoritme, som antyder folk, du ikke er. følger i øjeblikket, som du måske finder interessant.

"Det har tidligere vist sig, at rangordningsalgoritmer har en tendens til at øge populariteten af ​​brugere, der allerede er populære, og som kan føre til tab af muligheder for visse grupper af mennesker," forklarer Lisette Espín-Noboa, en beregningsmæssig samfundsforsker ved Complexity Science Hub Vienna (CSH) og papirets første forfatter. "Vi ønskede at forstå, hvornår disse algoritmer kan gå galt, afhængigt af et netværks struktur og karakteristika."

Forståelse af algoritmer

Holdet simulerede forskellige netværk, sammensat af 2.000 individer, og justerede de sociale mekanismer for relationer mellem individerne i hvert netværk. Forskerne var i stand til at lave variationer i de egenskaber, der blev tildelt hvert netværk, såsom andelen af ​​minoriteten, hvor aktive brugere var i forbindelse med andre brugere, og den måde, folk tilsluttede sig i netværket. Især var forskerne interesseret i, om individer associerede mere sandsynligt med andre, der allerede var populære, og om de havde en tendens til at forbinde med dem, der lignede dem. At foretrække andre, der ligner en selv, er et princip, som samfundsforskere kalder homofili ("fugle af en fjer flok sammen").

Vigtigste sociale mekanisme

Forskerne fandt ud af, at den vigtigste sociale mekanisme, der var ansvarlig for at forvrænge minoriteters synlighed i ranglister, faktisk var homofil sammen med andelen af ​​mindretal. "Vi ser, at når majoritetsgruppen for det meste omgås andre medlemmer af flertallet, er minoritetsgruppen underrepræsenteret i de øverste rækker," forklarer Espín-Noboa. "Minoriteter kan dog overvinde denne underrepræsentation ved at forbinde sig strategisk med andre og kan forsøge at opnå i det mindste statistisk paritet i de øverste rækker."

Statistisk paritet betyder, at hvis minoriteten repræsenterer 20 procent af personerne i netværket, skal det samme forhold afspejles i hver top-k i rangen. "En måde at øge synligheden af ​​minoriteter i rækken er ved at gøre dem mere aktive i netværket," siger Expín-Noboa. "Det betyder, at minoriteter bør skabe flere forbindelser til andre."

En anden måde, der kunne gøre minoriteter mere synlige, er ved at diversificere majoritetens forbindelser:ved at skabe flere forbindelser fra majoritetsgruppen til minoritetsgruppen, finder undersøgelsen.

Mere realistiske scenarier

"Vi har set i en tidligere undersøgelse, hvordan homofili kan påvirke rangeringen af ​​minoriteter," siger medforfatter Fariba Karimi, der leder teamet "Network Inequality" på CSH. "Dette papir antager mere realistiske sociale netværksscenarier og ser ikke kun på rangordningsalgoritmer, men også på sociale anbefalingsalgoritmer, som sociale netværksplatforme som Twitter bruger," siger hun. "Vores nye resultater tyder på, at rangerings- og anbefalingsalgoritmer i sociale online-netværk som Twitter faktisk kan forvrænge minoriteternes synlighed på uventede måder."