Hvordan sociale netværkssider kan diskriminere kvinder

Sociale medier og deleøkonomi har skabt nye muligheder ved at udnytte online netværk til at opbygge tillid og fjerne markedsbarrierer. Men en voksende mængde forskning tyder på, at gamle køn og racemæssige fordomme vedvarer, fra mænds større popularitet på Twitter til afroamerikaneres lavere acceptprocent på Airbnb.

Nu, brug af fotodelingssiden Instagram som en testcase, Columbia-forskere demonstrerer, hvordan to almindelige anbefalingsalgoritmer forstærker en netværkseffekt kendt som homofil, hvor lignende eller ligesindede samler sig. De viser endvidere, hvordan algoritmer slap løs på et netværk med homofilt effektivt gør kvinder mindre synlige; de fandt ud af, at kvinderne i deres datasæt, hvis fotos var lidt mindre tilbøjelige til at blive 'lide' eller kommenteret, blev endnu mindre populær, når anbefalingsalgoritmer blev introduceret.

Ved at beregne matematikken om, hvordan dette sker, forskerne håber, at deres arbejde, præsenteres den 25. april på webkonferencen i Lyon, kan bane vejen for algoritmer, der korrigerer for homofil.

"Vi viser simpelthen, hvordan visse algoritmer opfanger mønstre i dataene, "sagde undersøgelsens hovedforfatter Ana-Andreea Stoica, en kandidatstuderende ved Columbia Engineering. "Dette bliver et problem, når information, der spredes gennem netværket, er en jobannonce eller andre muligheder. Algoritmer kan sætte kvinder i endnu større ulempe."

Forskerne skrabede deres data fra Instagram i 2014, efter at Facebook købte virksomheden, men før automatiserede beskeder gjorde det lettere at komme i kontakt med venner af venner. Selvom kvinder var flere end mænd i deres prøve på 550, 000 Instagram -brugere (54 procent til 46 procent), forskerne fandt ud af, at mænds fotos havde en tendens til at blive bedre modtaget:52 procent af mændene modtog mindst 10 'likes' eller kommentarer sammenlignet med 48 procent af kvinderne.

Som forventet, homofilt spillede en rolle. Forskerne fandt ud af, at mænd havde 1,2 gange større sandsynlighed for at 'lide' eller kommentere andre mænds fotos frem for kvinders, mens kvinder kun var 1,1 gange mere tilbøjelige til at interagere med andre kvinder.

Da de brugte to meget udbredte anbefalingsalgoritmer-Adamic-Adar og Random Walk (venner-af-venner)-fandt forskerne, at procentdelen af ​​kvinder, der var forbundet med, eller forudsagt at blive anbefalet til, mindst 10 andre Instagram -brugere faldt fra 48 procent i det originale datasæt, til henholdsvis 36 procent og 30 procent. Som forudsagt i en række matematiske beviser i avisen, forskerne fandt også ud af, at forskellen var størst blandt Instagrams super-influencers-folk som Instagram CEO Kevin Systrom, hvis populære indlæg og 1,5 millioner følgere satte ham i den øverste tiendedel procent for engagement.

Da algoritmer blev løsnet på dette eksklusive netværk af ultraengagerende individer, kvinders synlighed faldt. Selvom kvinder i toppen. 1 procent for engagement (med mindst 320 forbindelser) var flere end mænd (54 procent til 46 procent), mændene var langt mere tilbøjelige til at blive foreslået til nye brugere og udvide deres netværk hurtigt. Kun 26 procent og 28 procent af kvinderne i toppen. 1 procent blev sandsynligvis anbefalet henholdsvis henholdsvis Adamic-Adar og Random Walk-algoritmerne mindst 23 gange og 12 gange, fandt forskerne.

"Algoritmer opfanger subtile mønstre og forstærker dem, "sagde undersøgelsens seniorforfatter, Augustin Chaintreau, en datalog ved Columbia Engineering og medlem af Columbia's Data Science Institute. "Vi beder ikke om, at algoritmer er blinde for dataene, bare at de retter deres egen tendens til at forstærke den bias, der allerede er der. "

Undersøgelsen er den seneste for at vise, at anbefalingsalgoritmer, ud over at filtrere indhold, kan påvirke den langsigtede struktur af et socialt netværk. "Det er bemærkelsesværdigt, at en simpel antagelse om homofil fører algoritmer til at forstærke forskelle i social status, "sagde Amit Sharma, en forsker ved Microsoft Research India, der ikke var involveret i undersøgelsen, men for nylig talte i Columbia om sit eget arbejde med at udforske anbefalingsmotorer og social indflydelse.

Algoritmiske indgreb, der balancerer bekvemmelighed med etiske mål, kan være en måde at løse problemet på, han tilføjede. "Gennem undersøgelser som denne, vi lærer, at praksis med at optimere en enkelt metric udelukkende, for eksempel, antal nye venner tilføjet, er ikke den rigtige vej. Desværre, alternativet er uklart. Vi ridser stadig på overfladen af ​​at forstå, hvordan algoritmer påvirker langsigtet menneskelig adfærd. "