Redesign dating-apps for at mindske racemæssig skævhed, undersøgelse anbefaler

Mobile dating apps, der giver brugerne mulighed for at filtrere deres søgninger efter race – eller stole på algoritmer, der parrer mennesker af samme race – forstærker raceopdelinger og skævheder, ifølge et nyt papir fra Cornell-forskere.

Efterhånden som flere og flere forhold begynder online, dating og hookup apps bør modvirke diskrimination ved at tilbyde brugere andre kategorier end race og etnicitet til at beskrive sig selv, udstationering af inkluderende fællesskabsbeskeder, og skrive algoritmer, der ikke diskriminerer, sagde forfatterne.

"Serendipity går tabt, når folk er i stand til at filtrere andre mennesker ud, " sagde Jevan Hutson '16, M.P.S. '17, hovedforfatter af "Debiasing Desire:Addressing Bias and Discrimination on Intimate Platforms, " skrevet sammen med Jessie G. Taft '12, M.P.S. '18, en forskningskoordinator hos Cornell Tech, og Solon Barocas og Karen Levy, adjunkter i informationsvidenskab. "Datingplatforme har mulighed for at forstyrre særlige sociale strukturer, men du mister disse fordele, når du har designfunktioner, der giver dig mulighed for at fjerne folk, der er anderledes end dig."

Papiret, som forfatterne vil præsentere på ACM-konferencen om computerstøttet kooperativt arbejde og social computing den 6. november, citerer eksisterende forskning om diskrimination i dating-apps for at vise, hvordan enkle designbeslutninger kan mindske skævhed mod mennesker fra alle marginaliserede grupper, herunder handicappede eller transkønnede. Selvom partnerpræferencer er ekstremt personlige, Forfatterne hævder, at kultur former vores præferencer, og dating-apps påvirker vores beslutninger.

"Det er virkelig en hidtil uset tid til dating og møde online. Flere mennesker bruger disse apps, og de er kritiske infrastrukturer, der ikke får megen opmærksomhed, når det kommer til skævhed og diskrimination, " sagde Hutson, nu studerende ved University of Washington School of Law. "Intimitet er meget privat, og med rette, men vores private liv har indflydelse på større socioøkonomiske mønstre, der er systemiske."

Femten procent af amerikanerne rapporterer, at de bruger datingsider, og nogle undersøgelser anslår, at en tredjedel af ægteskaber – og 60 procent af parforhold af samme køn – startede online. Tinder og Grindr har titusinder af millioner brugere, og Tinder siger, at det har faciliteret 20 milliarder forbindelser siden lanceringen.

Forskning viser, at racemæssige uligheder i online dating er udbredt. For eksempel, sorte mænd og kvinder er 10 gange mere tilbøjelige til at sende beskeder til hvide, end hvide er til at sende beskeder til sorte. Lader brugerne søge, sortere og filtrere potentielle partnere efter race giver ikke kun folk mulighed for nemt at handle på diskriminerende præferencer, det forhindrer dem i at skabe forbindelse til partnere, som de måske ikke har indset, at de gerne vil have.

Apps kan også skabe skævheder. Papiret citerer forskning, der viser, at mænd, der brugte platformene i høj grad betragtede multikulturalisme mindre positivt, og seksuel racisme som mere acceptabel.

Brugere, der får beskeder fra folk af andre racer, er mere tilbøjelige til at engagere sig i interraciale udvekslinger, end de ellers ville have gjort. Dette tyder på, at design af platforme, der gør det lettere for mennesker af forskellige racer at mødes, kunne overvinde skævheder, sagde forfatterne.

Den Japan-baserede homoseksuelle hookup-app 9Monsters grupperer brugere i ni kategorier af fiktive monstre, "hvilket kan hjælpe brugerne med at se forbi andre former for forskelle, såsom race, etnicitet og evner, " står der i avisen. Andre apps bruger filtre baseret på karakteristika som politiske synspunkter, forholdshistorie og uddannelse, frem for race.

"Der er helt sikkert masser af plads til at finde på forskellige måder, hvorpå folk kan lære om hinanden, " sagde Hutson.

Algoritmer kan indføre diskrimination, med vilje eller ej. I 2016 en Buzzfeed-reporter fandt ud af, at dating-appen CoffeeMeetsBagel kun viste brugere potentielle partnere af samme race, selv når brugerne sagde, at de ikke havde nogen præference. Et eksperiment drevet af OKCupid, hvor brugerne fik at vide, at de var "meget kompatible" med personer, som algoritmen faktisk betragtede som dårlige matches, fandt ud af, at brugere var mere tilbøjelige til at have succesfulde interaktioner, når de fortalte, at de var kompatible - hvilket indikerer den stærke kraft af forslag.

Ud over at gentænke den måde, søgninger udføres på, udstationering af politikker eller meddelelser, der tilskynder til et mere inkluderende miljø, eller udtrykkeligt forbyder visse sprog, kunne mindske bias mod brugere fra enhver marginaliseret gruppe. For eksempel, Grindr publicerede en artikel med titlen "14 beskeder, som transpersoner vil have, at du stopper med at sende på datingapps" på sit mediesite, og homoseksuelle dating-appen Hornet forhindrer brugere i at henvise til race- eller racepræferencer i deres profiler.

Ændringer som disse kan have stor indflydelse på samfundet, forfatterne sagde, efterhånden som populariteten af ​​dating-apps fortsætter med at vokse, og færre forhold begynder på steder som barer, kvarterer og arbejdspladser. Men mens fysiske rum er underlagt love mod diskrimination, online apps er ikke.

"En tilfældig bar i North Dakota med 10 kunder om dagen er underlagt flere borgerrettighedsdirektiver end en platform, der har 9 millioner mennesker på besøg hver dag, " sagde Hutson. "Det er en ubalance, der ikke giver mening."

Stadig, forfatterne sagde, domstole og lovgivere har vist modvilje mod at blive involveret i intime forhold, og det er usandsynligt, at disse apps snart vil blive reguleret.

"I betragtning af at disse platforme bliver mere og mere opmærksomme på den indvirkning, de har på racediskrimination, vi synes, det ikke er et stort stræk for dem at tage en mere retfærdighedsorienteret tilgang i deres eget design, " sagde Taft. "Vi forsøger at øge bevidstheden om, at dette er noget designere, og mennesker generelt, burde tænke mere over."