Hvad Spotify og Tinder ikke fortæller os

Onlineaktivitet påvirkes i stigende grad af algoritmiske anbefalinger baseret på data indsamlet om forbrugeradfærd af virksomheder, som ofte er tilbageholdende med at afsløre, hvilke data de indsamler, eller hvordan de bruger dem.

Forskere ved University of Auckland har bestræbt sig på at finde ud af mere om, hvordan disse algoritmer fungerer ved at analysere Spotifys og Tinders brugsbetingelser og privatlivspolitikker. Forskningen, offentliggjort i Journal of the Royal Society of New Zealand , blev dirigeret af Dr. Fabio Morreale, School of Music, og Matt Bartlett og Gauri Prabhakar, School of Law.

De virksomheder, der indsamler og bruger forbrugerdata (normalt for deres egen økonomiske vinding), er især modstandsdygtige over for akademisk undersøgelse, fandt forskerne. "På trods af deres kraftige indflydelse er der få konkrete detaljer om, præcis hvordan disse algoritmer virker, så vi var nødt til at bruge kreative måder til at finde ud af det," siger Dr. Morreale.

Holdet kiggede på Tinders og Spotifys juridiske dokumenter, fordi begge platforme er baseret på anbefalingsalgoritmer, der skubber brugerne til enten at lytte til specifikke sange eller til romantisk at matche en anden bruger. "De er stort set blevet overset sammenlignet med større tech-virksomheder som Facebook, Google, Tik Tok osv., som har været udsat for mere granskning," siger han. "Folk tror måske, de er mere godartede, men de er stadig meget indflydelsesrige."

Forskerne analyserede gentagelser af de juridiske dokumenter i løbet af det sidste årti. Virksomheder er i stigende grad forpligtet til at lade brugerne vide, hvilke data der indsamles, men længden og sproget på de juridiske dokumenter kunne ikke beskrives som brugervenlige.

"De har en tendens til det legalistiske og vage, hvilket hæmmer udenforståendes evne til at granske virksomhedernes algoritmer og deres forhold til brugerne ordentligt. Det gør det svært for akademiske forskere og helt sikkert for den gennemsnitlige bruger," siger Dr. Morreale. Deres forskning afslørede flere indsigter. Spotifys privatlivspolitikker viser for eksempel, at virksomheden indsamler meget mere personlig information, end den gjorde i de første år, herunder nye typer data.

"I gentagelsen af ​​sin privatlivspolitik fra 2012 inkluderede Spotifys datapraksis kun grundlæggende oplysninger:de sange, en bruger spiller, afspilningslister, som en bruger opretter, og grundlæggende personlige oplysninger såsom brugerens e-mailadresse, adgangskode, alder, køn og placering," siger Dr. Morreale. Efter flere gentagelser af privatlivspolitikken giver den eksisterende 2021-politik virksomheden mulighed for at indsamle brugeres fotos, lokationsdata, stemmedata, baggrundslyddata og andre typer personlige oplysninger.

Udviklingen i Spotifys brugsvilkår siger nu også, at "det indhold, du ser, herunder dets valg og placering, kan være påvirket af kommercielle overvejelser, herunder aftaler med tredjeparter." Dette giver rigelig plads til, at virksomheden lovligt kan fremhæve indhold til en specifik bruger baseret på en kommerciel aftale, siger Dr. Morreale.

"Spotify lover, at 'playlisten er lavet til dig, baseret på den musik, du allerede elsker', men Spotifys brugsbetingelser beskriver, hvordan en algoritme kan blive påvirket af faktorer, der er ydre for brugeren, såsom kommercielle aftaler med kunstnere og labels."

"I deres anbefalinger (og afspilningslister for den sags skyld) vil Spotify sandsynligvis også skubbe kunstnere fra labels, der har Spotify-aktier - dette er konkurrencebegrænsende, og vi bør vide om det."

Og nok i modsætning til de fleste brugeres opfattelse, er dating-appen Tinder "én stor algoritme," siger Matt Bartlett. "Tinder har tidligere udtalt, at det matchede folk baseret på 'ønskescore' beregnet af en algoritme. Jeg tror ikke, at brugerne helt forstår eller ved, hvordan Tinders algoritme virker, og Tinder går ud af sin måde ikke at fortælle os det."

"Det er ikke for at sige, at dette er en ond ting - problemet er, at de ikke er gennemsigtige omkring, hvordan matchningen sker. Efter min mening bør brugsbetingelserne specificere det." Mens forskerne ikke var i stand til fuldt ud at identificere, hvordan platformenes algoritmer fungerer, fremhævede deres forskning netop dette problem – at virksomhederne ikke er gennemsigtige omkring deres indsamling af vores data, eller hvordan de bruger dem.

"Med disse kraftfulde digitale platforme, der har betydelig indflydelse i det moderne samfund, fortjener deres brugere og samfundet som helhed mere klarhed over, hvordan anbefalingsalgoritmer fungerer," siger Dr. Morreale. "Det er vanvittigt, at vi ikke kan finde ud af det; jeg tror, ​​at vi i fremtiden vil se tilbage og se det her som det vilde vesten af ​​stor teknologi."