Når vores syn på verden er forvrænget af algoritmer

Algoritmer bruges til at tilpasse vores nyhedsfeed på sociale medier. Men risikoen er, at de synspunkter, vi bliver præsenteret for, bliver stadig mere begrænsede og ekstreme. EPFL-forskere har udviklet en løsning, der ville gøre brugernes personlige indhold mere afbalanceret, og deres projekt har allerede skabt interesse blandt menneskerettighedsforkæmpere.

Når du klikker på ét link i stedet for et andet, dit valg vil påvirke det indhold, du vil blive vist af forskellige websteder længere nede i linjen. Algoritmerne, der bruges af sociale medieplatforme som Facebook, lærer, hvad vores præferencer er, og giver mere og mere indhold, der matcher vores interesser. Risikoen er, at vi aldrig vil blive vist noget, der går imod vores holdninger, og det kan forvrænge vores syn på verden. "Ved stadig mere omhyggeligt at udvælge, hvad vi ser, disse algoritmer forvrænger virkeligheden. Sociale medieplatforme bliver effektivt til ekkokamre, hvor meninger kan blive mere og mere ekstreme, " forklarer Elisa Celis, seniorforsker ved School of Computer and Communication Sciences (IC) ved EPFL.

Og det kan have indflydelse på læseren. "Tallige undersøgelser har vist, at hvis du er usikker på noget, din beslutning vil i sidste ende blive påvirket af hyppigheden og rækkefølgen, hvori du bliver præsenteret for information. Så disse algoritmer kan faktisk forme din mening baseret på forudindtaget data, " siger Celis. Som svar på dette problem, Celis arbejdede med Nisheeth Vishnoi, professor ved School of Computer and Communication Sciences (IC) ved EPFL, at udvikle et system, der forhindrer brugerne i at blive fodret med totalt ensidigt indhold.

En algoritme, der er lige så effektiv

De har designet en algoritme, der kan ændres for at sikre, at brugerne får vist et minimum af forskelligt indhold. "En social medieplatform kunne for eksempel, vælge at have synspunkter, der modsætter sig brugerens, udgør mindst 10 procent af nyhedsfeedet for at sikre, at brugerens syn på verden forbliver mere afbalanceret, " forklarer forskerne. Algoritmen kunne nemt integreres i nuværende systemer. Den største udfordring er at få de store virksomheder med. "For platforme som Facebook, disse algoritmer skal være effektive for at generere annonceindtægter. Vi ønskede at vise, at det er muligt at skabe en algoritme, der er lige så effektiv, men som gør det muligt at tilpasse indhold på en mere retfærdig og mere afbalanceret måde, " forklarer Vishnoi.

At øge regeringernes bevidsthed om dette spørgsmål vil være en nøglefaktor, når det kommer til at udfylde hullet i lovgivningen på dette område. Flere menneskerettighedsorganisationer har allerede vist interesse for forskernes projekt, som de for nylig præsenterede for delegerede fra menneskerettighedsorganisationer i Genève, herunder til medlemmer af FN's kontor for højkommissæren for menneskerettigheder. "Disse algoritmer er i øjeblikket totalt uregulerede, fordi virkningen af ​​den skævhed, de genererer, endnu ikke er korrekt forstået. Som borger, Jeg føler mig magtesløs, fordi jeg ikke har kontrol over det indhold, jeg ser. Den nuværende situation kan vise sig at være ret farlig for demokratiet. Vi er virkelig nødt til at lede efter alternative løsninger, " tilføjer Vishnoi.