Hvad big data afslører om onlineekstremisme

Efterhånden som ekstremistiske grupper og udkantsbevægelser som QAnon har opnået mainstream-bevidsthed, har deres evne til hurtigt at sprede misinformation og konspirationer sat sociale medieplatforme under øget offentlig kontrol. Facebook, Twitter og andre teknologivirksomheder er blevet irettesat af både kongressen og medier for at have undladt seriøst at adressere online radikalisering blandt deres brugere. Efterhånden som USA er blevet mere og mere politisk polariseret, er spørgsmålet om, hvorvidt disse platformes algoritmer – utilsigtet eller designmæssigt – hjælper brugere med at opdage ekstremt og vildledende indhold, blevet mere presserende.

Men som Homa Hosseinmardi, Ph.D., påpeger, har en stor platform overraskende fået mindre opmærksomhed:YouTube. Hosseinmardi, en seniorforsker og ledende forsker på PennMap-projektet med University of Pennsylvanias Computational Social Science (CSS) Lab – en del af School for Engineering and Applied Sciences, Annenberg School for Communication og Wharton School – bemærker, at selvom det er YouTube, som ofte opfattes som en underholdningskanal snarere end en nyhedskilde, er måske den største medieforbrugsplatform i verden.

"YouTube er blevet overset af forskere, fordi vi ikke troede på, at det var et sted for nyheder," sagde hun. "Men hvis du ser på skalaen, har den mere end to milliarder brugere. Hvis du tager denne befolkning og multiplicerer den med den brøkdel af nyhedsindhold, der er set på YouTube, indser du, at mængden af ​​informationsforbrug på YouTube er meget mere end på Twitter."

Hosseinmardis forskning er drevet af spørgsmål om menneskelig adfærd, især i online rum. Hendes ph.d. forskning omhandlede chikane og mobning online, især på Instagram og Askfm, et semi-anonymt socialt netværk. Før hun kom til Penn, var hun postdoc-forskerassistent ved University of Southern California's Information Sciences Institute, hvor hun studerede personlighed, jobpræstation og mental sundhed i arbejdsmiljøer ved hjælp af medarbejdernes fysiologiske signaler såsom hjerteslag og vejrtrækning.

I 2019 sluttede hun sig til CSSLab, instrueret af Stevens University Professor Duncan Watts. I sit arbejde med laboratoriet bruger Hosseinmardi data og beregningsmetoder i stor skala til at få indsigt i emner, herunder mediepolarisering, algoritmisk bias, og hvordan sociale netværk påvirker vores liv.

For flere år siden blev et team af forskere, inklusive Hosseinmardi og Watts, interesseret i forholdet mellem online radikalisering og YouTube-nyhedsforbrug. I hvilket omfang fremmer YouTubes algoritmer engagement med stærkt partisk eller radikalt indhold, og i hvilket omfang er dette påvirket af en persons onlineadfærd?

"Vi har alle hørt anekdoter om YouTube-radikalisering - en person så en video og endte med en konspirationsteori," siger Hosseinmardi. "Vi indså, at et generelt publikum opfatter dette som et bevis på et systematisk problem med algoritmen."

Hun sigter efter at besvare dette spørgsmål:Hvis folk starter fra et sted på YouTube, efter at have set et par videoer i træk, vil de så ende på samme destination?

Holdet testede denne forespørgsel ved at studere individuel browseradfærd, på YouTube og på tværs af nettet, hos mere end 300.000 amerikanere fra januar 2016 til december 2019. De indhentede også brugernes demografiske data, herunder alder, køn, race, uddannelse, erhverv, indkomst, og politisk hældning, hvilket sikrer et repræsentativt udsnit af den amerikanske befolkning.

I august offentliggjorde de deres resultater i Proceedings of the National Academy of Sciences , og finder ud af, at den konventionelle visdom ikke altid er rigtig.

Forskerne observerede ingen beviser for, at det yderste højre og "anti-vågne" indholdsengagement systemisk er forårsaget af YouTube-anbefalinger. Det afspejler snarere i vid udstrækning brugerpræferencer og det bredere onlineindholdsøkosystem. Ekstrem højre indholdsforbrugere ankommer via forskellige veje såsom søgemaskiner, andre websteder og tidligere sete videoer.

Men faktum er, at individer fortsat bliver radikaliseret online. Som Hosseinmardi og andre eksperter ser det, er løbende og løsningsorienteret forskning altafgørende for at løse dette problem. I begyndelsen af ​​november blev holdets relaterede 2020-undersøgelse, "Evaluering af omfanget, væksten og oprindelsen af ​​højreorienterede ekkokamre på YouTube," citeret i en høring i det amerikanske senatudvalg for indenrigssikkerhed og regeringsanliggender, der undersøgte sociale medieplatformes rolle i fremkomsten af ​​indenlandsk ekstremisme.

Hosseinmardi og hendes kolleger betragter deres arbejde på dette område som konstant i gang. PennMAP, et tværfagligt og upartisk forskningsprojekt drevet af CSSLab, bygger teknologi til at evaluere mediebias og misinformationsmønstre på tværs af det politiske spektrum og til at følge, hvordan informationsforbrug påvirker individuelle og kollektive overbevisninger. Holdet skaber en skalerbar datainfrastruktur til at analysere snesevis af terabyte af tv-, radio- og webindhold, sideløbende med at studere repræsentative paneler med omkring 500.000 medieforbrugere over flere år. De arbejder også sammen med forskere fra det schweiziske føderale institut for teknologi for at overvåge virkningerne af YouTubes politikændringer og de-platformering på dets brugere på tværs af nettet og finde ud af, om ekstremt indholdsforbrug som følge heraf reduceres, eller om brugerne blot erstatter YouTube med en anden platform, der er vært for lignende indhold.

Men, advarer Hosseinmardi om, at samfundsproblemer ikke kan løses gennem politiske reformer alene. I vid udstrækning afspejler platforme som YouTube den offline verden. Misinformation er en del af en større cyklus, hvor forudindtaget eller vildledende indhold kan dehumanisere marginaliserede grupper og minoritetsgrupper, hvilket påvirker andres niveauer af empati over for dem i det 'virkelige' liv. Efterhånden som misinformation fortsætter med at strømme, bliver had og chikane ved med at sprede sig, og berørte grupper bliver stadig mere tavse.

I sidste ende, understreger Hosseinmardi, er det vores ansvar at tænke kritisk over den information, vi forbruger og accepterer som sandhed.

"Jeg kan ikke påstå, at der ikke er skyld i nogen platform, men vi skal ikke glemme vores rolle som samfund, og at mennesker med et bestemt udseende eller mennesker af en bestemt race eller religion bliver ofre," siger hun. "Plattformene er afspejling af store problemer i samfundet, som vi skal bekymre os mere om, sammenlignet med bare at pege fingre af platformene. De burde gøre deres del, men vi skal også gøre vores del."