Hvorfor falske nyheder snebolde på sociale medier

Udbredelsen af ​​misinformation på sociale medier er et presserende samfundsproblem, som teknologivirksomheder og politiske beslutningstagere fortsat kæmper med, men de, der studerer dette spørgsmål, har stadig ikke en dyb forståelse af, hvorfor og hvordan falske nyheder spredes.

For at kaste lidt lys over dette grumsede emne udviklede forskere ved MIT en teoretisk model af et Twitter-lignende socialt netværk for at studere, hvordan nyheder deles og udforske situationer, hvor en ikke-troværdig nyhed vil sprede sig bredere end sandheden. Agenter i modellen er drevet af et ønske om at overtale andre til at antage deres synspunkter:Nøgleantagelsen i modellen er, at folk gider dele noget med deres følgere, hvis de synes, det er overbevisende og sandsynligvis vil flytte andre tættere på deres tankegang. Ellers deler de ikke.

Forskerne fandt ud af, at i sådanne omgivelser, når et netværk er stærkt forbundet, eller dets medlemmers synspunkter er skarpt polariseret, vil nyheder, der sandsynligvis er falske, spredes bredere og rejse dybere ind i netværket end nyheder med højere troværdighed.

Dette teoretiske arbejde kunne informere empiriske undersøgelser af forholdet mellem nyheders troværdighed og størrelsen af ​​deres spredning, hvilket kan hjælpe sociale medievirksomheder med at tilpasse netværk for at begrænse spredningen af ​​falsk information.

"Vi viser, at selvom folk er rationelle i, hvordan de beslutter sig for at dele nyhederne, kan dette stadig føre til forstærkning af information med lav troværdighed. Med dette overtalelsesmotiv, uanset hvor ekstrem min overbevisning er - givet, at jo mere ekstreme de er, jo mere jeg får ved at flytte andres meninger – der er altid nogen, der vil forstærke [informationen],« siger seniorforfatter Ali Jadbabaie, professor og leder af Institut for Bygge- og Miljøteknik og et kernefakultetsmedlem af Instituttet. for Data, Systems, and Society (IDSS) og en hovedefterforsker i Laboratory for Information and Decision Systems (LIDS).

Med Jadbabaie på papiret er førsteforfatter Chin-Chia Hsu, en kandidatstuderende i Social and Engineering Systems-programmet i IDSS, og Amir Ajorlou, en LIDS-forsker. Forskningen vil blive præsenteret i denne uge på IEEE-konferencen om beslutning og kontrol.

Grukkende overtalelse

Denne forskning bygger på en undersøgelse fra 2018 af Sinan Aral, David Austin professor i ledelse ved MIT Sloan School of Management; Deb Roy, lektor i mediekunst og -videnskab ved Media Lab; og tidligere postdoc Soroush Vosoughi (nu assisterende professor i datalogi ved Dartmouth University). Deres empiriske undersøgelse af data fra Twitter viste, at falske nyheder spredes bredere, hurtigere og dybere end rigtige nyheder.

Jadbabaie og hans samarbejdspartnere ønskede at se nærmere på, hvorfor dette sker.

De antog, at overtalelse kunne være et stærkt motiv for at dele nyheder - måske vil agenter i netværket overtale andre til at antage deres synspunkter - og besluttede at bygge en teoretisk model, der ville lade dem udforske denne mulighed.

I deres model har agenter en vis forudgående tro på en politik, og deres mål er at overtale tilhængere til at flytte deres overbevisninger tættere på agentens side af spektret.

En nyhed udsendes i første omgang til en lille, tilfældig undergruppe af agenter, som skal beslutte, om de vil dele denne nyhed med deres følgere. En agent afvejer emnets nyhedsværdi og dets troværdighed og opdaterer sin tro baseret på, hvor overraskende eller overbevisende nyheden er.

"De vil lave en cost-benefit-analyse for at se, om denne nyhed i gennemsnit vil flytte folk tættere på det, de tænker, eller flytte dem væk. Og vi inkluderer en nominel omkostning for deling. For eksempel at tage nogle handlinger, hvis du scroller på sociale medier, skal du stoppe for at gøre det. Tænk på det som en omkostning. Eller der kan komme en omdømmeomkostning, hvis jeg deler noget, der er pinligt. Alle har denne pris, så jo mere ekstrem og jo mere interessant nyheder er, jo mere du vil dele det," siger Jadbabaie.

Hvis nyheden bekræfter agentens perspektiv og har en overbevisningskraft, der opvejer de nominelle omkostninger, vil agenten altid dele nyheden. Men hvis en agent mener, at nyheden er noget, andre måske allerede har set, er agenten frarådt at dele den.

Da en agents vilje til at dele nyheder er et produkt af dens perspektiv, og hvor overbevisende nyheden er, jo mere ekstremt en agents perspektiv eller jo mere overraskende nyheden er, jo mere sandsynligt vil agenten dele dem.

Forskerne brugte denne model til at studere, hvordan information spredes under en nyhedskaskade, som er en ubrudt delingskæde, der hurtigt gennemsyrer netværket.

Forbindelse og polarisering

Holdet fandt ud af, at når et netværk har høj forbindelse, og nyhederne er overraskende, er troværdighedstærsklen for at starte en nyhedskaskade lavere. Høj forbindelse betyder, at der er flere forbindelser mellem mange brugere i netværket.

Ligeledes, når netværket stort set er polariseret, er der masser af agenter med ekstreme synspunkter, der ønsker at dele nyheden og starte en nyhedskaskade. I begge disse tilfælde skaber nyheder med lav troværdighed de største kaskader.

"For enhver nyhed er der en naturlig netværkshastighedsgrænse, en række tilslutningsmuligheder, der muliggør god transmission af information, hvor størrelsen af ​​kaskaden maksimeres af sande nyheder. Men hvis du overskrider den hastighedsgrænse, vil du komme ind i situationer, hvor unøjagtige nyheder eller nyheder med lav troværdighed har en større kaskadestørrelse," siger Jadbabaie.

Hvis brugernes synspunkter i netværket bliver mere forskelligartede, er det mindre sandsynligt, at en dårligt troværdig nyhed spredes mere udbredt end sandheden.

Jadbabaie og hans kolleger designede agenterne i netværket til at opføre sig rationelt, så modellen bedre kunne fange handlinger, som rigtige mennesker kan foretage, hvis de vil overtale andre.

"Nogen vil måske sige, at det ikke er derfor, folk deler, og det er gyldigt. Hvorfor folk gør visse ting, er et emne for intens debat inden for kognitiv videnskab, socialpsykologi, neurovidenskab, økonomi og statsvidenskab," siger han. "Afhængigt af dine antagelser, ender du med at få forskellige resultater. Men jeg føler, at denne antagelse om, at overtalelse er motivet, er en naturlig antagelse."

Deres model viser også, hvordan omkostninger kan manipuleres for at reducere spredningen af ​​falsk information. Agenter laver en cost-benefit-analyse og deler ikke nyheder, hvis omkostningerne ved at gøre det opvejer fordelene ved at dele.

"Vi laver ingen politiske forskrifter, men en ting, som dette arbejde antyder, er, at det måske ikke er nogen dårlig idé at have nogle omkostninger forbundet med at dele nyheder. Grunden til, at du får mange af disse kaskader, er, at omkostningerne ved at dele nyhederne er faktisk meget lav,« siger han.