Vildledende COVID-19-overskrifter fra almindelige kilder gjorde mere skade på Facebook end falske nyheder, viser undersøgelse

Siden udbredelsen af ​​COVID-19-vaccinen i 2021 er falske nyheder på sociale medier i vid udstrækning blevet beskyldt for lav vaccineoptagelse i USA – men forskning fra MIT Sloan School of Management Ph.D. kandidat Jennifer Allen og professor David Rand finder, at skylden ligger et andet sted.

I et nyt papir offentliggjort i Science og medforfatter af Duncan J. Watts fra University of Pennsylvania introducerer forskerne en ny metode til måling af indhold på sociale mediers kausale virkning i skala. De viser, at vildledende indhold fra almindelige nyhedskilder – i stedet for direkte misinformation eller "falske nyheder" – var den primære årsag til vaccinationstøven på Facebook.

En ny tilgang til estimering af effekt

"Misinformation har været korreleret med mange samfundsmæssige udfordringer, men der er ikke meget forskning, der viser, at eksponering for misinformation faktisk forårsager skade," forklarede Allen.

Under COVID-19-pandemien fik spredningen af ​​misinformation relateret til virussen og vaccinen for eksempel stor offentlig opmærksomhed. Eksisterende forskning har dog for det meste kun etableret sammenhænge mellem vaccineafslag og faktorer som deling af misinformation online - og i vid udstrækning overset rollen som "vaccineskeptisk" indhold, som potentielt var vildledende, men som ikke blev markeret som misinformation af Facebook. -brikker.

For at løse dette hul stillede forskerne først et nøglespørgsmål:Hvad ville være nødvendigt for at misinformation eller enhver anden type indhold kan have vidtrækkende konsekvenser?

"For at ændre adfærd i stor skala skal indholdet ikke kun være overbevisende nok til at overbevise folk om ikke at få vaccinen, men også bredt set," sagde Allen. "Potentiel skade skyldes kombinationen af ​​overtalelse og eksponering."

For at kvantificere indholdets overtalelsesevne gennemførte forskerne randomiserede eksperimenter, hvor de viste tusindvis af undersøgelsesdeltagere overskrifterne fra 130 vaccine-relaterede historier – inklusive både almindeligt indhold og kendt misinformation – og testede, hvordan disse overskrifter påvirkede deres intentioner om at blive vaccineret mod COVID- 19.

Forskere bad også en separat gruppe af respondenter om at bedømme overskrifterne på tværs af forskellige egenskaber, herunder plausibilitet og politisk tilbøjelighed. Én faktor forudsagde pålideligt virkninger på vaccinationsintentioner:i hvilket omfang en overskrift antydede, at vaccinen var skadelig for en persons helbred.

Ved at bruge "skarernes visdom" og AI-værktøjer til naturlig sprogbehandling ekstrapolerede Allen og hendes medforfattere disse undersøgelsesresultater for at forudsige overbevisningskraften af ​​alle 13.206 vaccinerelaterede webadresser, der blev set bredt på Facebook i de første tre måneder af vaccinen udrulning.

Ved at kombinere disse forudsigelser med data fra Facebook, der viser antallet af brugere, der har set hver URL, kunne forskerne forudsige hver overskrifts overordnede indvirkning – antallet af mennesker, den kunne have overtalt til ikke at få vaccinen. Resultaterne var overraskende.

Eksponeringens undervurderede kraft

I modsætning til de gængse opfattelser vurderede forskerne, at vaccineskeptisk indhold reducerede vaccinationsintentionerne 46 gange mere end misinformation markeret af faktatjekkere.

Grunden? Selvom markeret misinformation var mere skadelig, når den blev set, havde den relativt lav rækkevidde. I alt modtog de vaccinerelaterede overskrifter i Facebook-datasættet 2,7 milliarder visninger – men indhold, der blev markeret som misinformation, modtog kun 0,3 % af disse visninger, og indhold fra domæner vurderet som lav troværdighed modtog 5,1 %.

"Selvom det direkte falske indhold reducerede vaccinationsintentionerne mest, når de blev set, var det forholdsvis få mennesker, der så det," forklarede Rand. "I bund og grund betyder det, at der er denne klasse af gråzoneindhold, der er mindre skadeligt pr. eksponering, men som ses langt oftere - og dermed mere virkningsfuldt generelt - som stort set er blevet overset af både akademikere og sociale medievirksomheder."

Navnlig var flere af de mest virkningsfulde URL'er i datasættet artikler fra almindelige kilder, der sår tvivl om vaccinens sikkerhed. For eksempel var den mest sete artikel - fra en velanset mainstream-nyhedskilde - der antydede, at en læge døde to uger efter at have modtaget COVID-19-vaccinen. Denne enkelt overskrift modtog 54,9 millioner visninger – mere end seks gange så mange visninger som al markeret misinformation.

Selv om denne artikels brødtekst anerkendte usikkerheden om lægens dødsårsag, var dens "clickbait" overskrift meget suggestiv og antydede, at vaccinen sandsynligvis var ansvarlig. Det er vigtigt, da langt de fleste seere på sociale medier sandsynligvis aldrig klikker ud for at læse forbi overskriften.

Hvordan journalister og sociale medieplatforme kan hjælpe

Ifølge Rand er en implikation af dette arbejde, at medier skal passe mere på deres overskrifter, selvom det betyder, at de ikke er lige så opsigtsvækkende.

"Når du skriver en overskrift, skal du ikke bare spørge dig selv, om den er falsk eller ej," sagde han. "Du bør spørge dig selv, om overskriften sandsynligvis vil forårsage unøjagtige opfattelser."

For platforme, tilføjede Allen, peger forskningen også på behovet for mere nuanceret mådehold – på tværs af alle emner, ikke kun folkesundhed.

"Indholdsmoderering fokuserer på at identificere de mest voldsomt falske oplysninger - men det er måske ikke en effektiv måde at identificere det mest overordnede skadelige indhold på," siger hun. "Platforme bør også prioritere at gennemgå indhold fra de personer eller organisationer med det største antal følgere og samtidig balancere ytringsfriheden. Vi er nødt til at investere i mere forskning og kreative løsninger i dette rum – for eksempel crowdsourcede moderationsværktøjer som X's Community Notes."

"Beslutninger om indholdsmoderering kan være virkelig vanskelige på grund af den iboende spænding mellem at ville afbøde skade og tillade folk at udtrykke sig," sagde Rand. "Vores papir introducerer en ramme, der hjælper med at balancere denne afvejning ved at tillade teknologivirksomheder faktisk at kvantificere potentielle skader."

Og afvejningerne kunne være store. En sonderende analyse foretaget af forfatterne viste, at hvis Facebook-brugere ikke var blevet udsat for dette vaccineskeptiske indhold, kunne så mange som 3 millioner flere amerikanere være blevet vaccineret.

"Vi kan ikke bare ignorere dette gråområde-indhold," konkluderede Allen. "Liv kunne have været reddet."