Eksperiment på YouTube afslører potentiale til at inokulere millioner af brugere mod misinformation

Korte animationer, der giver seerne en smagsprøve på taktikken bag misinformation, kan hjælpe med at inokulere folk mod skadeligt indhold på sociale medier, når de implementeres i YouTubes annonceplads, ifølge et større onlineeksperiment ledet af University of Cambridge.

I samarbejde med Jigsaw, en enhed i Google, dedikeret til at tackle trusler mod åbne samfund, skabte et team af psykologer fra universiteterne i Cambridge og Bristol 90-sekunders klip designet til at gøre brugere fortrolige med manipulationsteknikker såsom syndebuk og bevidst usammenhæng.

Denne "pre-bunking"-strategi udsætter forebyggende folk for troper, der er roden til ondsindet propaganda, så de bedre kan identificere online-falskheder uanset emne.

Forskere bag Inoculation Science-projektet sammenligner det med en vaccine:Ved at give folk en "mikrodosis" af misinformation på forhånd, hjælper det med at forhindre, at de falder for det i fremtiden - en idé baseret på, hvad socialpsykologen kalder "inokulationsteori".

Resultaterne, offentliggjort i Science Advances , kommer fra syv eksperimenter, der involverer i alt næsten 30.000 deltagere – inklusive det første "real world field study" af inokulationsteori på en social medieplatform – og viser en enkelt visning af et filmklip øger bevidstheden om misinformation.

Videoerne introducerer koncepter fra "misinformation playbook", illustreret med relaterbare eksempler fra film og tv, såsom Family Guy eller, i tilfælde af falske dikotomier, Star Wars ("Only a Sith handler om absolutte værdier").

"YouTube har langt over 2 milliarder aktive brugere på verdensplan. Vores videoer kan nemt indlejres i annoncepladsen på YouTube for at forhåndsbunke misinformation," sagde studiets medforfatter Prof Sander van der Linden, leder af Social Decision-Making Lab (SDML) ved Cambridge, som ledede arbejdet.

"Vores forskning giver det nødvendige bevis på, at princippet om psykologisk inokulering let kan skaleres på tværs af hundreder af millioner af brugere over hele verden."

Hovedforfatter Dr. Jon Roozenbeek fra Cambridges SDML beskriver holdets videoer som "kildeagnostiske" og undgår skævheder, folk har om, hvor informationen er fra, og hvordan den hænger sammen - eller ej - med det, de allerede tror på.

"Vores indgreb gør ingen påstande om, hvad der er sandt eller en kendsgerning, som ofte er omstridt. De er effektive for alle, der ikke sætter pris på at blive manipuleret," sagde han.

"Inokulationseffekten var konsistent på tværs af liberale og konservative. Den virkede for mennesker med forskellige uddannelsesniveauer og forskellige personlighedstyper. Dette er grundlaget for en generel inokulation mod misinformation."

Google – YouTubes moderselskab – udnytter allerede resultaterne. I slutningen af ​​august vil Jigsaw udrulle en prebunking-kampagne på tværs af flere platforme i Polen, Slovakiet og Tjekkiet for at komme foran den nye desinformation vedrørende ukrainske flygtninge. Kampagnen er designet til at opbygge modstandskraft over for skadelige anti-flygtningefortællinger i samarbejde med lokale ngo'er, faktatjekkere, akademikere og desinformationseksperter.

"Skadelig misinformation antager mange former, men de manipulerende taktikker og fortællinger gentages ofte og kan derfor forudsiges," siger Beth Goldberg, medforfatter og leder af forskning og udvikling for Googles Jigsaw-enhed.

"At lære folk om teknikker som ad-hominem-angreb, der har til formål at manipulere dem, kan hjælpe med at opbygge modstandsdygtighed over for at tro og sprede misinformation i fremtiden.

"Vi har vist, at videoannoncer som en leveringsmetode til prebunking af beskeder kan bruges til at nå millioner af mennesker, potentielt før skadelige fortællinger får fat," sagde Goldberg.

Holdet hævder, at pre-bunking kan være mere effektivt til at bekæmpe misinformationsfloden end at faktatjekke hver usandhed, efter den har spredt sig - den klassiske "debunk" - hvilket er umuligt at gøre i skala og kan forankre konspirationsteorier ved at føle sig som personlige angreb til dem, der tror på dem.

"Propaganda, løgne og fejlretninger er næsten altid skabt ud fra den samme spillebog," sagde medforfatter Prof Stephan Lewandowsky fra University of Bristol. "Vi udviklede videoerne ved at analysere demagogernes retorik, som beskæftiger sig med syndebuk og falske dikotomier."

"Faktatjekkere kan kun tilbagevise en brøkdel af de usandheder, der cirkulerer online. Vi er nødt til at lære folk at genkende misinformationshåndbogen, så de forstår, hvornår de bliver vildledt."

Seks indledende kontrollerede eksperimenter indeholdt 6.464 deltagere, med det sjette eksperiment udført et år efter de første fem for at sikre, at tidligere resultater kunne replikeres.

Dataindsamlingen for hver deltager var omfattende, lige fra grundlæggende oplysninger – køn, alder, uddannelse, politiske tilbøjeligheder – til niveauer af regnefærdigheder, konspiratorisk tænkning, nyheder og kontrol af sociale medier, "bullshit-modtagelighed" og en personlighedsopgørelse, blandt andre "variabler". "

I betragtning af alt dette fandt holdet ud af, at inokuleringsvideoer forbedrede folks evne til at opdage misinformation og øgede deres tillid til at kunne gøre det igen. Klippene forbedrer også kvaliteten af ​​"delingsbeslutninger":hvorvidt der skal spredes skadeligt indhold eller ej.

To af animationerne blev derefter testet "i naturen" som en del af et stort eksperiment på YouTube, med klip placeret i pre-video-annoncepladsen, der giver mulighed for at springe over efter fem sekunder.

Google Jigsaw udsatte omkring 5,4 millioner amerikanske YouTubere for en inokuleringsvideo, hvor næsten en million så i mindst 30 sekunder. Platformen gav derefter tilfældige 30 % af brugerne, der så et frivilligt testspørgsmål inden for 24 timer efter deres første visning.

Klippene havde til formål at inokulere mod misinformationstaktik med hyperemotiv sprog og brug af falske dikotomier, og spørgsmålene – baseret på fiktive indlæg – blev testet for påvisning af disse troper. YouTube gav også en "kontrol" gruppe af brugere, der ikke havde set en video, det samme testspørgsmål. I alt svarede 22.632 brugere på et spørgsmål.

På trods af den intense "støj" og distraktioner på YouTube, steg evnen til at genkende manipulationsteknikker i hjertet af misinformation med 5 % i gennemsnit.

Google siger, at eksperimentets hidtil usete karakter betyder, at der ikke er nogen direkte datasammenligning tilgængelig. Men stigninger i brandbevidsthed fra annoncering på YouTube – kendt som "brand lift" – er typisk begrænset til 1 % i undersøgelser med under 45.000 brugere.

"Brugere deltog i test omkring 18 timer i gennemsnit efter at have set videoerne, så podningen ser ud til at have sat sig fast," sagde van der Linden.

Forskere siger, at en sådan stigning i anerkendelse kunne ændre spillet, hvis den opskaleres dramatisk på tværs af sociale platforme - noget, der ville være billigt at gøre. Den gennemsnitlige pris for hver visning af betydelig længde var den lille sum af 0,05 USD.

Tilføjet Roozenbeek:"Hvis nogen ønsker at betale for en YouTube-kampagne, der målbart reducerer modtageligheden for misinformation på tværs af millioner af brugere, kan de gøre det, og til en minimal pris pr. visning."

Første seks eksperimenter

De første seks kontrollerede eksperimenter involverede tilfældigt at tildele hver deltager en 90-sekunders "inokuleringsvideo" eller en neutral kontrolvideo. Deltagerne blev derefter tilfældigt vist ti opslag på sociale medier:fem ved hjælp af bevidst manipulerende teknikker (selvom ikke alle indeholdt beviste løgne) og fem neutrale opslag. Deltagerne blev bedt om at rangere niveauer af tillid til informationen, i hvilken grad de føler, at de er manipulerende, og hvor sandsynligt de ville dele dem.

Resultater omfatter:

• Emotionel sprogvideo:"inokulerede" deltagere var mellem 1,5 og 1,67 gange bedre end kontrolgruppen til at identificere denne manipulationsteknik.
• Video om falske dikotomier:"inokulerede" deltagere var 1,95 – så næsten dobbelt så gode som kontrolgruppen til at identificere denne manipulationsteknik.
• Inkohærensvideo:"inokulerede" deltagere var over dobbelt så gode (2,14) som kontrolgruppen til at identificere denne manipulationsteknik.

YouTube-eksperiment

YouTube-inokulationsannoncekampagnen kørte over femten dage i [YEAR] og målrettede engelsktalende brugere i USA, der var 18 år eller derover og havde set mindst én politisk video eller nyhedsvideo på platformen.

I alt svarede 22.632 deltagere på et testspørgsmål på YouTube:11.432, der havde set en inokuleringsvideo, og 11.200, der ikke havde.

Eksempelspørgsmål som præsenteret af YouTube:

• Falsk dikotomi:Vurder denne sætning:"Vi skal enten forbedre vores uddannelsessystem eller håndtere kriminalitet på gaden." Brugerne blev bedt om at vælge, om sætningen indeholdt:en kommando; frygtsprængning; falsk dikotomi; ingen af ​​disse.
• Følelsesmæssigt sprog:Vurder denne sætning:"Babyermælkserstatning forbundet med udbrud af ny frygtindgydende sygdom blandt hjælpeløse spædbørn - forældre fortvivler." Brugerne blev bedt om at vælge, om sætningen indeholdt:en kommando; følelsesmæssigt sprog; falsk dikotomi; ingen af ​​disse.

Faktatjekkere opfordrer YouTube til at bekæmpe desinformation