Twitter-bots havde en uforholdsmæssig stor rolle i at sprede misinformation i valget i 2016:undersøgelse

En analyse af information delt på Twitter under det amerikanske præsidentvalg i 2016 har fundet ud af, at automatiserede konti – eller "bots" – spillede en uforholdsmæssig stor rolle i at sprede misinformation online.

Studiet, udført af forskere fra Indiana University og offentliggjort 20. november i tidsskriftet Naturkommunikation , analyseret 14 millioner meddelelser og 400, 000 artikler delt på Twitter mellem maj 2016 og marts 2017, en periode, der strækker sig over slutningen af ​​præsidentvalgets primærvalg i 2016 og præsidentindsættelsen den 20. januar, 2017.

Blandt resultaterne:Kun 6 procent af Twitter-konti, som undersøgelsen identificerede som bots, var nok til at sprede 31 procent af "lav-troværdighed"-informationen på netværket. Disse konti var også ansvarlige for 34 procent af alle artikler, der blev delt fra kilder med "lav troværdighed".

Undersøgelsen fandt også ud af, at bots spillede en stor rolle i at fremme indhold med lav troværdighed i de første øjeblikke, før en historie bliver viral.

Den korte længde af denne tid - 2 til 10 sekunder - fremhæver udfordringerne ved at imødegå spredning af misinformation online. Lignende problemer ses i andre komplekse miljøer som aktiemarkedet, hvor alvorlige problemer kan opstå i blotte øjeblikke på grund af virkningen af ​​højfrekvent handel.

"Denne undersøgelse finder, at bots bidrager væsentligt til spredningen af ​​misinformation online - såvel som viser, hvor hurtigt disse beskeder kan spredes, " sagde Filippo Menczer, en professor ved IU School of Informatics, Computer og teknik, der ledede undersøgelsen.

Analysen afslørede også, at bots forstærker en beskeds volumen og synlighed, indtil den er mere tilbøjelig til at blive delt bredt – på trods af at de kun repræsenterer en lille del af de konti, der spreder virale beskeder.

"Folk har en tendens til at sætte større tillid til beskeder, der ser ud til at stamme fra mange mennesker, "sagde medforfatter Giovanni Luca Ciampaglia, en assisterende forsker ved IU Network Science Institute på tidspunktet for undersøgelsen. "Botter forgriber sig på denne tillid ved at få beskeder til at virke så populære, at rigtige mennesker bliver narret til at sprede deres budskaber for dem."

Informationskilder mærket som lav troværdighed i undersøgelsen blev identificeret baseret på deres fremkomst på lister fremstillet af uafhængige tredjepartsorganisationer med forretninger, der regelmæssigt deler falske eller vildledende oplysninger. Disse kilder - såsom websteder med vildledende navne som "USAToday.com.co" - inkluderer forretninger med både højre- og venstreorienterede synspunkter.

Forskerne identificerede også andre taktikker til spredning af misinformation med Twitter -bots. Disse omfattede forstærkning af et enkelt tweet – potentielt styret af en menneskelig operatør – på tværs af hundredvis af automatiske retweets; gentagelse af links i tilbagevendende indlæg; og målrettet mod meget indflydelsesrige konti.

For eksempel, undersøgelsen citerer et tilfælde, hvor en enkelt konto nævnte @realDonaldTrump i 19 separate meddelelser om millioner af illegale immigranter, der afgav stemmer ved præsidentvalget – en falsk påstand, der også var et vigtigt diskussionspunkt for administrationen.

Forskerne kørte også et eksperiment i en simuleret version af Twitter og fandt ud af, at sletningen af ​​10 procent af konti i systemet - baseret på deres sandsynlighed for at være bots - resulterede i et stort fald i antallet af historier fra kilder med lav troværdighed i netværket.

"Dette eksperiment tyder på, at eliminering af bots fra sociale netværk betydeligt ville reducere mængden af ​​misinformation på disse netværk, " sagde Menczer.

Undersøgelsen foreslår også skridt, virksomheder kan tage for at bremse misinformation, der spredes på deres netværk. Disse omfatter forbedring af algoritmer til automatisk at opdage bots og at kræve et "menneske i løkken" for at reducere automatiserede beskeder i systemet. For eksempel, brugere skal muligvis udfylde en CAPTCHA for at sende en besked.

Selvom deres analyse fokuserede på Twitter, undersøgelsens forfattere tilføjede, at andre sociale netværk også er sårbare over for manipulation. For eksempel, platforme som Snapchat og WhatsApp kan kæmpe for at kontrollere misinformation på deres netværk, fordi deres brug af kryptering og destruerbare beskeder komplicerer evnen til at studere, hvordan deres brugere deler information.

"Efterhånden som mennesker over hele kloden i stigende grad henvender sig til sociale netværk som deres primære kilde til nyheder og information, kampen mod misinformation kræver en begrundet vurdering af den relative virkning af de forskellige måder, hvorpå den spredes, Menczer sagde. "Dette arbejde bekræfter, at bots spiller en rolle i problemet - og antyder, at deres reduktion kan forbedre situationen."

For at udforske valgmeddelelser, der i øjeblikket deles på Twitter, Menczers forskningsgruppe har også for nylig lanceret et værktøj til at måle "Bot Electioneering Volume." Skabt af IU Ph.D. studerende, programmet viser niveauet af botaktivitet omkring specifikke valgrelaterede samtaler, samt emner, brugernavne og hashtags, de skubber i øjeblikket.