Vi lavede vildledende robotter for at se, hvorfor falske nyheder spredes, og fandt en svaghed

Kun en lille mængde falske nyheder er nødvendig for at forstyrre enhver debat eller diskussion om et emne, ifølge forskning offentliggjort i dag i PLOS ONE .

Men der er en måde at afskrække dem, der spreder falske nyheder, og endda at udslette det helt.

Forskningen er eksperimentel, baseret på modellering og simuleringer, men det viser i det mindste, at det er muligt at imødegå spredningen af ​​misinformation.

Fremkomsten af ​​falske nyheder

Spredningen af ​​drilske og falske oplysninger har plaget menneskelige samfund i århundreder.

I denne æra med øjeblikkelig global digital forbindelse, den nuværende inkarnation af "falske nyheder" er blevet en plage og udnyttes til personlig eller politisk vinding.

Sociale medier, designet til at tilskynde brugere til at bidrage og dele indhold, er blevet den store muliggører for spredningen af ​​falske nyheder.

Fra nationer, der blander sig i demokratiers politik og politiske partier, der forsøger at manipulere den offentlige mening, til en profitcentreret "fake news" industri, alle har udnyttet denne spredning til vinding, sår forvirring og splid i de ofre, de er målrettet mod.

Simuleringsspillet

Vi lavede nogle eksperimenter med det formål at forstå de mere grundlæggende mekanismer, der bestemmer adfærden af ​​falske nyheder i befolkninger.

Vi var især interesserede i to spørgsmål:

1. hvor stor indflydelse falske nyheder kan have på konsensusdannelse i en befolkning
2. indvirkningen af ​​omkostningerne ved at distribuere falske nyheder på dens evne til at angribe en befolkning.

I den virkelige verden, omkostninger kan være eksterne, såsom bøder, bøder, udelukkelser, udgifter til at skabe og distribuere forfalskninger; eller de kan være interne, såsom følelser af tab eller forlegenhed på grund af at blive latterliggjort eller skammet.

Værktøjet vi brugte var en evolutionær simulering, hvor simple softwarerobotter i en befolkning interagerer, spiller det velkendte Prisoner's Dilemma-spil. I bund og grund, en fange, der forråder en anden, vinder stort, mens den forrådte taber dårligt, mens begge kun vinder beskedent, hvis de samarbejder, og lider lige meget, hvis de forråder hinanden.

I modsætning til tidligere arbejde på dette område, vi gjorde nogle af disse softwarerobotter lidt lumske, ved at tilføje kode, der gjorde det muligt for dem at bedrage hinanden. Offeret for et sådant bedrag bliver gjort til at blive forvirret over modstanderens hensigt, eller overbevist om, at modstanderen er en uselvisk samarbejdsvillig "good guy".

Vores kode gjorde brug af vores arbejde med informationsteoretisk modellering af bedrag, gør det muligt at kortlægge kendte bedrag i spilteoretiske modeller. Hver bedrager i simuleringen pådrog sig en omkostning, når de bedragede, som derefter blev trukket fra udbetalingen, de tjente i fangens dilemmaspil.

Hvor meget falske nyheder skal forstyrre konsensus?

Vi fandt ud af, at selv en meget lille procentdel af bedrageriske spillere i befolkningen – i vores simuleringer mindre end 1 % – kunne katastrofalt forstyrre samarbejdsadfærd i den simulerede befolkning.

I det ekstreme tilfælde af omkostningsfrit bedrageri – hvor fake news-producenter er uhindret – forsvandt samarbejdsadfærd helt. Kun hvor omkostningerne ved bedrageri var større end nul, overlevede samarbejdet. Hvor omkostningerne var meget høje, samarbejdet trives faktisk.

Vi fandt også ud af, at for alle simuleringer, evnen til at bedrage spillere til at overleve afhang meget stærkt af omkostningerne ved bedrag. Hvis omkostningerne var høje nok, bedragere kunne ikke overleve i befolkningen.

Ved at anvende dette til spredning af falske nyheder, meget høje omkostninger vil føre til dens udryddelse.

Fra eksperiment til den virkelige verden

Hvad fortæller disse eksperimentelle resultater os om den virkelige verden af ​​falske nyhedsdistribution i sociale medier og massemedier?

Det første og uden tvivl vigtigere resultat er, at der kræves meget lidt falske nyheder for at skabe kaos i en befolkning, og forhindre konsensusdannelse, der er afgørende for offentlige debatter. Uanset om ofrene er forvirrede, eller tro på løgne, er uvæsentligt. Det er deres evne til at opnå konsensus, der forstyrres.

Vores modellering fokuserede på små grupper af influencers, der aktivt debatterer spørgsmål. Hvor influencers ikke kan blive enige, tilhængere kan til gengæld ikke tilpasse sig en konsensus. Dette er en af ​​grundene til, at falske nyheder er så ødelæggende for demokratiske samfund.

Det andet resultat af bredere interesse er, at det at knytte en høj omkostning til produktionen, men især distribution af falske nyheder kan vise sig at være det mest effektive værktøj, vi har til at besejre spredningen. En høj samfundsinvestering i at hæve disse omkostninger er umagen værd, fordi virkningerne af falske nyheder er så forstyrrende.

At bryde kæden

Informationskrigsførelsesforskning for over ti år siden viste, at proxy-levering var en stor multiplikator i distributionen af ​​giftig propaganda.

For eksempel, massemedier, der distribuerede voldelige billeder og optagelser produceret af terrorister, fungerede som fuldmægtige for de terrorister, der producerede propagandaen, om de vidste det eller ej.

Brugere af sociale medier, der deler falske nyheder, fungerer ligeledes som fuldmægtige for producenterne af falske nyheder. Sådanne brugere bliver typisk castet som ofre for falske nyheder – hvilket de normalt er – men hver gang de deler falske nyheder bliver de deltagere i fake news-producentens bedrag.

At knytte en omkostning til distribution af falske nyheder på sociale medier er ikke ligetil. Den uformelle udflugt med sædvanlige plakater med falske nyheder er en mulighed, som stemmer overens med den evolutionære psykologi af snyderdetektion.

Sociale medieorganisationer som Facebook siger, at de forsøger at være mere proaktive i at opdage falske nyheder og falske nyheder enten ved maskinlæringsteknologi eller tredjeparts faktatjekkere, og siger, at det har haft nogle succeser på det seneste.

Men begge disse ideer løber ind i det mere klæbrige problem med at afgøre præcis, hvad der er eller ikke er falske nyheder. Usmagelige fakta bliver alt for ofte stemplet som "falske nyheder".

Faktatjekkernes pålidelighed og objektivitet kan variere meget – grundsandheder er ofte sløret af bias, og begrænsninger i forståelsen.

På dette tidspunkt, i modsætning til påstande fra nogle sociale medieudbydere, AI er ikke op til opgaven med at finde og luge ud falske nyheder, hvilket lægger byrden tilbage på os mennesker.

Vi kan alle hjælpe ved blot at tænke lidt, før vi kan lide, dele eller retweet enhver information på sociale medier. Måske foretage et par søgetjek for at se, om oplysningerne vides at være sande eller falske.

Skadedyrsbekæmpelse er en etableret praksis i biologiske økosystemer, og er klart forsinket for informationsøkosystemet.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.