Generativ AI-model viser, at falske nyheder har større indflydelse, når de frigives i et konstant tempo uden afbrydelser

Det er slet ikke klart, at desinformation til dato har udløst et valg, som ellers ville være gået en anden vej. Men der er en stærk fornemmelse af, at det ikke desto mindre har haft en betydelig indflydelse.

Da kunstig intelligens nu bliver brugt til at skabe meget troværdige falske videoer og til at sprede desinformation mere effektivt, er vi med rette bekymrede over, at falske nyheder kan ændre et valgs kurs i en ikke alt for fjern fremtid.

For at vurdere truslen og reagere hensigtsmæssigt har vi brug for en bedre fornemmelse af, hvor skadeligt problemet kan være. I fysiske eller biologiske videnskaber ville vi teste en hypotese af denne art ved at gentage et eksperiment mange gange.

Men dette er meget sværere inden for samfundsvidenskab, fordi det ofte ikke er muligt at gentage eksperimenter. Hvis du vil vide, hvilken effekt en bestemt strategi har på for eksempel et kommende valg, kan du ikke gentage valget en million gange for at sammenligne, hvad der sker, når strategien implementeres, og når den ikke implementeres.

Du kan kalde dette et problem med én historie:der er kun én historie at følge. Du kan ikke skrue uret af for at studere virkningerne af kontrafaktiske scenarier.

For at overvinde denne vanskelighed bliver en generativ model praktisk, fordi den kan skabe mange historier. En generativ model er en matematisk model for den grundlæggende årsag til en observeret hændelse, sammen med et vejledende princip, der fortæller dig, på hvilken måde årsagen (input) bliver til en observeret hændelse (output).

Ved at modellere årsagen og anvende princippet kan det generere mange historier, og dermed statistikker, der er nødvendige for at studere forskellige scenarier. Dette kan igen bruges til at vurdere virkningerne af desinformation ved valg.

I tilfælde af en valgkamp er den primære årsag den information, der er tilgængelig for vælgerne (input), som omdannes til bevægelser af meningsmålinger, der viser ændringer i vælgerhensigt (observeret output). Det vejledende princip handler om, hvordan mennesker behandler information, hvilket er at minimere usikkerheder.

Så ved at modellere, hvordan vælgerne får information, kan vi simulere efterfølgende udviklinger på en computer. Vi kan med andre ord skabe en "mulig historie" om, hvordan meningsmålinger ændrer sig fra nu af til valgdagen på en computer. Alene fra én historie lærer vi stort set ingenting, men nu kan vi køre simuleringen (det virtuelle valg) en million gange.

En generativ model forudsiger ikke nogen fremtidig begivenhed på grund af informationens støjende natur. Men det giver statistik over forskellige begivenheder, hvilket er det, vi har brug for.

Desinformation til modellering

Jeg kom først på ideen om at bruge en generativ model til at studere virkningen af ​​desinformation for omkring et årti siden, uden nogen forventning om, at konceptet desværre ville blive så relevant for sikkerheden af ​​demokratiske processer. Mine oprindelige modeller var designet til at studere virkningen af ​​desinformation på de finansielle markeder, men da falske nyheder begyndte at blive mere et problem, udvidede min kollega og jeg modellen til at studere dens indvirkning på valg.

Generative modeller kan fortælle os sandsynligheden for, at en given kandidat vinder et fremtidigt valg, afhængigt af dagens data og specifikationen af, hvordan information om spørgsmål, der er relevante for valget, formidles til vælgerne. Dette kan bruges til at analysere, hvordan vindersandsynligheden vil blive påvirket, hvis kandidater eller politiske partier ændrer deres politiske holdninger eller kommunikationsstrategier.

Vi kan inkludere desinformation i modellen for at undersøge, hvordan det vil ændre resultatstatistikken. Her defineres desinformation som en skjult komponent af information, der genererer en bias.

Ved at inkludere desinformation i modellen og køre en simulering fortæller resultatet os meget lidt om, hvordan det ændrede meningsmålinger. Men kører simuleringen mange gange, kan vi bruge statistikken til at bestemme den procentvise ændring i sandsynligheden for, at en kandidat vinder et fremtidigt valg, hvis der er desinformation af en given størrelsesorden og hyppighed. Med andre ord kan vi nu måle effekten af ​​falske nyheder ved hjælp af computersimuleringer.

Jeg bør understrege, at måling af effekten af ​​falske nyheder er anderledes end at lave forudsigelser om valgresultater. Disse modeller er ikke designet til at lave forudsigelser. De giver snarere de statistikker, der er tilstrækkelige til at vurdere virkningen af ​​desinformation.

Har desinformation indflydelse?

En model for desinformation, som vi overvejede, er en type, der frigives på et tilfældigt tidspunkt, vokser i styrke i en kort periode, men derefter dæmpes den (f.eks. på grund af faktatjek). Vi fandt ud af, at en enkelt udgivelse af sådan desinformation i god tid før valgdagen vil have ringe indflydelse på valgresultatet.

Men hvis frigivelsen af ​​sådan desinformation gentages vedvarende, vil det have en indvirkning. Desinformation, der er partisk over for en given kandidat, vil flytte afstemningen lidt til fordel for den pågældende kandidat, hver gang den udgives. Af alle de valgsimuleringer, som den pågældende kandidat har tabt for, kan vi identificere, hvor mange af dem, der har fået resultatet vendt, baseret på en given frekvens og størrelse af desinformation.

Falske nyheder til fordel for en kandidat, undtagen i sjældne tilfælde, vil ikke garantere en sejr for den pågældende kandidat. Dens virkninger kan dog måles i form af sandsynligheder og statistik. Hvor meget har fake news ændret vindersandsynligheden? Hvad er sandsynligheden for at vende et valgresultat? Og så videre.

Et resultat, der kom som en overraskelse, er, at selvom vælgerne er uvidende om, hvorvidt en given information er sand eller falsk, hvis de kender hyppigheden og skævheden af ​​desinformation, så er dette tilstrækkeligt til at eliminere det meste af virkningen af ​​desinformation. Alene viden om muligheden for falske nyheder er allerede en stærk modgift mod dens virkninger.

Generative modeller i sig selv giver ikke modforanstaltninger til desinformation. De giver os blot en idé om omfanget af virkningerne. Faktatjek kan hjælpe, men det er ikke enormt effektivt (ånden er allerede ude af flasken). Men hvad hvis de to kombineres?

Fordi virkningen af ​​desinformation stort set kan afværges ved at informere folk om, at det sker, ville det være nyttigt, hvis faktatjekkere tilbød information om de statistikker over desinformation, som de har identificeret - for eksempel "X % af negative påstande mod kandidat A var falske ." En vælgerskare udstyret med denne information vil i mindre grad blive påvirket af desinformation.

Leveret af The Conversation

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.