Mission umulig?:Sporing af politisk misinformation og desinformation på TikTok

TikTok er en af ​​de fem bedste sociale medieplatforme i verden i år.

I Sydøstasien sidste år brugte 198 millioner mennesker, omkring 29% af regionens befolkning, TikTok. Det er ikke en overdrivelse at sige, at platformen er blevet en af ​​souken af ​​ideer og meninger for befolkningen i regionen.

Ligesom andre interesserede forskere var mit forskerhold også interesseret i at se nærmere på TikTok. Konkret ønskede vi at se på, hvordan information, herunder politisk misinformation og desinformation, flyder på platformen. Forskellen mellem de to former for falsk information er, at desinformation er bevidst, ondsindet vildledende.

I løbet af vores otte måneders research fandt vi sporing af politisk misinformation og desinformation på TikTok ret udfordrende. Dette var på trods af, at platformen lancerede et faktatjekprogram i 2020 i samarbejde med uafhængige faktatjekorganisationer, der ville "hjælpe med at gennemgå og vurdere nøjagtigheden af ​​indholdet" på platformen.

Under dette program viser TikTok potentiel misinformation til sine partnere. Det kan omfatte videoer, der er markeret af TikTok-brugere for misinformation, eller dem, der er relateret til COVID-19 eller andre emner, "om hvilke spredning af vildledende information er almindelig".

Vi har dog stadig problemer med at spore misinformation og desinformation på platformen, såsom faktatjek af audiovisuelt indhold og identifikation af fremmedsprog og termer.

Faktatjek af audiovisuelt indhold

Det er svært at faktatjekke audiovisuelt indhold på TikTok.

For effektivt at spore forkert/desinformation skal alt indhold ses omhyggeligt og forstås baseret på lokal kontekst. For at sikre den korrekte vurdering krævede dette mange timers menneskelig observation og videoanalyse (observation af sprog, nonverbale signaler, termer, billeder, tekst og billedtekster).

Dette er grunden til, at faktatjekkere globalt er afhængige af offentlig deltagelse for at rapportere vildledende indhold, bortset fra at de menneskelige faktatjekkere fokuserer på at verificere hovedsageligt viralt indhold.

AI-teknologi kan hjælpe med at bekræfte nogle af disse indlæg. Faktatjek af audiovisuelt indhold er dog stadig stærkt afhængig af menneskelig vurdering for nøjagtighed.

Til dato er audiovisuelt indhold uden tvivl et af de mest udfordrende formater at faktatjekke over hele verden. Andre sociale medieplatforme står over for samme udfordring.

I vores undersøgelse fandt vi ud af, at meget af det overvågede indhold ikke indeholdt nogen verificerbare påstande. Dette betød, at det ikke kunne være objektivt bekræftet eller afkræftet og tagget som misinformation.

For at afgøre, hvilke videoer eller kommentarer der indeholdt unøjagtige påstande, udviklede vi en misinformationsramme baseret på kriterierne for at bestemme verificerbare udsagn, der bruges af VERA Files i Filippinerne og Tirto.id i Indonesien. Begge organisationer har underskrevet Poynters International Fact-Checking Network.

Vi overvejede også 10-punktslisten over røde flag og tips til at identificere misinformation leveret af Colleen Sinclair, en lektor i klinisk psykologi ved Mississippi State University.

Ved at bruge denne misinformationsramme fandt vi ud af, at størstedelen af ​​de overvågede videoer og tilsvarende kommentarer kun indeholdt subjektive udsagn (udtalelser, opfordringer til handling, spekulationer) eller var svære at verificere på grund af manglende gennemførlighed.

Eksempler omfattede kommentarer til Indonesiens kontroversielle nye arbejdslov kendt som omnibusloven, debatter om upassende voldtægtsvittigheder i skoler, der indledte #MakeSchoolASaferPlace-bevægelsen i Malaysia, argumenter omkring dårlig regeringspolitik i Malaysia midt i COVID-19, som startede endnu en onlinekampagne #kerajaangagal og Filippinernes antiterrorlov. Disse kommentarer blev anset for ikke at kunne verificeres, da de var følelsesmæssigt drevne og baseret på brugernes mening om problemerne. Derfor kunne de ikke mærkes som indeholdende eller muligvis indeholdende forkert/desinformation.

Disse resultater kunne være anderledes, hvis indholdsskabere og videokommentatorer integrerede udsagn om fakta eller "gennemførlige påstande", som vi kunne krydstjekke med troværdige og autoritative kilder.

Identifikation af forskellige sprog, slang og jargon på TikTok

Nogle faktatjekkere og forskere har tidligere bemærket, at forskellige sprog og dialekter i regionen har gjort faktatjek vanskelig for lokale bureauer.

I denne undersøgelse fandt vi ligeledes ud af, at slang gør det sværere at spore politisk forkert/desinformation på TikTok, selv når vi analyserer indhold uploadet på vores modersmål.

Faktorer som generationskløfter og manglende bevidsthed om trendy slang og jargon, der bruges af indholdsskabere og brugere, bør ikke undervurderes i faktatjek af indhold på platformen. Dette vil uden tvivl også være et problem for AI-drevne faktatjekmekanismer.

Svært for alle

Under vores research indså vi, at sporing af misinformation på platformen kan være lidt mere udfordrende for forskerholdet og almindelige mennesker.

Medmindre du er en dataforsker med evnen til at kode Python API for at indsamle data, ville skrabe data på TikTok kræve manuelt arbejde.

Til dette projekt valgte vores team det sidste, da de fleste af vores medlemmer ikke var udstyret med datavidenskabelige færdigheder. Vi sporede misinformation på platformen ved manuelt at kortlægge relevante hashtags gennem TikToks søgefunktion.

En ulempe, vi observerede ved at bruge denne strategi, er, at den kan være tidskrævende på grund af søgefunktionens begrænsninger.

For det første giver TikToks Discover-fane brugere mulighed for kun at sortere resultaterne efter relevans og/eller det samlede antal likes. De kan ikke sortere resultater efter det samlede antal visninger, delinger og/eller kommentarer.

Det giver dig også mulighed for at filtrere resultater efter uploaddato, men kun for de sidste seks måneder. Dette gør det vanskeligt at søge efter ældre data, som i vores tilfælde.

Som sådan var vi nødt til manuelt at gennemsøge posterne for at finde relevante videoer med flest visninger eller det højeste antal engagementer, der blev uploadet inden for vores valgte overvågningsperiode.

Dette gjorde processen ret overvældende, især for hashtags, der gav tusindvis (eller flere) af TikTok-videoer.

TikTok burde overveje at forbedre sin platform for at give brugerne mulighed for at filtrere og sortere gennem videoer i søgeresultaterne. Specifikt skal de være i stand til at sortere efter antal visninger og/eller engagementer og tilpasset uploaddato. Interesserede personer og faktatjekkere ville så være i stand til at spore politisk mis-/desinformation mere effektivt.

Dette ville hjælpe TikTok med at blive mindre forurenet med falsk information, da flere mennesker ville have midlerne til at overvåge forkert/desinformation effektivt. Det kunne supplere eksisterende indsats fra TikToks eget faktatjekhold.