Forskere udvikler et tidligt varslingssystem til at bekæmpe desinformation online

Forskere ved University of Notre Dame bruger kunstig intelligens til at udvikle et tidligt varslingssystem, der vil identificere manipulerede billeder, dybe falske videoer og desinformation online. Projektet er en indsats for at bekæmpe fremkomsten af ​​koordinerede sociale mediekampagner for at tilskynde til vold, skabe splid og true demokratiske valgs integritet.

Den skalerbare, automatiseret system bruger indholdsbaseret billedhentning og anvender computervisionsbaserede teknikker til at udrydde politiske memes fra flere sociale netværk.

"Memes er nemme at oprette og endnu nemmere at dele, sagde Tim Weninger, lektor ved Institut for Datalogi og Teknik ved Notre Dame. "Når det kommer til politiske memes, disse kan bruges til at hjælpe med at få afstemningen, men de kan også bruges til at sprede unøjagtig information og forårsage skade."

Weninger, sammen med Walter Scheirer, en adjunkt ved Institut for Datalogi og Teknik ved Notre Dame, og medlemmer af forskerholdet indsamlede mere end to millioner billeder og indhold fra forskellige kilder på Twitter og Instagram relateret til parlamentsvalget i 2019 i Indonesien. Resultatet af valget, hvor de venstreorienterede, centreret etableret opnåede flertal over de konservative, populistisk kandidat, udløste en bølge af voldelige protester, der efterlod otte mennesker døde og hundredvis sårede. Deres undersøgelse fandt både spontane og koordinerede kampagner med det formål at påvirke valget og tilskynde til vold.

Disse kampagner bestod af manipulerede billeder, der viste falske påstande og urigtige fremstillinger af hændelser, logoer, der tilhører legitime nyhedskilder, bliver brugt på opdigtede nyhedshistorier og memes, der er skabt med det formål at provokere borgere og tilhængere af begge parter.

Mens konsekvenserne af sådanne kampagner var tydelige i tilfældet med det indonesiske parlamentsvalg, truslen mod demokratiske valg i Vesten eksisterer allerede. Forskerholdet ved Notre Dame, består af digitale retsmedicinske eksperter og specialister i fredsstudier, sagde, at de udvikler systemet til at markere manipuleret indhold for at forhindre vold, og at advare journalister eller valgmonitorer om potentielle trusler i realtid.

Systemet, som er i forsknings- og udviklingsfasen, ville være skalerbar for at give brugerne skræddersyede muligheder for overvågning af indhold. Mens der er mange udfordringer tilbage, såsom at bestemme et optimalt middel til at opskalere dataindtagelse og -behandling for hurtig ekspedition, Scheirer sagde, at systemet i øjeblikket evalueres med henblik på overgang til operationel brug.

Udviklingen er ikke for langt bagud, når det kommer til muligheden for at overvåge parlamentsvalget i 2020 i USA, han sagde, og deres team indsamler allerede relevante data.

"Desinformationsalderen er her, " sagde Scheirer. "En deepfake, der erstatter skuespillere i en populær film, kan virke sjov og lethjertet, men forestil dig en video eller et meme skabt med det ene formål at sætte en verdensleder op mod en anden – at sige ord, de faktisk ikke sagde. Forestil dig, hvor hurtigt det indhold kunne deles og spredes på tværs af platforme. Overvej konsekvenserne af disse handlinger."