Hvordan teknologi kan opdage falske nyheder i videoer

Sociale medier repræsenterer en vigtig kanal for spredning af falske nyheder og desinformation. Denne situation er blevet værre med de seneste fremskridt inden for foto- og videoredigering og kunstig intelligens-værktøjer, som gør det nemt at manipulere med audiovisuelle filer, for eksempel med såkaldte deepfakes, som kombinerer og overlejrer billeder, lyd- og videoklip for at skabe montager der ligner rigtige optagelser.

Forskere fra K-riptography and Information Security for Open Networks (KISON) og Communication Networks &Social Change (CNSC) grupperne af Internet Interdisciplinary Institute (IN3) ved Universitat Oberta de Catalunya (UOC) har lanceret et nyt projekt for at udvikle innovativ teknologi, der ved hjælp af kunstig intelligens og dataskjulningsteknikker skal hjælpe brugerne med automatisk at skelne mellem originalt og forfalsket multimedieindhold, og dermed bidrage til at minimere genudsendelsen af ​​falske nyheder. DISSIMILAR er et internationalt initiativ ledet af UOC, herunder forskere fra Warszawa University of Technology (Polen) og Okayama University (Japan).

"Projektet har to mål:for det første at give indholdsskabere værktøjer til at vandmærke deres kreationer, og dermed gøre enhver ændring let opdagelig; og for det andet at tilbyde brugere af sociale medier værktøjer baseret på den seneste generations signalbehandling og maskinlæringsmetoder til at opdage falske digitalt indhold," forklarede professor David Megías, KISON-lederforsker og direktør for IN3. Ydermere sigter DISSIMILAR på at inkludere "den kulturelle dimension og slutbrugerens synspunkt gennem hele projektet," fra design af værktøjer til undersøgelse af brugervenlighed i de forskellige stadier.

Faren for skævheder

I øjeblikket er der grundlæggende to typer værktøjer til at opdage falske nyheder. For det første er der automatiske baseret på maskinlæring, hvoraf der (på nuværende tidspunkt) kun findes få prototyper. Og for det andet er der de falske nyhedsdetektionsplatforme med menneskelig involvering, som det er tilfældet med Facebook og Twitter, som kræver, at folk deltager for at fastslå, om specifikt indhold er ægte eller falsk. Ifølge David Megías kan denne centraliserede løsning blive påvirket af "forskellige skævheder" og tilskynde til censur. "Vi mener, at en objektiv vurdering baseret på teknologiske værktøjer kan være en bedre mulighed, forudsat at brugerne har det sidste ord om at beslutte, på baggrund af en forhåndsevaluering, om de kan stole på bestemt indhold eller ej," forklarede han.

For Megías er der ingen "enkelt sølvkugle", der kan opdage falske nyheder:snarere skal detektion udføres med en kombination af forskellige værktøjer. "Det er grunden til, at vi har valgt at udforske fortielsen af ​​information (vandmærker), kriminaltekniske analyseteknikker for digitalt indhold (i høj grad baseret på signalbehandling) og, det siger sig selv, maskinlæring," bemærkede han.

Automatisk bekræftelse af multimediefiler

Digital vandmærkning omfatter en række teknikker inden for dataskjulning, der indlejrer umærkelig information i den originale fil for "let og automatisk" at kunne verificere en multimediefil. "Det kan bruges til at angive et indholds legitimitet ved for eksempel at bekræfte, at en video eller et billede er blevet distribueret af et officielt nyhedsbureau, og kan også bruges som et autentificeringsmærke, som ville blive slettet i tilfælde af ændring af indholdet eller for at spore oprindelsen af ​​dataene. Med andre ord kan den fortælle, om kilden til informationen (f.eks. en Twitter-konto) spreder falsk indhold," forklarede Megías.

Forensiske analyseteknikker for digitalt indhold

Projektet vil kombinere udviklingen af ​​vandmærker med anvendelsen af ​​kriminaltekniske analyseteknikker for digitalt indhold. Målet er at udnytte signalbehandlingsteknologi til at detektere de iboende forvrængninger produceret af de enheder og programmer, der bruges ved oprettelse eller ændring af audiovisuelle filer. Disse processer giver anledning til en række ændringer, såsom sensorstøj eller optisk forvrængning, som kunne detekteres ved hjælp af maskinlæringsmodeller. "Idéen er, at kombinationen af ​​alle disse værktøjer forbedrer resultaterne sammenlignet med brugen af ​​enkeltløsninger," sagde Megías.

Undersøgelser med brugere i Catalonien, Polen og Japan

Et af de vigtigste kendetegn ved DISSIMILAR er dens "holistiske" tilgang og dens indsamling af "opfattelser og kulturelle komponenter omkring falske nyheder." Med dette in mente vil der blive udført forskellige brugerfokuserede undersøgelser, opdelt i forskellige stadier. "For det første ønsker vi at finde ud af, hvordan brugere interagerer med nyhederne, hvad der interesserer dem, hvilke medier de bruger, afhængigt af deres interesser, hvad de bruger som grundlag for at identificere bestemt indhold som falske nyheder, og hvad de er parate til at gøre for at tjek dets sandfærdighed. Hvis vi kan identificere disse ting, vil det gøre det lettere for de teknologiske værktøjer, vi designer, for at hjælpe med at forhindre udbredelsen af ​​falske nyheder," forklarede Megías.

Disse opfattelser vil blive bedømt på forskellige steder og i kulturelle sammenhænge, ​​i brugergruppestudier i Catalonien, Polen og Japan, for at inkorporere deres idiosynkrasier, når løsningerne designes. "Det er vigtigt, fordi hvert land f.eks. har regeringer og/eller offentlige myndigheder med større eller mindre grad af troværdighed. Det har betydning for, hvordan nyheder følges og støtte til falske nyheder:hvis jeg ikke tror på ordet. af myndighederne, hvorfor skulle jeg være opmærksom på nyhederne fra disse kilder? Dette kunne ses under COVID-19-krisen:I lande, hvor der var mindre tillid til de offentlige myndigheder, var der mindre respekt for forslag og regler om håndtering af pandemien og vaccination," sagde Andrea Rosales, en CNSC-forsker.

Et produkt, der er nemt at bruge og forstå

I fase to vil brugerne deltage i at designe værktøjet for at "sikre, at produktet bliver godt modtaget, nemt at bruge og forståeligt," sagde Andrea Rosales. "Vi vil gerne have, at de er involveret med os gennem hele processen, indtil den endelige prototype er produceret, da dette vil hjælpe os til at give et bedre svar på deres behov og prioriteter og gøre, hvad andre løsninger ikke har været i stand til," tilføjede David Megías.

Denne brugeraccept kan i fremtiden være en faktor, der får sociale netværksplatforme til at inkludere de løsninger, der er udviklet i dette projekt. "Hvis vores eksperimenter bærer frugt, ville det være fantastisk, hvis de integrerede disse teknologier. Foreløbig ville vi være glade for en fungerende prototype og et proof of concept, der kunne tilskynde sociale medieplatforme til at inkludere disse teknologier i fremtiden, " konkluderede David Megías.

Tidligere forskning blev offentliggjort i Special Issue on the ARES-Workshops 2021 .