Deepfake challenge sigter mod at finde værktøjer til at bekæmpe manipulation

Teknologifirmaer og akademikere er gået sammen for at lancere en "deepfake-udfordring" for at forbedre værktøjer til at opdage videoer og andre medier manipuleret af kunstig intelligens.

Initiativet, der blev annonceret torsdag, omfatter $10 millioner fra Facebook og har til formål at dæmme op for, hvad der ses som en stor trussel mod integriteten af ​​onlineinformation.

Indsatsen støttes af Microsoft og det industristøttede Partnership on AI og inkluderer akademikere fra Massachusetts Institute of Technology, Cornell University, University of Oxford, University of California-Berkeley, University of Maryland og University at Albany.

Det repræsenterer en bred indsats for at bekæmpe spredning af manipuleret video eller lyd som en del af en misinformationskampagne.

"Målet med udfordringen er at producere teknologi, som alle kan bruge til bedre at opdage, når AI er blevet brugt til at ændre en video for at vildlede seeren, " sagde Facebooks tekniske chef Mike Schroepfer.

Schroepfer sagde deepfake teknikker, som viser realistiske AI-genererede videoer af mennesker, der gør og siger fiktive ting, "har betydelige konsekvenser for at bestemme legitimiteten af ​​informationer, der præsenteres online. Alligevel har industrien ikke et fantastisk datasæt eller benchmark til at opdage dem."

Udfordringen er det første projekt i et udvalg om AI og medieintegritet oprettet af partnerskabet om AI, en gruppe, hvis mission er at fremme gavnlig anvendelse af kunstig intelligens og støttes af Apple, Amazon, IBM og andre teknologivirksomheder og ikke-statslige organisationer.

Terah Lyons, administrerende direktør for partnerskabet, sagde, at det nye projekt er en del af et forsøg på at dæmme op for AI-genererede forfalskninger, som "har væsentlige, globale implikationer for legitimiteten af ​​information online, kvaliteten af ​​den offentlige diskurs, beskyttelse af menneskerettigheder og borgerlige rettigheder, og de demokratiske institutioners sundhed."

Facebook sagde, at det tilbyder midler til forskningssamarbejde og priser til udfordringen, og ville også deltage i konkurrencen, men ikke acceptere nogen af ​​præmiepengene.

Oxford professor Philip Torr, en af ​​de deltagende akademikere, sagde nye værktøjer er "hurtigt nødvendige for at opdage disse typer af manipulerede medier.

"Manipulerede medier bliver lagt ud på internettet, at skabe falske konspirationsteorier og at manipulere folk for politisk vinding, bliver et spørgsmål af global betydning, da det er en grundlæggende trussel mod demokratiet, " sagde Torr i en erklæring.

© 2019 AFP