Facebook forbyder deepfakes i kampen mod online manipulation

Facebook siger, at det forbyder "deepfake" videoer, de falske, men realistiske klip skabt med kunstig intelligens og sofistikerede værktøjer, da det øger indsatsen for at bekæmpe online manipulation. Men politikken efterlader masser af smuthuller.

Det sociale netværk sagde sent mandag, at det skærper sine politikker for at fjerne videoer, der er redigeret eller syntetiseret på måder, der ikke er indlysende for den gennemsnitlige person, og som kunne narre nogen til at tro, at videoens emne sagde noget, han eller hun faktisk ikke sagde.

Skabt af kunstig intelligens eller maskinlæring, deepfakes kombinerer eller erstatter indhold for at skabe billeder, som det kan være næsten umuligt at sige, ikke er autentiske.

"Selvom disse videoer stadig er sjældne på internettet, de udgør en betydelig udfordring for vores industri og samfund, efterhånden som deres anvendelse øges, "Facebooks vicepræsident for global policy management, Monika Bickert, sagde i et blogindlæg.

Imidlertid, hun sagde, at de nye regler ikke vil omfatte parodi eller satire, eller klip redigeret bare for at ændre ordens rækkefølge. Undtagelserne understreger den balancegang, Facebook og andre sociale medietjenester står over for i deres kamp for at stoppe spredningen af ​​online misinformation og "falske nyheder", mens de også respekterer ytringsfriheden og afværger påstande om censur.

Det amerikanske teknologiselskab har kæmpet med, hvordan man håndterer stigningen i deepfakes, efter at have været udsat for kritik sidste år for at nægte at fjerne en behandlet video af parlamentets formand, Nancy Pelosi, der sludrer hendes ord, som blev set mere end 3 millioner gange. Eksperter sagde, at det groft redigerede klip var mere en "billig falsk" end en deepfake.

Derefter, et par kunstnere postede falske optagelser af Facebooks administrerende direktør Mark Zuckerberg, der viser ham, der jubler over sit enmandsherredømme over verden. Facebook lagde også det klip online. Virksomheden sagde på det tidspunkt, at ingen af ​​videoerne overtrådte deres politikker.

Problemet med ændrede videoer bliver stadig mere presserende, efterhånden som eksperter og lovgivere forsøger at finde ud af, hvordan man forhindrer deepfakes i at blive brugt til at forstyrre det amerikanske præsidentvalg i november.

Den nye politik er et "stærkt udgangspunkt, "men behandler ikke bredere problemer, sagde Sam Gregory, programdirektør hos Witness, en nonprofitorganisation, der arbejder på at bruge videoteknologi til menneskerettigheder.

"Virkeligheden er, at der ikke er så mange politiske deepfakes i øjeblikket. De er primært seksuelle billeder uden samtykke, "og det større problem er videoer, der enten vises uden kontekst eller let redigeres, som nogle har kaldt "overfladiske forfalskninger, " sagde han. Disse inkluderer Pelosi-klippet eller et, der rundede sidste uge af den demokratiske præsidentkandidat Joe Biden, som blev selektivt redigeret for at fejlagtigt antyde, at han kom med racistiske bemærkninger.

Gregory, hvis gruppe var blandt dem, der gav feedback til Facebook for politikken, sagde, at mens de nye regler så stærke ud på papiret, der er spørgsmål omkring, hvor effektiv virksomheden vil være til at afdække syntetiske videoer.

Facebook har bygget deepfake-detekterende algoritmer og kan også se på en kontos adfærd for at få en idé om, hvorvidt det er hensigten at sprede desinformation, så virksomheden vil have et forspring i forhold til brugere eller journalister til at opsnuse dem, sagde Gregory.

Men disse algoritmer er ikke blevet brugt meget til deepfakes "i naturen. Så det er et åbent spørgsmål, hvor effektiv detektion vil være, " sagde han. "Dette er en algoritmisk slags spil med kat og mus, hvor forfalskninger vil blive bedre sideløbende med opdagelsen."

Facebook sagde alle videoer, deepfake eller ej, vil også blive fjernet, hvis de overtræder eksisterende standarder for nøgenhed, grafisk vold eller hadefulde ytringer. Dem, der ikke er fjernet, kan stadig gennemgås af uafhængige tredjeparts faktatjekkere, og enhver, der anses for falsk, vil blive markeret som sådan til personer, der forsøger at dele eller se dem, som Bickert sagde var en bedre tilgang end blot at tage dem ned.

"Hvis vi simpelthen fjernede alle manipulerede videoer, der blev markeret af faktatjekkere som falske, videoerne ville stadig være tilgængelige andre steder på internettet eller sociale mediers økosystem, " sagde Bickert. "Ved at lade dem stå og mærke dem som falske, vi giver folk vigtig information og kontekst."

Twitter, som har været endnu et arnested for misinformation og ændrede videoer, sagde, at det er "i færd" med at skabe en politik for "syntetiske og manipulerede medier, ", som ville omfatte deepfakes og andre manipulerede videoer. Virksomheden har bedt om offentlig feedback om problemet. De svar, det overvejer, omfatter at sætte en meddelelse ud for tweets, der indeholder manipuleret materiale. Tweets kan også blive fjernet, hvis de er vildledende og kan forårsage alvorlig skade på nogen.

Youtube, i mellemtiden, har en politik mod "vildledende praksis", men ser ikke ud til specifikt at forbyde deepfakes. Google reagerede ikke umiddelbart på en besked til kommentar tirsdag.

© 2020 The Associated Press. Alle rettigheder forbeholdes.