Twitter flytter for at begrænse manipuleret indhold, herunder deepfakes

Twitter afslørede tirsdag en plan for at dæmme op for spredningen af ​​manipuleret indhold, herunder "deepfake" videoer, som en del af et skridt til at bekæmpe misinformation, der kan resultere i vold eller anden skade.

Politikken blev annonceret, efter at Twitter sidste år bad om kommentarer til måder at reducere "syntetiske og manipulerede medier" på onlineplatformen, der kunne bedrage folk under valgkampe eller fremprovokere vold eller fysisk skade.

Twitter, som sammen med andre sociale platforme har kæmpet for at reagere på bekymringer over misinformation, sagde, at dens nye politik kræver en blanding af advarsels-"etiketter" for tweets, der inkluderer manipulerede billeder eller video, og fjernelse af tweets.

Tiltaget kommer midt i voksende bekymring over "deepfake" videoer ændret ved hjælp af kunstig intelligens, sammen med andre former for manipulation for at bedrage brugere af sociale medier.

Twitters vicepræsident for tillid og sikkerhed Del Harvey sagde, at den nye politik ikke kun adresserer deepfakes, men andre former for manipulation, nogle gange beskrevet som "overfladiske forfalskninger" eller "billige forfalskninger".

"Dette er ikke en deepfake regel, " hun sagde.

"Vi ønsker at adressere enhver hændelse, hvor medier er blevet ændret eller fabrikeret."

Beslutningen om, hvorvidt der skal medtages en etiket eller fjerne indholdet, afhænger af "sandsynligheden for og alvoren af ​​den skade, der kan medføre, " sagde Harvey under et opkald med journalister.

Twitter sagde i et blogindlæg, at det ville begynde at håndhæve den nye politik den 5. marts, advare brugere om manipulerede billeder eller video, og nogle gange opvejer dem med links til mere information om emnerne.

"Du må ikke vildledende dele syntetiske eller manipulerede medier, der sandsynligvis vil forårsage skade, " sagde gruppeproduktchef Ashita Achuthan og chef for webstedsintegritet Yoel Roth i blogindlægget.

"Ud over, vi kan mærke tweets, der indeholder syntetiske og manipulerede medier for at hjælpe folk med at forstå mediernes ægthed og for at give yderligere kontekst."

Politikere inklusive

Den nye regel vil gælde for politikere og deres kampagner, ifølge Harvey.

"Hvis mediet bliver ændret eller fremstillet, uanset hvem personen er, denne politik vil stadig gælde, " hun sagde.

Under politikken, for eksempel, behandlede videoer af den tidligere amerikanske vicepræsident Joe Biden og af den demokratiske formand for Repræsentanternes Hus Nancy Pelosi, der forårsagede nylige kontroverser på sociale medier, ville overtræde den nye regel, ifølge Twitter-chefer.

"Uanset om du bruger avancerede maskinlæringsværktøjer eller bruger en 99-cent app til at bremse videoer på din telefon, vores regler gælder for indholdet, ikke hvordan resultatet blev opnået, " sagde Roth.

"Resultater det sidste tweet i forvirring eller misforståelser eller resulterer i et bevidst forsøg på at vildlede folk? Det er spørgsmålet."

Meddelelsen kommer en dag efter, at YouTube sagde, at det vil fjerne valgrelaterede videoer, der er "manipuleret eller behandlet" for at vildlede vælgerne, midt i øget bekymring for bestræbelser på at sprede misinformation, der kan påvirke valg rundt om i verden.

Facebook, som har sine egne politikker for misinformation, sagde i januar, at det ville forbyde deepfake-videoer og samtidig tillade stærkt redigerede klip, så længe de er parodier eller satire.

Filtrering for forfalskninger

Faktorer, som Twitter vil vægte, når det besluttes, hvilket indhold der er vildledende manipuleret eller direkte opdigtet, vil omfatte, hvor tungt det redigeres; om lyden er blevet overspillet eller fjernet, og om de afbildede er simuleringer.

På listen over forbudt indhold var der også trusler mod privatlivets fred eller ytringsfrihed i form af "stalking eller uønsket og obsessiv opmærksomhed; målrettet indhold, der inkluderer troper, epitet, eller materiale, der har til formål at bringe nogen til tavshed; vælgerundertrykkelse eller intimidering."

Roth sagde, at Twitter vil søge at være "proaktiv" i politikken "for at reducere byrden for folk til at rapportere til os."

Ud over at vise advarselsetiketter på behandlede billeder, før de "synes godt om" eller deles, Twitter vil forhindre det i at blive inkluderet i anbefalet indhold og vil typisk give yderligere oplysninger, der har til formål at modvirke misforståelser.

Twitter sagde, at den nye regel var baseret på en undersøgelse blandt amerikanske brugere samt feedback fra folk rundt om i verden, der kimede ind i at bruge tweets.

Globalt, mere end 70 procent af Twitter-brugere, der gav udtryk for deres meninger, sagde, at det ville være uacceptabelt at handle på misbrugende tweets, ifølge Achuthan og Roth.

© 2020 AFP