Valget den:Canadierne skal passe på dumbfakes og deepfakes

Dumbfakes og deepfakes er redigerede eller ændrede videoer. I blot de sidste par år, evnen til at producere og dele disse videoer er steget eksponentielt pga. delvis, til kunstig intelligens.

Disse falske videoer er allerede til stede i canadisk politik og er endnu mere tilbøjelige til at blive skabt og spredt under Canadas igangværende valgkamp.

Dumbfakes er videoer, der er redigeret gennem traditionelle videoredigeringsteknikker. De bruger teknologi, der er let tilgængelig på de fleste computere og smartphones. Politiske dumfakes, der allerede dukkede op i optakten til valget, inkluderer en video, der fejlagtigt fik det til at se ud som om premierminister Justin Trudeau blev afvist af den brasilianske præsident Jair Bolsonaro ved G20-topmødet i Japan i juni 2019.

Sammenlignet med, deepfakes bruger typisk såkaldte generative adversarielle netværk, en form for maskinlæring, at bytte en persons ansigt ud på en andens krop eller at manipulere en persons ansigtstræk.

Deepfakes kan også omfatte lydmanipulation ved at bruge en stemmeskuespiller eller stemme-efterlignende teknologi. Teknologi til at skabe deepfakes har hurtigt spredt sig, herunder en ny kinesisk app kaldet Zao.

Et eksempel på en deepfake er videoen af ​​den canadiske konservative partileder Andrew Scheer som tegneserie Pee-wee Herman i en gammel public service-meddelelse om crack-kokain:

Dumbfakes og deepfakes er unikke fra andre former for falske nyheder på grund af brugen af ​​videomanipulation. De tilbyder visuelle repræsentationer af formodede begivenheder, i modsætning til ord eller stillbilleder, og er derfor tættest på, hvordan begivenheder faktisk opleves. Ja, undersøgelser af behandlede videoer har vist, at de er et effektivt værktøj til at frembringe falske minder.

Mens dumbfakes og deepfakes er blevet hentet af traditionelle nyhedsudsendelser, de bliver højst sandsynligt delt på sociale medier. Dette er bekymrende, fordi falske nyheder, specifikt politiske falske nyheder, spredes eksponentielt hurtigere og længere end præcise nyheder på Twitter.

Indvirkning på valget

Mens vi overvejer, hvilken indflydelse dumbfakes og deepfakes kan have på valget, det er vigtigt at bemærke, at de sandsynligvis ikke vil påvirke alle mennesker lige meget.

De har højst sandsynligt en indvirkning på mennesker, der er marginaliserede og allerede står over for barrierer for politisk engagement. Kvinder, for eksempel, står over for barrierer for at løbe og blive i politik. Deepfakes vil sandsynligvis forværre det, fordi siden deres begyndelse, deepfakes er blevet brugt til at misbruge kvinder (f.eks. inkorporering af kvindelige berømtheder i pornografiske film).

En tværgående linse til at forstå, hvordan dumbfakes og deepfakes kan påvirke valget, er derfor afgørende.

Tre områder, som dumbfakes og deepfakes sandsynligvis har indflydelse på, er politisk repræsentation, deltagelse, og diskussion.

Repræsentation

Mens alle har ret til at stille op til valg, dumbfakes og deepfakes kan gøre det sværere for folk at gøre det. Der kunne produceres falske videoer for at afpresse politikere til ikke at stille op eller for at miskreditere deres kampagner ved at sprede falsk information.

Politiske kandidater skal nu reflektere over, om de er forberedt på muligheden for, at dumbfakes og deepfakes retter sig mod dem, når de træder ind i offentlighedens øjne - både hvad angår kampagne og i det øgede antal fotos og videoer af dem, der er tilgængelige online, og som kan bruges at lave dumbfakes og deepfakes.

Politiske kampagner kan endvidere blive afsporet af en skadelig falsk video.

Deltagelse

Dumbfakes og deepfakes kan blive brugt mere bredt mod offentligheden for at bringe borgerne til tavshed.

Organisationer og aktivister, der er i offentlighedens øjne, kan være særligt målrettede på grund af deres online tilstedeværelse. Borgere kan blive bragt til tavshed gennem udgivelsen af ​​en skadelig falsk video. Selv muligheden for en falsk video kan fremme politisk selvcensur, især for personer, der allerede står over for onlinediskrimination (f.eks. racistiske tweets).

Dumbfakes og deepfakes kan også sigte mod at miskreditere vigtigt arbejde, der fremmer politisk ansvarlighed ved at kritisere regeringen og undertrykkende praksis.

Diskussion

Falske videoer skaber et miljø af mistillid, der yderligere hæmmer borgernes mulighed for at operere på grundlag af delt information. De kunne også hindre diskussionen ved at spille ind i og forværre eksisterende sociale spændinger nationalt og internationalt.

Det har vi set før. Russiske desinformationsbestræbelser under det amerikanske præsidentvalg i 2016 vakte konflikt om en række spørgsmål, herunder immigration, våbenkontrol og Black Lives Matter-bevægelsen.

Et andet problem med dumbfakes og deepfakes er, at de underminerer troværdigheden af ​​videobeviser generelt, herunder rigtige videoer, der kan forestille politikere eller andre, der engagerer sig i kompromitterende eller moralsk forkastelig adfærd.

Beskyttelse af canadisk demokrati

Juridiske midler til at bekæmpe dumbfakes og deepfakes — love for krænkelse af ophavsret og ærekrænkelse, for eksempel - undersøges i øjeblikket. Detektionsteknologi er også ved at blive avanceret.

Men disse tilgange er muligvis ikke effektive, hvis en dumbfake eller en deepfake med rette deles blot et par dage før valget. Canadiske statsborgere skal derfor påtage sig ansvaret for at kontrollere oplysninger og videoer, især omkring valgtiden.

Dumbfakes og deepfakes har klart ændret videomediet. Den bedste måde at beskytte sig mod den desinformation, de spreder, er ved at være opmærksom på deres eksistens.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.