Folk, der spreder deepfakes, tror, ​​at deres løgne afslører en dybere sandhed

Den nylige virale "deepfake" video af Mark Zuckerberg, der erklærede, "den, der kontrollerer dataene, kontrollerer verden" var ikke en særlig overbevisende efterligning af Facebooks administrerende direktør, men det var spektakulært vellykket med at fokusere opmærksomheden på truslen om manipulation af digitale medier.

Mens fotografiske forfalskninger har eksisteret siden fotograferingens begyndelse, den nyere brug af deep learning kunstig intelligens teknikker ("dybden" i deepfakes) fører til oprettelsen af ​​stadig mere troværdige computersimuleringer.

Zuckerberg -videoen tiltrak sig online opmærksomhed, både fordi den fremhævede den tekniske vidunder, der er delvist ansvarlig for at oversvømme verden med falske nyheder, og fordi det fremhævede den teknologi, der helt sikkert vil gøre problemet værre.

"Falske positive er ikke det eneste problem

Vi har set den smerte og tragedie, som virale falskheder kan forårsage, fra chikane af forældre, der mistede børn i skyderiet i Sandy Hook, til mobmord i Indien og andre steder.

Deepfakes, vi bekymrer os, vil kun forværre problemet. Hvad hvis de bruges til falsk at implicere nogen i et mord? At levere falske ordrer til tropper på slagmarken? Eller for at tilskynde til væbnet konflikt?

Vi kan beskrive sådanne begivenheder som "falske positive" af dyb falskhed:begivenheder, der syntes at ske, men gjorde ikke. På den anden side, der er de "falske negativer":begivenheder, der skete, men som risikerer at blive afskediget som bare endnu en falsk.

Tænk på den amerikanske præsident Donald Trumps påstand om, at stemmen på det berygtede Access Hollywood -bånd, hvor han praler af at famle kvinder, var ikke hans egen. Trump har gjort en politisk specialitet til at bede folk om ikke at tro deres øjne eller ører. Han vildledte folk om størrelsen på publikum ved sin indvielse, og sagde, at han ikke kaldte Meghan Markle "grim" i et interview, da han gjorde det.

Denne strategi virker ved at sætte spørgsmålstegn ved alle og alle medierede beviser. Det er, alt, hvad vi ikke selv oplever direkte, og endda meget af det, vi gør, i det omfang det ikke deles af andre.

Det, der er tale om, er vores evne til at kommunikere sandheder til hinanden og skabe konsensus omkring dem. Disse indsatser er virkelig høje, da demokrati er afhængigt af effektiviteten af ​​at tale sandhed til magten. Hvis, som Værgen Læg det, "deepfakes er, hvor sandheden går for at dø, ”så truer de med at tage offentlig ansvarlighed ned med dem.

Øget overvågning er ikke svaret

Fordi problemet ser ud til at være et teknologisk problem, det er fristende at kaste sig efter teknologisk, frem for social eller politisk, løsninger. Typisk, disse foreslåede løsninger har form af forbedret verifikation, hvilket medfører stadig mere omfattende overvågning.

En idé er at få hvert kamera til automatisk at mærke billeder med en unik digital signatur. Dette ville gøre det muligt at spore billeder tilbage til den enhed, der tog dem, og, for netværksenheder, til sin bruger eller ejer. En kommentator har beskrevet dette som "en overvågningsstats drøm."

Eller vi kan forestille os en verden, hvor det byggede miljø er gennemsyret af flere kameraer, konstant at fange og konstruere en "delt" virkelighed, der kan bruges til at debunk falske videoer, når de dukker op. Dette ville ikke bare være drømmen om en overvågningsstat, men dens fantasi blev realiseret.

Det faktum, at sådanne løsninger ikke kun er dystopiske, men undlader også effektivt at løse problemet (da underskrifter kan være falske, og den "officielle" version af virkeligheden kan afvises som endnu en falsk), gør os ikke mindre tilbøjelige til at forfølge dem.

Den yderligere fejl ved sådanne løsninger er, at de antager, at mennesker og platforme, der cirkulerer falske oplysninger, vil udsætte sandheden, når de konfronteres med den.

Folk tror, ​​hvad de vil tro

Vi kender sociale medieplatforme, indtil de holdes ansvarlige for at verificere de oplysninger, de videregiver, have et incitament til at promovere det, der får størst opmærksomhed, uanset dens ægthed. Vi er mere tilbageholdende med at indrømme, at det samme er tilfældet for mennesker.

I online opmærksomhedsøkonomi, det er ikke kun platformene, der har gavn af at cirkulere sensationel desinformation, det er også de mennesker, der bruger dem.

Overvej sagen om den London-baserede islamiske journalist Hussein Kesvani. Kesvani fortæller om dengang, han opsporede en Twitter -trold ved navn "True Brit", der havde pebret ham med islamofobiske kommentarer og memes. Efter at have etableret en regelmæssig online samtale med sin online antagonist, Kesvani var i stand til at lande et ansigt til ansigt interview med ham.

Han spurgte True Brit, hvorfor han var villig til at cirkulere beviseligt falske fakta, påstande, og fejlmærkede og vildledende billeder. Sand Brit trak spørgsmålet fra sig, ordsprog, "Du ved ikke, hvad der er sandt eller ej i disse dage, alligevel. "Han var ligeglad med bogstavelig sandhed, kun om billedernes "dybere" følelsesmæssige sandhed, som han følte bekræftede sine fordomme.

Verifikationsstrategier kan være nyttige til at øge overvågningssamfundet, men de vil have lidt køb på de sande briter i verden, der er villige til at omfavne og cirkulere dybforfalskninger, fordi de mener, at deres løgne indeholder dybere sandheder. Problemet ligger ikke kun i teknologien, men i den forringede version af det civile liv, som sociale medieplatforme trives på.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.