Deepfakes:Hvad feer og aliens kan lære os om falske videoer

"Deepfake" er navnet, der gives til videoer skabt gennem kunstigt intelligente deep learning-teknikker. Også omtalt som "ansigtsbytte", processen involverer indlæsning af en kildevideo af en person på en computer, og derefter indtaste flere billeder og videoer af en anden person. Det neurale netværk lærer derefter personens bevægelser og udtryk i kildevideoen for at kortlægge den andens billede på det, så det ser ud, som om de udfører talen eller handlingen.

Denne praksis blev første gang brugt i vid udstrækning i produktionen af ​​falsk pornografi i slutningen af ​​2017 – hvor ansigter på berømte kvindelige berømtheder blev byttet ind. Forskning har konsekvent vist, at pornografi er førende inden for teknologisk adoption og fremskridt, når det kommer til kommunikationsteknologier, fra polaroid-kameraet til internettet.

Deepfaking er også blevet brugt til at manipulere og undergrave politiske taler:tidlige eksperimenter med denne teknologi udført af forskere ved University of Washington brugte taler af Barack Obama som deres kildemateriale, og virker plausibel ved første øjekast.

Før fremkomsten af ​​AI-aktiveret ansigtsbytte i pornografi, lignende principper og teknikker var allerede blevet godt afprøvet i filmproduktion, selvom gennem meget arbejdskrævende og langvarige processer, der involverer enorme teams af filmproduktionsspecialister, udstyr og software. Tag for eksempel Furious 7, hvori Paul Walker, skuespilleren, der spiller hovedrollen, døde under produktionen. Efterproduktionseksperter Weta Digital fuldendte omhyggeligt Walkers præstation ved hjælp af CGI og avancerede kompositeringsteknikker.

Nu, imidlertid, deep learning og maskinsynsteknologier er nået så langt, at den relevante software er blevet offentligt tilgængelig og kan bruges på en normal computer. Som en konsekvens, frygt er med rette blevet udtrykt. Der er bekymring for, at deepfakes snart vil blive udbredt, mætter alle vores daglige møder med levende billeder, til det punkt, hvor vi ikke længere er i stand til at skelne, hvilke videoer der er ægte, og hvilke der er falske.

Et øjeblik ser tilbage gennem historien, og at undersøge øjeblikkene for introduktionen eller populariseringen af ​​alle forudgående nye medier – fra fotografering til world wide web – er nyttig her. For der har altid været en periode med usikkerhed og forvirring, hvor publikum kæmper med den tilsyneladende udviskning af grænserne mellem deres virkelighed og fiktion.

Den nylige fremkomst af "deepfakes"-fænomenerne kan forstås inden for dette mediekontinuum. Det er simpelthen det seneste i en række af eksempler gennem historien, hvor sammenhængen mellem teknologier og illusion er tæt vævet.

En historie om falskneri

Tag for eksempel Ankomsten af ​​et tog til La Ciotat, en af ​​de første stykker af film med levende billeder, skabt af Auguste og Louis Lumière. Nutidige nyhedsrapporter beskrev folk, der løb skrigende fra skærmen, da det hurtige damptog nærmede sig dem under sin første offentlige fremvisning i Paris i 1895.

Eller de berygtede Cottingley Fairies-billeder, taget i 1917, som blev anset for at være autentiske af nogle i over seks årtier. Gerningsmændene indrømmede endelig, at de var falske i 1980'erne.

Så er der radioafspilningen fra 1938 af The War of the Worlds, det første radiospil, der brugte metoden med fiktiv nyhedsformidling. Aviser rapporterede, at tusindvis af amerikanere flygtede fra deres hjem, da de lyttede til stykket. Tilsyneladende, de troede, at en Marsinvasion var ved at udfolde sig.

I 1999 under fremkomsten af ​​internettet, forskning viste, at publikum af The Blair Witch Project virkelig troede på, at rapporterne om forsvundne filmstuderende repræsenteret i en dokumentar og den medfølgende hjemmeside var sande.

2007's The Truth about Marika var en mixed reality transmediehistorie om en forsvundet person, Marika. Rapporter om hendes forsvinden blev udsendt på det svenske offentlige servicenetværk, få nogle dele af publikum til at tro, at dette er rigtigt.

AI-medietiden

Selv om disse tilfælde kan tigge tro i dag, hvis du tænker på dem i sammenhæng med den teknologiske udvikling, bliver de mere forståelige. Alle var en del af vandskeløjeblikke i udviklingen af ​​medieformer med meget til fælles - de placerede alle en fiktiv historie i, hvad man oprindeligt troede var en faktuel kontekst. Det er også rigtigt, at alle de tilknyttede beretninger i medierne var, til en vis grad, overdrevet.

Bagklogskab viser os, at alle disse eksempler er repræsentative for et overgangsmoment. Disse typer af projekter opstår kun én gang ved fremkomsten af ​​den nye medieform. Efter dette punkt, publikum bliver læsefærdige og er i stand til effektivt at skelne mellem fakta og fiktion – de bliver ikke fanget to gange. Dette er et cyklisk fænomen, hvor "deepfakes" simpelthen er den seneste manifestation. Så måske er den nuværende frygt overvurderet.

Men det er også rigtigt, at på grund af den hurtige teknologiske innovation, den potentielle eksponentielle udbredelse af video på tværs af flere onlinerum, og det potentielle spillerum for udnyttelse og subversion, vi befinder os i et ret unikt øjeblik. Denne gang, skelnen mellem hvad der er ægte og hvad der er falsk kunne faktisk blive umærkeligt. På et sådant tidspunkt, alle skærmbaserede medier vil blive antaget at være falske.

Og så mens forskningen går videre i modteknologier og deepfake-detektion, platforme skal omhyggeligt administrere indhold. På trods af dette, nuværende former for politisk levering og nyhedsrapportering kan meget vel blive fuldstændig upålidelige. Nye måder til effektiv kommunikation skal uden tvivl udvikles.

En ting er sikkert:Deepfakes er symptomatisk for moderne medier, der går ind i en æra med kunstig intelligens. De vil tage deres plads i mediehistorien som en iboende facet af post-sandheden, fake news-landskab, der kendetegner vores nuværende øjeblik.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.