Deepfake-videoer kan ødelægge tilliden til samfundet – her kan du genskabe den

Det har potentialet til at ødelægge forhold, omdømme og vores online virkelighed. "Deepfake" kunstig intelligens-teknologi lover at skabe behandlede videoer så realistiske, at de næsten er umulige at skelne fra den ægte vare. Hidtil er det mest blevet brugt til at lave ændrede pornografiske klip med kendte kvinders ansigter, men når først teknikkerne er perfektioneret, deepfake hævnporno, der foregiver at vise folk, der er deres partnere utro, vil ikke være langt bagefter.

Men mere end at blive et grimt værktøj for stalkere og chikanere, deepfakes truer med at underminere tilliden til politiske institutioner og samfundet som helhed. Det Hvide Hus har for nylig retfærdiggjort midlertidigt at forbyde en journalist fra sine pressekonferencer ved at bruge angiveligt fremskyndede ægte optagelser af en hændelse, der involverer journalisten. Forestil dig implikationerne af at se ultrarealistiske, men kunstige optagelser af regeringsledere, der planlægger mord, CEO'er, der samarbejder med udenlandske agenter eller en kendt filantrop, der misbruger børn.

Såkaldte falske nyheder har allerede øget mange menneskers skepsis over for politikere, journalister og andre offentlige personer. Det er ved at blive så nemt at skabe helt fiktive scenarier, at vi ikke længere kan stole på nogen videooptagelser til pålydende værdi. Dette truer vores politiske, juridiske og mediesystemer, for ikke at tale om vores personlige forhold. Vi bliver nødt til at skabe nye former for konsensus, som vi kan basere vores sociale virkelighed på. Nye måder at kontrollere og fordele magt på – nogle politiske, noget teknologisk - kunne hjælpe os med at opnå dette.

Falske skandaler, falske politikere

Deepfakes er skræmmende, fordi de tillader enhvers billede at blive co-opteret, og sætter spørgsmålstegn ved vores evne til at stole på det, vi ser. En åbenlys brug af deepfakes ville være falsk at implicere folk i skandaler. Selvom de belastende optagelser efterfølgende bevises at være falske, skaden på ofrets omdømme kan være umulig at reparere. Og politikere kunne justere gamle optagelser af sig selv for at få det til at se ud som om de altid havde støttet noget, der for nylig var blevet populært, opdatere deres positioner i realtid.

Der kunne endda være offentlige personer, der er fuldstændig imaginære, original, men ikke autentisk. I mellemtiden videooptagelser kan blive ubrugelige som bevis i retten. Broadcast-nyheder kunne reduceres til folk, der diskuterer, om klip var autentiske eller ej, bruger stadig mere kompleks AI til at forsøge at opdage deepfakes.

Men det våbenkapløb, der allerede eksisterer mellem skabere af falsk indhold og dem, der opdager eller afkræfter desinformation (såsom Facebooks planlagte "krigsrum") for falske nyheder skjuler et dybere problem. Alene eksistensen af ​​deepfakes underminerer tillid og tillid, ligesom muligheden for, at et valg blev hacket, sætter spørgsmålstegn ved resultatets gyldighed.

Mens nogle mennesker kan blive optaget af deepfakes, det er ikke det egentlige problem. Det, der er på spil, er den underliggende sociale struktur, hvori vi alle er enige om, at der findes en form for sandhed, og de sociale realiteter, der er baseret på denne tillid. Det er ikke et spørgsmål om slutningen af ​​sandheden, men afslutningen på troen på sandhed - et post-trust samfund. I kølvandet på massiv desinformation, selv ærlige offentlige personer vil let blive ignoreret eller miskrediteret. De traditionelle organisationer, der har støttet og muliggjort konsensus – regeringen, pressen – vil ikke længere være egnet til formålet.

Blockchain tillid

Nye love til at regulere brugen af ​​deepfakes vil være vigtige for folk, der får lavet skadelige videoer af dem. Men politik og lovgivning alene vil ikke redde vores styringssystemer. Vi bliver nødt til at udvikle nye former for konsensus, nye måder at blive enige om sociale situationer baseret på alternative former for tillid.

En tilgang vil være at decentralisere tillid, så vi ikke længere har brug for nogle få institutioner til at garantere, om informationen er ægte, og i stedet kan stole på flere personer eller organisationer med et godt omdømme. En måde at gøre dette på kunne være at bruge blockchain, teknologien, der driver Bitcoin og andre kryptovalutaer.

Blockchain fungerer ved at skabe en offentlig hovedbog, der er gemt på flere computere rundt om i verden på én gang og gjort manipulationssikker ved hjælp af kryptografi. Dens algoritmer gør det muligt for computerne at blive enige om gyldigheden af ​​eventuelle ændringer i hovedbogen, gør det meget sværere at registrere falske oplysninger. På denne måde tilliden er fordelt mellem alle de computere, der kan granske hinanden, øget ansvarlighed.

Mere demokratisk samfund

Vi kan også se til mere demokratiske styreformer og journalistik. For eksempel, Flydende demokrati giver vælgerne mulighed for at stemme direkte om hvert emne eller midlertidigt tildele deres stemmer til delegerede på en mere fleksibel og ansvarlig måde end at overlade fuld kontrol til ét parti i årevis. Dette ville give offentligheden mulighed for at søge eksperter til at træffe beslutninger for dem, hvor det er nødvendigt, men hurtigt stemme politikere ud, der ignorerede deres synspunkter eller handlede uærligt, øge tilliden og legitimiteten til det politiske system.

I pressen, vi kunne bevæge os i retning af mere kollaborativ og demokratiseret nyhedsrapportering. Traditionelle journalister kunne bruge de positive aspekter ved sociale medier til at indsamle information fra en mere forskelligartet række kilder. Disse bidragydere kunne derefter diskutere og hjælpe med at granske historien for at skabe en konsensus, forbedring af mediernes omdømme.

Problemet med ethvert system, der er afhængigt af nøglepersoners omdømme for at opbygge tillid, er, hvordan man forhindrer, at det omdømme bliver misbrugt eller svigagtigt beskadiget. Kontrol såsom Twitters "blå kryds" kontobekræftelse for offentlige personer kan hjælpe, men bedre juridisk og teknisk beskyttelse er også nødvendig:mere beskyttet ret til privatlivets fred, bedre reaktioner på antisocial adfærd online, og bedre privatlivsfremmende teknologier indbygget ved design.

De potentielle konsekvenser af deepfakes bør fungere som en opfordring til handling i at omdesigne tillidssystemer til at være mere åbne, mere decentraliseret og mere kollektivt. Og nu er det tid til at begynde at tænke på en anden fremtid for samfundet.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.