Evaluering af risici ved deepfakes

Et par uger siden, Den franske velgørenhedsorganisation Solidarité Sida vakte sensation, da den offentliggjorde en falsk, men yderst realistisk video af Donald Trump, der proklamerede "AIDS er forbi" som en del af en oplysningskampagne. Den pågældende video er det, der er kendt som en deepfake, en teknik, der involverer at bruge maskinlæring til at fremstille stadig mere realistiske billeder og videoer samt lyd- og tekstfiler.

Denne brug af en deepfake-video af en velgørenhedsorganisation fremhæver den voksende udbredelse af dette fænomen. Mens pornografi i øjeblikket tegner sig for langt størstedelen af ​​deepfake-videoer, teknikken kan også bruges til at bedrage, at ærekrænke, at sprede falske nyheder eller at stjæle nogens identitet.

Udviklende trusler

I september, EPFL's International Risk Governance Center (IRGC) samlede omkring 30 eksperter til et tværfagligt seminar for at diskutere dette hurtigt udviklende fænomen og dets voksende udbredelse. IRGC har i dag offentliggjort en rapport, der indeholder værdifuld indsigt i de risici, der er forbundet med deepfakes.

Den overordnede observation er, at disse risici potentielt kan forårsage udbredt skade på mange områder af livet. "Enhver virksomhedsorganisation eller aktivitet, der er afhængig af dokumentation, er potentielt sårbar, " siger Aengus Collins, rapportens forfatter og vicedirektør for IRGC. Deepfakes kan forårsage stor usikkerhed og forvirring. I et nyligt tilfælde, tyve brugte dybt falsk lyd af en administrerende direktørs stemme til at stjæle penge fra en virksomhed. På en samfundsdækkende skala, en spredning af fabrikeret indhold kan underminere sandheden og erodere offentlighedens tillid, selve hjørnestenene i den demokratiske debat.

Rapporten giver en ramme til at kategorisere deepfake-risici. Den fremhæver tre nøglevirkninger - skade på omdømme, bedrageri og afpresning, og manipulation af beslutningsprocesser - og bemærker, at disse påvirkninger kan mærkes individuelt, institutionelt eller på tværs af samfundet.

Med en så bred vifte af potentielle skader fra deepfakes, hvor er risikostyringsreaktioner mest nødvendige? Eksperterne anbefaler at fokusere på omfanget og alvoren af ​​den potentielle skade, samt "målet"s evne til at klare nedfaldet. For eksempel, en virksomhed med gode ressourcer med etablerede processer vil være bedre i stand til at absorbere virkningen af ​​et deepfake-angreb end et privat offer for chikane.

Indbyrdes afhængige løsninger

I rapporten, IRGC opstiller 15 anbefalinger, der dækker en række potentielle reaktioner på deepfakes, der kan mindske de risici, de udgør. Det kræver også dybere forskning over hele linjen.

En af hovedkategorierne af anbefalinger er teknologi, herunder værktøjer, der kan verificere oprindelsen af ​​digitalt indhold eller opdage deepfakes. Hos EPFL, Multimedia Signal Processing Group (MMSPG) og startup Quantum Integrity er i øjeblikket ved at udvikle en deepfake-detektionsløsning, der kunne implementeres i 2020. "For ethvert givet sæt af forsvar, der vil være sårbarheder, der kan udnyttes, " siger Collins. "Men opretholdelse og udvikling af teknologiske reaktioner på deepfakes er afgørende for at afskrække de fleste af misbrugene."

Rapporten fremhæver også behovet for et større fokus på den juridiske status af deepfakes, for at afklare, hvordan love på områder som ærekrænkelse, chikane og ophavsret gælder for syntetisk indhold.

Mere generelt, digitale færdigheder har en vigtig rolle at spille. Men Collins advarer om, at der er et paradoks her:"Et af målene med digital færdighed på dette område er at tilskynde folk til ikke at tage digitalt indhold for pålydende. Men der skal også være et positivt fokus på ting som bekræftelse og vurderingen. af kilder. Ellers At opmuntre folk til at mistro alt, hvad de ser, risikerer at forværre problemer relateret til udhulingen af ​​sandhed og tillid."

Bredere horisonter

Mens IRGC-rapporten fokuserer på deepfake risikostyring, denne forskning er en del af en bredere arbejdsstrøm om risici forbundet med nye og konvergerende teknologier, som fortsætter i 2020. "Vi er i øjeblikket ved at beslutte, hvad vores næste fokus vil være, " siger Collins. "Og der er ingen mangel på kandidater. Vi lever i en tid, hvor forholdet mellem teknologi, risiko og offentlig politik er vigtigere end nogensinde."