Overliste dybe forfalskninger:AI-drevet billedbehandlingssystem beskytter autenticitet

For at modarbejde sofistikerede metoder til at ændre billeder og video, forskere ved NYU Tandon School of Engineering har demonstreret en eksperimentel teknik til at autentificere billeder gennem hele pipelinen, fra anskaffelse til levering, ved hjælp af kunstig intelligens (AI).

I test, denne prototype billeddannelsespipeline øgede chancerne for at detektere manipulation fra cirka 45 procent til over 90 procent uden at ofre billedkvaliteten.

Det bliver stadig mere problematisk at afgøre, om et billede eller en video er autentisk. Sofistikerede teknikker til at ændre billeder og videoer er blevet så tilgængelige, at såkaldte "dybe forfalskninger" - manipulerede billeder eller videoer, der er bemærkelsesværdigt overbevisende og ofte omfatter berømtheder eller politiske personer - er blevet almindelige.

Pawel Korus, en forskningsassistent ved Institut for Datalogi og Teknik ved NYU Tandon, banebrydende for denne tilgang. Den erstatter den typiske fotofremkaldelsespipeline med et neuralt netværk - en form for AI - der introducerer omhyggeligt udformede artefakter direkte ind i billedet i det øjeblik, billedet tages. Disse artefakter, beslægtet med "digitale vandmærker, "er ekstremt følsomme over for manipulation.

"I modsætning til tidligere anvendte vandmærketeknikker, disse AI-lærte artefakter kan afsløre ikke kun eksistensen af ​​fotomanipulationer, men også deres karakter, " sagde Korus.

Processen er optimeret til indlejring i kameraet og kan overleve billedforvrængning anvendt af online fotodelingstjenester.

Fordelene ved at integrere sådanne systemer i kameraer er klare.

"Hvis kameraet selv producerer et billede, der er mere følsomt over for manipulation, eventuelle justeringer vil blive opdaget med høj sandsynlighed, " sagde Nasir Memon, en professor i datalogi og teknik ved NYU Tandon og medforfatter, med Korus, af et papir, der beskriver teknikken. "Disse vandmærker kan overleve efterbehandling, men de er ret skrøbelige, når det kommer til modifikation:Hvis du ændrer billedet, vandmærket knækker, " sagde Memon.

De fleste andre forsøg på at bestemme billedets ægthed undersøger kun slutproduktet - en notorisk vanskelig opgave.

Korus og Memon, derimod begrundet, at moderne digital billedbehandling allerede er afhængig af maskinlæring. Hvert foto taget på en smartphone gennemgår næsten øjeblikkelig behandling for at justere til svagt lys og for at stabilisere billeder, som begge finder sted takket være AI ombord. I de kommende år, AI-drevne processer vil sandsynligvis fuldt ud erstatte de traditionelle digitale billeddannelsespipelines. Da denne overgang finder sted, Memon sagde, at "vi har mulighed for dramatisk at ændre mulighederne for næste generations enheder, når det kommer til billedintegritet og autentificering. Billeddannelsesrørledninger, der er optimeret til retsmedicin, kan hjælpe med at genoprette et element af tillid i områder, hvor grænsen mellem ægte og falsk kan være svært at tegne med selvtillid."

Korus og Memon bemærker, at selvom deres tilgang viser lovende i test, yderligere arbejde er nødvendigt for at forfine systemet. Denne løsning er open source og kan tilgås på github.com/pkorus/neural-imaging.

Forskerne vil præsentere deres papir, "Indholdsgodkendelse til neurale billeddannelsespipelines:End-to-end optimering af fotos herkomst i komplekse distributionskanaler, " ved konferencen om computersyn og mønstergenkendelse i Long Beach, Californien, i juni.