Sømme digitale forfalskninger med AI-lærte artefakter

Vi ser de fantasifulde bedrifter ved fotofalsk; nu skal vi finde ud af, hvad vi skal gøre ved dem. At kunne skelne falsk fra ægte er målet, men hvordan kommer man dertil? Retsmedicin er det vigtigste værktøj til at jagte falske fotos, og det ser ikke ud til at være en let opgave at få det værktøj til at fungere godt.

"En af de vanskeligste ting ved at opdage manipulerede fotos, eller 'deepfakes, ' er, at digitale fotofiler ikke er kodet til at være manipulationssikre, " sagde Lily Hay Newman ind Kablet .

Hvad har eksperterne opnået, derefter? Retsmedicinske analytikere fandt ud af, hvordan man kan se nogle digitale karakteristika for at opdage indblanding, "men disse indikatorer tegner ikke altid et pålideligt billede, " hun sagde.

Og selv disse spor hjælper måske ikke, som "mange almindelige typer efterbehandling, 'som filkomprimering til upload og deling af fotos online, fjern disse spor alligevel."

Men hold fast. Et forskerpar ved Tandon School of Engineering fra New York University havde en hvad-hvis -en manipulationssikker forsegling fra selve kameraet.

Deres papir, der diskuterer denne idé, er oppe på arXiv, og den hedder, "Neural billeddannelsesrørledninger - retsmedicinernes svøbe eller håb?" Forfatterne er Pawel Korus og Nasir Memon.

"Vi demonstrerer, at et neuralt netværk kan trænes til at erstatte hele fotofremkaldelsespipeline, og i fællesskab optimeret til high-fidelity fotogengivelse og pålidelig herkomstanalyse. En sådan optimeret neural billeddannelsespipeline gjorde det muligt for os at øge billedmanipulationsdetektionsnøjagtigheden fra ca. 45 % til over 90 %. Netværket lærer at introducere omhyggeligt udformede artefakter, beslægtet med digitale vandmærker, som letter efterfølgende manipulationsdetektion. Analyse af præstationsafvejninger indikerer, at de fleste af gevinsterne kan opnås med kun mindre forvrængning."

Kablet forklarede, hvad forfatterne foreslog:at træne et neuralt netværk til at drive fotofremkaldelsesprocessen, der finder sted inde i kameraerne. "Sensorerne tolker lyset, der rammer linsen, og gør det til et billede af høj kvalitet, det neurale netværk er også trænet til at markere filen med uudslettelige indikatorer, der kan kontrolleres senere, hvis det er nødvendigt, af retsmedicinere, "Skrev Newman.

Hun citerede forsker Nasir Memon, der kommenterede på at kontrollere forfalskninger på denne måde. Han sagde, at "du skal gå tæt på den kilde, hvor billedet er taget."

Han sagde endvidere, at i dette arbejde "skaber vi et billede, der er retsmedicinsk venligt, hvilket vil tillade bedre retsmedicinsk analyse end et typisk billede. Det er en proaktiv tilgang snarere end blot at skabe billeder for deres visuelle kvalitet og så håbe på, at retsmedicinske teknikker virker bagefter."

Melanie Ehrenkranz i Gizmodo også afklaret, hvad forskerne forsøgte at opnå, at opnå succes i retsmedicin ved hjælp af maskinlæring til retsmedicinske formål, og bage en registreringsmetode lige ind i kameraet.

Ehrencranz:"De beskriver en metode, hvor et neuralt netværk erstatter fotoudviklingsprocessen, så det originale billede, der er taget, er markeret med noget som et digitalt vandmærke for at angive fotoets herkomst i en digital retsmedicinsk analyse. Med andre ord, processen identificerer et fotos oprindelse, og om det er blevet manipuleret siden dets oprindelige tilstand."

Nyhedsmeddelelsen fra NYU Tandon School of Engineering havde en særlig god oversigt over, hvad disse forskere har opnået. Deres tilgang "erstatter den typiske fotofremkaldelsespipeline med et neuralt netværk - en form for AI - der introducerer omhyggeligt udformede artefakter direkte i billedet i det øjeblik, billedet tages. Disse artefakter, beslægtet med 'digitale vandmærker, 'er ekstremt følsomme over for manipulation."

"I modsætning til tidligere anvendte vandmærketeknikker, disse AI-lært artefakter kan ikke kun afsløre eksistensen af ​​fotomanipulationer, men også deres karakter, " sagde Korus.

Processen er optimeret til indlejring i kameraet og kan overleve billedforvrængning anvendt af online fotodelingstjenester.

Diskussionen har handlet om retsmedicinsk vandmærkning på fotos. Hvad med video? Kablet sagde, at video var noget, forskerne sagde, at de ikke havde bragt endnu, men at det ville være teoretisk muligt.

"Vi mener, at det er bydende nødvendigt at overveje nye muligheder for sikkerhedsorienteret design af kameraer og multimedieformidlingskanaler, der følger med indførelsen af ​​neurale billedbehandlingsprocessorer."

Rent faktisk, deres neurale billeddannelsesværktøjskasse er tilgængelig på GitHub. Det beskrives som en "Python -værktøjskasse til optimering af neurale billeddannelsesrørledninger til registrering af fotomanipulation."

NYU Tandon-udgivelsen gjorde opmærksom på, at i de kommende år, "AI-drevne processer vil sandsynligvis fuldt ud erstatte de traditionelle digitale billeddannelsespipelines." Memon sagde, at da denne overgang finder sted, 'vi har mulighed for dramatisk at ændre mulighederne for næste generations enheder, når det kommer til billedintegritet og godkendelse. Billedrørledninger, der er optimeret til retsmedicin, kan hjælpe med at genoprette et element af tillid på områder, hvor grænsen mellem ægte og falsk kan være vanskelig at trække med tillid.

© 2019 Science X Network