Zaos dybfalske app til ansigtsbytning viser, at upload af dine billeder er mere risikabelt end nogensinde

Den seneste fotoapp-dille kan få dig til at ligne en filmstjerne. Zao bruger kunstig intelligens til at erstatte ansigter på karakterer i film- eller tv-klip med billeder af alle, hvis foto du uploader til appen.

Effekten er overraskende realistisk og viser, hvor langt denne form for "deepfake" teknologi er nået. Men det fremhæver også, hvor store risici der er ved at gøre dine billeder tilgængelige online, hvor alle kan bruge eller misbruge dem – og lovens begrænsning i forhold til at håndtere dette problem.

Et af de vigtigste problemer er den juridiske ret, som virksomheder har til at bruge dine billeder, når du uploader dem til deres apps eller hjemmesider. Flere medier rapporterer, at Zaos vilkår og betingelser oprindeligt gav det "gratis, uigenkaldelig, permanent, kan overføres, og genlicenserbare" rettigheder. Et tilbageslag mod dette har nu skubbet virksomheden, der laver appen, Momo Inc, at ændre dens vilkår. Den siger, at den ikke vil bruge hovedbilleder eller videoer uploadet af brugere undtagen for at forbedre appen og vil ikke gemme billeder, hvis brugere sletter dem fra deres konti.

Men mange andre fotoapplikationer, såsom alder eller kønsskiftende FaceApp, bevarer lignende rettigheder til effektivt at gøre, hvad de vil med det uploadede indhold. Med "en evighed, uigenkaldelig, ikke-eksklusiv, royaltyfri, i hele verden, fuldt udbetalt, overdragelig underlicenserbar licens, " FaceApp opnår i det væsentlige alle den oprindelige ejers rettigheder til billedet (bortset fra at det ikke har en eksklusiv licens).

Disse vilkår er ikke ulige dem for endnu mere populære og almindelige apps såsom Instagram, som åbner sit fotofeed for annoncører. Instagram kan lade andre virksomheder udnytte brugernes billeder uden nogen form for kompensation og videregive denne ret til en tredjepart uden yderligere tilladelse.

Og, selvfølgelig, du behøver ikke engang give tilladelse til, at nogen kan bruge dine billeder, for at de kan gøre det alligevel. Når de er online, dine billeder kan cirkuleres uden din viden. Undersøgelser har vist, at folks forståelse af online privatlivsindstillinger forbliver stort set begrænset. Hvis privatlivsindstillingerne ikke er tilstrækkelige, alle kunne få adgang til dine billeder.

Dette kan omfatte journalister, som kan genudgive billeder fra sociale medier uden nødvendigvis at overtræde privatlivslovgivningen, hvis billederne allerede er gået ind i det offentlige domæne. Billeder er stadig beskyttet af loven om ophavsret, men billeder taget fra videoer kan nogle gange offentliggøres under "fair dealing"-bestemmelser." Det er heller ikke ualmindeligt, at journalister bruger skærmbilleder af den webside, hvor et billede er offentliggjort, som publikationen ikke automatisk skulle fjerne, hvis en bruger slettede det originale billede.

Udviklingen af ​​AI gør de potentielle konsekvenser af at opgive kontrollen over dine billeder endnu større. Den deepfake-teknologi, der bruges af Zao og andre apps, kan skabe manipulerede billeder og videoer, der er meget svære at skelne fra den ægte vare.

Dette har allerede ført til deepfake pornografi, som involverer at overlejre nogens ansigt på eksplicitte billeder ved hjælp af en AI-baseret synteseteknik. Denne form for onlinemisbrug kan udsætte ofre for økonomisk eller følelsesmæssig afpresning og i sidste ende forårsage alvorlig psykologisk og følelsesmæssig skade.

Retlig klageadgang

Hvis du finder ud af, at dit billede er blevet brugt på måder, du aldrig har ønsket dig, hvordan kan loven hjælpe? Hvis det blot er et tilfælde af, at billedet er blevet brugt inden for de vilkår og betingelser, du har accepteret (og ingen andre love er blevet brudt), du har nok ikke meget udvej. Under EU's "ret til at blive glemt, " du kan bede om at få dine billeder slettet fra en virksomheds servere, så de ikke kan gøre yderligere brug af dem, selvom dette ikke er en absolut ret.

Men fremkomsten af ​​AI-apps skaber et andet problem. Mens en virksomhed kan slette dine billeder fra deres servere, det kan være umuligt at fjerne de relaterede data fra AI-software, der har behandlet og lært af billederne. Disse data kan være effektivt utilgængelige, men de kan ikke virkelig "glemmes".

Der er andre måder, hvorpå loven synes ude af trit med udviklingen af ​​AI-ændrede billeder, især når de bruges til krænkende og stødende formål. I Storbritannien, den seneste lov rettet mod "hævnpornografi" gælder kun for private seksuelle billeder, som muligvis ikke omfatter ikke-private fotografier, der er omsat til et seksuelt billede af en anden person.

Der kan være andre muligheder for dem, der bliver ofre for skabelsen af ​​deepfake pornografi. Det faktum, at folk er blevet dømt for at have lagt andres billeder ud på pornografiske websteder, viser, at loven om chikane også kan påberåbes under visse omstændigheder. Det kan også være muligt at fremsætte krav for misbrug af private oplysninger, ærekrænkelse eller brud på ophavsretten.

Hvis nogen narre dig til at give adgang til din profil på sociale medier og tage billeder for at generere falske pornografiske billeder, du kan også anvende databeskyttelseslovgivning. Men det er tvivlsomt, om civilretlige handlinger såsom ærekrænkelse eller privatliv passende anerkender den skade, der kan gøres med deepfakes på en måde, som en specifik kriminel sigtelse ville - og endnu eksisterer der ingen sådan anklage.

Fremkomsten af ​​sociale medier har grundlæggende udfordret vores forventninger til, hvordan vi kontrollerer vores fotografier. Det nuværende kludetæppe af lovbestemmelser skal revideres for at overveje de nye måder, billeder skabes og deles uden forsøgspersonens samtykke, så disse spørgsmål behandles bredere med en varig indvirkning. Sammen med en ny lovgivningsmæssig ramme for onlinesikkerhed, brugere skal uddannes til at forstå risici ved onlineaktivitet og navigere på nettet ansvarligt.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.