Er det OK at bruge AI til at klone dit barns stemme for at levere et politisk budskab?

Siden midten af ​​februar har medlemmer af kongressen modtaget mere end 119.000 opkald med krav om, at de vedtager strengere våbenkontrollove. Men det er ikke den typiske form for opkald, der foretages af valgkredse, der giver udtryk for deres bekymringer.

Gennem brugen af ​​kunstig intelligens bliver disse opkald tilsyneladende foretaget fra graven - af børn, der blev dræbt som et direkte resultat af våbenvold.

"I 2018, da jeg var 15 år gammel, blev jeg dræbt af en usikker pistol hjemme hos min ven," lyder en besked i stemmen fra den indfødte Connecticut Ethan Song. "Mine forældre genskabte min stemme ved hjælp af kunstig intelligens, så jeg endelig kan bede dig om at gøre noget for at beskytte børn."

Disse beskeder sendes via en ny hjemmeside kaldet The Shotline. Platformen blev født ud af et partnerskab mellem Change the Ref og March For Our Lives, to organisationer, der blev dannet som reaktion på skoleskyderiet i Marjory Stoneman Douglas High School i Parkland, Florida, i 2018.

Grupperne har indgået partnerskab med ElevenLabs, en AI-virksomhed, der skaber syntetiske stemmer ved hjælp af optaget tale, til projektet. Deres mål er at oversvømme Kongressen med disse budskaber for at få medlemmerne til at tage spørgsmål omkring våbenkontrol mere alvorligt. Med nogle få klik kan brugere af webstedet sende disse talebeskeder til deres repræsentanter og senatorer.

Rupal Patel, en professor i nordøst, som har brugt sin karriere på at forske i, hvordan teknologi kan bruges til at hjælpe med at give folk deres stemmer tilbage, mener, at det er en god brug af teknologien.

"Det gør det virkeligt," siger Patel. "Det handler ikke nødvendigvis om personen. Det handler om historien, og ved at tilføje en stemme til den kan vi se, hvordan de lød, hvad deres drømme var. Vi forbinder det med en stemme, den nærhed."

Men et andet spørgsmål er rejst:Er det rigtigt at genskabe de dødes stemmer, selvom det er for en god sag?

Patel siger, at eftersom børns stemmer bliver skabt af deres forældre, er der ikke så meget grund til bekymring.

"Det handler om samtykke," siger hun. "Det, der gør det etisk og acceptabelt, er, at dette blev givet samtykke fra forældrene til barnet. Det er dem, der bruger en kunstig stemme som en måde for dem at formidle et budskab på. De har ret til at gøre det, fordi det barn er under voksen alder Forældrene er stadig de juridiske værger. Enhver anden person, der bruger det til en dårlig meddelelse, har ikke samtykke fra den enkelte eller værgen."

Når det er sagt, er der i øjeblikket ingen love, der beskytter folk mod, at deres stemmer bliver genskabt ved hjælp af AI, bemærker hun.

"Jeg tror ikke, det er en sort og hvid linje," siger Patel. "Vi er nødt til virkelig at tænke over disse ting i en meget mere nuanceret verden. Hvis de brugte det til at begå svindel, er det én ting. Hvis de bruger det kreativt til at formidle et budskab, er det en anden ting."

Hun sammenlignede teknologien med Photoshop, som folk bruger hele tiden til at ændre billeder.

"Dette er et kontinuum af teknologi, og vi er nødt til at behandle det sådan," siger hun. "Hvordan bruger vi det og evaluerer det fra sag til sag? Det lyder måske ikke som et tilfredsstillende svar for nogle mennesker, men vi kan ikke bare udslette det som uetisk."

James Alan Fox, en nordøstlig professor i kriminologi, jura og offentlig politik, siger, at han forstår stemningen bag projektet og anerkender den smerte og vrede, forældre føler over tabet af deres barn, men han tror ikke, at projektet vil være særlig effektivt.

"Uanset om det er forældre til Sandy Hook Promise, Parkland eller andre sager, forstår jeg deres forsøg på at overbevise Kongressen og folk i Washington om at vedtage forebyggende foranstaltninger, der vil forhindre andre forældre i at gå i deres sko, og forældre bør tale for deres sønner og døtre , og det har de," siger han.

"Men at have et myrdet barn til at tale for sig selv med en syntetisk konstrueret stemme, det tror jeg ikke vil hjælpe," tilføjer han. "Faktisk, og måske er det bare mig, men da jeg lyttede til lyden, fik det mig til at fokusere mere på kvaliteten af ​​stemmen, mere end kvaliteten af ​​budskabet. Det er konstrueret, og det forringer budskabet."

Med stigningen i dybe forfalskninger, siger Fox, er det vigtigt, at vi er forsigtige med, hvordan vi bruger denne teknologi.

"Jeg er okay med AI, for eksempel at skabe en ny Beatles-sang, men det er til underholdningsformål," siger han. "Jeg tror, ​​det er der, jeg trækker grænsen."

Han siger, at det ville være mere virkningsfuldt, hvis forældrene til disse ofre fortsætter med at gå ind for at bruge deres egne stemmer. Han peger på nogle fremskridt, forældre har gjort, herunder at presse på for, at det første lovforslag om våbenkontrol bliver vedtaget i Kongressen i årtier i 2022.

"Det, forældrene kan sige, er meget kraftfuldt og ville have en større indflydelse end en AI-konstrueret stemme fra graven," siger han.

Leveret af Northeastern University

Denne historie er genudgivet med tilladelse fra Northeastern Global News news.northeastern.edu.