Virtuelle influencers er her, men burde Meta virkelig sætte de etiske grundregler?

Tidligere på måneden annoncerede Meta, at de arbejder på et sæt etiske retningslinjer for "virtuelle influencers" - animerede, typisk computergenererede, karakterer designet til at tiltrække opmærksomhed på sociale medier.

Da Facebook omdøbte sig selv til Meta i slutningen af ​​sidste år, indvarslede det et omdrejningspunkt i retning af "metaverset" – hvor virtuelle influencers formentlig en dag vil strejfe i tusindvis.

Selv Meta indrømmer, at metaverset ikke rigtig eksisterer endnu. Byggestenene i en vedvarende, fordybende virtuel virkelighed til alt fra forretning til leg mangler endnu at blive samlet. Men virtuelle influencers er allerede online og er overraskende overbevisende.

Men i betragtning af dens nyere historie, er Meta (født Facebook) virkelig den rigtige virksomhed til at sætte de etiske standarder for virtuelle influencers og metaverset mere bredt?

Hvem (eller hvad) er virtuelle influencers?

Metas meddelelse bemærker det "stigende fænomen" af syntetiske medier - en paraplybetegnelse for billeder, video, stemme eller tekst genereret af computeriseret teknologi, typisk ved hjælp af kunstig intelligens (AI) eller automatisering.

Mange virtuelle influencers inkorporerer elementer af syntetiske medier i deres design, lige fra fuldstændigt digitalt gengivet kroppe til menneskelige modeller, der er digitalt maskeret med karakterers ansigtstræk.

I begge ender af skalaen er denne proces stadig stærkt afhængig af menneskelig arbejdskraft og input, fra kunstretning til fotooptagelser til at skrive billedtekster til sociale medier. Ligesom Metas vision om metaverset er influencers, der udelukkende er genereret og drevet af AI, en overvejende futuristisk fantasi.

Men selv i deres nuværende form er virtuelle influencers af stor værdi for Meta, både som attraktioner for deres eksisterende platforme og som avatarer af metaverset.

Interessen for virtuelle influencers er hurtigt vokset i løbet af de sidste fem år og har tiltrukket et stort publikum på sociale medier og partnerskaber med store brands, herunder Audi, Bose, Calvin Klein, Samsung og den kinesiske e-handelsplatform TMall.

En konkurrencedygtig industri med speciale i produktion, styring og promovering af virtuelle influencers er allerede opstået, selvom den stort set er ureguleret.

Indtil videre er Indien det eneste land, der henvender sig til virtuelle influencers i nationale annonceringsstandarder, der kræver, at brands "oplyser forbrugerne, at de ikke interagerer med et rigtigt menneske", når de poster sponsoreret indhold.

Etiske retningslinjer

Der er et presserende behov for etiske retningslinjer, både for at hjælpe producenter og deres brandpartnere med at navigere i dette nye terræn, og endnu vigtigere for at hjælpe brugerne med at forstå det indhold, de engagerer sig i.

Meta har advaret om, at "syntetiske medier har potentiale til både gavn og skade," angiver "repræsentation og kulturel tilegnelse" som specifikke problemstillinger.

På trods af deres korte levetid har virtuelle influencers allerede en historie med åbenlys racialisering og misrepræsentation, hvilket rejser etiske spørgsmål for producenter, der skaber digitale karakterer med andre demografiske karakteristika end deres egne.

Men det er langt fra klart, om Metas foreslåede retningslinjer vil imødekomme disse spørgsmål tilstrækkeligt.

Becky Owen, leder af skaberinnovation og -løsninger hos Meta Creative Shop, sagde, at den planlagte etiske ramme "vil hjælpe vores brandpartnere og VI-skabere med at udforske, hvad der er muligt, sandsynligt og ønskeligt, og hvad der ikke er."

Denne tilsyneladende vægt på teknologiske muligheder og brandpartneres ønsker fører til et uundgåeligt indtryk af, at Meta igen forveksler kommercielt potentiale med etisk praksis.

Efter egen optælling er Metas platforme allerede vært for mere end 200 virtuelle influencers. Men virtuelle influencers findes også andre steder:de laver virale danseudfordringer på TikTok, uploader vlogs til YouTube og sender livsopdateringer på Sina Weibo. De optræder "offline" i indkøbscentre i Beijing og Singapore, på 3D-billboards i Tokyo og medvirker i tv-reklamer.

Vildholder eller krybskytte?

Dette bringer os tilbage til spørgsmålet om, hvorvidt Meta er den rigtige virksomhed til at sætte grundreglerne for dette nye rum.

Virksomhedens historie er præget af uetisk adfærd, fra Facebooks tvivlsomme begyndelse i Mark Zuckerbergs kollegieværelse på Harvard (som afbildet i The Social Network) til storstilet privatlivsfejl, der blev demonstreret i Cambridge Analytica-skandalen.

I februar 2021 viste Facebook, hvor langt det var villig til at gå for at forsvare sine interesser, da det kortvarigt forbød alt nyhedsindhold på Facebook i Australien for at tvinge den føderale regering til at udvande Australian News Media Bargaining Code.

Sidste år oplevede også den tidligere Facebook-direktør, Frances Haugen, meget offentligt blive whistleblower og delte en bunke interne dokumenter med journalister og politikere.

Disse såkaldte "Facebook Papers" rejste adskillige bekymringer om virksomhedens adfærd og etik, herunder afsløringen af, at Facebooks egen interne forskning viste, at Instagram kan skade unge menneskers mentale sundhed, endda føre til selvmord.

I dag kæmper Meta mod amerikansk antitrust-tvist, der har til formål at begrænse virksomhedens monopol ved potentielt at tvinge det til at sælge vigtige opkøb, herunder Instagram og WhatsApp.

I mellemtiden kæmper Meta for at integrere sin beskedtjeneste på tværs af alle tre apps, hvilket effektivt gør dem til forskellige grænseflader til en delt back-end, som Meta uden tvivl vil hævde, ikke kan adskilles, uanset udfaldet af den aktuelle retssag.

I betragtning af denne baghistorie virker Meta langt fra det ideelle valg som etisk vogter af metaverset.

Den allerede omfattende distribution af virtuelle influencers på tværs af platforme og markeder fremhæver behovet for etiske retningslinjer, der går ud over én virksomheds interesser – især en virksomhed, der kan vinde så meget på det forestående skue.