Forskere siger, at medier har brug for generative AI-politikker for at hjælpe med at navigere i misinformation og desinformation

Ny forskning i generative AI-billeder viser, at kun over en tredjedel af de medieorganisationer, der blev adspurgt på forskningstidspunktet, har en billedspecifik AI-politik på plads.

Undersøgelsen, ledet af RMIT University i samarbejde med Washington State University og QUT Digital Media Research Centre, interviewede 20 fotoredaktører eller relaterede roller fra 16 førende offentlige og kommercielle medieorganisationer i hele Europa, Australien og USA om deres opfattelse af generative AI-teknologier i visuel journalistik.

"Generativ visuel AI i nyhedsorganisationer:udfordringer, muligheder, opfattelser og politikker" blev udgivet i Digital Journalism .

Ledende forsker og RMIT-lektor, Dr. TJ Thomson, sagde, at mens de fleste interviewede medarbejdere var bekymrede over virkningen af ​​generativ AI på misinformation og desinformation, faktorer, der forværrer problemet, såsom omfanget og hastigheden, hvormed indhold deles på sociale medier og algoritmisk bias, var uden for deres kontrol.

"Fotoredaktører ønsker at være gennemsigtige over for deres publikum, når generative AI-teknologier bliver brugt, men medieorganisationer kan ikke kontrollere menneskelig adfærd, eller hvordan andre platforme viser information," sagde Thomson, fra RMIT's School of Media and Communication.

"Publikum klikker ikke altid igennem for at lære mere om konteksten og tilskrivningen af ​​et billede. Vi så dette ske, da AI-billeder af paven iført Balenciaga gik viralt, og mange troede, at det var ægte, fordi det var et næsten fotorealistisk billede, der blev delt uden kontekst.

"Fotoredaktører, vi har interviewet, sagde også, at billeder, de modtager, ikke altid specificerer, hvilken slags billedredigering der er blevet udført, hvilket kan føre til, at nyhedswebsteder deler AI-billeder uden at vide det, hvilket påvirker deres troværdighed."

Thomson sagde, at det at have politikker og processer på plads, der beskriver, hvordan generativ kunstig intelligens kan bruges på tværs af forskellige kommunikationsformer, kunne forhindre hændelser med mis- og desinformation, såsom de ændrede billeder af det victorianske parlamentsmedlem Georgie Purcell, i at ske.

"Flere medieorganisationer skal være gennemsigtige med deres politikker, så deres publikum også kan stole på, at indholdet blev lavet eller redigeret på de måder, organisationen siger, det er," sagde han.

Forbud mod generativ AI-brug er ikke svaret

Undersøgelsen viste, at fem af de undersøgte forretninger forhindrede personale i at bruge AI til at generere billeder, og tre af disse forretninger forhindrede kun fotorealistiske billeder. Andre tillod AI-genererede billeder, hvis historien handlede om AI.

"Mange af de politikker, jeg har set fra medieorganisationer om generativ AI, er generelle og abstrakte. Hvis et medie opretter en AI-politik, skal det overveje alle former for kommunikation, herunder billeder og videoer, og give mere konkret vejledning." sagde Thomson.

"At direkte forbyde generativ kunstig intelligens ville sandsynligvis være en konkurrencemæssig ulempe og næsten umulig at håndhæve.

"Det ville også fratage mediearbejdere teknologiens fordele, såsom brug af kunstig intelligens til at genkende ansigter eller objekter i billeder for at berige metadata og hjælpe med undertekster."

Thomson sagde, at Australien stadig var "bagerst i flokken", når det kom til AI-regulering, med USA og EU førende.

"Australiens befolkning er meget mindre, så vores ressourcer begrænser vores evne til at være fleksible og tilpasningsdygtige," sagde han.

"Der er dog også en afventende holdning, hvor vi holder øje med, hvad andre lande gør, så vi kan forbedre eller efterligne deres tilgange.

"Jeg tror, ​​det er godt at være proaktiv, uanset om det er fra regeringen eller en medieorganisation. Hvis vi kan vise, at vi er proaktive for at gøre internettet til et mere sikkert sted, viser det lederskab og kan forme samtaler omkring AI."

Algorithmic bias, der påvirker tillid

Undersøgelsen viste, at journalister var bekymrede over, hvordan algoritmisk bias kunne fastholde stereotyper omkring køn, race, seksualitet og evner, hvilket fører til risiko for omdømme og mistillid til medierne.

"Vi havde en fotoeditor i vores undersøgelse, der skrev en detaljeret prompt ind i en tekst-til-billede-generator for at vise en sydasiatisk kvinde iført en top og bukser," sagde Thomson.

"På trods af detaljering af kvindens tøj, fortsatte generatoren med at skabe et billede af en sydasiatisk kvinde iført en sari."

"Problemer som dette stammer fra en mangel på mangfoldighed i træningsdataene, og det får os til at stille spørgsmålstegn ved, hvor repræsentative er vores træningsdata, og hvad kan vi gøre for at tænke på, hvem der bliver repræsenteret i vores nyheder, stockfotos, men også biograf og film. videospil, som alle kan bruges til at træne disse algoritmer."

Ophavsret var også et problem for fotoredigerere, da mange tekst-til-billede-generatorer ikke var gennemsigtige om, hvor deres kildemateriale kom fra.

Mens der har været generative AI-ophavsretssager på vej ind i domstolene, såsom The New York Times' retssag mod OpenAI, sagde Thomson, at det stadig er et område i udvikling.

"At være mere konservativ og kun bruge tredjeparts AI-generatorer, der er trænet i proprietære data, eller kun bruge dem til brainstorming eller forskning i stedet for offentliggørelse, kan mindske den juridiske risiko, mens domstolene afgør spørgsmålet om ophavsret," sagde han.

"En anden mulighed er at træne modeller med en organisations eget indhold, og på den måde har de tillid til, at de ejer ophavsretten til de resulterende generationer."

Generativ AI er ikke kun dårligt

På trods af bekymringer om mis- og desinformation fandt undersøgelsen ud af, at de fleste fotoredaktører så mange muligheder for at bruge generativ AI, såsom brainstorming og generering af ideer.

Mange var glade for at bruge AI til at generere illustrationer, der ikke var fotorealistiske, mens andre var glade for at bruge AI til at generere billeder, når de ikke har gode eksisterende stockbilleder.

"For eksempel ser eksisterende stockbilleder af bitcoin alle ret ens ud, så generativ AI kan hjælpe med at udfylde et hul i, hvad der mangler i et stock image katalog," sagde Thomson.

Mens der var bekymring for at miste fotojournalistjobs til generativ AI, sagde en interviewet redaktør, at de kunne forestille sig at bruge AI til simple fotograferingsopgaver.

"Fotografer, der er ansat, vil komme til at lave flere kreative projekter og færre opgaver som at fotografere noget på en hvid baggrund," sagde den interviewede redaktør.

"Man kan argumentere for, at de ting også er meget nemme og enkle og tager mindre tid for en fotograf, men nogle gange er de også en hovedpine."

Flere oplysninger: T. J. Thomson et al., Generative Visual AI in News Organizations:Challenges, Opportunities, Perceptions and Policies, Digital Journalism (2024). DOI:10.1080/21670811.2024.2331769

Leveret af RMIT University