Hvad betyder kunstig intelligens for australsk demokrati? Og hvad kan vi gøre ved det?

I sidste uge advarede lederen af ​​Australiens valgregulator, at organisationen "ikke besidder de lovgivningsmæssige værktøjer eller den interne tekniske kapacitet til at afskrække, opdage eller tilstrækkeligt håndtere falsk AI-genereret indhold vedrørende valgprocessen."

Denne bemærkning, fremsat til et senatudvalg om vedtagelse af kunstig intelligens (AI), er ikke en isoleret kommentar. Forholdet mellem kunstig intelligens og demokrati er emnet for mange, stadig mere presserende samtaler, der finder sted rundt om i verden.

Mere end 60 lande går til valgurnerne i 2024, i det, der er blevet kaldt "det største valgår i historien." Australien forventer at afholde valg i Northern Territory og Queensland i år med et føderalt valg i maj 2025.

Samtidig ændrer eksplosionen af ​​generative AI-værktøjer til tekst, billeder, lyd og video dramatisk den måde, australiere skaber og engagerer sig i information på. Hvordan kan vi bevare integriteten og tilliden til valg i en tidsalder med generativ AI?

Deepfakes og desinformation

Den mest åbenlyse risiko AI udgør for demokratiet er via syntetisk indhold (eller "deepfakes"), som kunne bruges til at misinformere vælgere. En undersøgelse fra World Economic Forum gennemført sidste år viste, at eksperter rangerede "misinformation og desinformation" og "samfundsmæssig polarisering" som de første og tredjemest alvorlige globale risici i løbet af de næste to år.

Disse risici viser sig allerede. I USA står en politisk konsulent, der brugte den amerikanske præsident Joe Bidens syntetiske stemme i robocalls, til bøder på adskillige millioner dollars. I Indien er AI-genererede videoer blevet stadig mere almindelige i dette års valgkamp.

Men deepfakes og misinformation er langt fra de eneste risici. AI giver også nye muligheder. I de beviser, jeg gav til senatudvalget, og i et indlæg fra mig og mine kolleger ved Tech Policy Design Center, argumenterer vi for, at en mere omfattende national samtale om dette emne er afgørende.

Et bredt syn på sundt demokrati

En omfattende politik vil ikke udelukkende fokusere på deepfakes, der svajer stemmer, men demokratiets sundhed mere bredt. Frie og retfærdige valg er et kendetegn ved demokrati (omend et utroligt vigtigt), men der er mange andre.

Informeret borgerengagement, tolerance og politisk pluralisme er andre vigtige ingredienser i et blomstrende demokratisk system. Systemet skal også identificere og reagere på vælgernes behov, og regeringen skal være gennemsigtig og ansvarlig.

Så når vi tænker på forholdet mellem kunstig intelligens og demokrati, er vi nødt til at tænke på vedvarende bekymringer såsom politisk repræsentation, journalistik i offentlig interesse, mediekendskab og social samhørighed.

Risici – men også muligheder

En afbalanceret politik bør anerkende AI-teknologier giver muligheder for demokrati såvel som risici.

For eksempel er det absolut rimeligt at bekymre sig om, at informeret borgerengagement kan lide på grund af generative AI-modellers tendens til at "hallucinere" og producere misinformation.

Men den samme teknologi kan også engagere flere vælgere i borgerlig diskurs:den kan konvertere komplekse politiske koncepter til relateret indhold eller skabe automatiske oversættelser til mange sprog.

Lære af fortiden

Nogle elementer i de udfordringer, vi står over for, er ikke så nye eller sikre, som de ser ud til.

AI, og det generative AI-boom i særdeleshed, injicerer helt sikkert nogle hidtil usete elementer i det demokratiske økosystem. Men der er stadig lektier, vi kan lære af fortiden.

Angst for teknologier, der gør nye kommunikationsformer bredt tilgængelige, er ikke ny. Det er heller ikke bestræbelser på at regulere og kontrollere, hvem der kan påvirke offentlige informationsstrømme.

I det 15. århundrede skabte opfindelsen af ​​Gutenbergs trykkeri frygt for, hvad vi nu kunne kalde "falske nyheder". Der er masser af nyere eksempler, herunder hvad vi har lært fra fremkomsten af ​​sociale medier (som igen former historien om AI og demokrati).

Vi er nødt til at være kræsne med hensyn til de elementer af generativ AI, der er fundamentalt nye. Samtidig kan vi lede efter relevante politiske værktøjer og erfaringer fra tidligere informationsteknologiske revolutioner.

Hvad nu med Australien?

Australien står ved en interessant skillevej. Op til et år efter vores næste føderale valg er adskillige forbundne politikgrene under udvikling.

Industriafdelingen arbejder på et svar på sidste års Safe and Responsible AI-konsultation. Dette vil omfatte overvejelser om regler for obligatoriske vandmærker i AI-genereret indhold.

Kommunikationsafdelingen omarbejder også forslag til nye beføjelser til Australian Communications and Media Authority. Disse vil hjælpe med at bekæmpe misinformation og desinformation og kan omfatte AI-specifikke foranstaltninger.

Samtidig bliver Online Safety Act 2021 revideret. Dette kan resultere i beføjelser til at håndtere onlinemisbrug af offentlige personer, hvilket igen kan involvere AI.

Jeg foreslår fire vigtige handlinger, den australske regering bør tage.

For det første bør den udvikle en koordineret national tilgang til forholdet mellem kunstig intelligens og demokrati. Mine kolleger i Tech Policy Design Center har tilbudt mere detaljerede anbefalinger til, hvordan man koordinerer udviklingen af ​​nationale teknologipolitikker.

For det andet bør regeringen være meget opmærksom på snesevis af nationale valg rundt om i verden i år. Vi kan overvåge succes eller fiasko for forskellige politikker i forskellige sammenhænge for at lære af andres erfaringer.

For det tredje kan vi lære af Sydkorea ved at kræve, at politikere afslører og vandmærker alle deepfakes eller andet AI-produceret indhold, der bruges i valgmateriale. Sydkorea har forhindret politikere i at bruge AI-genererede materialer i deres kampagner fuldstændigt. Den nederste bjælke med at kræve, at australske politikere skal være gennemsigtige, kan dog være mindre kontroversiel og lettere at implementere.

Og for det fjerde skal regeringen sørge for, at den australske valgkommission og den australske kommunikations- og mediemyndighed har det personale og de ressourcer, de har brug for. Deres opgave med at tackle nye udfordringer, herunder dem, som AI udgør, og at ruste australiere til at engagere sig i et komplekst informationslandskab i det kommende år, vil ikke være let.

Disse trin bør kun være begyndelsen på en omfattende, afbalanceret og informeret national samtale om, hvordan vi kan støtte Australiens demokrati til at blomstre i AI's tidsalder.

Leveret af The Conversation

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.