Hvordan kunstige intelligenssystemer kunne true demokratiet

Den amerikanske teknologigigant Microsoft er gået sammen med et kinesisk militæruniversitet for at udvikle kunstige intelligenssystemer, der potentielt kan forbedre regeringens overvågnings- og censurkapacitet. To amerikanske senatorer fordømte offentligt partnerskabet, men det, National Defense Technology University of China ønsker fra Microsoft, er ikke den eneste bekymring.

Som min forskning viser, fremkomsten af ​​digital undertrykkelse påvirker i høj grad forholdet mellem borger og stat. Nye teknologier bevæbner regeringer med hidtil usete kapaciteter til at overvåge, spore og overvåge individuelle mennesker. Selv regeringer i demokratier med stærke traditioner for retsstaten bliver fristet til at misbruge disse nye evner.

I stater med uansvarlige institutioner og hyppige menneskerettighedskrænkelser, AI-systemer vil højst sandsynligt forårsage større skade. Kina er et fremtrædende eksempel. Dets lederskab har entusiastisk taget til sig AI-teknologier, og har oprettet verdens mest sofistikerede overvågningsstat i Xinjiang-provinsen, sporing af borgernes daglige færden og smartphonebrug.

Dens udnyttelse af disse teknologier udgør en afslappende model for andre autokrater og udgør en direkte trussel mod åbne demokratiske samfund. Selvom der ikke er bevis for, at andre regeringer har gentaget dette niveau af AI-overvågning, Kinesiske virksomheder eksporterer aktivt de samme underliggende teknologier over hele verden.

Stigende afhængighed af AI-værktøjer i USA

Kunstige intelligenssystemer er overalt i den moderne verden, hjælpe med at køre smartphones, internet søgemaskiner, digitale stemmeassistenter og Netflix-filmkøer. Mange mennesker indser ikke, hvor hurtigt AI udvider sig, takket være stadigt stigende mængder af data, der skal analyseres, forbedring af algoritmer og avancerede computerchips.

Hver gang der bliver mere information tilgængelig, og analyse bliver lettere, regeringer er interesserede – og ikke kun autoritære. I USA, for eksempel, 1970'erne så afsløringer om, at regeringsorganer - såsom FBI, CIA og NSA – havde oprettet ekspansive indenlandske overvågningsnetværk for at overvåge og chikanere borgerrettighedsdemonstranter, politiske aktivister og indianske grupper. Disse problemer er ikke forsvundet:Digital teknologi i dag har uddybet endnu flere bureauers evne til at udføre endnu mere påtrængende overvågning.

For eksempel, Amerikansk politi har ivrigt taget AI-teknologier til sig. De er begyndt at bruge software, der er beregnet til at forudsige, hvor forbrydelser vil ske for at afgøre, hvor de skal sende betjente på patrulje. De bruger også ansigtsgenkendelse og DNA-analyse i kriminelle efterforskninger. Men analyser af disse systemer viser, at de data, som disse systemer er trænet på, ofte er partiske, fører til urimelige resultater, såsom at fejlagtigt bestemme, at afroamerikanere er mere tilbøjelige til at begå forbrydelser end andre grupper.

AI-overvågning rundt om i verden

I autoritære lande, AI-systemer kan direkte understøtte indenlandsk kontrol og overvågning, hjælpe interne sikkerhedsstyrker med at behandle enorme mængder information – herunder opslag på sociale medier, tekstbeskeder, e-mails og telefonopkald – hurtigere og mere effektivt. Politiet kan identificere sociale tendenser og specifikke personer, der kan true regimet baseret på de oplysninger, der afsløres af disse systemer.

For eksempel, den kinesiske regering har brugt kunstig intelligens i omfattende aktioner i regioner, der er hjemsted for etniske minoriteter i Kina. Overvågningssystemer i Xinjiang og Tibet er blevet beskrevet som "Orwellske". Disse bestræbelser har omfattet obligatoriske DNA-prøver, Wi-Fi-netværksovervågning og udbredte ansigtsgenkendelseskameraer, alt sammen forbundet med integrerede dataanalyseplatforme. Ved hjælp af disse systemer, Kinesiske myndigheder har, ifølge det amerikanske udenrigsministerium, "vilkårligt tilbageholdt" mellem 1 og 2 millioner mennesker.

Min forskning ser på 90 lande rundt om i verden med regeringstyper lige fra lukkede autoritære til mangelfulde demokratier, inklusive Thailand, Kalkun, Bangladesh og Kenya. Jeg har fundet ud af, at kinesiske virksomheder eksporterer AI-overvågningsteknologi til mindst 54 af disse lande. Ofte, denne teknologi er pakket som en del af Kinas flagskib Belt and Road Initiative, som finansierer et omfattende netværk af veje, jernbaner, energirørledninger og telekommunikationsnetværk, der betjener 60 % af verdens befolkning og økonomier, der genererer 40 % af det globale BNP.

For eksempel, Kinesiske virksomheder som Huawei og ZTE bygger "smarte byer" i Pakistan, Filippinerne og Kenya, med omfattende indbygget overvågningsteknologi. For eksempel, Huawei har udstyret Bonifacio Global City i Filippinerne med high-definition internet-tilsluttede kameraer, der giver "24/7 intelligent sikkerhedsovervågning med dataanalyse til at opdage kriminalitet og hjælpe med at styre trafik."

Hikvision, Yitu og SenseTime leverer state-of-the-art ansigtsgenkendelseskameraer til brug i steder som Singapore – som annoncerede etableringen af ​​et overvågningsprogram med 110, 000 kameraer monteret på lygtepæle rundt om i bystaten. Zimbabwe er ved at oprette en national billeddatabase, der kan bruges til ansigtsgenkendelse.

Imidlertid, at sælge avanceret udstyr med fortjeneste er anderledes end at dele teknologi med et udtrykkeligt geopolitisk formål. Disse nye kapaciteter kan plante kimen til global overvågning:Efterhånden som regeringer bliver mere og mere afhængige af kinesisk teknologi for at styre deres befolkninger og bevare magten, de vil møde større pres for at tilpasse sig Kinas dagsorden. Men indtil videre ser det ud til, at Kinas primære motiv er at dominere markedet for nye teknologier og tjene masser af penge i processen.

AI og desinformation

Ud over at levere overvågningsfunktioner, der er både gennemgribende og finkornede, AI kan hjælpe undertrykkende regeringer med at manipulere tilgængelig information og sprede desinformation. Disse kampagner kan være automatiserede eller automatiseringsstøttede, og implementere hyper-personaliserede beskeder rettet mod – eller mod – bestemte personer eller grupper.

AI understøtter også den teknologi, der almindeligvis kaldes "deepfake, ", hvori algoritmer skaber realistiske video- og lydforfalskninger. Det kan være nyttigt at gøre vandet mellem sandhed og fiktion mudret i et tæt valg, når en kandidat kunne lave falske videoer, der viser en modstander, der gør og siger ting, der aldrig rent faktisk skete.

Efter min mening, Politikere i demokratier bør tænke nøje over risiciene ved AI-systemer for deres egne samfund og for mennesker, der lever under autoritære regimer rundt om i verden. Et kritisk spørgsmål er, hvor mange lande der vil vedtage Kinas model for digital overvågning. Men det er ikke kun autoritære lande, der mærker træk. Og det er heller ikke kun kinesiske virksomheder, der spreder teknologien:Mange amerikanske virksomheder, Microsoft inkluderede, men IBM, Cisco og Thermo Fisher også, har givet sofistikerede kapaciteter til grimme regeringer. Misbrug af kunstig intelligens er ikke begrænset til autokratiske stater.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.