Kina og USA kører om at udvikle AI -våben

Da Googles AlphaGo besejrede den kinesiske stormester ved et spil Go i 2017, Kina blev konfronteret med sit eget "Sputnik -øjeblik":en opfordring til at øge sit spil om udviklingen af ​​kunstig intelligens (AI). Helt sikkert, Beijing forfølger lancering af en national innovationsdagsorden for AI for "civil-militær fusion". Det er en del af Kinas ambitiøse søgen efter at blive en "videnskabelig og teknologisk supermagt" - men også en ny front i et stadig mere bekymrende våbenkapløb.

I 2017, den kinesiske præsident, Xi Jinping opfordrede eksplicit til acceleration af militær AI -forskning for bedre at forberede Kina til fremtidig krigsførelse mod en stor modstander som USA. Kinas tilgang til AI har været stærkt påvirket af dens vurdering af amerikanske militære initiativer, især Pentagons tredje offset -strategi, en Obama-æra-plan, der gav Pentagon et mandat til at eksperimentere med banebrydende våbenteknologier, AI blandt dem.

Beijing har stadig ikke formelt formuleret en sammenhængende strategisk ramme eller operationelle koncepter, men ligesom Rusland, det fortsætter med at forfølge en række AI-teknologier til militær anvendelse som led i en bredere indsats for at udnytte sårbarheder i amerikanske militære aktiver.

Mens USA (for nu) bevarer overhånden inden for AI -innovation overalt, Kina er ved at indhente. Det er en stærk konkurrent inden for alle former for militær innovation, og forventes at overhale USA inden for AI-udvikling i en ikke så fjern fremtid. Og, som USA og Kina kører om at innovere inden for AI, usikkerheden omkring deres respektive fremskridt (og tilbageslag) vil have dybe og potentielt destabiliserende konsekvenser for den strategiske balance i verdensordenen.

Blandt alle de risici, dette indebærer, øverst på listen er, at efterhånden som USA og Kinas tilgange til militær innovation afviger, nye fordomme og præferencer - f.eks. kriterier for at afgøre, hvornår brugen af ​​dødelig magt er passende og etisk forsvarlig - vil blive "bagt ind i" deres respektive AI -våbensystemer, resulterer i intelligente våben, der virker på grundlag af mangelfuld menneskelig logik eller antagelser (som det allerede er blevet observeret i algoritmer udviklet til at vurdere kriminelles tilbøjelighed til at fornærme). De resulterende kognitive forstyrrelser kan forværre de to landes gensidige mistillid, mistanke og misforståelser, og muligvis skubbe dem tættere på en større konflikt.

Varmt i hælene

Kina har flere strukturelle, politiske og samfundsmæssige fordele i AI -våbenkapløbet. Dens nationale strategiske planlægning er langt mere sammenhængende end USA's, og dets nationale datasæt er uden sidestykke i størrelse. Xis spredte "Et bælte, One Road "-initiativ, en plan om at opbygge et stort internationalt netværk af handelsforbindelser og infrastruktur, har en spirende virtuel pendant:den såkaldte "Digital Silk Road", som ikke kun omfatter AI, men også kvanteberegning, nanoteknologi, big data, og skylagring.

Situationen i USA er langt mere rodet. Trump -administrationen og Silicon Valley deler et stadig mere anstrengt forhold, hvilket betyder, at de vil kæmpe for at arbejde sammen om AI -teknologier, som det amerikanske militær kan bruge. Hvis amerikansk kommerciel AI -innovation fortsat hurtigt overgår Pentagons langt mere træg tilgang til indkøb og udvikling af AI, de to vil ikke supplere hinanden som de burde - hvilket efterlader Kina en stor mulighed for at få overtaget.

USA ser ud til at tage skridt til at løse disse problemer. På trods af en kort pause i udviklingen af ​​USA's strategiske AI -køreplan, Det Hvide Hus annoncerede for nylig oprettelsen af ​​et nyt udvalg af AI -eksperter, der skal rådgive det om politiske valg. Og i 2017, Donald Trump blokerede et kinesisk firma for at erhverve Lattice Semiconductor, et amerikansk firma, der fremstiller chips, der er kritiske for driften af ​​AI -applikationer.

Disse trin afspejler en uddybende bekymring for, at Kinas strategi med sammensmeltning af civil og militær teknologisk innovation kunne tillade amerikansk teknologi, ekspertise og intellektuel ejendomsret, der deles med kinesiske kommercielle enheder, der skal overføres til Kinas militær.

Terminator -gåde

Det ser ud til, at Kina - ligesom Rusland - har relativt få moralske, juridiske eller etiske betænkeligheder ved indsættelse af dødelige autonome våben. Nylige rapporter tyder på, at Kina allerede er begyndt at indarbejde AI -teknologier i sin næste generations konventionelle missiler og missilforsvarsintelligens, overvågnings- og rekognoseringssystemer for at forbedre deres præcision og lovlighed.

USA vil sandsynligvis være meget mere begrænset i udviklingen af ​​disse teknologier. Pentagons tilbageholdenhed med at inkorporere AI i eksisterende våben er baseret på liberale demokratiske normer for anvendelse af militær magt, og i en bekymring for at undgå, hvad Pentagon har kaldt Terminator -gåde - udsigten til, at militære robotter en dag uafhængigt kan beslutte, om de vil tage et menneskeliv eller ej.

Det sagt, drevet af det hurtige tempo i de teknologiske tendenser inden for AI - og rivaliserende magters aggressive forfølgelse af disse kapaciteter - kunne USA's nuværende forpligtelse til at holde mennesker i ansvar vakle. Hvis den nuværende bane holder, Kina vil snart udfordre USA's føring på flere nye militærteknologiske strategiske områder. Det vil sandsynligvis fremskynde Pentagons bestræbelser på at innovere opveje initiativer og koncepter - og igen gøre det sværere at holde dette forstyrrende højteknologiske våbenkapløb i skak.

Denne artikel blev oprindeligt offentliggjort på The Conversation. Læs den originale artikel.