I 2040, kunstig intelligens kunne hæmme den nukleare stabilitet

Et nyt papir fra RAND Corporation konstaterer, at kunstig intelligens har potentialet til at opgradere grundlaget for nuklear afskrækkelse inden år 2040.

Mens AI-kontrollerede dommedagsmaskiner anses for usandsynlige, farerne ved kunstig intelligens for nuklear sikkerhed ligger i stedet i dens potentiale til at tilskynde mennesker til at tage potentielt apokalyptiske risici, ifølge avisen.

Under den kolde krig, betingelsen om gensidig sikker ødelæggelse opretholdt en urolig fred mellem supermagterne ved at sikre, at ethvert angreb ville blive mødt af en ødelæggende gengældelse. Gensidig sikret ødelæggelse opmuntrede derved til strategisk stabilitet ved at reducere incitamenterne for begge lande til at træffe foranstaltninger, der kunne eskalere til en atomkrig.

Den nye RAND-publikation siger, at i de kommende årtier, kunstig intelligens har potentialet til at udhule betingelsen om gensidigt sikret ødelæggelse og underminere strategisk stabilitet. Forbedrede sensorteknologier kunne introducere muligheden for, at gengældelsesstyrker som ubåds- og mobile missiler kunne blive målrettet og ødelagt.

Nationer kan blive fristet til at forfølge first-strike-kapaciteter som et middel til at opnå forhandlingsmæssig indflydelse over deres rivaler, selvom de ikke har til hensigt at udføre et angreb, siger forskere. Dette underminerer strategisk stabilitet, fordi selv om staten, der besidder disse kapaciteter, ikke har til hensigt at bruge dem, det kan modstanderen ikke være sikker på.

"Forbindelsen mellem atomkrig og kunstig intelligens er ikke ny, faktisk har de to en sammenflettet historie, " sagde Edward Geist, medforfatter på papiret og associeret politikforsker ved RAND Corporation, en nonprofit, upartisk forskningsorganisation. "Meget af den tidlige udvikling af kunstig intelligens blev gjort til støtte for militære bestræbelser eller med militære mål i tankerne."

Han sagde, at et eksempel på et sådant arbejde var Survivable Adaptive Planning Experiment i 1980'erne, der forsøgte at bruge AI til at oversætte rekognosceringsdata til nukleare målretningsplaner.

Under tilfældige omstændigheder, kunstig intelligens kunne også øge den strategiske stabilitet ved at forbedre nøjagtigheden i intelligensindsamling og analyse, ifølge avisen. Mens kunstig intelligens kan øge sårbarheden af ​​styrker til andet angreb, forbedrede analyser til overvågning og fortolkning af modstridende handlinger kan reducere fejlberegninger eller fejlfortolkninger, der kan føre til utilsigtet eskalering.

Forskere siger, at givet fremtidige forbedringer, det er muligt, at AI-systemer i sidste ende vil udvikle kapaciteter, mens fejlbar, ville være mindre fejltilbøjelige end deres menneskelige alternativer og derfor stabilisere sig på lang sigt.

"Nogle eksperter frygter, at en øget afhængighed af kunstig intelligens kan føre til nye typer katastrofale fejl, " sagde Andrew Lohn, medforfatter på papiret og assisterende ingeniør hos RAND. "Der kan være pres for at bruge kunstig intelligens, før den er teknologisk moden, eller det kan være modtageligt for modstridende subversion. Derfor, opretholdelse af strategisk stabilitet i de kommende årtier kan vise sig ekstremt vanskelig, og alle atommagter skal deltage i opdyrkningen af ​​institutioner for at hjælpe med at begrænse nuklear risiko."

RAND-forskere baserede deres perspektiv på information indsamlet under en række workshops med eksperter i nukleare spørgsmål, offentlige afdelinger, AI forskning, AI-politik og national sikkerhed.

"Vil kunstig intelligens øge risikoen for atomkrig?" er tilgængelig på http://www.rand.org.

Perspektivet er en del af en bredere indsats for at forestille sig kritiske sikkerhedsudfordringer i verden af ​​2040, i betragtning af virkningerne af politiske, teknologisk, social, og demografiske tendenser, der vil forme disse sikkerhedsudfordringer i de kommende årtier.

Finansieringen af ​​Security 2040-initiativet blev ydet af gaver fra RAND-støtter og indtægter fra operationer.

Forskningen blev udført i RAND Center for Global Risk and Security, som arbejder på tværs af RAND Corporation for at udvikle tværfaglig forskning og politikanalyse, der beskæftiger sig med systemiske risici for global sikkerhed. Centret trækker på RANDs ekspertise til at komplementere og udvide RAND-forskningen på mange områder, herunder sikkerhed, økonomi, sundhed, og teknologi.