Voksende forskers bevægelse skubber til forbud mod dræberobotter

Hvis du er fan af filmen "Terminator", du har allerede set et skræmmende fiktivt glimt af en mareridtagtig dystopisk slagmark, hvor maskiner udstyret med kunstig intelligens har ubegrænset magt til at dræbe mennesker.

Selvom fuldt autonome våben - det tekniske udtryk for dræberrobotter - endnu ikke er en realitet, det hurtige fremskridt inden for robotteknologi og kunstig intelligens rejser hærenes spøgelse engang snart med tanke og fly, der er i stand til at angribe uden et menneske ved kontrol.

Ifølge en rapport fra 2017 fra Center for New American Security, mere end 30 lande har enten eller udvikler bevæbnede dronefly. Det russiske nyhedsbureau TASS rapporterede også i 2017 om landets udvikling af et automatiseret "kampmodul" - en robottank - der er i stand til at udnytte kunstig intelligens til at identificere mål og træffe beslutninger. Og mens den nuværende amerikanske politik udelukker fuldt autonome våben, Pentagon udvikler luft- og jordrobotter, der ville fungere i sværme på 250 eller mere, udfører overvågning og andre funktioner til støtte for menneskelige tropper. Og ifølge South China Morning Post, Kina arbejder på at udvikle ubåde udstyret med kunstig intelligens, der ville hjælpe kommandanter med at træffe taktiske beslutninger.

Fremtiden nærmer sig hurtigt

Den hurtige hast til at automatisere krigsførelse er alarmerende forskere, og over hele kloden, der er en voksende bevægelse for at standse udviklingen af ​​autonome våben, før teknologien har en chance for at sprede sig. Tæt på 4, 000 forskere og kunstnere inden for kunstig intelligens og robotteknologi på andre områder - herunder SpaceX og Tesla -grundlæggeren Elon Musk, Apples medstifter Steve Wozniak og den afdøde astrofysiker Stephen Hawking-har underskrevet et åbent brev til verden, opfordrer til et forbud mod "offensive autonome våben, der ligger uden for meningsfuld menneskelig kontrol." Organisationer som f.eks. Kampagne for at stoppe dræberrobotter er i stigende grad blevet stærke om behovet for restriktioner for sådan teknologi.

"Vi er kun få år væk, "Toby Walsh, Scientia -professoren i kunstig intelligens ved Australiens University of New South Wales, advarer i en mail. "Prototyper findes på alle kampområder - i luften, på jorden, på havet og under havet. "

Walsh blev involveret i indsatsen for flere år siden, da det blev tydeligt for ham, at "et våbenkapløb om at udvikle sådanne våben var i gang, og vi havde en mulighed for at forhindre den dystopiske fremtid, der så ofte skildres af Hollywood. "

Walsh og andre AI -forskere brugte for nylig deres fremtrædende i feltet til at udøve pres. Efter KAIST (Korea Advanced Institute of Science and Technology), et sydkoreansk forskningsuniversitet, lanceret et nyt center dedikeret til konvergenserne mellem AI og nationalt forsvar, de sendte et åbent brev til KAISTs præsident Sung-Chul Shin, truer med en boykot, medmindre han gav forsikringer om, at centret ikke ville udvikle fuldt autonome våben, der manglede meningsfuld menneskelig kontrol. (Sung udsendte efterfølgende en erklæring om, at universitetet ikke ville udvikle sådanne våben, ifølge Times Higher Education.)

FN -initiativet

Anti-killer robotbevægelsen holder også godt øje med udviklingen i Genève, hvor repræsentanter fra forskellige lande mødtes i april 2018 til en FN -konference om, hvad de skal gøre ved autonome våben.

Richard Moyes, administrerende direktør for artikel 36, en våbenkontrolorganisation i Storbritannien, siger i en e -mail, at autonome våben kan ødelægge de juridiske rammer, der styrer krigsførelse, som er afhængig af, at mennesker træffer beslutninger om, hvorvidt magtanvendelse er lovlig i en given situation. "Hvis maskiner får en bred licens til at foretage angreb, vil disse menneskelige juridiske vurderinger ikke længere være baseret på en reel forståelse af omstændighederne på stedet, "skriver Moyes, modtager af Nobels fredspris i 2017 for sit arbejde med reduktion af atomvåben. "Dette åbner vejen for en reel dehumanisering af konflikter."

USA ville formentlig støtte et forbud mod dræberrobot. I 2012, Obama -administrationen udsendte et direktiv - som Trumps hvide hus tilsyneladende har valgt at fortsætte - der kræver, at autonom våbenteknologi skal designes "for at give kommandører og operatører mulighed for at udøve passende menneskelige domme over magtanvendelse." Direktivet kræver også beskyttelsesforanstaltninger for at beskytte mod, at autonome våben fungerer, og at de selv angriber. Defense Advanced Research Projects Agency (DARPA) direktør Steven Walker sagde i marts, at han tvivlede på, at USA nogensinde ville tillade maskiner at træffe beslutninger om brug af dødelig magt, ifølge The Hill.

I en e -mail, DARPA -talsmand Jared Adams siger, at bureauets forskning i stedet fokuserer på "at undersøge måder at sikre, at teknologi forbedrer menneskelige operatørers evne til at træffe hurtige beslutninger på kritiske øjeblikke frem for at ødelægge denne evne." Der er en bekymring for, at menneskelige operatørers afhængighed af automatisering kan reducere deres situationsfornemmelse, når de skal påkalde det - et problem, Adams siger, illustreres af 2009 -styrtet på Air France -fly 447. "Af denne grund, DARPA's forskning vedrørende autonomi søger at finde en optimal balance mellem forskellige driftsformer med vægt på at levere maksimal beslutningsstøtte til krigsførere, " han siger.

Ingen international konsensus

Men udelukkelse af dræberrobotter internationalt kan vise sig at være svært. Bonnie Docherty, senior våbenforsker ved Human Rights Watch og associeret direktør for væbnede konflikter og civil beskyttelse ved Harvard Law Schools International Human Rights Clinic, siger i en e -mail, at mens de fleste lande ved FN -konferencen er bekymrede for autonome våben, der er endnu ikke konsensusstøtte til et juridisk bindende internationalt forbud.

Ville et forbud mod dræberrobotter virke? En mangeårig international traktat, der forbyder kemiske våben, for eksempel, tilsyneladende ikke har stoppet brugen af ​​sådanne våben i den syriske borgerkrig.

Alligevel, Docherty hævdede, at forbud mod kemiske våben, antipersonelminer og klyngeammunition har stadig reddet liv. "Sådanne love binder lande, der slutter sig til dem, og ved at stigmatisere problematiske våben kan påvirke selv lande, der ikke er part. Enhver lov - selv mod en almindeligt accepteret forbrydelse som mord - kan overtrædes af en useriøs skuespiller, men det betyder ikke, at sådanne love ikke bør vedtages. Lov har stadig en betydelig indvirkning på adfærd, og der bør vedtages en ny international traktat for at forhindre fuldt autonome våben, " hun skriver.

Videoen "Slaughterbots", skabt ved hjælp af University of California, Berkeley datalogi og ingeniørprofessor Stuart Russell, skildrer et forfærdeligt scenario, hvor bittesmå droner sporer og myrder udvalgte personer, som identificeres via sociale medier. Ideen var at dramatisere, hvordan teknologien kunne bruges som masseødelæggelsesvåben, Russell forklarede i et interview med ABC7 News.