Robotter kan overliste os på den virtuelle slagmark, så lad os ikke sætte dem til at styre den ægte vare

Udvikleren af ​​kunstig intelligens DeepMind har netop annonceret sin seneste milepæl:en bot kaldet AlphaStar, der spiller det populære realtidsstrategispil StarCraft II på Grandmaster-niveau.

Det er ikke første gang, en bot har udspillet mennesker i et strategikrigsspil. I 1981, et program kaldet Eurisko, udviklet af kunstig intelligens (AI) pioner Doug Lenat, vandt det amerikanske mesterskab i Traveller, et meget komplekst strategikrigsspil, hvor spillere designer en flåde på 100 skibe. Eurisko blev derfor udnævnt til æresadmiral i Traveller-flåden.

Det følgende år, turneringsreglerne blev revideret i et forsøg på at forpurre computere. Men Eurisko triumferede for andet år i træk. Med embedsmænd, der truer med at afskaffe turneringen, hvis en computer vandt igen, Lenat trak sit program på pension.

DeepMinds PR-afdeling vil have dig til at tro, at StarCraft "er opstået ved konsensus som den næste store udfordring (i computerspil)" og "har været en stor udfordring for AI-forskere i over 15 år."

I den seneste StarCraft computerspil turnering, kun fire bidrag kom fra akademiske eller industrielle forskningslaboratorier. De ni andre involverede bots blev skrevet af ensomme personer uden for mainstream af AI-forskning.

Faktisk, de 42 forfattere af DeepMinds papir, offentliggjort i dag i Natur , langt flere end resten af ​​verden, der bygger bots til StarCraft. Uden at ønske at tage noget væk fra en imponerende bedrift af kollaborativ ingeniørkunst, hvis du kaster nok ressourcer på et problem, succes er næsten sikret.

I modsætning til de seneste succeser med computerskak og Go, AlphaStar lærte ikke at overliste mennesker ved blot at spille mod sig selv. Hellere, den lærte ved at efterligne de bedste stykker fra næsten en million spil spillet af toprangerede menneskelige spillere.

Uden dette input, AlphaStar blev slået overbevisende af 19 ud af 20 menneskelige spillere på StarCraft-spilserveren. AlphaStar spillede også anonymt på den server, så mennesker ikke kunne udnytte eventuelle svagheder, som kunne være blevet afsløret i tidligere spil.

AlphaStar slog Grzegorz "MaNa" Komincz, en af ​​verdens bedste professionelle StarCraft-spillere, i december sidste år. Men dette var en version af AlphaStar med meget hurtigere reflekser end noget menneske, og ubegrænset udsyn til spillebrættet (i modsætning til menneskelige spillere, der kun kan se en del af det på ethvert tidspunkt). Dette var næppe lige vilkår.

Alligevel, StarCraft har nogle funktioner, der gør AlphaStar til et imponerende fremskridt, hvis ikke virkelig et gennembrud. I modsætning til skak eller Go, spillere i StarCraft har ufuldkommen information om status, og det sæt af mulige handlinger, du kan foretage på ethvert tidspunkt, er meget større. Og StarCraft udfolder sig i realtid og kræver langsigtet planlægning.

Robot krige

Dette rejser spørgsmålet om, hvorvidt i fremtiden, vi vil se robotter ikke bare kæmpe krige, men også planlægge dem. Rent faktisk, vi har allerede begge dele.

På trods af de mange advarsler, der er rejst af AI-forskere som mig selv – såvel som af grundlæggere af AI- og robotvirksomheder, Nobels fredspristagere, og kirkeledere – fuldt autonome våben, også kendt som "dræberrobotter, " er blevet udviklet og vil snart blive brugt.

I 2020, Tyrkiet vil indsætte kamikaze-droner på grænsen til Syrien. Disse droner vil bruge computersyn til at identificere, spore og dræbe mennesker uden menneskelig indblanding.

Det er en frygtelig udvikling. Computere har ikke den moralske evne til at bestemme, hvem der lever eller dør. De har hverken empati eller medfølelse. "Killer robotter" vil ændre selve konfliktens natur til det værre.

Med hensyn til "robotgeneraler, "computere har hjulpet generaler med at planlægge krig i årtier.

I Desert Storm, under Golfkrigen i begyndelsen af ​​1990'erne, AI-planlægningsværktøjer blev brugt til at planlægge opbygningen af ​​styrker i Mellemøsten før konflikten. En amerikansk general fortalte mig kort efter, at mængden af ​​penge, der blev sparet ved at gøre dette, svarede til alt, hvad der var blevet brugt på AI-forskning indtil da.

Computere er også blevet brugt flittigt af generaler til krigsspil potentielle strategier. Men ligesom vi ikke ville overlade alle slagmarksbeslutninger til en enkelt soldat, at overdrage en generals fulde ansvar til en computer ville være et skridt for langt.

Maskiner kan ikke holdes ansvarlige for deres beslutninger. Det kan kun mennesker være. Dette er en hjørnesten i international humanitær ret.

Alligevel, at skære gennem krigens tåge og håndtere den enorme mængde information, der strømmer tilbage fra fronten, generaler vil i stigende grad stole på computerstøtte i deres beslutningstagning.

Hvis dette resulterer i færre civile dødsfald, mindre venlig ild, og mere respekt for international humanitær ret, vi bør hilse en sådan computerhjælp velkommen. Men bukken skal stoppe med mennesker, ikke maskiner.

Her er et sidste spørgsmål at overveje. Hvis teknologivirksomheder som Google virkelig ikke ønsker, at vi skal bekymre os om, at computere tager over, hvorfor bygger de bots for at vinde virtuelle krige i stedet for at koncentrere sig om, sige, mere fredelig e-sport? Med al respekt til sportsfans, indsatsen ville være meget lavere.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.