Programmering af autonome maskiner før tid fremmer uselvisk beslutningstagning

En ny undersøgelse tyder på, at brugen af ​​autonome maskiner øger samarbejdet mellem individer.

Forskere fra U.S. Combat Capabilities Development Command's Army Research Laboratory, Army's Institute for Creative Technologies og Northeastern University samarbejdede om et papir offentliggjort i Proceedings of the National Academy of Sciences .

Forskerholdet, ledet af Dr. Celso de Melo, ARL, i samarbejde med Drs. Jonathan Gratch, IKT, og Stacy Marsella, NU, gennemførte en undersøgelse af 1, 225 frivillige, der deltog i computeriserede eksperimenter, der involverede et socialt dilemma med autonome køretøjer.

"Autonome maskiner, der handler på folks vegne - såsom robotter, droner og autonome køretøjer – bliver hurtigt en realitet og forventes at spille en stadig vigtigere rolle på fremtidens slagmark, " sagde de Melo. "Folk er mere tilbøjelige til at træffe uselviske beslutninger for at favorisere kollektive interesser, når de bliver bedt om at programmere autonome maskiner i forvejen i forhold til at træffe beslutningen i realtid fra øjeblik til øjeblik."

De Melo sagde, at trods løfter om øget effektivitet, det er ikke klart, om dette paradigmeskifte vil ændre, hvordan mennesker beslutter, når deres egeninteresse stilles op mod den kollektive interesse.

"For eksempel, skal en anerkendelsesdrone prioritere efterretningsindsamling, der er relevant for holdets umiddelbare behov eller delingens overordnede mission?" spurgte de Melo. "Skal en eftersøgnings- og redningsrobot prioritere lokale civile eller fokusere på missionskritiske aktiver?"

"Vores forskning i PNAS begynder at undersøge, hvordan disse transformationer kan ændre menneskelige organisationer og relationer, " sagde Gratch. "Vores forventning, baseret på noget tidligere arbejde med menneskelige mellemmænd, var, at AI-repræsentanter kunne gøre folk mere egoistiske og vise mindre bekymring for andre."

I avisen, Resultaterne viser, at de frivillige programmerede deres autonome køretøjer til at opføre sig mere samarbejdsvilligt, end hvis de kørte selv. Ifølge beviserne, dette sker, fordi programmeringsmaskiner får egoistiske kortsigtede belønninger til at blive mindre fremtrædende, fører til overvejelser om bredere samfundsmål.

"Vi blev overraskede over disse resultater, " sagde Gratch. "Ved at tænke over ens valg på forhånd, folk viser faktisk mere respekt for samarbejde og retfærdighed. Det er som om ved at blive tvunget til nøje at overveje deres beslutninger, folk lagde mere vægt på prosociale mål. Når du træffer beslutninger fra øjeblik til øjeblik, i modsætning, de bliver mere drevet af egeninteresse."

Resultaterne viser yderligere, at denne effekt forekommer i en abstrakt version af det sociale dilemma, hvilket de siger indikerer, at det generaliserer ud over autonome køretøjers domæne.

"Beslutningen om, hvordan man programmerer autonome maskiner, i praksis, vil sandsynligvis blive fordelt på flere interessenter med konkurrerende interesser, herunder regeringen, producenter og controllere, " sagde de Melo. "I moralske dilemmaer, for eksempel, forskning viser, at folk ville foretrække andre menneskers autonome køretøjer for at maksimere bevarelsen af ​​liv (selvom det betød at ofre chaufføren), mens deres eget køretøj for at maksimere bevarelsen af ​​førerens liv."

Mens disse spørgsmål diskuteres, forskere siger, at det er vigtigt at forstå, at i det muligvis mere udbredte tilfælde af sociale dilemmaer - hvor individuel interesse stilles op mod kollektiv interesse - har autonome maskiner potentialet til at forme, hvordan dilemmaerne løses og, dermed, disse interessenter har mulighed for at fremme et mere samarbejdende samfund.