Videnskab
 science >> Videnskab >  >> Elektronik

Pentagon vedtager nye etiske principper for brug af kunstig intelligens i krig

I denne 20. dec. 2019, fil foto Forsvarsminister Mark Esper taler under et pressemøde i Pentagon i Washington. Pentagon vedtager nye etiske principper, mens det forbereder sig på at accelerere sin brug af kunstig intelligens-teknologi på slagmarken. (AP Photo/Susan Walsh, Fil)

Pentagon vedtager nye etiske principper, mens det forbereder sig på at accelerere sin brug af kunstig intelligens-teknologi på slagmarken.

De nye principper kræver, at folk "udøver passende dømmekraft og omhu", når de implementerer og bruger AI -systemer, såsom dem, der scanner luftbilleder for at lede efter mål.

De siger også, at beslutninger truffet af automatiserede systemer skal være "sporbare" og "styrbare, "hvilket betyder" der skal være en måde at deaktivere eller deaktivere "dem, hvis de udviser utilsigtet adfærd, sagde luftvåbnets generalløjtnant Jack Shanahan, direktør for Pentagon's Joint Artificial Intelligence Center.

Pentagons skub for at fremskynde sine AI -kapaciteter har givet anledning til en kamp mellem tech -virksomheder om en cloud computing -kontrakt på 10 milliarder dollar, kendt som Joint Enterprise Defense Infrastructure, eller JEDI. Microsoft vandt kontrakten i oktober, men har ikke været i stand til at komme i gang med det 10-årige projekt, fordi Amazon sagsøgte Pentagon, argumenterer for, at præsident Donald Trumps antipati over for Amazon og dets administrerende direktør Jeff Bezos skadede virksomhedens chancer for at vinde buddet.

Et eksisterende militærdirektiv fra 2012 kræver, at mennesker har kontrol over automatiserede våben, men omhandler ikke bredere anvendelser af kunstig intelligens. De nye amerikanske principper er beregnet til at guide både kamp- og ikke-kampapplikationer, fra efterretningsindsamling og overvågningsoperationer til at forudsige vedligeholdelsesproblemer i fly eller skibe.

Den tilgang, der blev skitseret mandag, følger anbefalingerne fra Defence Innovation Board sidste år, en gruppe ledet af tidligere Google-chef Eric Schmidt.

Mens Pentagon anerkendte, at AI "rejser nye etiske uklarheder og risici, "de nye principper mangler stærkere restriktioner, som fortalere for våbenkontrol favoriserer.

"Jeg er bekymret for, at principperne er lidt af et etisk-vaskende projekt, "sagde Lucy Suchman, en antropolog, der studerer AIs rolle i krigsførelse. "Ordet 'passende' er åbent for mange fortolkninger."

Shanahan sagde, at principperne er bevidst brede for at undgå at lægge håndjern i det amerikanske militær med specifikke restriktioner, der kan blive forældede.

"Teknikken tilpasser sig. Teknologien udvikler sig, " han sagde.

Pentagon ramte en vejspærring i sin AI-indsats i 2018, efter at interne protester hos Google fik teknologivirksomheden til at droppe ud af militærets Project Maven, som bruger algoritmer til at fortolke luftbilleder fra konfliktzoner. Andre virksomheder har siden udfyldt tomrummet. Shanahan sagde, at de nye principper hjælper med at genvinde støtte fra teknologiindustrien, hvor "der var tørst efter at have denne diskussion."

"Nogle gange tror jeg, at angsten er lidt hypet, men vi har folk, der har alvorlige bekymringer omkring samarbejdet med forsvarsministeriet, " han sagde.

Shanahan sagde, at vejledningen også hjælper med at sikre amerikanske teknologiske fordele, da Kina og Rusland forfølger militær AI med lidt opmærksomhed på etiske bekymringer.

University of Richmond juraprofessor Rebecca Crootof sagde, at vedtagelse af principper er et godt første skridt, men militæret bliver nødt til at vise, at det kritisk kan evaluere de enorme datatrover, der bruges af AI -systemer, samt deres cybersikkerhedsrisici.

Crootof sagde, at hun også håber, at den amerikanske handling hjælper med at etablere internationale normer omkring militær brug af kunstig intelligens.

"Hvis det ses, at USA tager AI-etiske normer alvorligt, som standard bliver de et mere seriøst emne, " hun sagde.

© 2020 The Associated Press. Alle rettigheder forbeholdes. Dette materiale må ikke offentliggøres, udsende, omskrevet eller omfordelt uden tilladelse.




Varme artikler