Google udelukker at bruge kunstig intelligens til våben (Opdatering)

Google meddelte torsdag, at de ikke ville bruge kunstig intelligens til våben eller til at "forårsage eller direkte lette skade på mennesker, ", da den afslørede et sæt principper for teknologierne.

administrerende direktør Sundar Pichai, i et blogindlæg, der beskriver virksomhedens politikker for kunstig intelligens, bemærkede, at selvom Google ikke vil bruge kunstig intelligens til våben, "vi vil fortsætte vores arbejde med regeringer og militæret på mange andre områder" såsom cybersikkerhed, uddannelse, eller eftersøgning og redning.

Nyheden kommer med, at Google står over for et tumult fra ansatte og andre over en kontrakt med det amerikanske militær, som den californiske teknologigigant sagde i sidste uge ikke ville blive fornyet.

Pichai opstillede syv principper for Googles anvendelse af kunstig intelligens, eller avanceret computing, der kan simulere intelligent menneskelig adfærd.

Han sagde, at Google bruger kunstig intelligens "til at hjælpe folk med at tackle presserende problemer" såsom forudsigelse af naturbrande, hjælpe landmænd, diagnosticering af sygdom eller forebyggelse af blindhed.

"Vi erkender, at en så kraftfuld teknologi rejser lige så stærke spørgsmål om dens brug, " sagde Pichai i bloggen.

"Hvordan AI udvikles og bruges, vil have en betydelig indflydelse på samfundet i mange år fremover. Som førende inden for AI, vi føler et dybt ansvar for at få dette rigtigt."

Den administrerende direktør sagde, at Googles AI-programmer ville være designet til applikationer, der er "socialt gavnlige" og "undgå at skabe eller forstærke unfair bias."

Han sagde, at principperne også opfordrede AI-applikationer til at blive "bygget og testet for sikkerhed, " at være "ansvarlig over for mennesker" og at "inkorporere principper for privatlivsdesign."

Google vil undgå brugen af ​​teknologier, "der forårsager eller sandsynligvis vil forårsage generel skade, " skrev Pichai.

Det betyder at undgå "våben eller andre teknologier, hvis hovedformål eller implementering er at forårsage eller direkte lette skade på mennesker" og systemer "der indsamler eller bruger information til overvågning, der overtræder internationalt accepterede normer."

Google vil også forbyde brugen af ​​enhver teknologi, "hvis formål er i modstrid med bredt accepterede principper i international lov og menneskerettigheder, "Sagde Pichai.

'En god start'

Nogle indledende reaktioner på meddelelsen var positive.

Electronic Frontier Foundation, som havde ført til modstand mod Googles Project Maven-kontrakt med Pentagon, kaldte nyheden "en stor gevinst for etiske AI-principper."

"Tillykke til Googlere og andre, der har arbejdet hårdt for at overtale virksomheden til at aflyse sit arbejde med Project Maven, " sagde EFF på Twitter.

Ryan Calo, en juraprofessor ved University of Washington og stipendiat ved Stanford Center for Internet &Society, tweeted, "Googles AI-etiske principper skylder mere til (den engelske filosof Jeremy) Bentham og positivisterne end (den tyske filosof) Kant. Ikke desto mindre, en god start. "

Calo tilføjede, "Den klare erklæring om, at de ikke vil lette vold eller totalitær overvågning er meningsfuld."

Flytningen kommer midt i voksende bekymring for, at automatiserede eller robotsystemer kan blive misbrugt og komme ud af kontrol, fører til kaos. På samme tid, Google har været udsat for kritik af, at det er drevet væk fra de oprindelige grundlæggeres motto om "vær ikke ond".

Adskillige teknologivirksomheder har allerede accepteret de generelle principper for at bruge kunstig intelligens til gode, men Google syntes at tilbyde et mere præcist sæt standarder.

Virksomheden, som allerede er medlem af Partnership on Artificial Intelligence, herunder snesevis af tech-firmaer, der er forpligtet til AI-principper, havde været udsat for kritik for kontrakten med Pentagon om Project Maven, som bruger maskinlæring og ingeniørtalent til at skelne mellem mennesker og objekter i dronevideoer.

Over for et andragende underskrevet af tusinder af medarbejdere og kritik uden for virksomheden, Google indikerede, at kontrakten på 10 millioner dollars ikke ville blive forlænget, ifølge mediernes rapporter.

Men det menes, at Google konkurrerer mod andre tech -giganter som Amazon og Microsoft om lukrative "cloud computing" -kontrakter med den amerikanske regering, herunder for militære og efterretningstjenester.

© 2018 AFP