Ægte eller kunstigt? Tekniske titaner erklærer AI -etiske bekymringer

De største teknologivirksomheder vil have dig til at vide, at de er særlig omhyggelige med at sikre, at deres brug af kunstig intelligens til at sive gennem bjerge af data, analysere ansigter eller bygge virtuelle assistenter spilder ikke over til den mørke side.

Men deres bestræbelser på at dæmpe bekymringer om, at deres maskiner kan bruges til uhyggelige formål, er ikke blevet universelt omfavnet. Nogle skeptikere ser det som blot vinduesbeklædning af virksomheder, der er mere interesserede i overskud, end hvad der er i samfundets bedste interesser.

"Etisk AI" er blevet en ny corporate buzz -sætning, smækkede på interne revisionsudvalg, smarte jobtitler, forskningsprojekter og filantropiske initiativer. Trækkene er beregnet til at imødekomme bekymringer over race- og kønsforstyrrelser, der opstår i ansigtsgenkendelse og andre AI -systemer, samt behandle bekymringer om tab af job til teknologien og dens anvendelse af retshåndhævende myndigheder og militæret.

Men hvor meget substans ligger bag de stadig mere etiske kampagner? Og hvem bestemmer, hvilke teknologiske sysler der ikke skader?

Google blev ramt af begge spørgsmål, da det dannede en ny bestyrelse af eksterne rådgivere i slutningen af ​​marts for at hjælpe med at guide, hvordan den bruger AI i produkter. Men i stedet for at vinde over potentielle kritikere, det udløste intern rancor. Lidt mere end en uge senere, Google bøjede sig for pres fra tilbageslaget og opløste rådet.

Det ydre bræt faldt fra hinanden i etaper. Et af bestyrelsens otte tiltrædelsesmedlemmer stoppede inden for få dage, og et andet blev hurtigt målet for protester fra Google -medarbejdere, der sagde, at hendes konservative synspunkter ikke stemmer overens med virksomhedens påståede værdier.

Da tusinder af medarbejdere opfordrede til at fjerne Heritage Foundation -præsident Kay Coles James, Google opløste bestyrelsen i sidste uge.

"Det er blevet klart, at i det nuværende miljø, (rådet) kan ikke fungere som vi ønskede, "sagde virksomheden i en meddelelse.

Dette miljø er en af ​​stigende bekymringer for, at virksomhedens AI -etiske kampagner mangler tænder.

"Jeg tror (Googles beslutning) afspejler en bredere offentlig forståelse af, at etik involverer mere end bare at oprette et etisk bestyrelse uden en institutionel ramme for at sikre ansvarlighed, "AI -forsker Ben Wagner sagde.

Googles originale initiativ faldt ind i en teknologiindustri trend, som Wagner kalder "etik-vask, "som han beskriver som en overfladisk indsats, der for det meste er et show for offentligheden eller lovgivere.

"Det er dybest set et forsøg på at lade som om du gør etiske ting og bruger etik som et redskab til at nå en ende, som at undgå regulering, sagde Wagner, en adjunkt ved Wien Universitet for Økonomi og Erhverv. "Det er en ny form for selvregulering uden at kalde det ved navn."

Store virksomheder har gjort en stadig mere synlig indsats for at diskutere deres AI -indsats i de seneste år.

Microsoft, som ofte forsøger at positionere sig som brancheleder inden for etik og fortrolighedsspørgsmål, offentliggjorde sine principper omkring udvikling af AI, udgivet en kort bog, der diskuterede de samfundsmæssige konsekvenser af teknologien og har opfordret til nogen offentlig regulering af AI -teknologier.

Virksomhedens præsident mødtes endda med pave Frans tidligere på året for at diskutere branchetik. Amazon annoncerede for nylig, at det hjælper med at finansiere føderal forskning i "algoritmisk retfærdighed, "og Salesforce anvender en" arkitekt "til etisk AI -praksis, samt en "chef for etisk og menneskelig brug". Det er svært at finde et brand-tech-firma uden lignende initiativer.

Det er en god ting, at virksomheder studerer spørgsmålet og søger perspektiver på branchens etik, sagde Oren Etzioni, CEO for Allen Institute for Artificial Intelligence, en forskningsorganisation. Men i sidste ende, han sagde, en virksomheds administrerende direktør har til opgave at beslutte, hvilke forslag til AI -etik der skal indarbejdes i forretningsbeslutninger.

"Jeg synes generelt, at det er et positivt skridt frem for et figenblad, "sagde han." Når det er sagt, beviset er i succesfuld implementering. Jeg tror, ​​at juryen stadig er ude på det. "

Den indvirkning kunstig intelligens kan have på samfundet har aldrig været mere tydelig, Etzioni sagde, og virksomheder reagerer på undersøgelser om kraften i anbefalingsalgoritmer og kønsbias i AI.

Men som Googles forsøg viser, diskussion af spørgsmålene i offentligheden opfordrer også til offentlig granskning.

Google -medarbejdere har haft større succes end andre teknikere med at kræve ændringer i deres virksomhed. Internetsøgningen behemoth droppede en kontrakt med Pentagon, efter at medarbejderne skubbede tilbage på de etiske konsekvenser ved at bruge virksomhedens AI -teknologi til at analysere dronevideo.

Og efter mere end 2, 400 medarbejdere fra Google underskrev et andragende der opfordrede til at James blev taget af tavlen, Google slog hele tavlen op. Medarbejdere sagde, at James har fremsat tidligere kommentarer, der var anti-trans og anti-immigrant og ikke burde være i et etisk panel. Heritage Foundation reagerede ikke på en anmodning om kommentar.

Google havde også været udsat for uenighed fra sine valgte rådsmedlemmer. Alessandro Acquisti, professor ved Carnegie Mellon University, meddelte på Twitter, at han afviste invitationen. Han skrev, at han er dedikeret til at kæmpe med fairness og inklusion i AI, men dette var ikke "det rigtige forum for mig at deltage i dette vigtige arbejde." Han nægtede at kommentere yderligere.

En ekspert, der havde forpligtet sig til at blive i rådet, er Joanna Bryson, lektor i computing ved University of Bath. En selvskreven liberal, sagde hun før opløsningen, at det giver mening at have politisk mangfoldighed i panelet, og hun var ikke enig med dem, der synes, det bare er til show.

"Jeg synes bare ikke, at Google er så dum, "Bryson sagde." Jeg tror ikke, de er der bare for at have en plakat på en væg. "

Hun sagde, imidlertid, at virksomheder som Google og Microsoft har en reel bekymring for ansvar - hvilket betyder, at de vil sikre sig, at de viser sig selv, og offentligheden, at de har forsøgt deres bedste for at bygge produkter på den rigtige måde, før de blev frigivet.

"Det er ikke bare det rigtige at gøre, det er det, de skal gøre, "sagde hun. Bryson sagde, at hun var håbefuld, at Google faktisk ville brainstorme hårde problemer og skulle finde en anden måde at gøre det på, efter at rådet blev opløst.

Det er uklart, hvad Google vil gøre næste gang. Firmaet sagde, at det "går tilbage til tegnebrættet" og vil finde andre måder at få eksterne meninger på.

Wagner sagde, at nu ville det være tid for Google at oprette etiske principper, der omfatter forpligtelser, de skal holde sig til, eksternt tilsyn og andre kontrolpunkter for at holde dem ansvarlige.

Selvom virksomheder bliver ved med at oprette eksterne bestyrelser for at føre tilsyn med AI -ansvar, regeringens regulering vil stadig være nødvendig, sagde Liz O'Sullivan, en tekniker, der forlod AI -virksomheden Clarifai over virksomhedens arbejde i Pentagons Project Maven - det samme projekt, som Google droppede, efter at dets medarbejdere protesterede.

O'Sullivan er forsigtig med bestyrelser, der kan komme med forslag, som virksomheder ikke er juridisk forpligtet til at holde sig til.

"Enhver virksomhed af den størrelse, der siger, at de er interesseret i at have en form for tilsyn, der ikke har nogen evne eller myndighed til at begrænse eller begrænse virksomhedens adfærd, ser ud til at gøre det for pressen om det hele, " hun sagde.

© 2019 Associated Press. Alle rettigheder forbeholdes.