Forbedring af kvaliteten af ​​AI kræver, at man går ud over det kvantitative

Ingeniører fra kunstig intelligens bør hente ideer og ekspertise fra en bred vifte af samfundsvidenskabelige discipliner, herunder dem, der omfatter kvalitative metoder, for at reducere den potentielle skade ved deres kreationer og bedre tjene samfundet som helhed, har et par forskere konkluderet i en analyse, der fremgår af tidsskriftet Nature Machine Intelligence .

"Der er stigende beviser for, at AI kan forværre uligheden, fastholde diskrimination, og forårsage skade, "skriver Mona Sloane, en stipendiat ved New York University's Institute for Public Knowledge, og Emanuel Moss, en doktorand ved City University of New York. "For at opnå socialt retfærdig teknologi, vi er nødt til at inkludere den bredest mulige forestilling om samfundsvidenskab, en, der indeholder discipliner, der har udviklet metoder til at kæmpe med den enorme verdensverden, og som hjælper os med at forstå, hvordan og hvorfor AI -skader opstår som en del af en stor, kompleks, og det nye teknosociale system. "

Forfatterne skitserer årsager til, hvor samfundsvidenskab nærmer sig, og dens mange kvalitative metoder, kan i høj grad øge værdien af ​​AI og samtidig undgå dokumenterede faldgruber. Undersøgelser har vist, at søgemaskiner kan forskelsbehandle kvinder i farve, mens mange analytikere har stillet spørgsmål om, hvordan selvkørende biler vil tage socialt acceptable beslutninger i kollisionssituationer (f.eks. undgå mennesker frem for brandhaner).

Sloane, også et supplerende fakultetsmedlem ved NYU's Tandon School of Engineering, og Moss erkender, at AI-ingeniører i øjeblikket søger at indgyde "værdijustering"-tanken om, at maskiner skal handle i overensstemmelse med menneskelige værdier-i deres kreationer, men tilføj, at "det er usædvanligt svært at definere og kode noget så flydende og kontekstuelt som 'menneskelige værdier' ​​i en maskine."

For at afhjælpe denne mangel, forfatterne tilbyder en blueprint for inklusion af samfundsvidenskaberne i AI gennem en række anbefalinger:

• Kvalitativ social forskning kan hjælpe med at forstå de kategorier, hvorigennem vi giver mening om det sociale liv, og som bruges i AI. "For eksempel, teknologer er ikke uddannet til at forstå, hvordan racekategorier inden for maskinlæring gengives som en social konstruktion, der har virkelige virkninger på organisation og lagdeling af samfundet, "Sloane og Moss observerer." Men disse spørgsmål diskuteres dybtgående i samfundsvidenskaberne, som kan være med til at skabe den sociohistoriske baggrund, som ... historien om tilskrivning af kategorier som 'race' kan gøres eksplicit over for. "
• En kvalitativ dataindsamlingsmetode kan etablere protokoller for at reducere bias. "Data afspejler altid fordomme og interesser hos dem, der foretager indsamlingen, "forfatterne bemærker." Kvalitativ forskning er eksplicit om dataindsamlingen, der henviser til, at kvantitativ forskningspraksis inden for AI ikke er det. "
• Kvalitativ forskning kræver typisk, at forskere reflekterer over, hvordan deres interventioner påvirker den verden, de foretager deres observationer i. "En kvantitativ tilgang kræver ikke, at forskeren eller AI -designeren lokaliserer sig i den sociale verden, "skriver de." Derfor, ikke kræver en vurdering af, hvem der indgår i afgørende AI -designbeslutninger, og hvem er ikke. "

"Når vi bevæger os fremad og væver socialt, kulturel, og teknologiske elementer i vores liv, vi skal integrere forskellige former for viden i teknologiudvikling, "Sloane og Moss konkluderer." En mere socialt retfærdig og demokratisk fremtid for AI i samfundet kan ikke blot beregnes eller designes; det skal bo i, fortalt, og hentet fra dybe forståelser om samfundet. "