Forskning:AI er i fare for at blive for mandlig

Artificial Intelligence (AI) systemer bliver smartere hver dag, slå verdensmestre i spil som Go, identificere tumorer i medicinske scanninger bedre end humane radiologer, og øge effektiviteten af ​​el-hungrende datacentre. Nogle økonomer sammenligner AI's transformative potentiale med andre "generelle formålsteknologier" såsom dampmaskinen, elektricitet eller transistoren.

Men de nuværende AI-systemer er langt fra perfekte. De har en tendens til at afspejle skævhederne i de data, der bruges til at træne dem og bryde sammen, når de står over for uventede situationer. De kan spilles, som vi har set med kontroverserne omkring misinformation på sociale medier, voldeligt indhold postet på YouTube, eller det berømte tilfælde af Tay, Microsoft chatbot, som blev manipuleret til at komme med racistiske og sexistiske udtalelser inden for få timer.

Så ønsker vi virkelig at gøre disse skævhedstilbøjelige, skøre teknologier til grundstenene i morgendagens økonomi?

Minimering af risiko

En måde at minimere AI -risici på er at øge mangfoldigheden af ​​de teams, der er involveret i deres udvikling. Som forskning i kollektiv beslutningstagning og kreativitet antyder, grupper, der er mere kognitivt mangfoldige, har en tendens til at træffe bedre beslutninger. Desværre, dette er langt fra situationen i samfundet, der i øjeblikket udvikler AI -systemer. Og mangel på kønsdiversitet er en vigtig (men ikke den eneste) dimension af dette.

En anmeldelse offentliggjort af AI Now Institute tidligere på året, viste, at mindre end 20% af de forskere, der ansøger om prestigefyldte AI -konferencer, er kvinder, og at kun en fjerdedel af de studerende, der studerer AI på Stanford og University of California i Berkeley, er kvinder.

Forfatterne hævdede, at denne mangel på kønsdiversitet resulterer i AI-fejl, som entydigt påvirker kvinder, såsom et Amazon -rekrutteringssystem, der viste sig at diskriminere jobansøgere med kvindelige navne.

Vores seneste rapport, Kønsdiversitet i AI-forskning, involverede en "big data"-analyse af 1,5 millioner papirer i arXiv, et fortrykt websted, der i vid udstrækning bruges af AI-fællesskabet til at formidle dets arbejde.

Vi analyserede teksten til abstracts for at bestemme, hvilke anvende AI-teknikker, udledte forfatternes køn ud fra deres navne og studerede niveauerne af kønsdiversitet i AI og dens udvikling over tid. Vi sammenlignede også situationen i forskellige forskningsområder og lande, og sprogforskelle mellem artikler med kvindelige medforfattere og udelukkende mandlige artikler.

Vores analyse bekræfter ideen om, at der er en kønsdiversitetskrise i AI-forskning. Kun 13,8 % af AI-forfatterne i arXiv er kvinder og, relativt set, andelen af ​​AI-papirer, der er medforfattet af mindst én kvinde, er ikke forbedret siden 1990'erne.

Der er betydelige forskelle mellem lande og forskningsområder. Vi fandt en stærkere repræsentation af kvinder i AI-forskning i Holland, Norge og Danmark, og en lavere repræsentation i Japan og Singapore. Vi fandt også ud af, at kvinder, der arbejder i fysik, uddannelse, biologi og sociale aspekter af computing er mere tilbøjelige til at udgive arbejde om AI sammenlignet med dem, der arbejder med datalogi eller matematik.

Ud over at måle kønsdiversitet i AI-forskningsarbejdsstyrken, vi undersøgte også semantiske forskelle mellem forskningsartikler med og uden kvindelig deltagelse. Vi testede hypotesen om, at forskerhold med mere kønsmæssig mangfoldighed har en tendens til at øge de mange forskellige emner og emner, der overvejes i AI -forskning, potentielt gøre deres output mere inkluderende.

At gøre dette, vi målte den "semantiske signatur" af hvert papir ved hjælp af en maskinlæringsteknik kaldet ordindlejring, og sammenlignede disse underskrifter mellem artikler med mindst en kvindelig forfatter og artikler uden nogen kvindelige forfattere.

Denne analyse, som fokuserer på Machine Learning og sociale aspekter af computing i Storbritannien, viste signifikante forskelle mellem grupperne. I særdeleshed, vi fandt ud af, at artikler med mindst én kvindelig medforfatter har tendens til at være mere anvendte og socialt bevidste, med udtryk som "fairness", "menneskelig mobilitet", "mental", "sundhed", "køn" og "personlighed" spiller en central rolle. Forskellen mellem de to grupper er i overensstemmelse med tanken om, at kognitiv mangfoldighed har indflydelse på den producerede forskning, og antyder, at det fører til øget engagement i sociale spørgsmål.

Sådan rettes det

Så hvad forklarer denne vedvarende kønsforskel i AI -forskning, og hvad kan vi gøre ved det?

Forskning viser, at manglen på kønsdiversitet i videnskaben, teknologi, ingeniør- og matematik (STEM) arbejdsstyrke skyldes ikke en enkelt faktor:kønsstereotyper og diskrimination, mangel på rollemodeller og mentorer, utilstrækkelig opmærksomhed på balance mellem arbejde og privatliv, og "giftige" arbejdsmiljøer i teknologiindustrien samles for at skabe en perfekt storm mod kønsinkludering.

Der er ingen nem løsning til at lukke kønskløften i AI-forskning. Systemomfattende ændringer med det formål at skabe sikre og inkluderende rum, der understøtter og fremmer forskere fra underrepræsenterede grupper, et skift i holdninger og kulturer inden for forskning og industri, og bedre kommunikation af AI's transformative potentiale på mange områder kunne alle spille en rolle.

Politiske indgreb, såsom investering på £13,5 mio. fra regeringen for at øge mangfoldigheden i AI-roller gennem nye konverteringskurser, vil gå et stykke vej mod at forbedre situationen, men interventioner i større målestok er nødvendige for at skabe bedre forbindelser mellem kunst, humaniora og kunstig intelligens, ændre billedet af, hvem der kan arbejde i AI.

Selvom der ikke er nogen enkelt grund til, at piger uforholdsmæssigt holder op med at tage STEM-fag, efterhånden som de udvikler sig gennem uddannelse, der er tegn på, at faktorer, herunder gennemgående stereotyper omkring køn og et undervisningsmiljø, der påvirker pigers selvtillid mere end drenge, spiller en rolle i problemet. Vi skal også fremvise de rollemodeller, der bruger kunstig intelligens til at gøre en positiv forskel.

En håndgribelig intervention, der søger at tackle disse problemer, er Longitude Explorer-prisen, som opfordrer gymnasieelever til at bruge AI til at løse sociale udfordringer og arbejde med rollemodeller inden for AI. Vi ønsker unge mennesker, især piger, at realisere AI's potentiale for godt og deres rolle i at drive forandring.

Ved at opbygge færdigheder og tillid hos unge kvinder, vi kan ændre forholdet mellem mennesker, der studerer og arbejder i AI – og hjælpe med at adressere AI's potentielle skævheder.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.