IA 'Sophia' på AI for Good Global Summit, 2018. Kredit:ITU Pictures/Wikimedia, CC BY
Med udbredelsen af kvindelige robotter som Sophia og populariteten af kvindelige virtuelle assistenter som Siri (Apple), Alexa (Amazon), og Cortana (Microsoft), kunstig intelligens ser ud til at have et kønsproblem.
Denne kønsubalance i AI er en gennemgående tendens, der har vakt skarp kritik i medierne (selv Unesco advarede mod farerne ved denne praksis), fordi det kunne forstærke stereotyper om, at kvinder er objekter.
Men hvorfor injiceres femininitet i kunstige intelligente objekter? Hvis vi vil dæmme op for den massive brug af kvindelig køn i kunstig intelligens, vi skal bedre forstå de dybe rødder af dette fænomen.
At gøre det umenneskelige mere menneskeligt
I en artikel offentliggjort i tidsskriftet Psykologi &Marketing , vi argumenterer for, at forskning i, hvad der gør mennesker til mennesker, kan give et nyt perspektiv på, hvorfor feminisering systematisk bruges i AI. Vi foreslår, at hvis kvinder har en tendens til at være mere objektiverede i AI end mænd, det er ikke kun fordi de opfattes som den perfekte assistent, men også fordi folk tillægger kvinder (versus mænd) mere menneskelighed i første omgang.
Hvorfor? Fordi kvinder opfattes som varmere og mere tilbøjelige til at opleve følelser end mænd, kvindelig køn af AI-objekter bidrager til at humanisere dem. Varme og erfaring (men ikke kompetence) ses faktisk som grundlæggende egenskaber for at være et fuldt menneske, men mangler maskiner.
Med udgangspunkt i teorier fra dehumanisering og objektivering, vi viser på tværs af fem undersøgelser med en samlet stikprøve på mere end 3, 000 deltagere, der:
Vi brugte flere forskellige mål for opfattet menneskelighed, sammenlignet med både dyr og maskiner. For eksempel, at måle åbenlys menneskelighed af kvindelige og mandlige bots sammenlignet med dyr, vi brugte ascent humanization-skalaen baseret på den klassiske "march of progress"-illustration. Vi bad eksplicit online-respondenter om at angive, hvor "udviklet" de opfattede kvindelige eller mandlige bots for at være, ved hjælp af en kontinuerlig progression fra gamle aber til moderne mennesker.
For at måle den åbenlyse opfattede menneskelighed af kvindelige og mandlige bots sammenlignet med maskiner, vi skabte en skala, der måler åbenlys mekanistisk (af)humanisering, ved at forestille sig menneskets udvikling fra robot til menneske (i stedet for abe til menneske). Selvfølgelig, vi skabte både en kvindelig og en mandlig version af hver af disse skalaer.
Andre mål fangede mere subtile og implicitte opfattelser af menneskelighed, ved at spørge respondenterne om niveauet af følelser, de tilskrev mandlige og kvindelige bots. Nogle følelser siges at adskille mennesker fra maskiner (f.eks. "venlige, " "kærlig"), og andre følelser for at skelne mennesker fra dyr (dvs. "organiseret, " "høflig"). Endelig, vi brugte også en implicit associationstest til at undersøge, om kvindelige bots er forbundet med begrebet "menneske" snarere end "maskine" mere end mandlige bots.
Spøgelset i maskinen
Mens vi fandt ud af, at kvinder og kvindelige robotter opfattes som mere menneskelige på de fleste af de subtile og alle de åbenlyse og implicitte mål for menneskelighed, vi fandt også ud af, at mænd og mandlige robotter opfattes som mere menneskelige på de negative dimensioner af de subtile mål for menneskelighed. Taget sammen, disse resultater indikerer, at kvindelige robotter ikke kun er udstyret med mere positive menneskelige egenskaber end mandlige robotter (velvillig sexisme), men at de også opfattes som mere menneskelige og forventes at være mere tilbøjelige til at overveje vores unikke behov i en servicesammenhæng.
Disse resultater kan pege på en ny mulig forklaring på, hvorfor kvindelige bots foretrækkes frem for deres mandlige modstykker, med folk, der foretrækker kvindelige intelligente maskiner, fordi sådanne maskiner er stærkere forbundet med menneskelighed.
Hvis femininitet bruges til at humanisere ikke-menneskelige entiteter, denne forskning tyder på, at behandling af kvinder som genstande i AI kan ligge netop i erkendelsen af, at de ikke er det. Den populære antagelse, selvom, ofte omtalt som dehumaniseringshypotesen, er, at det er nødvendigt at se udgruppemedlemmer som dyr eller instrumenter, før man objektiviserer dem. Med andre ord, dehumanisering ville være en forudsætning for at objektivering kan finde sted, med objektiveringsmål, der typisk nægtes deres menneskelighed. I modsætning til denne dominerende opfattelse, transformationen af kvinder til objekter i AI kan ikke forekomme, fordi kvinder opfattes som undermennesker, men fordi de i første omgang opfattes som overmennesker.
Dette er i overensstemmelse med Martha C. Nussbaums påstand:"Objektificering indebærer at gøre til en ting... noget, der virkelig ikke er en ting" (Nussbaum, 1995, s. 256-7). Det passer også med Kate Mannes syn på kvindehad og dehumanisering:"Ofte, det er ikke en følelse af kvinders menneskelighed, der mangler. Hendes menneskelighed er netop problemet" (Manne, 2018, s. 33). Derfor, den udbredte brug af kvindelig identitet i artefakter af kunstig intelligens kan være forankret i den implicitte erkendelse af, at kvinder opfattes som mennesker, og mere end mænd.
Objektificering af kvinder i den virkelige verden?
Denne forskning bygger på, hvad der gør mennesker til mennesker sammenlignet med maskiner for bedre at forstå de dybe rødder af AI's udbredte kvindelige køn. Fordi følelser er selve substansen i vores menneskelighed, og fordi kvinder opfattes som mere tilbøjelige til at opleve følelser, vi hævder, at kvindelig køn af AI-objekter får dem til at se mere menneskelige ud og mere tilbøjelige til at tage hensyn til vores unikke behov. Imidlertid, denne proces med at transformere kvinder til objekter kunne føre til kvinders objektivering ved at formidle ideen om, at kvinder er objekter og enkle værktøjer designet til at opfylde deres ejeres behov. Dette kan potentielt give næring til flere kvinders objektivering og dehumanisering i den ikke-digitale verden.
Denne forskning fremhæver således det etiske dilemma, som AI-designere og -politikere står over for:Kvinder siges at blive transformeret til objekter i AI, men at injicere kvinders menneskelighed i AI-objekter får disse objekter til at virke mere menneskelige og acceptable.
Disse resultater er ikke særligt opmuntrende for fremtiden for ligestilling mellem kønnene i kunstig intelligens, heller ikke for at afslutte objektivering af kvinder i AI. Udviklingen af kønsneutrale stemmer kunne være en måde at bevæge sig væk fra den kvindelige køn af AI og stoppe fortsættelsen af denne velvillige sexisme. En anden løsning, svarende til Googles nylige eksperimenter, ville være at påtvinge en standard kønsstemme, tilfældigt og med lige stor sandsynlighed tildele enten en mandlig eller en kvindelig intelligent bot til brugere.
Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.