At forstå forskning i, hvordan mennesker udvikler tillid til AI, kan informere brugen af ​​det

Brugen af ​​kunstig intelligens (AI), teknologier, der kan interagere med miljøet og simulere menneskelig intelligens, har potentialet til at ændre den måde, vi arbejder på markant. En vellykket integration af kunstig intelligens i organisationer afhænger af arbejdernes tillid til teknologien. En ny anmeldelse undersøgte to årtiers forskning i, hvordan mennesker udvikler tillid til AI. Forfatterne konkluderede, at måden AI er repræsenteret på, eller "legemliggjort, " og AI's evner bidrager til at udvikle tillid. De foreslog også en ramme, der adresserer de elementer, der former brugernes kognitive og følelsesmæssige tillid til AI, som kan hjælpe organisationer, der bruger det.

Anmeldelsen, af forskere ved Carnegie Mellon University og Bar Ilan University, dukker op i Academy of Management Annals .

"Den tillid, som brugerne udvikler til AI, vil være central for at bestemme deres rolle i organisationer, " forklarer Anita Williams Woolley, Lektor i organisationsadfærd og teori ved Carnegie Mellon University's Tepper School of Business, der var medforfatter til undersøgelsen. "Vi behandlede tillidens dynamiske natur ved at undersøge, hvordan tillid udvikler sig for mennesker, der interagerer med forskellige repræsentationer af AI (f.eks. robotter, virtuelle agenter, eller indlejret) såvel som funktionerne i AI, der letter udviklingen af ​​tillid."

Specifikt, forskerne observerede håndgribelighedens rolle (evnen til at blive opfattet eller berørt), gennemsigtighed (det niveau, som teknologiens driftsregler og logik er synlige for brugerne), og pålidelighed (om teknologien udviser den samme forventede adfærd over tid). De overvejede også opgavekarakteristika (hvordan tekniske versus interpersonelle vurderinger håndteres) og umiddelbar adfærd (socialt orienterede gestus, der har til formål at øge interpersonel nærhed, såsom aktiv lytning og lydhørhed). De så også på antropomorfisme (opfattelsen af, at teknologi kan have menneskelige kvaliteter).

Forfatterne søgte i Google Scholar efter artikler om menneskelig tillid til AI udgivet mellem 1999 og 2019, identificere omkring 200 peer-reviewede artikler og konferencehandlinger. De repræsenterede områder omfattede organisatorisk adfærd, menneske-computer interaktioner, robot-menneske interaktioner, informationssystemer, Informationsteknologi, og teknik. De brugte også tre databaser til at identificere yderligere 50 artikler. Til sidst, de gennemgik cirka 150 artikler, der præsenterede empirisk forskning om menneskelig tillid til AI.

Forfatterne fandt, at repræsentationen af ​​AI spillede en vigtig rolle i karakteren af ​​den kognitive tillid, som mennesker udvikler. For robot AI, forløbet for at udvikle tillid lignede det at skabe tillid til menneskelige relationer, starter lavt og stiger efter mere erfaring. Men for virtuel og indlejret AI, det modsatte skete:Høj initial tillid faldt efter erfaring.

Forfatterne fandt også, at niveauet af maskinintelligens, der karakteriserer AI, kan moderere udviklingen af ​​kognitiv tillid, med et højt niveau af intelligens, der fører til højere tillid efter brug og erfaring. For robot AI, et højt niveau af maskinintelligens førte generelt til hurtigere udvikling af et højt niveau af tillid. Til virtuel og indlejret AI, høj maskinintelligens gav mulighed for at bevare de oprindelige høje tillidsniveauer. Gennemsigtighed var også en vigtig faktor for at etablere kognitiv tillid til virtuel og indlejret AI, selvom forholdet mellem pålidelighed og udviklingen af ​​tillid til AI var komplekst.

Antropomorfisme var enestående vigtig for udviklingen af ​​følelsesmæssig tillid, men dens effekt var forskellig afhængig af AI-formen. For virtuel AI, antropomorfisme havde en positiv effekt. For robot AI, effekter var blandede:Folk havde en tendens til at kunne lide antropomorfe robotter mere end mekanisk udseende robotter, men disse menneskelignende robotter kunne også fremkalde ubehag og en følelse af uhygge.

Faktorer, der påvirkede følelsesmæssig tillid, adskilte sig fra dem, der påvirkede kognitiv tillid, og nogle faktorer kan have haft forskellige implikationer for hver, konkluderede forfatterne.

Som en guide til at integrere AI i organisationers arbejde, forfatterne foreslog en ramme. De overvejede den form, hvori AI blev brugt, niveauet af maskinintelligens, adfærd såsom lydhørhed, og pålidelighed som faktorer, der påvirkede, hvordan folk udviklede tillid til AI, både kognitivt og følelsesmæssigt.

"Tillid kan forudsige graden af ​​afhængighed af teknologi, mens niveauet af korrespondance mellem nogens tillid og teknologiens muligheder, kendt som kalibrering, kan påvirke, hvordan teknologien bruges, " siger Ella Glikson, Adjunkt ved Graduate School of Business Administration ved Bar Ilan University, der var medforfatter til undersøgelsen.