Nye modeller mærker menneskelig tillid til smarte maskiner

Nye "klassifikationsmodeller" fornemmer, hvor godt mennesker stoler på intelligente maskiner, de samarbejder med, et skridt i retning af at forbedre kvaliteten af ​​interaktioner og teamwork.

Det langsigtede mål for det overordnede forskningsfelt er at designe intelligente maskiner, der er i stand til at ændre deres adfærd for at øge menneskelig tillid til dem. De nye modeller er udviklet i forskning ledet af adjunkt Neera Jain og lektor Tahira Reid, i Purdue University's School of Mechanical Engineering.

"Intelligente maskiner, og mere bredt, intelligente systemer bliver mere og mere almindelige i menneskers hverdag, " sagde Jain. "I takt med at mennesker i stigende grad kræves at interagere med intelligente systemer, tillid bliver en vigtig faktor for synergistiske interaktioner."

For eksempel, flypiloter og industriarbejdere interagerer rutinemæssigt med automatiserede systemer. Mennesker vil nogle gange tilsidesætte disse intelligente maskiner unødigt, hvis de tror, ​​at systemet vakler.

"Det er veletableret, at menneskelig tillid er central for vellykket interaktion mellem mennesker og maskiner, " sagde Reid.

Forskerne har udviklet to typer "klassifikator-baserede empiriske tillidssensormodeller, "et skridt i retning af at forbedre tilliden mellem mennesker og intelligente maskiner.

Værket stemmer overens med Purdue's Giant Leaps-fejring, anerkender universitetets globale fremskridt inden for kunstig intelligens, algoritmer og automatisering som en del af Purdues 150 års jubilæum. Dette er et af de fire temaer for den årlange fejring's Idéfestival, designet til at fremvise Purdue som et intellektuelt center, der løser problemer i den virkelige verden.

Modellerne bruger to teknikker, der giver data til at måle tillid:elektroencefalografi og galvanisk hudrespons. Den første registrerer hjernebølgemønstre, og den anden overvåger ændringer i hudens elektriske egenskaber, at give psykofysiologiske "funktionssæt" korreleret med tillid.

45 menneskelige forsøgspersoner iførte sig trådløse EEG-headset og bar en enhed på den ene hånd til at måle galvanisk hudrespons.

En af de nye modeller, en "generel tillidssensormodel, " bruger det samme sæt psykofysiologiske træk for alle 45 deltagere. Den anden model er skræddersyet til hvert menneske, hvilket resulterer i forbedret gennemsnitlig nøjagtighed, men på bekostning af en stigning i træningstid. De to modeller havde en gennemsnitlig nøjagtighed på 71,22 procent, og 78,55 pct. henholdsvis.

Det er første gang EEG-målinger er blevet brugt til at måle tillid i realtid, eller uden forsinkelse.

"Vi bruger disse data på en meget ny måde, " sagde Jain. "Vi ser på det i en slags kontinuerlig strøm i modsætning til at se på hjernebølger efter en specifik trigger eller begivenhed."

Resultaterne er beskrevet i et forskningspapir, der vises i et særligt nummer af Association for Computing Machinery's Transactions on Interactive Intelligent Systems. Tidsskriftets specialnummer har titlen "Tillid og indflydelse i intelligent menneske-maskine interaktion." Papiret er forfattet af maskiningeniørstuderende Kumar Akash; tidligere kandidatstuderende Wan-Lin Hu, som nu er en postdoc forskningsassistent ved Stanford University; Jain og Reid.

"Vi er interesserede i at bruge feedback-kontrolprincipper til at designe maskiner, der er i stand til at reagere på ændringer i menneskelig tillidsniveau i realtid for at opbygge og styre tillid i menneske-maskine-forholdet, " sagde Jain. "For at gøre dette, vi har brug for en sensor til at estimere menneskelig tillid, igen i realtid. Resultaterne præsenteret i dette papir viser, at psykofysiologiske målinger kunne bruges til at gøre dette."

Spørgsmålet om menneskelig tillid til maskiner er vigtigt for en effektiv drift af "menneske-agent-kollektiver."

"Fremtiden vil være bygget op omkring menneske-agent-kollektiver, der vil kræve effektiv og vellykket koordinering og samarbejde mellem mennesker og maskiner, " sagde Jain. "Sig, at der er en sværm af robotter, der hjælper et redningshold under en naturkatastrofe. I vores arbejde har vi kun at gøre med ét menneske og én maskine, men i sidste ende håber vi at skalere op til hold af mennesker og maskiner."

Algoritmer er blevet introduceret til at automatisere forskellige processer.

"Men vi har stadig mennesker der, som overvåger, hvad der foregår, " sagde Jain. "Der er normalt en tilsidesættelsesfunktion, hvor de kan tage kontrollen tilbage, hvis de tror, ​​at noget er galt."

Nogle gange er denne handling ikke berettiget.

"Du har situationer, hvor mennesker måske ikke forstår, hvad der sker, så de stoler ikke på, at systemet gør det rigtige, " sagde Reid. "Så de tager kontrollen tilbage, selv når de egentlig ikke burde."

I nogle tilfælde, for eksempel i tilfælde af piloter, der tilsidesætter autopiloten, at tage kontrollen tilbage kan faktisk hindre sikker drift af flyet, forårsager ulykker.

"Et første skridt i retning af at designe intelligente maskiner, der er i stand til at opbygge og bevare tillid til mennesker, er designet af en sensor, der vil gøre det muligt for maskiner at estimere menneskelig tillidsniveau i realtid, " sagde Jain.

For at validere deres metode, 581 online deltagere blev bedt om at udføre en køresimulering, hvor en computer identificerede vejforhindringer. I nogle scenarier, computeren identificerede forhindringer korrekt 100 procent af tiden, hvorimod computeren i andre scenarier fejlagtigt identificerede forhindringerne 50 procent af tiden.

"Så, i nogle tilfælde vil det fortælle dig, at der er en forhindring, så du trykker på bremsen og undgår en ulykke, men i andre tilfælde ville den ukorrekt fortælle dig, at der eksisterer en hindring, når der ikke var nogen, så du rammer pauserne uden grund, " sagde Reid.

Testen gjorde det muligt for forskerne at identificere psykofysiologiske træk, der er korreleret til menneskelig tillid til intelligente systemer, og at bygge en tillidssensormodel i overensstemmelse hermed. "Vi antog, at tillidsniveauet ville være højt i pålidelige forsøg og lavt i fejlbehæftede forsøg, og vi validerede denne hypotese ved hjælp af svar indsamlet fra 581 online deltagere, " hun sagde.

Resultaterne validerede, at metoden effektivt inducerede tillid og mistillid til den intelligente maskine.

"For at vurdere tillid i realtid, vi kræver evnen til løbende at udtrække og evaluere vigtige psykofysiologiske målinger, " sagde Jain. "Dette arbejde repræsenterer den første brug af realtids psykofysiologiske målinger til udvikling af en menneskelig tillidssensor."

EEG-headsettet optager signaler over ni kanaler, hver kanal opfanger forskellige dele af hjernen.

"Alles hjernebølger er forskellige, så du skal sikre dig, at du bygger en klassificering, der fungerer for alle mennesker."

For autonome systemer, menneskelig tillid kan klassificeres i tre kategorier:dispositionel, situationsbestemt, og lærte.

Dispositionel tillid refererer til den komponent af tillid, der er afhængig af demografi som køn og kultur, som bærer potentielle skævheder.

"Vi ved, at der sandsynligvis er nuanceforskelle, der bør tages i betragtning, " sagde Reid. "Kvinder stoler anderledes end mænd, for eksempel, og tillid kan også blive påvirket af forskelle i alder og nationalitet."

Situationsbestemt tillid kan være påvirket af en opgaves risiko- eller sværhedsgrad, mens lært er baseret på menneskets tidligere erfaringer med autonome systemer.

De modeller, de udviklede, kaldes klassifikationsalgoritmer.

"Ideen er at være i stand til at bruge disse modeller til at klassificere, hvornår nogen sandsynligvis føler tillid versus sandsynligt føler mistillid, " hun sagde.

Jain og Reid har også undersøgt dispositionel tillid for at tage højde for køns- og kulturelle forskelle, samt dynamiske modeller i stand til at forudsige, hvordan tillid vil ændre sig i fremtiden baseret på dataene.