Efter Uber, Tesla hændelser, kan man stole på kunstig intelligens?

Givet valget mellem at køre i en Uber drevet af et menneske eller en selvkørende version, hvilken ville du vælge?

I betragtning af sidste måneds dødsulykke af en selvkørende Uber, der tog livet af en kvinde i Tempe, Arizona, og den nylige død af en testfører af et semi-autonomt køretøj, der udvikles af Tesla, Folks tillid til teknologien bag selvkørende køretøjer kan også have ramt. Pålideligheden af ​​selvkørende biler og andre former for kunstig intelligens er en af ​​flere faktorer, der påvirker menneskers tillid til AI, maskinlæring og andre teknologiske fremskridt, skriver to forskere fra Missouri University of Science and Technology i en nylig tidsskriftsartikel.

"Tillid er hjørnestenen i menneskehedens forhold til kunstig intelligens, " skriver Dr. Keng Siau, professor og formand for forretnings- og informationsteknologi ved Missouri S&T, og Weiyu Wang, en Missouri S&T kandidatstuderende i informationsvidenskab og teknologi. "Som enhver form for tillid, tillid til kunstig intelligens tager tid at opbygge, sekunder til at gå i stykker og for evigt at reparere, når den er gået i stykker."

Uber- og Tesla-hændelserne peger på behovet for at genoverveje den måde, AI-applikationer såsom autonome køresystemer udvikles på, og for designere og producenter af disse systemer til at tage visse skridt for at opbygge større tillid til deres produkter, siger Siau.

På trods af disse nylige hændelser, Siau ser en stærk fremtid for kunstig intelligens, men en fyldt med tillidsproblemer, der skal løses.

'En dynamisk proces'

"Opbygning af tillid er en dynamisk proces, involverer bevægelse fra indledende tillid til kontinuerlig tillidsudvikling, " Siau og Wang skriver i "Building Trust in Artificial Intelligence, Maskinelæring, og robotter, " offentliggjort i februar 2018-udgaven af ​​Cutter Business Technology Journal.

I deres artikel, Siau og Wang undersøger de fremherskende begreber om tillid generelt og i sammenhæng med AI-applikationer og menneske-computer-interaktion. De diskuterer de tre typer af egenskaber, der bestemmer tillid på dette område – menneskelige, miljø og teknologi – og skitser måder, hvorpå man kan skabe tillid til AI-applikationer.

Siau og Wang peger på fem områder, der kan hjælpe med at opbygge indledende tillid til kunstige intelligenssystemer:

• Repræsentation. Jo mere "menneskelig" en teknologi er, jo mere sandsynligt er det, at mennesker stoler på det. "Det er derfor, humanoide robotter er så populære, " Siau siger, tilføjer, at det er lettere at "etablere en følelsesmæssig forbindelse" med en robot, der ligner og opfører sig mere som et menneske eller en robothund, der opfører sig mere som en hund. Måske burde førstegenerations autonome køretøjer have en humanoid "chauffør" bag rattet for at hjælpe med at lette bekymringerne.
• Billede eller opfattelse. Science fiction bøger og film har givet AI et dårligt image, siger Siau. Folk har en tendens til at tænke på AI i dystopiske termer, som farvet af Terminator- eller Bladerunner-film eller Isaac Asimov og Philip K. Dick-romaner. "Dette billede og opfattelsen vil påvirke folks oprindelige tillid til AI, Siau og Wang skriver.
• Anmeldelser fra andre brugere. Folk har en tendens til at stole på online produktanmeldelser, og "en positiv anmeldelse fører til større indledende tillid."
• Gennemsigtighed og "forklarlighed". Når en teknologis indre funktioner er skjult i en "sort boks, " at uigennemsigtighed kan hindre tillid. "At stole på AI-applikationer, vi skal forstå, hvordan de er programmeret, og hvilken funktion der skal udføres under visse forhold, " siger Siau.
• Prøvedygtighed. Evnen til at teste en ny AI-applikation, før du bliver bedt om at tilpasse den, fører til større accept, siger Siau.

Sådan bevares tilliden til AI

Ud over at udvikle indledende tillid, imidlertid, skabere af kunstig intelligens skal også arbejde for at bevare denne tillid. Siau og Wang foreslår syv måder at "udvikle kontinuerlig tillid" ud over de indledende faser af produktudviklingen:

• Brugervenlighed og pålidelighed. AI "bør være designet til at fungere nemt og intuitivt, Siau og Wang skriver. "Der bør ikke være nogen uventet nedetid eller nedbrud."
• Samarbejde og kommunikation. AI-udviklere ønsker at skabe systemer, der fungerer autonomt, uden menneskelig involvering. Udviklere skal fokusere på at skabe AI-applikationer, der gnidningsløst og nemt samarbejder og kommunikerer med mennesker.
• Omgængelighed og binding. At bygge sociale aktiviteter ind i AI-applikationer er en måde at styrke tilliden på. En robothund, der kan genkende sin ejer og vise hengivenhed er et eksempel, Siau og Wang skriver.
• Sikkerhed og beskyttelse af privatlivets fred. AI-applikationer er afhængige af store datasæt, så sikring af privatliv og sikkerhed vil være afgørende for at etablere tillid til applikationerne.
• Fortolkningsmulighed. Ligesom gennemsigtighed er medvirkende til at opbygge indledende tillid, fortolkning – eller en maskines evne til at forklare sine konklusioner eller handlinger – vil hjælpe med at opretholde tillid.
• Jobformidling. I takt med at bekymringerne for, at kunstig intelligens erstatter mennesker på jobbet, fortsætter med at vokse, Der skal indføres politikker for at give omskoling og uddannelse til dem, der er berørt af denne tendens.
• Målkongruens. "Da kunstig intelligens har potentialet til at demonstrere og endda overgå menneskelig intelligens, det er forståeligt, at folk behandler det som en trussel, Siau og Wang skriver. "At sikre, at AI's mål er i overensstemmelse med menneskelige mål, er en forløber for opretholdelse af kontinuerlig tillid." Politikker til at styre, hvordan AI skal bruges, vil være vigtigt, efterhånden som teknologien udvikler sig, tilføjer forfatterne.

"AI-alderen vil være foruroligende, transformerende og revolutionerende, " skriver Siau i en anden nylig artikel ("Hvordan vil teknologi forme læring?" udgivet i marts 2018-udgaven af Global analytiker ). Men i dette foruroligende miljø, videregående uddannelser kan spille en væsentlig rolle.

"Videregående uddannelser skal tage udfordringen op for at forberede eleverne til AI-revolutionen og gøre det muligt for eleverne at surfe med succes i AI-alderen, " skriver Siau.