Design af AI, der bedre forstår menneskers mål

Når forskere designer maskinlæringssystemer, deres mål er typisk at automatisere visse funktioner. I stedet for at være fuldstændig selvstændig, imidlertid, de fleste af disse systemer arbejder sammen med mennesker. For virkelig at være hjælpsom, de skal forstå, hvilke mål folk har.

Forskere ved det finske center for kunstig intelligens (FCAI) har nu taget vigtige skridt i retning af at designe AI, der forstår mennesker.

I første omgang, forskerne lærte AI at bygge en model af dens bruger – menneske eller maskine. Derefter, de lærte det at tilpasse denne model ved at følge brugerens handlinger. I praksis, forskerne udviklede maskinlæringsmetoder, der kombinerer statistik med beregning, og testede derefter metoderne i praksis og i simuleringer. De testede algoritmerne i simple situationer for at sikre, at de forstår, hvad der præcist sker i disse situationer og rapporterer om begivenhederne præcist.

I det første forsøg, de designede en AI -lærer til læring af AI.

"Dette var svært, især fordi den lærende AI kunne bestemme, hvad den ville lære, "forklarer Samuel Kaski, direktør for FCAI og professor ved Aalto University. Forskerne bemærkede, at AI -eleven opnåede bedre læringsresultater, da læreren forstod, hvilken information eleven allerede havde lært og tilpassede dets undervisningsmateriale, så det passede til netop denne elev.

I det andet forsøg, menneskelige brugere blev bedt om at finde et bestemt målord ved at bruge en AI-baseret ord-søgemaskine. Motoren præsenterer brugeren et ord ad gangen, og brugeren fortæller derefter, om det præsenterede ord er nyttigt til at finde målordet. Hvis brugeren leder efter ordet "fodbold, " for eksempel, de vil sandsynligvis sige, at det først præsenterede sportsrelaterede ord er nyttigt, hvis alle de foregående ord har været relateret til mad.

Resultaterne af dette eksperiment viste, at AI kunne hjælpe brugerne med at finde målordene hurtigere, hvis det forstod, at ved at reagere på de præsenterede ord på en bestemt måde, brugeren ønsker at rette AI mod de rigtige ord. Med andre ord, AI tog højde for det faktum, at brugeren forsøger at lære det.

Ifølge professor Kaski, dette emne er vigtigt, da interaktionen mellem bruger og AI bliver meget lettere, når AI forstår sin brugers mål. "Så behøver den menneskelige bruger ikke længere at forklare i detaljer, hvad de forventer af AI-hjælperen."

Et af hovedmålene for FCAI er at udvikle kunstig intelligens, der forstår mennesker og er forståelig. "Indtil nu, vi kan bygge AI-systemer, der kun forstår brugernes mål i meget simple situationer, hvilket betyder, at design af virkelig hjælpsomme AI-assistenter kræver en masse ekstra arbejde, "Siger Kaski.