Maskinadfærd:Et studieområde til at udforske intelligente maskiner som uafhængige agenter

I 1969, Kunstig intelligens-pioner og nobelpristager Herbert Simon foreslog en ny videnskab, en, der nærmede sig studiet af kunstige genstande, ligesom man ville studere naturlige genstande.

"Naturvidenskab er viden om naturlige objekter og fænomener, "Skrev Simon. "Vi spørger, om der ikke også kan være 'kunstig' videnskab – viden om kunstige genstande og fænomener."

Nu, 50 år senere, et team af forskere fra Harvard, MIT, Stanford, University of California, San Diego, Google, Facebook, Microsoft, og andre institutioner fornyer denne opfordring. I en nylig afhandling offentliggjort i tidsskriftet Natur , forskerne foreslog en ny, tværfagligt felt - maskinadfærd - der ville studere kunstig intelligens gennem biologiens linse, økonomi, psykologi, og andre adfærds- og samfundsvidenskaber.

Intelligente maskiner, forskerne hævder, kan ikke længere kun ses som produkter af ingeniør- og datalogi; hellere, de skal ses som en ny klasse af skuespillere med deres egen adfærd og økologi.

Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS) talte med David Parkes, George F. Colony professor i datalogi og medforfatter til papiret, om dette nye felt, og hvad fremtiden har i vente for intelligente maskiner.

Spørgsmål og svar:David Parkes

SEAS:Så længe, studiet af kunstig intelligens og intelligente maskiner har været begrænset til computervidenskabens område, og forskerne, der byggede maskinerne, var de samme, som studerede deres adfærd. Hvorfor er det vigtigt at udvide studiet til at omfatte nye områder, herunder adfærds- og samfundsvidenskab?

PARKER:Først en adskillelse mellem designere og bygherrer af intelligente maskiner og dem, der studerer, hvordan de bruges (eller ej), kan bringe et uafhængigt synspunkt i udvikling og afprøvning af de rigtige sæt af hypoteser om disse teknologiers ydeevne. Der er også pragmatiske grunde, ved at studiet af intelligente maskiner bliver en adfærdsvidenskab, kræver helt forskellige former for ekspertise. Et andet punkt er, at systemer udviklet i de snævre rammer af et laboratorium kan opføre sig meget anderledes "i naturen, "når adfærd bliver et produkt af den måde, de bruges på, herunder de mange måder, der er forskellige fra, hvad deres designere havde tænkt sig. Microsofts Tay-bot [som begyndte at sende stødende tweets efter trolde "lærte" hendes hadefulde ytringer] er et uheldigt, men ikke så unikt eksempel.

SEAS:Hvordan kan områderne maskinadfærd og datalogi vokse sammen og informere hinanden fremover?

PARKES:Da datalogi er kommet til at have en sådan indflydelse, feltet er kommet til at omfavne, hvad økonomer kan henvise til som "positiv analyse, "det vil sige analyse, der er baseret på empiriske og eksperimentelle undersøgelser af indsat, beregningssystemer - strukturen af ​​World Wide Web, udbredelse af information på sociale netværk, eller måden, hvorpå interaktive vejledningssystemer bruges, for blot at give tre eksempler. Intelligente maskiner er en ny slags artefakt, som vi skal studere og forstå, og vi bliver nødt til at gøre dette på en tværfaglig måde, der inkluderer dataloger, der arbejder sammen med samfundsforskere, humanister, etikere, juridiske lærde, for blot at nævne nogle få. Mere bredt, studiet af maskinadfærd vil blive påvirket af fremskridt inden for datavidenskab, i at arbejde i stor skala med enorme mængder af forskellige slags data, og i at udnytte metoder til probabilistisk maskinlæring og statistik til at pirre årsag og virkning.

SEAS:Dit arbejde fokuserer på krydsfeltet mellem kunstig intelligens og økonomi. Hvilke spørgsmål om maskinadfærd er du mest interesseret i at besvare?

PARKES:Jeg er interesseret i et forskningsprogram, der studerer maskinadfærd inden for den algoritmiske økonomi, inklusive prissætningsalgoritmer, anbefalingsalgoritmer, og omdømmesystemer, såvel som i forbindelse med blockchains. Vi kan allerede se en bane hen imod automatisering af mange af kernebestanddelene i det, der udgør et økonomisk system, og maskinadfærdslinsen er god, fordi adfærd er fremkommet, hvilket betyder, at det ikke kun er baseret på individuelle interaktioner, men også på samfundsmæssige og økonomiske kræfter. Jeg tror, ​​at anbefalingssystemer som dem, der anvendes af Amazon, er særligt interessante og vigtige at studere, fordi det er her, vi vil se vanskelige spørgsmål opstå omkring adfærdsøkonomi, algoritmisk markedsføring, og etik … F.eks. er det okay for en intelligent anbefaling at udnytte "valgsæt-effekter" til at øge omsætningen?

SEAS:Hvad er valgsæt-effekter?

PARKES:Jeg viser dig en billig, moderate omkostninger, og dyr kaffemaskine, og du vælger den moderat prissatte. Men, hvis jeg viser dig en moderat, dyrt, og uber-luksus maskine, vælger du …?

SEAS:Dyr en. Du opdragede private virksomheder som Amazon og Microsoft. Proprietære og black-box-algoritmer skal udgøre en udfordring for at forstå maskinadfærd. Hvordan kan vi forstå, hvorfor en maskine opfører sig, som den gør, når vi ikke ved, hvad algoritmen er, eller hvordan den træffer beslutninger?

PARKER:Sjovt nok, Algoritmerne behøver ikke i sig selv at være særlig komplicerede. Algoritmerne til træning af et dybt læringssystem, som beskriver en models arkitektur og måden, hvorpå en model vil blive trænet, kan typisk udtrykkes i blot snesevis af kodelinjer (omend kode, der så bygger oven på andre, kode på lavere niveau). Det er de trænede modeller, der er komplekse og noget uransagelige, ofte anset for at være en "sort boks". Men det er ikke håbløst, og der er mange fornuftige forskningsretninger – f.eks. kræver enklere modeller, insistere på en post hoc forklaring af komplekse modellers adfærd, og ved at bruge visualisering og følsomhedsanalyser til at forsøge at forstå, hvordan disse modeller fungerer og teste teorier om adfærd.

SEAS:Kunstig intelligens spiller allerede så stor en rolle i vores liv. Hvad er vigtigheden af ​​at etablere dette nye forskningsfelt nu? Er du bange for, at det bliver startet for sent, når så meget af grundlaget for kunstig intelligens allerede er lagt?

PARKER:Nå, det er aldrig for sent, og vi er kun i begyndelsen af ​​den bølge af forandring, der vil komme fra udviklingen af ​​intelligente maskiner. Der er behov for at komme videre bevidst, med passende mål af nysgerrighed, kreativitet, og ansvar, samtidig med en erkendelse af, at mennesker og maskiner fortsat vil blive bundet sammen på nye og uventede måder. Det, der er vigtigt, er anerkendelsen af ​​behovet for videnskabelig undersøgelse, og denne anmeldelsesartikel samler tråde i denne nye, tværfagligt område for maskinadfærd.

Denne historie er offentliggjort med tilladelse fra Harvard Gazette, Harvard Universitys officielle avis. For yderligere universitetsnyheder, besøg Harvard.edu.