Det er virkelig svært for computere at lære sund fornuft

Forestil dig, at du har venner til frokost og planlægger at bestille en pepperoni pizza. Du husker, at Amy nævnte, at Susie var holdt op med at spise kød. Prøv at ringe til Susie men når hun ikke tager fat, du beslutter dig for at spille det sikkert og bare bestille en margherita -pizza i stedet.

Folk tager for givet evnen til at håndtere situationer som disse regelmæssigt. I virkeligheden, ved at udføre disse bedrifter, mennesker er ikke afhængige af én, men et kraftfuldt sæt af universelle evner kendt som sund fornuft.

Som forsker i kunstig intelligens, mit arbejde er en del af en bred indsats for at give computere et udseende af sund fornuft. Det er en ekstremt udfordrende indsats.

Hurtig - Definer sund fornuft

På trods af at de er både universelle og afgørende for, hvordan mennesker forstår verden omkring dem og lærer, sund fornuft har trodset en enkelt præcis definition. G. K. Chesterton, en engelsk filosof og teolog, berømt skrev ved begyndelsen af ​​det 20. århundrede, at "sund fornuft er en vild ting, brutal, og ud over reglerne. "Moderne definitioner i dag er enige om, at, som minimum, det er naturligt, frem for formelt undervist, menneskelig evne, der giver folk mulighed for at navigere i dagligdagen.

Sund fornuft er usædvanligt bred og omfatter ikke kun sociale evner, som at styre forventninger og ræsonnere om andres følelser, men også en naiv sans for fysik, såsom at vide, at en tung sten ikke sikkert kan placeres på et spinkelt plastbord. Naiv, fordi folk ved sådanne ting på trods af ikke bevidst at arbejde igennem fysiske ligninger.

Sund fornuft omfatter også baggrundsviden om abstrakte forestillinger, såsom tid, rum og begivenheder. Denne viden giver folk mulighed for at planlægge, estimere og organisere uden at skulle være for præcis.

Almindelig fornuft er svært at beregne

Spændende nok, sund fornuft har været en vigtig udfordring ved grænsen til AI siden feltets tidligste dage i 1950'erne. På trods af enorme fremskridt inden for AI, især inden for spil og computersyn, maskine sund fornuft med rigdom af menneskelig sund fornuft er stadig en fjern mulighed. Det kan være derfor AI -indsats designet til komplekse, virkelige problemer med mange sammenflettede dele, såsom diagnosticering og anbefaling af behandlinger til COVID-19-patienter, nogle gange falder fladt.

Moderne AI er designet til at tackle meget specifikke problemer, i modsætning til sund fornuft, som er vag og ikke kan defineres ved et regelsæt. Selv de nyeste modeller laver til tider absurde fejl, tyder på, at der mangler noget fundamentalt i AI's verdensmodel. For eksempel, givet følgende tekst:

"Du hældte dig selv et glas tranebær, men så fraværende, du hældte cirka en teskefuld druesaft i den. Det ser OK ud. Prøv at snuse det, men du har en forkølelse så du kan ikke lugte noget. Du er meget tørstig. Så dig"

den meget roste AI-tekstgenerator GPT-3 leveret

"drik det. Du er nu død."

Nylige ambitiøse bestræbelser har anerkendt maskinens sunde fornuft som et moonshot AI -problem i vores tid, en der kræver samordnet samarbejde på tværs af institutioner over mange år. Et bemærkelsesværdigt eksempel er det fireårige Machine Common Sense-program, der blev lanceret i 2019 af U.S. Defence Advanced Research Projects Agency for at fremskynde forskningen på området, efter at agenturet offentliggjorde et papir, der beskriver problemet og forskningens tilstand på området.

Machine Common Sense -programmet finansierer mange aktuelle forskningsindsatser i maskine sund fornuft, herunder vores egen, Multimodal Open World Grounded Learning and Inference (MOWGLI). MOWGLI er et samarbejde mellem vores forskningsgruppe ved University of Southern California og AI -forskere fra Massachusetts Institute of Technology, University of California at Irvine, Stanford University og Rensselaer Polytechnic Institute. Projektet sigter mod at opbygge et edb -system, der kan besvare en lang række almindelige spørgsmål.

Transformatorer til redning?

En grund til at være optimistisk om endelig at knække maskine sund fornuft er den nylige udvikling af en type avanceret deep learning AI kaldet transformere. Transformatorer er i stand til at modellere naturligt sprog på en kraftfuld måde og, med nogle justeringer, er i stand til at besvare simple almindelige spørgsmål. Commonsense-besvarelse af spørgsmål er et vigtigt første skridt til at bygge chatbots, der kan tale på en menneskelig måde.

I de sidste par år, der er blevet offentliggjort en omfattende forskning om transformatorer, med direkte ansøgninger til almindelig begrundelse. Denne hurtige fremgang som et fællesskab har tvunget forskere på området til at stå over for to relaterede spørgsmål på kanten af ​​videnskab og filosofi:Hvad er sund fornuft? Og hvordan kan vi være sikre på, at en AI har sund fornuft eller ej?

For at besvare det første spørgsmål, forskere opdeler sund fornuft i forskellige kategorier, herunder almindelig sociologi, psykologi og baggrundsviden. Forfatterne til en nylig bog hævder, at forskere kan gå meget længere ved at opdele disse kategorier i 48 finkornede områder, såsom planlægning, trusselregistrering og følelser.

Imidlertid, det er ikke altid klart, hvor rent disse områder kan adskilles. I vores seneste papir, eksperimenter antydede, at et klart svar på det første spørgsmål kan være problematisk. Selv kyndige menneskelige annotatorer - mennesker, der analyserer tekst og kategoriserer dens komponenter - i vores gruppe var uenige om, hvilke aspekter af sund fornuft, der gjaldt for en bestemt sætning. Annotatorerne var enige om relativt konkrete kategorier som tid og rum, men var uenige om mere abstrakte begreber.

Anerkendelse af AI Common Sense

Selvom du accepterer, at en vis overlapning og tvetydighed i teorier om sund fornuft er uundgåelig, kan forskere nogensinde virkelig være sikre på, at en AI har sund fornuft? Vi stiller ofte maskiner spørgsmål for at evaluere deres sunde fornuft, men mennesker navigerer i dagligdagen på langt mere interessante måder. Folk anvender en række færdigheder, finpudset af evolution, herunder evnen til at genkende grundlæggende årsag og virkning, kreativ problemløsning, skøn, planlægning og væsentlige sociale færdigheder, såsom samtale og forhandling. Så lang og ufuldstændig som denne liste kan være, en AI bør opnå ikke mindre, før dens skabere kan erklære sejr inden for maskinoverensstemmelsesforskning.

Det er allerede ved at blive smerteligt klart, at selv forskning i transformatorer giver faldende afkast. Transformatorer bliver større og mere strømsultne. En nylig transformer udviklet af den kinesiske søgemaskinegigant Baidu har flere milliarder parametre. Det kræver en enorm mængde data for effektivt at træne. Endnu, det har hidtil vist sig ude af stand til at fatte nuancerne i menneskelig sund fornuft.

Selv pionerer med dyb læring synes at tro, at der kan være brug for ny grundforskning, før nutidens neurale netværk er i stand til at gøre et sådant spring. Afhængigt af hvor vellykket denne nye forskningslinje er, der er ingen oplysning om, hvorvidt maskinens sunde fornuft er fem år væk, eller 50.

Mayank Kejriwal er forskningsassistent professor i industri- og systemteknik ved University of Southern California.

Denne artikel er genudgivet fra Samtalen under en Creative Commons -licens. Du kan finde original artikel her.