Kunstig intelligens bliver så smart,

Hvis du vil sortere gennem et stort antal digitale billeder, eller klassificere åndssvage mængder af skriftlig information efter emne, du er bedst afhængig af kunstig intelligens (AI) systemer kaldet neurale netværk, som leder efter mønstre i data og træner sig til at lave forudsigelser baseret på deres observationer.

Men når det kommer til områder med stor indsats, såsom medicinsk information, hvor omkostningerne ved at begå en fejl eller en forkert forudsigelse potentielt er livstruende, vi mennesker er nogle gange tilbageholdende med at stole på de svar, programmerne kommer med. Det er fordi neurale net bruger maskinlæring, hvor de træner sig selv i at finde ud af tingene, og vores lune kødhjerner kan ikke se processen.

Mens maskinindlæringsmetoder "er fleksible og typisk resulterer i nøjagtige forudsigelser, de afslører lidt i menneskeligt forståeligt udtryk om, hvorfor en bestemt forudsigelse laves, "siger Tommi Jaakkola, professor i elektroteknik og datalogi ved Massachusetts Institute of Technology, via e-mail.

Hvis du er en kræftpatient, der forsøger at vælge behandlingsmuligheder baseret på forudsigelser om, hvordan din sygdom kan udvikle sig, eller en investor, der forsøger at finde ud af, hvad de skal gøre med din pensionsopsparing, at stole blindt på en maskine kan være lidt skræmmende - især da vi har lært maskinerne at træffe beslutninger, men vi har ikke en god måde at observere nøjagtigt hvordan de laver dem.

Men frygt ikke. I en ny videnskabelig artikel, Jaakkola og andre forskere ved Massachusetts Institute of Technology har udviklet en metode til at kontrollere de svar, neurale net kommer med. Tænk på det som maskinlæringsækvivalent til at skrive dine matematiske problemer op på en tavle for at vise dit arbejde.

Som en MIT pressemeddelelse detaljer, AI neurale netværk efterligner faktisk strukturen i den menneskelige hjerne. De består af en masse behandlingsknudepunkter, der, ligesom vores neuroner, gå sammen og kombinere deres beregningskraft til at tackle problemer. I processen, de engagerer sig i, hvad forskere kalder "dyb læring, "videregivelse af træningsdata fra node til node, og derefter korrelere det med hvilken som helst type klassifikation, neurale net forsøger at lære at gøre. Resultaterne ændres løbende for at forbedre, næsten på samme måde som mennesker lærer gennem forsøg og fejl over tid.

Det store problem er, at selv computere, der programmerer netværkene, ikke rigtig kan se, hvad der foregår med knudepunkterne, hvilket har gjort det svært at finde ud af, hvordan computere rent faktisk træffer deres beslutninger.

"Vi forsøger ikke at forklare det interne arbejde i en kompleks model, "Jaakkola forklarer." I stedet for vi tvinger modellen til at fungere på en måde, der gør det muligt for et menneske let at kontrollere, om forudsigelsen blev foretaget på det rigtige grundlag. "

"Vores metode lærer at generere en begrundelse for hver forudsigelse. En begrundelse er et kortfattet stykke tekst, let for et menneske at kontrollere, det alene er tilstrækkeligt til at komme med den samme forudsigelse. For at opnå dette, vi opdelte den overordnede modelarkitektur i to adskillelige komponenter - generator og encoder. Generatoren vælger en begrundelse - f.eks. Et stykke tekst - og sender det videre til indkoderen for at lave en forudsigelse. Kombinationen læres at arbejde sammen som en forudsigelse. "

"Dermed, selvom vores generator og encoder selv er komplekse metoder til dyb læring, den kombinerede model er tvunget til at lave sin forudsigelse på en måde, der er direkte verificerbar, da forudsigelsen er baseret på den valgte begrundelse, ”skriver Jaakkola.

I deres papir, forskerne havde det sjovt ved at bruge deres system til at klassificere anmeldelser fra et øl -aficionado -websted, baseret på bryggernes egenskaber såsom aroma, ganen og udseendet. "Datagrundlaget for ølgennemgang havde allerede kommenterede sætninger vedrørende specifikke aspekter af produkterne, så vi direkte kunne sammenligne automatisk genererede rationaler med menneskelige valg, "siger Jaakkola. I forsøget, de fandt ud af, at det neurale net var enig med menneskelige kommentarer mellem 80 og 96 procent af tiden, afhængigt af hvor specifik karakteristikken var.

En af de klassiske måder at demonstrere mulighederne i et AI-neuralt netværk er at bruge det til at løse den såkaldte rejsende sælgers problem, og finde ud af den korteste rute mellem flere byer.