Chip øger kunstig intelligens-systemers ydeevne

Princeton forskere, i samarbejde med Analog Devices Inc., har fremstillet en chip, der markant øger ydeevnen og effektiviteten af ​​neurale netværk - computeralgoritmer baseret på den menneskelige hjernes virkemåde.

I en række tests, Princeton-chippen klarede sig ti til hundredvis af gange bedre end andre avancerede, neurale netværkschips.

Forskerne mener, at med videreudvikling, chippen kan hjælpe med at fremme billedgenkendelse og adskillige andre neurale netværksapplikationer, herunder kunstige intelligenssystemer i autonome køretøjer og robotter.

"Denne form for forbedret ydeevne kunne lade mobile enheder udføre intensive opgaver, som at genkende deres ejers ansigt, uden at tage for meget tid eller tære på enhedens batterilevetid, " sagde avisens hovedforfatter Hossein Valavi, en kandidatstuderende i laboratoriet af medforfatter Naveen Verma, en associeret professor i elektroteknik hos Princeton.

Andre forfattere af undersøgelsen, som udgivet i IEEE-symposium om VLSI-kredsløb , i juni, er Peter Ramadge, Gordon Y.S. Wu professor i ingeniørvidenskab og direktør for Center for Statistik og Maskinlæring, og Eric Nestler fra Analog Devices Inc. et Massachusetts-baseret halvlederfirma.

Kunstige neurale netværk er komplekser af indbyrdes forbundne enheder - beslægtet med neuroner i den menneskelige hjerne - som kan trænes til at træffe værdifulde beslutninger ud fra data givet i mange forskellige, muligvis naturligt forekommende, men strukturelt komplekse former. En nøglekomponent i neurale netværkssystemer er acceleratorchips, som øger den beregningsmæssige ydeevne, at muliggøre store og kraftfulde neurale netværk. Men selve acceleratorchipsene kan lide af flaskehals på grund af de tunge datastrømme, der løber gennem deres komponenter.

Forskerne tog en ny tilgang til at eliminere meget af denne snerrende trafik. Acceleratorchippen, de fremstillede, fungerer med teknikken, kaldet in-memory computing, hvilket væsentligt reducerer energien og tiden brugt til at hente information ved at udføre beregninger på data på det sted, hvor de er lagret, i stedet for at flytte det til et andet sted.

Teknikken kan også gøre chips modtagelige for signal-til-støj-problemer, fordi det propper masser af information ind i signaler. Resultatet er øget effektivitet – men det betyder også, at den behandlede information kan blive ødelagt af alle mulige praktiske fejlkilder såsom udsving i spændinger og strømme.

"Beregningssignal-til-støj-forhold har været den største barriere for at opnå alle de fordele, in-memory computing kan tilbyde, " sagde Valavi.

Forskerne adresserede dette ydeevneproblem ved at vælge en type computer, der bruger kondensatorer, snarere end transistorer, at udføre beregning. Kondensatorer, som er enheder, der lagrer elektrisk ladning, tilbyde flere fordele. De kan fremstilles med en ekstrem høj grad af præcision i moderne mikrochipteknologier, hvilket er vigtigt i kredsløbsdesign, og de påvirkes ikke synderligt af ændringer i spænding eller temperatur. Kondensatorer fylder også relativt lidt - Princetons in-memory computerchip placerer dem oven på hukommelsescellerne, så de ikke optager plads ud over cellerne. Dette reducerer chippens omkostninger til datakommunikation yderligere ved at placere kondensatorer inde i hukommelseskomponenter. Denne opsætning slanker det område, de elektriske signaler, der overfører data, skal krydse, derved levere høje behandlingshastigheder og lavere energi.

"Vi ender med meget præcise kredsløb, og disse kondensatorer optager ikke noget ekstra areal på chippen, sagde Verma.

Princeton-teamet gennemgik deres system i flere standard benchmark-tests. Disse omfattede identifikationsnumre, som var skrevet af menneskehænder, en opgave kompliceret af vores enorme udvalg af håndskriftsstile, fra punktlig til børnehave-sjusket. En lignende opgave involverede parsing af street-view-husnumre, som ligeledes varierer vildt i form, form, billedets klarhed, orientering, og så videre. I en tredje test, det chipforstærkede neurale netværk genkendte hverdagsgenstande såsom katte, hunde, fugle, biler, flyvemaskiner, skibe, og så videre.

Forskerne testede deres design mod andre tilgængelige aktuelt. I en, de målte antallet af beregningsoperationer, chippen kunne udføre på et sekund. I det virkelige liv, denne form for gennemløbsevaluering svarer til, hvor længe nogen skal vente før et stykke hardware, såsom en mobiltelefon, spytter et endeligt svar ud. Princeton-chippen udførte 9,4 billioner binære operationer i sekundet.

Testresultaterne er opmuntrende, men forskerne sagde, at chippen vil have brug for yderligere arbejde, før den kan inkorporeres i elektroniske enheder. Dens arkitektur skal gøres programmerbar og kompatibel med andre dele af hardware, herunder centrale behandlingsenheder, computeres kontrolcentre. Efter det, softwareinfrastrukturen skal bygges ud, så designere af kunstig intelligens kan skabe nye apps, der udnytter chippens potentielt banebrydende ydeevne.

Naresh Shanbhag, en professor i elektro- og computerteknik ved University of Illinois Urbana-Champaign, som ikke var involveret i Princeton-undersøgelsen, mener, at dette potentiale i høj grad kan realiseres. "De tekniske udfordringer [chippen] står over for i et kommercielt miljø er i høj grad overkommelige via standard engineering best practices, " sagde Shanbhag.

Shanbhag kommenterede yderligere chippens applikationer. "Dette arbejde åbner op for nye applikationsdomæner til kunstige intelligenssystemer, " han sagde, specificering af "energi- og latenstidsbegrænsede computerplatforme, såsom autonome køretøjer og robotter, samt forskellige sensorrige Internet-of-Things-enheder."

Forskerne ser frem til at tage computerchippen i hukommelsen til et højere niveau af teknologisk beredskab.

"Det næste skridt er at tage denne meget høje effektivitet og høje beregningsmæssige gennemløb og gøre den tilgængelig for en bred vifte af applikationer, " sagde Verma. "Chippens største ulempe er, at den bruger en meget forstyrrende arkitektur. Det skal forenes med den enorme mængde af infrastruktur og designmetodologi, vi har og bruger i dag, i praksis."