Spintronic hukommelsesceller til neurale netværk

I de seneste år, forskere har foreslået en lang række hardwareimplementeringer til feed-forward kunstige neurale netværk. Disse implementeringer omfatter tre nøglekomponenter:en dot-product-motor, der kan beregne foldning og fuldt tilsluttede lagoperationer, hukommelseselementer til lagring af mellemliggende og mellemliggende resultater, og andre komponenter, der kan beregne ikke-lineære aktiveringsfunktioner.

Dot-produkt motorer, som i det væsentlige er højeffektive acceleratorer, er hidtil blevet succesfuldt implementeret i hardware på mange forskellige måder. I en undersøgelse, der blev offentliggjort sidste år, forskere ved University of Notre Dame i Indiana brugte dot-product-kredsløb til at designe en cellulær neuralt netværk (CeNN) -baseret accelerator til konvolutionsneurale netværk (CNN'er).

Det samme hold, i samarbejde med andre forskere ved University of Minnesota, har nu udviklet en CeNN -celle baseret på spintronic (dvs. spin elektroniske) elementer med høj energieffektivitet. Denne celle, præsenteret i et papir, der på forhånd er offentliggjort på arXiv, kan bruges som en neural computerenhed.

Cellerne foreslået af forskerne, kaldet Inverse Rashba-Edelstein Magnetoelektriske Neuroner (IRMEN'er), ligner standardceller i cellulære neurale netværk, idet de er baseret omkring en kondensator, men i IRMEN -celler, kondensatoren repræsenterer en inputmekanisme frem for en sand tilstand. For at sikre, at CeNN -cellerne er i stand til at opretholde de komplekse operationer, der typisk udføres af CNN'er, forskerne foreslog også brug af et dual-circuit neuralt netværk.

Teamet udførte en række simuleringer ved hjælp af HSPICE og Matlab for at afgøre, om deres spintroniske hukommelsesceller kunne forbedre ydeevnen, hastighed og energieffektivitet af et neuralt netværk i en billedklassificeringsopgave. I disse tests, IRMEN-celler klarede sig bedre end rent ladningsbaserede implementeringer af det samme neurale netværk, forbruger ≈ 100 pJ i alt pr. behandlet billede.

"Disse cellers ydeevne simuleres i en CeNN-accelereret CNN-udførende billedklassificering, "forskerne skrev i deres papir." De spintronic-celler reducerer energi- og tidsforbruget betydeligt i forhold til deres ladningsbaserede modparter, behøver kun ≈ 100 pJ og ≈ 42 ns til at beregne alt undtagen det sidste fuldt tilsluttede CNN-lag, samtidig med at den opretholder en høj nøjagtighed. "

I det væsentlige, sammenlignet med tidligere foreslåede fremgangsmåder, IRMEN -celler kan spare en betydelig mængde energi og tid. For eksempel, en rent ladningsbaseret version af den samme CeNN, som forskerne brugte, kræver over 12 nJ til at beregne al konvolvering, pooling og aktivering faser, mens IRMEN CeNN har brug for mindre end 0,14.

"Med den stigende betydning af neuromorfe computere og ud over CMOS-beregning, søgningen efter nye enheder til at udfylde disse roller er afgørende, "konkluderede forskerne i deres papir." Vi har foreslået et nyt magnoelektrisk analogt hukommelseselement med en indbygget overførselsfunktion, der også gør det muligt at fungere som cellen i et CeNN. "

Resultaterne indsamlet af dette team af forskere antyder, at anvendelse af spintronics i neurmorfe computere kan have bemærkelsesværdige fordele. I fremtiden, de IRMEN -hukommelsesceller, der foreslås i deres papir, kan bidrage til at forbedre ydeevnen, hastighed og energieffektivitet af konvolutions neurale netværk i en række forskellige klassificeringsopgaver.

© 2019 Science X Network