Grafisk fremstilling af et tværstangsarray, hvor forskellige hukommelsesenheder tjener i forskellige roller. Kredit:IBM
Ideelt set, næste generations AI-teknologier bør forstå alle vores anmodninger og kommandoer, udtrække dem fra en enorm baggrund af irrelevant information, for hurtigt at give relevante svar og løsninger på vores daglige behov. Gør disse "smarte" AI -teknologier gennemgående - i vores smartphones, vores hjem, og vores biler-vil kræve energieffektiv AI-hardware, som vi i IBM Research planlægger at bygge op omkring nye og yderst dygtige analoge hukommelsesenheder.
I en nylig artikel offentliggjort i Journal of Applied Physics , vores IBM Research AI-team etablerede et detaljeret sæt retningslinjer, som nye nano-skalerede analoge hukommelsesenheder skal opfylde for at muliggøre sådanne energieffektive AI-hardware-acceleratorer.
Vi havde tidligere vist, i en Natur papir udgivet i juni 2018, at uddannelse af et neuralt netværk ved hjælp af meget parallel beregning inden for tætte arrays af hukommelsesenheder, såsom faseændringshukommelse, er hurtigere og bruger mindre strøm end ved brug af en grafikprocessorenhed (GPU).
Fordelen ved vores tilgang kommer fra implementering af hver neurale netværksvægt med flere enheder, hver tjener i en anden rolle. Nogle enheder har hovedsageligt til opgave at huske langsigtede oplysninger. Andre enheder opdateres meget hurtigt, ændrer sig som træningsbilleder (såsom billeder af træer, katte, skibe, osv.) vises, og derefter lejlighedsvis overføre deres læring til de langsigtede informationsenheder. Selvom vi introducerede dette koncept i vores Nature -papir ved hjælp af eksisterende enheder (faseændringshukommelse og konventionelle kondensatorer), vi følte, at der skulle være en mulighed for nye hukommelsesenheder til at yde endnu bedre, hvis vi bare kunne identificere kravene til disse enheder.
I vores opfølgende papir, netop udgivet i Journal of Applied Physics , vi var i stand til at kvantificere de enhedsegenskaber, som disse "langsigtede oplysninger" og "hurtige opdateringer" -enheder skulle vise. Fordi vores ordning deler opgaver på tværs af de to kategorier af enheder, disse enhedskrav er langt mindre strenge - og dermed meget mere opnåelige - end før. Vores arbejde giver en klar vej for materialeforskere til at udvikle nye enheder til energieffektive AI-hardware-acceleratorer baseret på analog hukommelse.
Denne historie er genudgivet med tilladelse fra IBM Research. Læs den originale historie her.