Nanowire hjernenetværk lærer og husker i farten

For første gang har et fysisk neuralt netværk med succes vist sig at lære og huske "i farten", på en måde inspireret af og ligner, hvordan hjernens neuroner fungerer.

Resultatet åbner en vej til udvikling af effektiv og lavenergi maskinintelligens til mere komplekse lærings- og hukommelsesopgaver i den virkelige verden.

Udgivet i dag i Nature Communications , forskningen er et samarbejde mellem forskere ved University of Sydney og University of California i Los Angeles.

Hovedforfatter Ruomin Zhu, en ph.d. studerende fra University of Sydney Nano Institute og School of Physics, sagde:"Resultaterne viser, hvordan hjerneinspirerede lærings- og hukommelsesfunktioner ved hjælp af nanowire-netværk kan udnyttes til at behandle dynamiske, streaming data."

Nanowire-netværk består af bittesmå ledninger, der kun er milliardtedele af en meter i diameter. Ledningerne arrangerer sig selv i mønstre, der minder om børnespillet "Pick Up Sticks", der efterligner neurale netværk, som dem i vores hjerner. Disse netværk kan bruges til at udføre specifikke informationsbehandlingsopgaver.

Hukommelses- og indlæringsopgaver opnås ved hjælp af simple algoritmer, der reagerer på ændringer i elektronisk modstand ved kryds, hvor nanotrådene overlapper hinanden. Denne funktion, der er kendt som "resistiv hukommelsesskift", skabes, når elektriske input støder på ændringer i ledningsevnen, svarende til hvad der sker med synapser i vores hjerne.

I denne undersøgelse brugte forskere netværket til at genkende og huske sekvenser af elektriske impulser, der svarer til billeder, inspireret af den måde, den menneskelige hjerne behandler information på.

Den vejledende forsker professor Zdenka Kuncic sagde, at hukommelsesopgaven svarede til at huske et telefonnummer. Netværket blev også brugt til at udføre en benchmark billedgenkendelsesopgave ved at få adgang til billeder i MNIST-databasen med håndskrevne cifre, en samling af 70.000 små gråtonebilleder, der bruges i maskinlæring.

"Vores tidligere forskning etablerede nanowire-netværks evne til at huske simple opgaver. Dette arbejde har udvidet disse resultater ved at vise, at opgaver kan udføres ved hjælp af dynamiske data, der er tilgået online," sagde hun.

"Dette er et væsentligt skridt fremad, da det er en udfordring at opnå en online læringsevne, når man håndterer store mængder data, som kan ændre sig løbende. En standardtilgang ville være at gemme data i hukommelsen og derefter træne en maskinlæringsmodel ved at bruge den lagrede information. Men dette ville tygge for meget energi op til udbredt anvendelse."

"Vores nye tilgang gør det muligt for nanowire-neuralnetværket at lære og huske 'on the fly," prøve for prøve, udtrække data online, og dermed undgå stort hukommelses- og energiforbrug."

Mr. Zhu sagde, at der var andre fordele ved at behandle information online.

"Hvis dataene streames kontinuerligt, som det for eksempel ville være fra en sensor, ville maskinlæring, der var afhængig af kunstige neurale netværk, skulle have evnen til at tilpasse sig i realtid, hvilket de i øjeblikket ikke er optimeret til." sagde han.

I denne undersøgelse viste nanowire-neuralnetværket en benchmark-maskinlæringskapacitet, der scorede 93,4 procent i korrekt identifikation af testbilleder. Hukommelsesopgaven involverede genkaldelse af sekvenser på op til otte cifre. For begge opgaver blev data streamet ind i netværket for at demonstrere dets kapacitet til online læring og for at vise, hvordan hukommelsen forbedrer denne læring.

Flere oplysninger: Online dynamisk læring og sekvenshukommelse med neuromorfe nanowire-netværk, Nature Communications (2023). DOI:10.1038/s41467-023-42470-5

Journaloplysninger: Nature Communications

Leveret af University of Sydney