Sådan bygger man hjerne-inspirerede neurale netværk baseret på lys

Supercomputere er ekstremt hurtige, men bruger også meget strøm. Neuromorphic computing, som tager vores hjerne som model til at bygge hurtige og energieffektive computere, kan tilbyde et levedygtigt og tiltrængt alternativ. Teknologien har et væld af muligheder, for eksempel inden for autonom kørsel, fortolkning af medicinske billeder, edge AI eller langdistanceoptisk kommunikation. Elektroingeniør Patty Stabile er en pioner, når det kommer til at udforske nye hjerne- og biologi-inspirerede computerparadigmer. "TU/e kombinerer alt, hvad der skal til for at demonstrere mulighederne for foton-baseret neuromorfisk databehandling til AI-applikationer."

Patty Stabile, en lektor i afdelingen for Elektroteknik, var blandt de første til at gå ind i det nye område inden for fotonisk neuromorf computing.

"Jeg havde arbejdet på et forslag om at bygge fotoniske digitale kunstige neuroner, da forskere fra MIT i 2017 publicerede en artikel, der beskrev, hvordan de udviklede en lille chip til at udføre de samme algebraiske operationer, men på en analog måde. Det var da jeg indså, at synapser baseret på analog teknologi var vejen at gå for at køre kunstig intelligens, og jeg har været hooked på emnet lige siden."

Stabile fokuserer hovedsageligt på at realisere neuromorfisk databehandling med integreret fotonikteknologi. "Til dette spændende tværfaglige nye felt genbruger jeg meget af den viden, jeg fik, mens jeg arbejdede med optisk switching til datacenterapplikationer."

Hidtil usete hastigheder

Inden for kunstig intelligens skal enorme mængder data behandles og analyseres med hidtil usete hastigheder.

"De algoritmer, du skal bruge til at gøre dette, kan ikke køre på konventionelle von Neumann-computerarkitekturer, fordi de ikke er i stand til at køre hukommelse og behandling på samme tid. Det, du skal bruge, er parallelle arkitekturer, der kombinerer disse funktioner, for at sikre en jævn og hurtig datatransport. Der er et væld af meget lovende løsninger inden for elektronik, men dilemmaet er den begrænsede mængde data, der kan løbe gennem kredsløbene. I fotonik kan man transportere næsten ubegrænsede mængder data med lysets hastighed."

En menneskelig hjerne indeholder omkring 100 milliarder neuroner, som hver især kan kommunikere med tusindvis af andre neuroner via synapser, der bærer neurotransmittere. "Nøglekoncepterne her er knudepunkterne og sammenkoblingen. Og det ligner meget, hvad vi allerede har i fotoniske integrerede switche."

Derfor ser Stabile lovende muligheder for at bruge integreret fotonik til at bygge neuromorfe netværk. Hun mener også, at dette helt nye felt af neuromorfisk fotonik vil bringe yderligere fremskridt inden for optiske switch-arkitekturer.

Udfordringer

At opbygge et neuromorfisk fotonisk netværk er dog langt fra trivielt. "Den store udfordring er at skalere op til et stort antal neuroner. Det betyder, at nye forskningsspørgsmål opstår:Hvordan kan man stable neuroner i kun to til tre lag og stadig ende med pålidelige computerresultater? Er det muligt at redesigne algoritmer i sådanne en måde, hvorpå vi kan forenkle den nødvendige netværksarkitektur?"

For at besvare disse og andre spørgsmål samarbejder Stabile med mange andre kolleger fra komplementære discipliner, lige fra materialevidenskab og indlejrede systemer til matematik og datalogi.

"Det er den sjoveste del af mit arbejde, det faktum, at jeg kan dække hele kæden, fra materiale- og teknologisiden helt op til selve anvendelsen gennem hele computerlagstakken," siger elektroingeniøren.

Applikationer

Stabile ser et væld af muligheder for denne teknologi. "For eksempel i autonom kørsel, hvor du skal behandle og analysere et utal af data fra et stort antal sensorer for at muliggøre beslutningstagning i realtid. Eller i ultrahurtig billedklassificering, hvor du kan bruge foldede optiske neurale netværk til at støtte radiologer i at tolke medicinske billeder eller til at tillade ekstrem signalbehandling til astronomisk billeddannelse.

Men også i langdistance optisk kommunikation, for at aflaste strømforbruget ved digital signalbehandling på den modtagende side. Eller i rumfart, hvor du kunne bruge ultra-lav-effekt fotoniske neurale netværk til at forbehandle de opnåede data, før du sender dem ned på jorden."

Optimer og forenkle

Men det er alle drømme på lang sigt. I øjeblikket fokuserer Stabile på at optimere on-chip netværksarkitekturen. I stedet for at bygge så komplekse netværk som muligt, går Stabile først tilbage til det grundlæggende.

"Jeg forsøger at afgøre, i hvilket omfang vi kan forenkle de nødvendige netværk og stadig opnå pålidelige forudsigelser. Hvad ville være den dræbende applikation for disse typer netværk, og hvilke krav skal de opfylde? Næste skridt er at integrere de nødvendige fysiske lag, kontrolsystemer, algoritmer og udlæsninger til et fungerende system, der er i stand til at accelerere beregningen på en effektiv måde."

Opskalering af teknologien bliver næste fase. "Vi kan udforske rigelige muligheder for at opnå den ønskede ydeevne, lige fra nanofotonik til spintronik og plasmonik."

En 3D-neuron

I den nærmeste fremtid håber Stabile at demonstrere en 3-dimensionel neuron baseret på integration af elektronik og multifunktionel fotonik.

"Det kunne bestå af et indiumphosphidlag til ikke-lineære processer, dækket af et routinglag lavet af siliciumnitrid til synaptiske operationer med ultralavt tab. Dette indlæses derefter af et hukommelseslag baseret på faseskiftende materialer. En in- dybdeanalyse af metricsur-beregningerne har vist, at dette kan tillade petaskalaberegning ved titusindvis af femtojoule pr. operation.

Her i Eindhoven har vi det rigtige økosystem, den rigtige ekspertise og det rigtige udstyr til at producere sådan en neuron og studere dens egenskaber. Også det nyligt lancerede Eindhoven Hendrik Casimir Institute vil yderligere stimulere vores forskning."

Testbed

Udover at optimere on-chip netværksarkitekturen, fokuserer Stabile i øjeblikket på at udvikle en eksperimentel platform til at accelerere teknologien. Testbedet kan tiltrække virksomheders interesse for at udforske, hvordan denne teknologi kan hjælpe med at løse deres problemer.

Og selvfølgelig ønsker hun at tiltrække nye forskere og studerende til dette nye forskningsfelt. "Neuromorfisk fotonik er et meget spændende multidisciplinært felt, der rummer store løfter for fremtiden. På TU/e ​​er vi på forkant med emnet, og arbejder med teknologi, netværk, arkitektur og datalogi. What's not to like?"

Forskningen er offentliggjort i IEEE Journal of Selected Topics in Quantum Electronics .