Ingenjörer vid universitetet i Liège har tagit ett stort steg framåt i arkitekturen för artificiella neurala nätverk genom att skapa en ny typ av spikande neuron. Denna innovativa modell kallas Spiking Recurrent Cell (SRC) och kombinerar enkel implementering med förmågan att återskapa dynamiken hos biologiska neuroner. Lägg därtill de spikande neuronernas energieffektivitet, och den nya modellen erbjuder spännande nya möjligheter för neuroinspirerad artificiell intelligens. Arbetet publiceras i tidskriften Neuromorphic Computing and Engineering.
Artificiella neurala nätverk (ANN) och Spiking Neural Networks (SNN) är två typer av neurala nätverk som används inom artificiell intelligens. De skiljer sig dock avsevärt åt vad gäller struktur, funktion och användningsområden.
ANN används ofta för en rad olika tillämpningar inom maskininlärning (bildigenkänning, taligenkänning, spel) och är relativt enkla att implementera. De är dock energiineffektiva och beräkningsmässigt dyra.
SNN används däremot i tillämpningar som kräver känslighet för exakt timing av händelser (robotik, gränssnitt mellan hjärna och dator, sensorisk bearbetning) och erbjuder en mer realistisk modellering av biologiska neurala processer. De skiljer sig från ANN genom att kommunikationen mellan neuronerna uteslutande baseras på impulser (spikar), vilket efterliknar det sätt på vilket biologiska neuroner fungerar.
”Deras största fördel är deras energieffektivitet”, förklarar Florent De Geeter, forskningsingenjör vid Montefiore-institutet vid universitetet i Liège.
”När dessa SNN körs på specifik hårdvara – så kallad neuromorfisk hårdvara – blir deras energiförbrukning extremt låg. Denna egenskap innebär att sådana nätverk kan användas i situationer där energieffektivitet är av största vikt, t.ex. i inbyggda system, som är autonoma dator- och elektroniksystem som utför en exakt uppgift i den enhet där de är integrerade.”
Till skillnad från ANN är SNN svåra att träna, och den nuvarande forskningen är inriktad på att utforma träningsalgoritmer som gör det möjligt för dem att konkurrera med ANN i komplexa uppgifter.
Som en del av ett ambitiöst projekt vid ULiège har forskarna provat ett nytt tillvägagångssätt: genom att modifiera dynamiken hos en välkänd typ av artificiell neuron som är lätt att träna har de lyckats efterlikna beteendet hos biologiska neuroner, vilket har gett upphov till en ny modell: Spiking Recurrent Cell (SRC).
SRC: En bro mellan ANN och SNN
”Den stora innovationen i den här studien ligger i utformningen av denna Spiking Recurrent Cell (SRC)”, förklarar Damien Ernst, professor vid ULiège och medförfattare till studien, ”en neuronmodell som kan generera spikar autonomt, som biologiska neuroner. Till skillnad från konventionella SNN-modeller där spikar genereras på konstgjord väg, möjliggör SRC-modellen en mer naturlig och dynamisk emulering av neuronala impulser.”
Den nya modellen gör det möjligt att integrera de sofistikerade inlärningsalgoritmerna hos ANN med energieffektiviteten hos SNN. På så sätt erbjuder SRC en hybridlösning som kombinerar fördelarna med båda typerna av neurala nätverk och banar väg för en ny generation SNN.
Konsekvenser och framtida tillämpningar
De potentiella tillämpningarna av SRC är enorma. Tack vare sin energieffektivitet kan SNN användas i sammanhang där energiförbrukningen är kritisk, t.ex. i inbyggda system i självkörande fordon.
”SRC-modellens förmåga att simulera olika neuronala beteenden genom att justera dess interna parametrar gör dessutom dessa nätverk mer uttrycksfulla och närmare biologiska nätverk, vilket möjliggör betydande framsteg när det gäller att förstå och återskapa hjärnans funktioner”, säger Guillaume Drion, chef för Neuromorphic Engineering Laboratory vid ULiège och medförfattare till studien.
Skapandet och införandet av SRC innebär ett betydande framsteg inom området neurala nätverk, eftersom det kombinerar styrkorna hos ANN och SNN. Denna innovation öppnar nya möjligheter för utveckling av mer effektiva och energibesparande intelligenta system.
Ytterligare information: Florent De Geeter et al, Spike-based computation using classical recurrent neural networks, Neuromorphic Computing and Engineering (2024). DOI: 10.1088/2634-4386/ad473b
