人腦由百億級異質性神經元構成，是目前已知唯一能夠實現通用智能的複雜系統。自20世紀中期人工神經網絡概念提出以來，科學家們始終緻力于在人工系統中模拟大腦的卓越認知能力。近年來，随着計算能力的飛速提升和對大腦認知機制的深入研究，整合神經科學、計算機科學和認知科學，以開發更高效、更智能的計算系統，已成為研究的關鍵方向。
近日，beat365英国官网网站鄧嶽教授團隊，基于其團隊在單細胞認知解析技術（Nature Methods 2019）和人工智能交叉應用（Nature Biotechnology 2022, Nature Communications 2024）的長期積累，提出了一種基于自抑制神經元的異質脈沖框架（Heterogeneous spiking Framework with self-inhibiting neurons，HIFI），顯著提升了神經網絡的效率和準确性，展現了其在複雜認知任務中的應用潛力。相關研究成果以“Biologically inspired heterogeneous learning for accurate, efficient and low-latency neural network”為題發表于《國家科學評論》（National Science Review，NSR）。《國家科學評論》是中國科學院主辦的一本綜合性科學雜志，最新影響因子為:16.3, 旨在評論中國和世界科學技術的前沿發展。
在生物學中，自抑制突觸通過調節過去脈沖對當前輸入的影響，使單個神經元能夠實現自我調控的記憶效應。基于這一概念，研究團隊在經典的Leaky Integrate-and-Fire (LIF)模型中引入了自抑制環路，構建自抑制脈沖神經元(self-inhibiting neuron)，實現神經元層次的記憶效應。在此基礎上，團隊受到大腦神經元異質性的啟發，提出了一種雙層嵌套優化的異質學習算法，進一步構建了異質性脈沖神經網絡。與傳統方法僅優化網絡層級的突觸權重參數不同，HIFI通過雙層嵌套策略交替優化神經元參數和突觸權重，顯著增強了網絡的學習和記憶能力（圖1）。此外，該嵌套學習機制也具備一定的生物學可解釋性，即随着時間的推移，神經突觸會在神經元的進化過程中逐漸消除或形成，反映了生物系統的适應性進化特性。
圖1. 生物啟發的異質脈沖神經網絡。在結構層面，為帶洩露的整合發放神經元模型添加自抑制突觸回路，形成高度參數化的局部微電路；在學習層面，雙層優化引導神經元級參數與網絡級參數交替嵌套學習，形成異質性神經網絡
可訓練的自抑制神經元為探索哺乳動物腦神經元複雜的神經動力學提供了新的視角。研究表明，所提出的模型能夠準确再現單個神經元和神經元群體在統計學上的特性，顯著提升了人工神經元的動力學拟合能力（圖2a-d）。該模型在腦機接口數據的解碼任務中表現出較高的效率，展示了其作為神經網絡構建單元的潛力（圖2e-j）。這種自抑制神經元模型為理解大腦信息處理機制提供了生物學上的保真性，也為開發更高效的人工智能系統奠定了基礎。
圖2. a-d: 自抑制脈沖神經元準确再現了單個神經元的統計特性，展現了其優異的動力學拟合能力
e-j: 在腦機接口的應用中，自抑制脈沖神經元準确捕捉了神經元群的統計特性，提高了解碼效率
HIFI在多個廣泛應用的數據集上展現了卓越的計算性能，包括靜态數據集（MNIST、CIFAR10、CIFAR100、ImageNet）和神經形态數據集（NMNIST、DvsGesture、SHD、SSC、CIFAR10-DVS）。相比傳統模型，HIFI實現了更快、更高、更強：處理速度提高最多5倍，準确性最多提高10%，能耗降低最多17.83倍（圖3）。此外，HIFI從神經形态數據中學習到的神經元參數在分布特性上與哺乳動物神經元的參數呈現相似性（圖4），表明該模型不僅具有優異的性能表現，還在一定程度上具備生物學上的合理性，進一步支持了其在類腦計算領域的應用前景。
圖3. 靜态圖像數據：HIFI實現了更準确、更魯棒、更高效
圖4. HIFI在神經形态數據中學習得到的生物物理參數分布部分近似于生物先驗
HIFI模型憑借其高效能和低延遲的特點，在高維度、大規模單細胞轉錄組測序（scRNA-seq）分析中展現了獨特優勢（圖5）。研究表明，HIFI能夠從scRNA-seq數據中精确識别出罕見的細胞類型，如Sncg、Serpinf1和Astro等。盡管這些細胞在樣本中所占比例極低（如僅占0.09%），它們卻是多種重大腦部疾病的關鍵生物标志物，包括多系統萎縮（Sncg）、膠質母細胞瘤（Serpinf1）和腦水腫（Astro）。這一發現不僅展示了HIFI在處理複雜生物數據中的潛力，也為疾病的診斷和治療提供了新的研究方向。
圖4. HIFI識别罕見細胞類型，并在跨物種識别中展現出強大的泛化性
這項跨學科研究提出了一種具有高精度、高效能和低延遲的學習框架，具有廣泛應用于通用機器學習任務的潛力，為生物啟發的人工智能領域提供了新的視角。研究結果展示了該框架在多種複雜任務中的應用前景，推動了生物啟發的計算模型向通用智能的方向邁進。
本工作得到了國家自然科學基金傑出青年科學基金，國家自然科學基金重點項目的支持。
論文原文鍊接：
https://doi.org/10.1093/nsr/nwae301
