據(jù)中國(guó)科學(xué)院自動(dòng)化研究所消息，該所一研究團(tuán)隊(duì)與其他單位合作設(shè)計(jì)了新型類腦神經(jīng)形態(tài)系統(tǒng)級(jí)芯片Speck，展示了神經(jīng)形態(tài)計(jì)算在融合高抽象層次大腦機(jī)制時(shí)的天然優(yōu)勢(shì)，相關(guān)研究日前在線發(fā)表于國(guó)際學(xué)術(shù)期刊《自然·通訊》。

“人腦是非常復(fù)雜龐大的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，總功耗僅為20瓦，遠(yuǎn)小于現(xiàn)有的人工智能系統(tǒng)。”中國(guó)科學(xué)院自動(dòng)化研究所研究員李國(guó)齊說(shuō)，因此，在算力比拼加速、能耗日益攀升的當(dāng)下，借鑒人腦的低功耗特性發(fā)展新型智能計(jì)算系統(tǒng)成為極具潛力的方向。

人腦中的一個(gè)重要功能是根據(jù)外界刺激的重要程度，動(dòng)態(tài)分配其有限的注意力資源，重要的刺激往往會(huì)獲得更多的關(guān)注，這被稱為注意力機(jī)制。該研究提出了“神經(jīng)形態(tài)動(dòng)態(tài)計(jì)算”的概念，將人腦中的高抽象層次注意力機(jī)制應(yīng)用于類腦芯片設(shè)計(jì)，進(jìn)一步挖掘了類腦芯片在性能和能效上的潛力。

李國(guó)齊表示，Speck是在一塊芯片上集成了動(dòng)態(tài)視覺傳感器和神經(jīng)形態(tài)芯片，具有極低的靜息功耗。典型視覺場(chǎng)景任務(wù)功耗可低至0.7毫瓦，為人工智能應(yīng)用提供了高能效、低延遲和低功耗的類腦智能解決方案。

在本項(xiàng)研究中，合作團(tuán)隊(duì)提出“神經(jīng)形態(tài)動(dòng)態(tài)計(jì)算”的概念，通過(guò)設(shè)計(jì)一種類腦神經(jīng)形態(tài)芯片Speck來(lái)實(shí)現(xiàn)基于注意力機(jī)制的動(dòng)態(tài)計(jì)算，在硬件層面做到“沒有輸入，沒有功耗”，在算法層面做到“有輸入時(shí)，根據(jù)輸入重要性程度動(dòng)態(tài)調(diào)整計(jì)算”，從而在典型視覺場(chǎng)景任務(wù)功耗可低至0.7毫瓦，進(jìn)一步挖掘出神經(jīng)形態(tài)計(jì)算在性能和能效上的潛力。

Speck是一款異步感算一體類腦神經(jīng)形態(tài)系統(tǒng)級(jí)芯片，采用全異步設(shè)計(jì)，在一塊芯片上集成了動(dòng)態(tài)視覺傳感器(DVS相機(jī))和類腦神經(jīng)形態(tài)芯片，具有極低的靜息功耗(僅為0.42毫瓦)。它能夠以微秒級(jí)的時(shí)間分辨率感知視覺信息，以全異步方式設(shè)計(jì)拋棄了全局時(shí)鐘控制信號(hào)，避免時(shí)鐘空翻帶來(lái)的能耗開銷，僅在有事件輸入時(shí)才觸發(fā)稀疏加法運(yùn)算。

李國(guó)齊指出，針對(duì)脈沖神經(jīng)網(wǎng)絡(luò)(SNN)在更高層面，比如時(shí)間維度中不能根據(jù)輸入難易度調(diào)整其脈沖發(fā)放等“動(dòng)態(tài)失衡”問(wèn)題，這項(xiàng)研究基于注意力機(jī)制的神經(jīng)形態(tài)脈沖動(dòng)態(tài)計(jì)算框架，在多種粒度上實(shí)現(xiàn)對(duì)不同的輸入進(jìn)行有區(qū)分地動(dòng)態(tài)響應(yīng)。同時(shí)，Speck軟件工具鏈編程框架支持動(dòng)態(tài)計(jì)算脈沖神經(jīng)網(wǎng)絡(luò)算法訓(xùn)練和部署。

該研究的實(shí)驗(yàn)結(jié)果表明，注意力機(jī)制可使得脈沖神經(jīng)網(wǎng)絡(luò)具備動(dòng)態(tài)計(jì)算能力，即根據(jù)輸入難易度調(diào)整其脈沖發(fā)放模式解決“動(dòng)態(tài)失衡”問(wèn)題，在顯著降低功耗的同時(shí)，提升任務(wù)性能。在一個(gè)動(dòng)態(tài)視覺傳感數(shù)據(jù)集上，融合脈沖動(dòng)態(tài)計(jì)算的Speck在任務(wù)精度提升9%的同時(shí)，平均功耗由9.5毫瓦降低至3.8毫瓦。