研究人員設(shè)計(jì)了一種新型“計(jì)算隨機(jī)存取存儲(chǔ)器”（CRAM：computational random-access memory）原型芯片，與目前的方法相比，它可以將人工智能應(yīng)用的能源需求降低1,000 倍甚至更多。在一次模擬中，CRAM 技術(shù)顯示出令人難以置信的 2,500 倍節(jié)能效果。
 

傳統(tǒng)計(jì)算依賴于已有數(shù)十年歷史的馮·諾依曼架構(gòu)，該架構(gòu)由獨(dú)立的處理器和內(nèi)存單元組成，需要不斷來(lái)回移動(dòng)數(shù)據(jù)，這是一個(gè)耗能過(guò)程。明尼蘇達(dá)團(tuán)隊(duì)的 CRAM 完全顛覆了該模型，它使用稱為磁隧道結(jié) (MTJ) 的自旋電子器件直接在內(nèi)存內(nèi)部進(jìn)行計(jì)算。

自旋電子設(shè)備并不依賴電荷來(lái)存儲(chǔ)數(shù)據(jù)，而是利用電子自旋，為傳統(tǒng)的基于晶體管的芯片提供了更有效的替代品。

《自然》雜志發(fā)表的論文合著者 Ulya Karpuzcu 表示：“作為一種極其節(jié)能的數(shù)字內(nèi)存計(jì)算基板，CRAM 非常靈活，可以在內(nèi)存陣列的任何位置執(zhí)行計(jì)算。因此，我們可以重新配置 CRAM，以最好地滿足各種人工智能算法的性能需求。”他補(bǔ)充說(shuō)，它比當(dāng)今人工智能系統(tǒng)的傳統(tǒng)構(gòu)建塊更節(jié)能。

通過(guò)消除邏輯和內(nèi)存之間耗電的數(shù)據(jù)傳輸，類似這種原型的 CRAM 技術(shù)對(duì)于在人工智能能源需求激增的時(shí)代大幅提高其能源效率至關(guān)重要。

國(guó)際能源署 3 月份預(yù)測(cè)，全球用于人工智能訓(xùn)練和應(yīng)用的電力消耗可能會(huì)增長(zhǎng)一倍以上，從 2022 年的 460 太瓦時(shí)增至 2026 年的 1,000 多太瓦時(shí)——幾乎相當(dāng)于日本全國(guó)的用電量。
 

研究人員表示，這一突破的基礎(chǔ)已經(jīng)醞釀了 20 多年，可以追溯到工程學(xué)教授王建平在使用 MTJ 納米設(shè)備進(jìn)行計(jì)算方面的開(kāi)創(chuàng)性工作。

王承認(rèn)，他們最初提出的拋棄馮·諾依曼模型的提議在二十年前“被認(rèn)為是瘋狂的”。但明尼蘇達(dá)團(tuán)隊(duì)堅(jiān)持了下來(lái)，在王的專利 MTJ 研究的基礎(chǔ)上，開(kāi)發(fā)出了磁性 RAM (MRAM)，目前這種技術(shù)已用于智能手表和其他嵌入式系統(tǒng)。

當(dāng)然，與任何此類突破一樣，研究人員仍需應(yīng)對(duì)可擴(kuò)展性、制造和與現(xiàn)有硅片集成方面的挑戰(zhàn)。他們已計(jì)劃與半導(dǎo)體行業(yè)領(lǐng)導(dǎo)者進(jìn)行演示合作，以幫助將 CRAM 變成商業(yè)現(xiàn)實(shí)。
 

研究人員開(kāi)發(fā)出最先進(jìn)的設(shè)備，使人工智能更加節(jié)能

明尼蘇達(dá)大學(xué)雙城分校的工程研究人員展示了一種最先進(jìn)的硬件設(shè)備，它可以將人工智能 (AI) 計(jì)算應(yīng)用的能耗降低至少 1,000 倍。

這項(xiàng)研究發(fā)表在《自然》雜志的同行評(píng)議科學(xué)期刊 《npj Unconventional Computing》上。研究人員擁有該設(shè)備所用技術(shù)的多項(xiàng)專利。

隨著人工智能應(yīng)用需求的不斷增長(zhǎng)，研究人員一直在尋找方法來(lái)創(chuàng)建更節(jié)能的流程，同時(shí)保持高性能和低成本。通常，機(jī)器或人工智能流程在邏輯（系統(tǒng)內(nèi)處理信息的地方）和內(nèi)存（存儲(chǔ)數(shù)據(jù)的地方）之間傳輸數(shù)據(jù)，消耗大量的電力和能源。

明尼蘇達(dá)大學(xué)科學(xué)與工程學(xué)院的一組研究人員展示了一種數(shù)據(jù)永遠(yuǎn)不會(huì)離開(kāi)內(nèi)存的新模型，稱為計(jì)算隨機(jī)存取存儲(chǔ)器（CRAM）。 

明尼蘇達(dá)大學(xué)電氣與計(jì)算機(jī)工程系博士后研究員、論文第一作者楊呂說(shuō)：“這項(xiàng)工作是 CRAM 的首次實(shí)驗(yàn)演示，其中數(shù)據(jù)可以完全在存儲(chǔ)器陣列內(nèi)處理，而無(wú)需離開(kāi)計(jì)算機(jī)存儲(chǔ)信息的網(wǎng)格。”

國(guó)際能源署（IEA）于2024年3月發(fā)布了全球能源使用預(yù)測(cè)，預(yù)測(cè)人工智能的能源消耗可能會(huì)從2022年的460太瓦時(shí)（TWh）增加一倍至2026年的1,000 TWh。這大致相當(dāng)于日本整個(gè)國(guó)家的電力消耗。

據(jù)新論文作者稱，基于 CRAM 的機(jī)器學(xué)習(xí)推理加速器估計(jì)可實(shí)現(xiàn) 1,000 量級(jí)的改進(jìn)。另一個(gè)例子顯示，與傳統(tǒng)方法相比，能源節(jié)省了 2,500 倍和 1,700 倍。

這項(xiàng)研究已經(jīng)進(jìn)行了二十多年，“我們 20 年前直接使用存儲(chǔ)單元進(jìn)行計(jì)算的最初想法被認(rèn)為是瘋狂的”，該論文的資深作者、明尼蘇達(dá)大學(xué)電氣與計(jì)算機(jī)工程系杰出 McKnight 教授兼 Robert F. Hartmann 主席王建平 (Jian-Ping Wang) 說(shuō)道。

王說(shuō)：“自 2003 年以來(lái)，隨著學(xué)生群體的不斷發(fā)展，以及明尼蘇達(dá)大學(xué)建立起一支真正的跨學(xué)科教師團(tuán)隊(duì)——從物理學(xué)、材料科學(xué)與工程、計(jì)算機(jī)科學(xué)與工程到建模和基準(zhǔn)測(cè)試以及硬件創(chuàng)建——我們能夠取得積極的成果，現(xiàn)在已經(jīng)證明這種技術(shù)是可行的，并且已經(jīng)準(zhǔn)備好融入技術(shù)中。”

這項(xiàng)研究是王教授及其同事長(zhǎng)期不懈努力的一部分，該研究以磁隧道結(jié) (MTJ) 器件的開(kāi)創(chuàng)性專利研究為基礎(chǔ)，MTJ 器件是一種納米結(jié)構(gòu)器件，用于改進(jìn)硬盤(pán)、傳感器和其他微電子系統(tǒng)，包括磁性隨機(jī)存取存儲(chǔ)器 (MRAM)，已用于微控制器和智能手表等嵌入式系統(tǒng)。

CRAM 架構(gòu)實(shí)現(xiàn)了真正的在內(nèi)存中進(jìn)行計(jì)算，打破了傳統(tǒng)馮·諾依曼架構(gòu)中計(jì)算與內(nèi)存之間的瓶頸——馮·諾依曼架構(gòu)是一種存儲(chǔ)程序計(jì)算機(jī)的理論設(shè)計(jì)，是幾乎所有現(xiàn)代計(jì)算機(jī)的基礎(chǔ)。

“作為一種極其節(jié)能的數(shù)字內(nèi)存計(jì)算基板，CRAM 非常靈活，可以在內(nèi)存陣列的任何位置執(zhí)行計(jì)算。因此，我們可以重新配置 CRAM，以最好地滿足各種 AI 算法的性能需求，”計(jì)算架構(gòu)專家、論文合著者、明尼蘇達(dá)大學(xué)電氣與計(jì)算機(jī)工程系副教授 Ulya Karpuzcu 表示。“它比當(dāng)今 AI 系統(tǒng)的傳統(tǒng)構(gòu)建塊更節(jié)能。”

Karpuzcu 解釋說(shuō)，CRAM 直接在存儲(chǔ)單元內(nèi)執(zhí)行計(jì)算，有效利用陣列結(jié)構(gòu)，從而無(wú)需緩慢且耗能的數(shù)據(jù)傳輸。

最高效的短期隨機(jī)存取存儲(chǔ)器 (RAM) 設(shè)備使用四到五個(gè)晶體管來(lái)編碼 1 或 0，但 MTJ（一種自旋電子器件）可以以極低的能量執(zhí)行相同的功能，速度更快，并且能夠適應(yīng)惡劣環(huán)境。自旋電子器件利用電子自旋而不是電荷來(lái)存儲(chǔ)數(shù)據(jù)，為傳統(tǒng)基于晶體管的芯片提供了更高效的替代方案。

目前，該團(tuán)隊(duì)一直計(jì)劃與明尼蘇達(dá)州等半導(dǎo)體行業(yè)領(lǐng)導(dǎo)者合作，提供大規(guī)模演示并生產(chǎn)硬件以推進(jìn)人工智能功能。