柯文
內(nèi)存計(jì)算技術(shù)迎來(lái)一次重大突破。近日,IBM研究團(tuán)隊(duì)宣布發(fā)明了一種可以運(yùn)行在100萬(wàn)個(gè)相變內(nèi)存上的無(wú)監(jiān)督式機(jī)器學(xué)習(xí)算法,并且成功地在一系列未知數(shù)據(jù)流中發(fā)現(xiàn)了時(shí)間相關(guān)性。與目前最先進(jìn)的傳統(tǒng)計(jì)算機(jī)相比,這種內(nèi)存計(jì)算原型技術(shù)有望在計(jì)算速度和能耗利用效率方面提升200倍,非常適合實(shí)現(xiàn)人工智能(AI)應(yīng)用中的高密度、低功耗、大規(guī)模的并行計(jì)算系統(tǒng)。
內(nèi)存計(jì)算(IMC)或者說(shuō)可計(jì)算儲(chǔ)存,是近年來(lái)新興的一個(gè)概念,其原理是運(yùn)用內(nèi)存設(shè)備的物理特性進(jìn)行資料的儲(chǔ)存和處理。不過(guò),該研究及團(tuán)隊(duì)不采用過(guò)去那種內(nèi)建緩存,并通過(guò)總線連接外部?jī)?nèi)存的階層式架構(gòu),而是省略總線設(shè)計(jì),直接把內(nèi)存和CPU核心做在一起,盡最大的可能消除計(jì)算過(guò)程中因數(shù)據(jù)遷移所造成的延遲。
另一方面,相變內(nèi)存本身就兼具DRAM類內(nèi)存的速度,以及NAND的非易失性存儲(chǔ)特性,通過(guò)將相變內(nèi)存直接和CPU集成,形成一種特殊的計(jì)算硬件結(jié)構(gòu),計(jì)算和存儲(chǔ)同時(shí)可在相同的結(jié)構(gòu)上發(fā)生,不需要額外的傳輸、讀取再寫入的動(dòng)作。因此從計(jì)算到存儲(chǔ)所需要的指令操作、帶寬消耗等現(xiàn)象都得以減少。對(duì)AI計(jì)算這種數(shù)據(jù)遷移量龐大的應(yīng)用來(lái)說(shuō),省去了這些操作,自然整體計(jì)算效率就可以大大提升,且因?yàn)闆](méi)有總線,也沒(méi)有額外的讀寫操作,系統(tǒng)功耗也能大大減少。
如果所有的計(jì)算、讀寫工作都發(fā)生在同一個(gè)區(qū)塊上,不用遷移,自然也不會(huì)有延遲。這種概念完全不同于目前主流電子系統(tǒng)和設(shè)備的運(yùn)行原理,我們所熟知的桌面計(jì)算機(jī)、筆記本計(jì)算機(jī)和手機(jī)等電子設(shè)備都采用了馮·諾伊曼結(jié)構(gòu)。使用該構(gòu)架的設(shè)備在運(yùn)行時(shí),各種數(shù)據(jù)會(huì)在內(nèi)存和計(jì)算單元之間不斷穿梭,大量的數(shù)據(jù)調(diào)用會(huì)降低計(jì)算速度并且增加能量消耗。
其實(shí),這就是一個(gè)具體而微小的電子大腦結(jié)構(gòu)。在此次測(cè)試中,研究人員使用的 相變內(nèi)存設(shè)備同樣是由兩個(gè)電極包夾著一層鍺銻碲復(fù)合材料構(gòu)成。一股微弱的電流就可以加熱整個(gè)設(shè)備,復(fù)合材料內(nèi)部狀態(tài)隨著溫度上升而發(fā)生改變,從無(wú)定形態(tài)變成晶態(tài)。研究人員再次利用了結(jié)晶動(dòng)力學(xué)原理進(jìn)行運(yùn)算。而這里所用到的計(jì)算原理和先前人造神經(jīng)元幾乎一模一樣。
IBM研究員、論文作者之一Evangelos Eleftheriou博士表示:“這是 AI 物理學(xué)研究中的重要一環(huán),這項(xiàng)研究有助于探索新的硬件材料、設(shè)備和構(gòu)架。技術(shù)瓶頸導(dǎo)致了摩爾定律的失效,因此我們需要從處理器與內(nèi)存這種‘一分為二’的結(jié)構(gòu)出發(fā),從本質(zhì)做出改變,來(lái)突破當(dāng)今計(jì)算機(jī)的局限性。鑒于我們的內(nèi)存計(jì)算技術(shù)的簡(jiǎn)單性、高速度和低能耗,最終實(shí)驗(yàn)結(jié)果十分顯著——非常接近于在馮·諾依曼計(jì)算機(jī)上運(yùn)行的基準(zhǔn)方法?!?/p>
IBM研究團(tuán)隊(duì)本次實(shí)驗(yàn)的具體細(xì)節(jié)都在最新發(fā)表的論文中進(jìn)行了描述,《自然通訊》也于近日對(duì)論文進(jìn)行了同行評(píng)審。為了展示這項(xiàng)技術(shù),論文作者選取了兩個(gè)基于時(shí)間的例子,并且將該技術(shù)得出的結(jié)果與傳統(tǒng)機(jī)器學(xué)習(xí)方法得出的結(jié)果進(jìn)行了比較。
“內(nèi)存普遍被視為是儲(chǔ)存數(shù)據(jù)的地方。但是這項(xiàng)研究的結(jié)果顯示,我們可以利用內(nèi)存設(shè)備的物理學(xué)特性,執(zhí)行一個(gè)相當(dāng)高級(jí)別的計(jì)算原語(yǔ)。計(jì)算的結(jié)果也儲(chǔ)存在內(nèi)存中,從這個(gè)角度來(lái)看,該技術(shù)概念受到了大腦計(jì)算方式的啟發(fā)。”Abu Sebastian博士說(shuō)。他是一名探索性記憶和認(rèn)知技術(shù)科學(xué)家,也是論文的主要作者。