重大突破/港大研原子級芯片 重塑AI算力極限
在人工智能時代,我們的手機每次進行人臉識別或語音助手喚醒,背後都涉及海量數據在記憶體與處理器之間「來回搬運」。這種搬運不僅造成明顯延遲,更讓電池電量急速消耗,此乃困擾計算機界數十年的「馮‧諾依曼瓶頸」。
香港大學工程學院李燦教授領導的研究團隊,近日在國際頂級學術期刊《自然—納米技術》(Nature Nanotechnology)上發表一項突破性成果:他們利用比頭髮絲還細數萬倍的二維材料二硫化鉬(MoS2),研發出一種採用極簡架構的新型芯片,即原子級「模擬存內搜索」芯片,能夠直接在數據存儲的位置完成搜索。其處理速度比標準CPU快了約一億倍,並在多個數據集測試中獲得了極高的準確率。團隊表示,這項技術為下一代高效能、低功耗AI硬件提供了清晰的發展藍圖;至於應用場景,團隊舉例智能手機的面部識別技術,便可以直接在裝置上瞬間完成,而毋須將私隱數據上傳至雲端。\大公報記者 苑向芹、盛德文
二維材料較髮絲細數萬倍
據了解,這款以比頭髮絲還細數萬倍的二維材料打造的芯片,核心是一種名為「模擬內容尋址存儲器」(CAM)的新型記憶體。傳統的同類產品基於靜態隨機存取存儲器(SRAM),每個存儲單元需要多達16個晶體管,導致芯片體積龐大、功耗極高。港大團隊的模擬CAM僅需兩個晶體管即可構建一個單元,面積大幅縮小,還能直接處理更接近真實世界的連續模擬信號。
能耗低創紀錄 「超光速」搜索
將二維材料連接到電路時,會遇到一道限制電子流動的「肖特基勢壘」,它就像公路上的收費站,嚴重拖慢電子速度。港大團隊使用半金屬銻(Sb)作為接觸電極,成功拆除了這道屏障,創造了一條暢通無阻、極低電阻的通道。由此產生的器件不僅速度極快,而且效率驚人:這款芯片的單次搜索耗能創下了低於0.1飛焦耳(fJ)能量的世界紀錄,延遲僅為36皮秒(Picosecond,時間單位,等於一兆分之一秒)。這是什麼概念?光在真空中一皮秒僅能走0.3毫米;這意味着搜索完成時,光甚至還沒來得及跨越芯片本身。
團隊進一步展示了該技術的進階潛力。透過三維異質整合技術,他們在單個存儲單元內垂直堆疊了不同類型的二維材料,使所需面積減半,功耗進一步降低。
在執行機器學習分類任務時,新型模擬CAM的處理速度更比標準CPU快了約一億倍,並在多個數據集測試中獲得了極高的準確率。
李燦教授解釋道:「從應用層面來看,搜索操作具有極大價值。作為大語言模型(LLMs)基礎的『注意力機制』,本質上就是一個搜索過程—從壓縮的知識庫中提取資訊。我們正在探索如何利用這種高性能硬件,來實現大型AI模型的搜索機制。」他還特別提到這項技術對隱私保護的意義:「例如智能手機的面部識別技術,可以直接在裝置上瞬間完成,而毋須將私隱數據上傳至雲端。」
至於從科研到落地的進程,李燦教授坦言,大規模商業化仍需克服封裝方面的工程挑戰,但這項研究已成功驗證了該原理,為下一代高效能、低功耗AI硬件提供了清晰的發展藍圖。
為下一代AI硬件提供發展藍圖
據悉,這項突破是團隊通力合作的成果,論文共同第一作者高國雲博士主導了器件及陣列的製造,聞博先生則負責陣列測量。
話你知/「馮‧諾依曼瓶頸」是什麼?
馮‧諾依曼瓶頸是指電腦中央處理器(CPU)速度與記憶體資料傳輸速度不符的現象,即CPU的運算速度遠快於記憶體的資料傳輸速度,導致處理器大部分時間都在空等資料,浪費運算能力。