人工智能(AI)業界普遍認為,超過90%的系統能耗,用於數據在處理器與記憶體之間的傳輸,而非實際運算,一直促使業界尋求新的解決方案,而存算一體技術正是焦點之一。人工智能(AI)近來快速發展,傳統計算架構瓶頸問題日益凸顯。

存算一體:仿效人腦的高效運算模式

存算一體(Compute-in-Memory, CIM)核心理念,就是仿效人腦的運作方式,數據儲存與運算同步完成於同一裝置中,從而大幅提升效率並降低能耗。隨著AI普及,邊緣運算設備(如手機、IoT裝置)對AI高效能晶片需求也急劇增加。傳統架構因數據傳輸瓶頸,長遠無法滿足傳輸速度需求,,而功耗更導致無法應用AI,業界加速研發存算一體在IoT和邊際運算上。

香港大學工程學院電機電子工程系教授黃毅及研究助理教授劉正午的團隊,最近研發出「共位認證與處理系統」(CLAP),以創新技術實現「存算一體化」,大幅提升了數據處理效率,港大技術主要利用憶阻器(Memristor)兩大特性:其一是實現「存算一體化」,數據無需再在儲存與計算單元之間頻繁傳送;其二具備「物理隨機性」,利用元件間的微觀差異增強安全性,能夠降低能耗,解決傳統架構的延遲問題,為邊緣運算設備(如手機、IoT裝置)帶來革命性變革。

此外,香港特別行政區政府InnoHK創新香港研發平台下跨領域研究中心智能晶片與系統研發中心(簡稱ACCESS)作為,也積極推動相關技術,香港科技大學推動AI大模型的存內計算架構設計,ACCESS官網 提供關於項目資訊。

安克創新發布首款存算一體AI音頻晶片

近日,已申請在香港交易所上市的 安克創新 (Anker Innovations) 發布了其首款神經網絡存算一體(Compute-in-Memory,CIM)AI音頻晶片——Thus™亮相,這款晶片基於NOR Flash技術打造,原生支持400萬(4M)參數模型,在內部實驗室測試中,其AI峰值算力較傳統藍牙耳機晶片高出最多150倍。

安克創新推出的Thus™晶片將改變AI設備的運算模式。
智能晶片與系統研發中心(中心)連續第四年參與由創新科技及工業局與香港貿易發展局聯合主辦的香港國際創科展(InnoEX)。

突破馮·諾依曼瓶頸,能效比大幅優化

傳統AI晶片採用的是著名的馮·諾依曼架構,該架構由數學家兼物理學家馮紐曼(John von Neumann) 1945 年提出,自此存儲與計算分為兩個獨立模塊,數據傳輸亦成為電腦的主要能耗來源之一。安克創新創始人兼CEO陽萌解釋道:「馮·諾依曼架構區分了算力和存儲,從真空管到晶片管再到集成電路,晶片越做越小、算力越來越強,但分治法帶來的高能耗問題一直未解決,大部分功耗浪費在傳輸過程中。」

Thus™晶片以存算一體架構將計算直接嵌入存儲單元,模型參數無需移動,從而將原本被消耗的能量重新釋放用於有效計算。陽萌將傳統架構比喻為「住在河兩岸的夫妻」(意指數據需在存儲和計算單元之間來回傳輸),強調Thus™的設計是「把計算直接搬到模型住的地方,模型再也不用搬家了」。得益於此架構,Thus晶片體積更小、功耗更低,可承載數百萬級參數模型,在類似體積和功耗條件下顯著提升本地計算能力。

首發搭載旗艦耳機,5月21日完整亮相

安克方面表示,Thus晶片將率先用於旗下品牌soundcore聲闊即將推出的旗艦耳機上,其中一個用途是極低功耗下實現高效能的語音訊號處理,改善耳機的通話降噪與消除環境噪音能力,主動降噪(ANC)靜音效果會更為顯著。以往不少耳機都有用類似方法,但模型很小,作用有限,Thus 晶片原生支持4百萬參數,選擇耳機作為首發載體,是因為耳機恰恰是「最難整合AI晶片」的產品——內部空間太小、可用電力有限,用戶佩戴時晶片還要持續工作多小時。

過去的方案只能使用小型神經網絡,處理能力通常停留在數十萬參數水平。憑藉Thus晶片,新款耳機將配備更大規模的神經網絡,同時結合8顆MEMS麥克風和2顆骨傳導感應器,構建三維聲學感知系統。在約100dB嘈雜環境中,可精準濾除噪音、保留清晰人聲,解決傳統通話降噪中「環境噪聲洩漏」或「人聲被嚴重壓縮」的痛點。

The Verge報道指,首批搭載Thus晶片的耳機很可能是Liberty 5 Pro Max和Liberty 5 Pro,預計售價分別為229.99美元(約1790港元)和169.99美元(約1325港元)。安克將在5月21日的Anker Day活動上公布這兩款耳機的完整產品信息及更多AI功能。

安克創新推出的Thus™晶片將改變AI設備的運算模式。
安克創新發表首款神經網路存算一體AI音訊晶片Thus™ 基於NOR Flash技術,原生支援4兆參數模型,實驗室測試顯示相比傳統藍牙耳機晶片最高可帶來150倍AI峰值算力提升。

不止一顆晶片,而是三年期技術平台

陽萌透露,Thus™不僅是一款晶片,也是安克規劃的三年期晶片技術平台。首代產品採用聯合研發模式落地,目前公司已正式啟動下一代全自研晶片研發。命名取自「Thus have I hear(如是我聞)」,這是一句源自佛教經典的開篇語,寓意回歸本質。

圍繞Thus晶片,安克創新同步披露了端側AI大模型布局與具身智能三級路線圖:將家庭機器人劃分為平面移動形態(掃地機、智能割草機,已量產)、三維移動形態(安防機器狗,正按計劃推進)以及人形機器人主導的二維操作階段(目前處於前沿研發階段)。

研發投入不設上限,2025年研發支出近29億

陽萌表示:「我們在這些先進領域裡的投入幾乎沒有上限。」數據顯示,安克創新2025年研發投入達28.93億元人民幣,同比增長37.2%。公司2025年實現營業收入305.14億元人民幣,同比增長23.49%;歸母淨利潤25.45億元人民幣,同比增長20.37%。隨著全球AI晶片市場競爭加劇,各大廠商如NVIDIAQualcomm等紛紛加大投入。安克創新的Thus™晶片憑藉存算一體技術優勢,相信不少邊際電器產品,可以在國際市場上提高競爭力。

https://inno-access.hk/zh-hant/home