Slide
Slide
Slide
Hitachi_AI_HCI
Hitachi_HCI
HCI
previous arrow
next arrow

RISC-V開源晶片架構 設計AI晶片不是夢

西門子旗下Mentor 行政總裁 Emeritus Walden Rhines 博士在「人工智能晶片高峰論壇」談及集成電路設計方法如何 促進人工智能應用。Mentor為西門子屬下晶片設計工具EDA廠商,主流廠商還包括美國Cadence和Synopsis等,合稱EDA三大。

眾創時代

本港晶片設計曾經揚威海外,龍珠就曾揚威海外。隨著工業北移而式微。晶片設計的複雜程度大增,資本密集。

不過,晶片設計也面臨變革。以往,通用處理器晶片主要包括CISC和RISC兩大陣營。CISC以英特爾為代表,RISC則以ARM為主流。不少廠商也設計本身專用晶片,統稱為ASIC。但從設計至流片(Tape out),可能已耗資過千萬美元。

通用晶片一向追隨「摩爾定律」(Moore’s Law),晶片容納的電晶數目,每隔兩年翻一倍,性能也提昇一倍。但晶片密集至7nm製程,電晶數量難再突破;摩爾定律無以為繼,不少以為通用晶片到達樽頸,摩爾定律無以為繼。

另一方面,軟件進步卻極快,尤其人工智能(AI)突飛猛進,對算力要求更近乎爆發式增長;物聯網也要求更多邊緣算力,處理即時數據,功耗卻要求極低。通用處理器的架構沿用40年,無法進上現代軟件,軟件發展商又無法要求處理器廠商,加入新指令集架構(Instruction Set Architecture),以硬件加速軟件,實行起來困難重重,也涉及不少法律和智慧產權爭議。

AI普及化須有賴晶片創新,以往不少人認為,AI可利用雲運算。愈來愈多應用場景,證明AI須靠邊緣算力,原因有兩:不少AI須極快作判斷,最明顯是無人駕駛和工業4.0,雲運算的時延,即使到了5G年代,仍遠不能接受;其次,邊緣會產生大量數據,不可能全傳回雲服務。

邊緣消耗的運算,主要在推論(Inference),也就是AI模型處理邊緣數據,馬上作預測和決斷。不過,目前的通用晶片;包括X86和ARM兩大主流,都不針AI應用場景,晶片追求更高性能,須針對專門用途設計定制(Customization)。如上所述,ASIC晶片門檻極高,設計難度也大,不利於創新。

理論上,推論可利用GPU平行運算。GPU浮點運算有強大能力,亦可用於邊緣推理,GPU領導廠商Nvidia都推出了Jetson系列,新一代機械人和無人機,已大量應用,加上開發生態極佳,AI邊緣推論Nvidia會佔一重要席位。

不過,GPU屬於通用運算,成本也偏高,國際間陸續推出AI專用 ASIC晶片。但開發AI晶片有數個難題,首先開發成本高,其次開發周期甚長,幾乎接近一年;第三專業團隊要求極高,齊備人材不易。

近年,FPGA(Field Programmable Gate Array)流行,FPGA屬於可定制數碼邏輯電路,可理解為一顆可自訂功能晶片,廠商開發支持AI推論的架構,以FPGA取代GPU。但FPGA設計原型也不容易,一般小設計團隊也玩不起。

設計專用晶片系統設計,作定制的用途,還得配合軟件等,有一定難度。晶片須軟件速度來創新,讓小團隊按本身想法設計,才能追上AI時代。

近期,開源晶片架構RISC-V席捲全球,就是大幅降低了晶片設計難度,針對了以定制化,解決AI算力難題。

2010年誕生於加州大學柏克萊分校的RISC-V,屬於開源的CPU架構,可以加入新的指令。2015年RISC-V基金會(RISC-V Foundation)成立。Xilinx和英特爾正爭奪FPGA市場,以夥拍FPGA設計不同方案,上述兩家均具備RISC-V的IP,以FPGA發展定制的軟RISC-V處理器,以FPGA新入指令加速執行AI。

剛推出的 SiFive Learn Inventor Development System,已認證支援AWS的FreeRTOS,可接入AWS的IoT Core。開發板支援SiFive FE310 SoC所有功能,設計人員可加進其他功能,然後快速申請AWS的認證。開發板售價為40英鎊左右。

柏克萊分校研究人員也成立SiFive公司,開發和代理RISC-V的IP,再加上RISC-V開源核心,以雲軟件(Designer on the Cloud)快速組合不同功能Template,自動變成RISC-V處理器或SoC設計。以上述流程,從設計至晶片流片,變ASIC約只要三個月,速度之快,成本和風險之低,已有數百處理器流片成功。

RISC-V功耗低,性能比同級ARM晶片高三成以上。國內為小米開發穿戴式華米,以SiFive晶片改進智能手錶 Amazfit 3,實現手錶上心臟AI監察功能,從中可見RISC-V性能。

以SiFive設計的工具,數人的設計團隊,就可開發AI或IoT晶片;包括以FPGA(Field Programmable Gate Array)設計原型,或以開發工具,小量生產軟件核心RISC-V晶片作設計。多家廠商也推出開發板,具備真正RISC-V核心。推動開源指令OpenISA就推出VEGA開發板,採用NXP的RV32M1 RISC-V内核晶片。

SiFive也推出SiFive Learn Inventor Development System開發板,採用SiFive E31晶片,專供IoT應用,獲AWS實時作業系統FreeRTOS認證,以此開發板設計,較易獲AWS的認證。

SiFive全球戰略合作負責人Phil Dworsky表示,短期內推出應用級RISC-V處理器U8,速度媲美ARM Cortex-A72設計,意味RISC-V可用於手機,甚至桌面電腦。

科技園推動本港晶片設計,AI專用晶片有望本港重振聲威;較早前科技園與聯合微電子中心,舉辦首屆「人工智能晶片高峰論壇」(AI Chips Summit),推動AI硬件發展。 

科技園今年7月啟動「創科領袖論壇系列」,以「人工智能及視覺高峰論壇2019」(AI & Computer Vision Summit 2019)掀開活動序幕。「人工智能晶片高峰論壇」為系列第二項活動。目前,共有超過80間半導體相關企業,已進駐了科學園。

香港科技園今年8月推出「iDM2 Micro-Electronics Node」,為推動FPGA加速器計畫,有助本港設計AI晶片原型,為產業奠下基礎。 

Leave a Reply

Your email address will not be published. Required fields are marked *