Slide
Slide
Slide
Hitachi_AI_HCI
Hitachi_HCI
HCI
previous arrow
next arrow

AI數據中心大行其道 投資前景獲市場青睞

H100
H100晶片,可同時應付高性能運算和AI,性能無出其右,尤其AI運算和支援Transformers的架構,H100效能為上一代6倍

新科技速遞

NVIDIA(英偉達)收購ARM失敗, 2022年GTC全球AI開發者大會之後,無礙股價繼續反彈,股價急升,再迫近市值7000億美元。

NVIDIA是全球半導體行業最高市值公司,也是第大8市值最高上市公司,雖然NVIDIA的GPU原本只開發圖形處理器加速電腦顯示,後來轉用在AI平行運算上。近年人工智能(AI)應用大增,2月份公佈的21財年收入,數據中心營業額上升了71%,上述數據中心以針對AI運算為主。

以年率計,NVIDIA業務增長亦相當驚人,全年收入高達269億美元,其三個主要市場;包括電腦遊戲、數據中心、專業顯示的業務,均增長強勁,尤其是雲端AI運算和AI數據中心,肯定是未來業務焦點。

NVIDIA共同創辦人暨行政總裁黃仁勳以為,CPU、GPU、DPU一體化將成AI數據中心的趨勢,NVIDIA以囊括AI超級數據中心所有主要元件,較早前大會集中介紹了NVIDIA發展加速網絡的DPU。

AI性能眼前一亮

今次GTC大會上,黃仁勳推出新一代針對AI數據中心的的架構及核心Hopper,接替兩年前的Ampere架構,並推出GH100新系列GPU,採用全新定製台積電4nm 工藝;晶體管數量多達800億,支援首個GPU機密計算,相比上一代的A100,FP8性能提升6倍,FP16、TF32、FP64性能也各自提升了3倍。

黃仁勳又介紹基於Arm架構Grace處理器,首款採用ARM的Neoverse架構,針對AI基礎架構與高性能運算設計,作為支援AI數據中心的超級晶片,與GPU更是無縫接合。

Grace和Hopper兩個名稱,其實是為了紀念美國電腦科學家先驅Grace Hopper,Hopper是耶魯大學首位女性的數學博士、曾為IBM位於哈佛的ASCC電腦Harvard Mark I編程,率先提出可於任何機器運行的編程語言理論、60年代又帶領團隊開發了COBOL語言編譯器,再大力推廣,為當年COBOL成為主流編程語言,奠下了基礎。

瞄凖AI數據中心

據黃仁勳介紹的H100晶片,可同時應付高性能運算和AI,性能更無出其右,尤以AI運算和支援Transformers架構,H100效能為上一代的6倍,屬於NVIDIA的GPU性能有史以來,最大的躍進。

第四代的NVLink支援900GB/s 連接速度,比上一代高3倍,Grace加上Hopper模組能在CPU與GPU之間直接連接,NVLink也支援數據中心的開放生態,第三方處理器亦可以NVLink C2C協定互連,每個鏈路速度高達900GB/s,支援NVIDIA的GPU、CPU、DPU、NIC 和SoC,打破AI數據在CPU與GPU之間,以至其他專用處理器之間的瓶頸。

押注五大AI趨勢

Hopper已獲多家公有雲支持;阿里雲、AWS、百度智能雲、Google Cloud、Azure、Oracle Cloud和騰訊雲都會加入,開發人員可在公有雲訂閱H100執行AI工作。

除了處理器和新架構,黃仁勳推出多款系統和平台軟件、函式庫、AI應用,以支援硬件,系統軟件和函式庫,NVIDIA的高性能運算HPC、NVIDIA的AI以及Omniverse 軟件平台,AI與機器人應用框架等。

黃仁勳表示,上述技術針對5個隨AI誕生的趨勢;包括「百萬倍增速的運算」(Million-X computing)、Transformers模型加速的AI(Transformers turbo-charging AI)、數據中心變身AI模型工廠、機器人系統(robotics systems),以及AI次世代的數碼孿生(Digital twins for next-generation AI)。

NVIDIA提出清晰的產品和技術路線圖,加上去年增長強勁,AI改變商業運作和科學運算,更似祗是方興未艾,市場也對於NVIDIA寄予厚望。

Leave a Reply

Your email address will not be published. Required fields are marked *