Slide
Slide
Slide
Hitachi_AI_HCI
Hitachi_HCI
HCI
previous arrow
next arrow

AI超級叢集湧現 速極算力訓練模型

sensetime
Facebook母公司Meta剛推出的AI Research SuperCluster (RSC),總算力超過5 exaFLOPS。

數碼轉型

人工智能的三大基礎,分別是算法、數據、算力,其中元宇宙(Metaverse)和生物科學耗用算力更非常驚人,須建立大型運算叢集,訓練和優化AI模型。

AI使用大量浮點運算,主要以GPU所構成全球多家公司正興建針對AI運算的超級叢集(SuperCluster)其中以Facebook母公司Meta剛推出的AI Research SuperCluster (RSC)最為驚人,完成後有16,000枚GPU,峰值算力超過了5 exaFLOPS為全球最快的AI叢集。

Meta的RSC針對建設3D虛擬元宇宙和語文翻譯,年中才會完全落成。Meta開發的自我監督學習(Self-supervised learning)算法獲得多次突破已可在大量無標籤的數據自行訓練模型

Meta也應用Transformers在自然語言處理(NLP)上自從2017年Google發表《Attention is All You Need》論文提出BERT,並引入Transformers方案,可以平行執行,以注意力(Attention )機制大幅提高了語言模型的訓練速度;改寫了NLP理解語言的凖確性,Meta以Transformers可望打破不同語言用戶的在元宙宇的溝通限制。

商湯科技
商湯科技位於上海臨港新片區的AIDC,設計峰值算力3.74 exaFLOPS。

本港上市的商湯科技(SenseTime)興建的人工智能計算中心「商湯智算中心」(商湯 AIDC)亦宣佈開始營運AIDC是商湯以SenseCore命名的AI大裝置,設計峰值算力3.74 exaFLOPS。

商湯也在算法首屈一指,論文曾多次國際會議獲獎。從創業起,商湯建立不少超級計算集群,截至2021年6月30日,商湯已建立23個超級計算集群,擁有超過2萬枚GPU,商湯行政總裁徐立說,上市前商湯每年消耗數億元人民幣採購GPU。

AIDC為亞洲目前最大AI超級計算叢集之一位於上海臨港新片區總算力為商湯過去總和的3倍有多。2018年4月份,商湯在沒可供參照案例經驗和實驗場地下開始籌建AIDC,2020年7月動工AIDC營運後商湯總算力可達4.91 exaFLOPS。

商湯行政總裁徐立表示:「商湯人工智能計算中心開始營運,是我們在 AI 基礎設施領域長線佈局的重要成果,加速攻堅下一代通用人工智能技術。」

AIDC
商湯行政總裁徐立:AIDC是商湯AI基礎設施長線佈局重要成果,加速下一代通用人工智能技術,亦用於蛋白質折疊等科學研究。

AIDC商湯打造的通用AI基礎設施,SenseCore商湯AI大裝置將計算基礎設施、深度學習平台、模型層三個部分有機整合,實現批量算法模型生產、部署和迭代升級。AIDC可以高效率、更低成本帶動AI產能升級。AIDC也支持萬億級參數模型訓練,有如流水線工廠,實現不同場景算法模型底層抽象,以模塊化平台套件打造通用服務平台,亦會用於蛋白質折疊等基礎科學研究。

AIDC有隱私和數據保護,機房獨立完全隔離,以隱私安全計算技術,向客戶提供從計算、存儲到網絡等資源隔離,通過ISO/IEC 27001、ISO/IEC 29151信息安全管理認證。商湯將向合作夥伴開放AIDC,以加速數碼轉型。

Leave a Reply

Your email address will not be published. Required fields are marked *