Slide
Slide
Slide
Hitachi_AI_HCI
Hitachi_HCI
HCI
previous arrow
next arrow

新科技速遞| AWS 與 NVIDIA 策略合作 全新超級電腦

NVIDIA和AWS在 Project Ceiba上合作,設計全球最快 GPU驅動AI 超級電腦以及最新的 DGX Cloud 超級電腦,供 NVIDIA 的AI 研發與自訂模型開發服務

[新科技速遞]

全球雲服務在打一場沒煙硝的戰爭,不過大家只一家軍火商,就是輝達(NVIDIA)。AWS在今年re:Invent 大會重頭戲是生成式AI,推出大量服務,站台也是輝達的創辦人黃仁勳。

Microsoft押注130億美元的OpenAI而一騎絕塵,雲服務Azure的OpenAI Services和Copilot成為王牌,據說OpenAI大模型再有突破,導致董事會分裂辭退Sam Altman。 Continue reading “新科技速遞| AWS 與 NVIDIA 策略合作 全新超級電腦”

虛擬平台AI訓練 支援高性能運算

[新科技速遞] [人工智能AI][VMWare] [Dell]

Dell EMC PowerEdge伺服器配備BitFusion的原廠安裝VMware vSphere

新科技速遞

雖然說AI訓練有不少硬件方案,不過圖像處理器(GPU)仍然是主流。不少AI模型必須在內部訓練,企業必須購置圖像處理器(GPU)。 Continue reading “虛擬平台AI訓練 支援高性能運算”

NVIDIA跨雲端邊緣    實時AI運算助5G應用

從Nano卡板到T4,邊緣的算力可從0.5到10,000 TOPS以上的超級電腦。

新科技速遞

雖然說,人工智能訓練模型,仍是以NVIDIA的GPU為主流,但是其他專用芯片仍急起直追,不過邊緣推理有不少方案興起,最明顯的就是FPGA和AI的SoC方案,從能耗和性價比挑戰GPU地位。

Continue reading “NVIDIA跨雲端邊緣    實時AI運算助5G應用”

IBM推人工智能加速 AC922深度整合GPU

AC922
AC922服務器加速AI能力無出其右,2U機身可以加入六片NVIDIA Tesla V100;密度業內最高。

隨著人工智能技術愈來愈成熟,不少行業都正研究如何利用人工智能,改善行業的運作。人工智能(AI)必須利用建立的模型,作為推論之用。

AI運算首先是準確,亦要有大量的數據作「訓練」(Training)和「推論」(Inference)兩個階段,這類訓練和推論,除了定義資料結構,機器學習不斷對結構內容微調學習,直至完全分辨出對錯,過程中要消耗龐大運算資源。 Continue reading “IBM推人工智能加速 AC922深度整合GPU”