Slide
Slide
Slide
Hitachi_AI_HCI
Hitachi_HCI
HCI
previous arrow
next arrow

人工智能| NVIDIA再掀AI浪潮        生成式AI為契機 

NVIDIA
在數據中心AI運算的發展,現時Blackwell 架構GPU,明年將會推出Blackwell Ultra的GPU,之後再會發布Rubin。

[人工智能]

台北國際電腦展(Computex)向來是科技巨頭展示實力的戰場,今年AI繼續成為利器,科技公司紛紛注入此勝利元素。今年NVIDIA重炮推出多項以AI主導的方案, AI已不再只是奢侈品,已是企業持續發展的必備條件。

成立於1993年的NVIDIA一直鑽研視覺運算技術,發展高效能計算、視覺運算。圖形處理器(GPU)為加速影像效果所設計的專業處理器,遊戲產品使用GPU,讓NVIDIA多年以來站穩遊戲產業的龍頭位置。NVIDIA創辦人兼首席執行官黃仁勳在台北國際電腦展,揭露NVIDIA AI運算的未來發展藍圖時表示,生成式AI正在重塑各行各業,並帶來新機遇。他認為AI在ChatGPT面世之前,還只是集中在語言理解、話音辨識或電腦視覺層面;但ChatGPT出現後,生成式AI方才嶄露頭角,將不同GenAI的模型應用於各行各業,才能展現機遇。

加速運算推進AI的發展,亦催生了GenAI的出現。黃仁勳指出以往的運算以搜索主導,但現時即使已有生成海量的內容,GenAI 可協助只檢索關鍵的資料,既能節省能源,亦可只針對合乎上文下理的資訊,省時省成本。他認為能將數據轉化為智能的成本將會逐漸降低,GPU 和 CPU 的組合能夠高倍加速,而功耗僅增加三倍,所以他強調加速運算是永續運算,亦即購買越多,就能節省越多。

針對新型AI工廠及電腦使用, NVIDIA推出的軟件NIM (Nvidia Inference Microservice)當中包括CUDA、cuDNN,以及TensorRT LLM模型推論引擎和Triton推論伺服器,讓開發人員在電腦上使用NIM,仿似與ChatGPT對話。他相信企業可使用不同的LLM模型,建立文字生成、影像生成,適合自己的AI應用,或是切合各種行業如醫療、生物等的模型。NIMs擔任AI代理的角色,每個NIMs可負責不同項目,例如搜索資訊、執行SQL查詢等等,取締過往只以指令編寫程式,現在可利用組建AI團隊的應用程式,企業內部可以擁有大量的NIMs進行協作。

NVIDIA創辦人兼首席執行官黃仁勳
NVIDIA創辦人兼首席執行官黃仁勳在台北國際電腦展,表示生成式AI正在重塑各行各業,並帶來新機遇。

人工智能除了對於CPU有所要求外,對高效能以太網絡的需求亦激增。是次發布的NVIDIA Spectrum-X是專為AI建構的以太網絡結構,據指比傳統方案提高1.6倍,加強AI工作負載的處理、分析及執行,將開發及部署AI方案的時間縮短。在數據中心AI運算的發展,現時Blackwell 架構GPU,他預告將會明年推出Blackwell Ultra的GPU,之後再會發布Rubin。Blackwell 平台將會被Rubin平台取締,Vera配備新的GPU及基於Arm的CPU。為應付GenAI 高速發展,他亦預告AI晶片將會每年有一次新的發布。

RTX
以RTX驅動的AI助理推出G-Assist,接收玩家的話音或文字指示後,可透過LLM支援的語音或文字輸入作出反應提供實用資訊。

NVIDIA在遊戲行業已發展多年,其GeForce系列顯示卡擁有圖形處理能力和高解析度顯示效果,為遊戲玩家帶來逼真的遊戲體驗。去年以生成式AI技術應用,專為遊戲開發商打造的Avatar Cloud Engine(ACE)for Games,可透過AI主導的自然語言互動技術,令遊戲內的NPC能夠即時對話。今年再下一城,以RTX驅動的AI助理推出G-Assist,展示針對電腦遊戲及應用程式的協助。電腦遊戲玩家需要詳盡的攻略,往往需要花費時間網上搜集資料,此助手接收玩家的話音或文字指示後,可透過LLM支援的語音或文字輸入作出反應,根據遊戲進度及玩家查詢,提供高準確性和洞察力的實用資訊。此 AI 模型可透過雲端進行,或由 GeForce RTX GPU 進行本地化加速運算,將遊戲行業更推前一大步。

Leave a Reply

Your email address will not be published. Required fields are marked *