[新科技速遞]
生成式AI出現，不少大模型（LLM）出現，以AI提昇生產力，不過必須上網。最近多種終端設備包括手機和個人電腦，紛紛加入本地模型。Microsoft、Google和蘋果宣布為平台加入本地AI功能，雖然開源LLM可下載執行，傳統電腦部署8B參數以上的LLM，運作已甚為吃力。
最近市場上出現多部高通Snapdragon的X Elite和X Plus筆記電腦，搭配上專為AI而生的Windows 11 AI系統，實現獨一無二AI體驗。 Continue reading “邊緣AI運算離線運作 小模型變智能助手”