[新科技速遞]
Meta開源了史上參數最多的Llama 3.1 405B，參數達4,050億，上下文長度128K，支援8種語言，性能上超越GPT-4o。Meta行政總裁朱克伯格宣佈推出Llama 3.1，與Linux相提並論。朱克伯格認為，Llama 3.1會成為未來創新的基礎技術。 Continue reading “新科技速遞| 首次超越閉源下載火爆 開源大模型迎Linux時刻”
新科技速遞| 首次超越閉源下載火爆 開源大模型迎Linux時刻
LLAMA-3
邊緣AI運算離線運作 小模型變智能助手
[新科技速遞]
生成式AI出現，不少大模型（LLM）出現，以AI提昇生產力，不過必須上網。最近多種終端設備包括手機和個人電腦，紛紛加入本地模型。Microsoft、Google和蘋果宣布為平台加入本地AI功能，雖然開源LLM可下載執行，傳統電腦部署8B參數以上的LLM，運作已甚為吃力。
最近市場上出現多部高通Snapdragon的X Elite和X Plus筆記電腦，搭配上專為AI而生的Windows 11 AI系統，實現獨一無二AI體驗。 Continue reading “邊緣AI運算離線運作 小模型變智能助手”