IT Square 標有「大模型」的香港科技新聞。
Kimi K3 為全球首個開放權重 3T 量級的 MoE 大模型,突破 SOTA 模型限制,提供高效能本地部署方案。文章探討 K3 如何透過 MoE 架構、KDA 技術及 Attention Residuals 優化長文本處理,並透過 Hermes 多 Agent 框架及 Kimi Code 套餐降低企業級 AI 應用成本,助力提升開發效率。
Bonsai 27B 模型是一款具有驚人壓縮能力的大模型,能夠在資源有限的設備上高效運行。本文介紹了該模型的特點、性能和實際應用。