Edge0 重磅开源 145B 端侧模型:内存省 60%,写代码依然满血

Edge0 开源 145B 端侧模型:端侧大模型进入“内存效率”竞争

据披露,Edge0 正式开源 145B 端侧模型,宣称在内存占用降低 60% 的同时,代码生成能力保持“满血”。这一信号值得关注:端侧模型正从“小参数可用”转向“大参数可部署”,竞争焦点也从单纯参数量转移到内存效率、推理延迟与真实任务能力。

从技术上看,145B 模型落地端侧的核心矛盾并非算力峰值,而是内存容量、带宽与功耗。内存省 60% 通常意味着权重压缩、量化、稀疏激活、KV Cache 管理或分层加载等组合优化。其价值在于让同等硬件承载更大模型、更长上下文或更高并发,但前提是明确压缩基线,并验证量化后的精度损失、首 token 延迟和持续吞吐。

“写代码依然满血”则需要更严格的第三方评测。代码能力不仅看 HumanEval 等单点分数,更看仓库级理解、长上下文检索、工具调用和多轮修复能力。端侧部署的优势是隐私、低延迟和离线可用;挑战则是散热、功耗、生态适配和可复现性。Edge0 的开源意义在于降低研究与企业试用门槛,但“省 60% 内存”与“代码满血”能否同时成立,仍应等待独立复现与真实端侧基准测试。

相关文章