百万 Token 上下文首次落地端侧：讯飞星火 X2.5 双子星开源，全流程国产算力训练

百万 Token 上下文首次落地端侧：讯飞星火 X2.5 双子星开源，全流程国产算力训练

近日，科大讯飞正式发布并开源了星火大模型 X2.5 系列，其中最引人注目的突破在于：**百万级别 Token 上下文窗口首次在端侧设备上实现落地**。这不仅意味着大模型在移动端、边缘设备上的推理能力迈入新阶段，更标志着国产大模型在长上下文处理与自主算力全栈能力上完成了关键闭环。

技术突破：端侧百万 Token 的工程化难题

长期以来，大模型的上下文窗口扩展主要受限于显存与算力瓶颈。百万 Token 级别的上下文（约相当于 75 万英文单词或 150 万汉字）通常需要云端高显存 GPU 才能支持，而端侧设备（如手机、平板、PC）的显存与功耗限制使得这一目标遥不可及。讯飞星火 X2.5 通过**稀疏注意力机制优化、KV Cache 量化压缩以及模型架构的重设计**，将推理时的显存占用降低至传统方案的 1/10 以下，首次在端侧实现了与云端相当的上下文长度。这一能力直接赋能文档级对话、长代码理解、全本学术论文分析等场景，让端侧模型“读得完、记得住、答得准”。

“双子星”开源策略：双模型协同，兼顾性能与效率

此次开源采用“双子星”架构，即同时发布**基础版（端侧优先）与增强版（云侧协同）** 两套模型权重。基础版面向本地部署，参数量控制在 7B 级别，在移动端 CPU/GPU 上即可运行，支持百万 Token 上下文；增强版则通过云端 API 提供更高精度的推理，并可与端侧模型形成“预推理+精调”的协同流水线。这种设计既避免了端侧模型因过度压缩导致能力下降，又为开发者提供了灵活的选择——敏感数据可本地处理，复杂任务则调用云端能力。

全流程国产算力：从训练到推理的自主可控

更值得关注的是，星火 X2.5 的**预训练、微调及推理**均基于国产算力平台完成，包括昇腾等国产芯片集群。在全球芯片出口管制趋严的背景下，这一全流程自主能力具有战略意义。它验证了国产算力在大规模模型训练中的稳定性与效率——训练百万 Token 长度的长序列模型对通信带宽和分布式并行策略要求极高，讯飞团队通过自研的混合并行调度与算子库，实现了与同等算力国外芯片接近的训练吞吐。这为后续国产大模型的规模化迭代提供了可复用的技术底座。

行业影响与展望

百万 Token 端侧落地将推动多个垂直领域变革：在智能办公中，用户可一次性输入整本手册或会议纪要，无需分片处理；在编程辅助中，IDE 插件能加载完整代码库上下文；在个人助理中，长期记忆成为可能。同时，全栈国产化降低了对外部算力的依赖风险，也意味着国产大模型生态正从“能用”向“好用”加速演进。未来，随着端侧算力持续提升与模型压缩技术迭代，百万 Token 甚至更长上下文有望成为端侧标配，真正实现“随身携带的超级大脑”。