deepin 25 成功适配进迭时空 K3 芯片，在 RISC-V 平台实现离线大模型本地推理

deepin 25 成功适配进迭时空 K3 芯片，在 RISC-V 平台实现离线大模型本地推理

事件概述

近日，深度操作系统（deepin）官方宣布，其最新版本 deepin 25 已成功适配进迭时空（Synaptics? 此处应为进迭时空，一家国内RISC-V芯片企业）推出的 K3 芯片，并在该 RISC-V 平台上首次实现了离线大语言模型（LLM）的本地推理。这一突破标志着国产操作系统与国产 RISC-V 芯片在 AI 算力协同上迈出了关键一步，也为开源指令集架构在端侧智能场景的落地提供了可复用的技术范式。

技术背景与实现难点

RISC-V 作为开放指令集架构，近年来在物联网、边缘计算等领域快速崛起，但在 AI 推理环节长期受限于生态碎片化和算力瓶颈。deepin 25 所适配的 K3 芯片采用多核异构设计，虽具备一定浮点运算能力，但相较于 x86 或 ARM 平台的成熟软件栈，RISC-V 在 LLM 推理库（如 llama.cpp、llama.cpp 的 RISC-V 后端）、SIMD 向量指令优化以及内存带宽管理方面仍有明显短板。

本次适配的核心突破在于：通过自研的量化推理引擎与 RISC-V 向量扩展指令集（RVV）深度结合，将离线大模型（如 1.5B~3B 参数级别）的权重从 FP16 压缩至 INT4，并针对 K3 的缓存层级设计定制了算子级流水线。最终实现了在无需联网、无 GPU 加速的条件下，以数秒级别的响应速度完成知识问答、文本摘要等基础推理任务。这一成果主要得益于 deepin 团队对底层编译工具链（如 GCC/RVV 分支）和运行时调度策略的深度优化。

产业意义与未来展望

从技术生态维度看，该案例验证了 RISC-V 在轻量级 AI 推理场景中的可行性，打破了“RISC-V 不适合运行大模型”的传统认知。对于国产芯片而言，进迭时空 K3 通过 deepin 25 获得了可直接商用的 AI 推理能力，降低了行业客户在信创场景下部署端侧智能助手的门槛。对 deepin 而言，这进一步强化了其作为“国产开源操作系统第一平台”在多元化芯片架构上的适配能力，尤其是在 RISC-V 这一战略性赛道上抢占了先机。

当然，目前实现的模型规模仍受限（3B 以内），且推理速度相比 x86 / ARM 平台仍有差距。但考虑到 RISC-V 芯片制程演进和定制 AI 加速单元（如 NPU 集成）的快速迭代，未来 5B~7B 模型的本地推理并非遥不可及。此次适配也为后续 deepin 社区与 RISC-V 基金会协作制定统一的 AI 推理接口标准提供了宝贵的工程实践数据。