调用量激增致算力紧张,WorkBuddy 紧急扩容腾讯混元 Hy3 模型

AI资讯21小时前发布 全启星小编
154 0

调用量激增致算力紧张,WorkBuddy 紧急扩容腾讯混元 Hy3 模型

近日,企业级 AI 服务平台 WorkBuddy 宣布,因旗下智能助手及相关 AI 功能的调用量在短期内大幅攀升,导致后端算力资源出现阶段性紧张。为保障服务稳定性与用户体验,WorkBuddy 已紧急启动算力扩容计划,重点对支撑核心推理能力的腾讯混元 Hy3 模型进行弹性扩容。这一事件折射出国内大模型落地应用正面临的“甜蜜的烦恼”——用户需求爆发式增长与算力基础设施弹性之间的结构性矛盾。

流量洪峰背后的业务逻辑

WorkBuddy 专注于为企业提供一体化 AI 工作流解决方案,其底层集成了包括腾讯混元在内的多款大模型。近期,随着企业客户对智能文档处理、代码辅助、会议纪要生成等场景的渗透率快速提升,Hy3 模型的日调用量环比增长超过 300%。尤其在午间和夜间高峰时段,并发请求一度超出原有资源池的承载上限,部分用户反馈响应延迟明显。这种“瞬时洪峰”现象在 B 端场景中尤为棘手:企业客户对响应时延和稳定性有严格 SLA 要求,算力不足将直接导致用户流失。

混元 Hy3 模型的特性与扩容难点

腾讯混元 Hy3 是腾讯自研的混合专家模型(MoE),在保持高精度的同时,通过稀疏激活机制降低了单次推理的计算开销。然而,MoE 架构对显存带宽和多卡协同调度要求更高,传统“暴力加卡”的扩容方式并不能线性提升吞吐。WorkBuddy 此次采取的紧急扩容方案,一方面增加了部署集群的 GPU 节点数量,另一方面优化了请求路由与负载均衡策略,使 Hy3 模型的推理批处理效率提升了约 40%。据透露,腾讯云也已同步为其开放了专用弹性资源池,以应对后续的持续增长。

行业启示:从“够用”到“可用”的算力新常态

本次事件并非孤例。随着国内大模型应用进入“千行百业渗透期”,类似 WorkBuddy 所遭遇的算力瓶颈将成为常态。对于模型服务商而言,单纯依赖云厂商预置算力已难以满足多变的需求,动态弹性扩缩容、跨区域算力调度、以及模型推理成本优化(如量化、蒸馏)将成为核心竞争力。WorkBuddy 此次的快速响应也表明,当 AI 应用从“概念验证”走向“生产级服务”时,算力基建的韧性比模型精度本身更直接影响商业闭环。未来,**“模型-算力-场景”的铁三角协同能力**,将是决定 AI 平台能否真正打入企业核心流程的关键砝码。

相关文章