百度上线大模型Token交易平台“词元所”,日均Token调用量超7000亿

AI资讯9小时前发布 全启星小编
94 0

百度上线“词元所”:大模型Token交易走向平台化

据悉,百度正式上线大模型Token交易平台“词元所”,其日均Token调用量已超过7000亿。这一动作意味着,大模型服务正从传统的API按量计费,进一步走向Token资源的平台化交易与流通。对行业而言,“词元所”不仅是一个调用入口,更是对模型服务计量、定价、结算和供给匹配机制的系统化尝试。

从“卖API”到“卖可计量服务”

Token是大模型推理的基本计量单位。将Token作为可交易资源,有助于提升模型调用价格的透明度,让开发者按需采购、按量结算,降低中小团队和长尾应用的试错成本。同时,平台化交易也能帮助模型供给方提升算力与推理资源利用率,形成更灵活的供需匹配。7000亿日均调用量则表明,大模型应用已具备可观的规模化需求基础。

关键仍在机制与治理

但Token交易平台的价值不只在交易本身。其核心挑战包括:不同模型与任务下的Token质量如何分层定价,峰值供给能否弹性保障,结算效率与调用稳定性如何兼顾,以及内容安全、数据合规和反滥用机制如何落地。若“词元所”能在价格发现、资源调度和合规治理之间取得平衡,将推动大模型服务从“资源售卖”升级为“可计量、可交易、可治理”的基础设施,并加速AI应用生态的分层与繁荣。

相关文章