Mistral AI 开源数学证明工具:119B 参数仅激活 6B,解题成本低至竞品百分之一
事件概述
近日,法国 AI 初创公司 Mistral AI 开源了一款专注于数学证明与推理的模型——**Mistral MathProof**,引发业界广泛关注。该模型总参数量高达 119B,但通过 **混合专家(MoE)架构** 实现每轮推理仅激活约 6B 参数,在保持强大推理能力的同时,将单次解题成本压缩至同类竞品的 **1% 以下**。此举不仅打破了“大模型必然高消耗”的固有认知,也为数学自动化证明领域带来了全新的经济性范式。
技术特点:稀疏激活与专注推理
Mistral MathProof 的核心创新在于其 **MoE 路由机制**。119B 参数被划分为多个专家模块,推理时仅根据输入 token 动态激活最相关的少数专家(约 6B 参数)。这种设计在数学证明任务中尤为高效——证明过程往往依赖少量特定定理和推理规则,而非全量知识。相比之下,传统稠密模型(如 GPT-4、Llama-3.1-405B)即使面对简单命题,也必须加载全部参数,导致计算冗余。
此外,该模型在训练数据上进行了针对性优化:混合了形式化数学库(如 Lean、Coq)、教科书推理步骤以及人工标注的错误证明负例,使其能够同时处理符号推导与自然语言表述,在 **IMO 级别题目** 和 **定理自动证明基准(MiniF2F)** 上均取得接近顶尖水平的效果。
成本对比:从“天价”到“平民化”
以当前主流数学证明模型作为参照:
– **GPT-4**:单次证明调用成本约 $0.03~$0.06(取决于输入长度),且需全程激活约 1.8T 参数(多模型组合)。
– **DeepSeek-Prover**(MoE 类):激活参数约 37B,成本为 GPT-4 的 1/5。
– **Mistral MathProof**:激活仅 6B,推理速度提升约 **6 倍**,单次成本低至 $0.0003 左右,仅为 GPT-4 的 **1%**。
若每月解决 10 万个中等难度证明题,使用 Mistral MathProof 的成本约为 **30 美元**,而竞品则需 3,000 美元以上。这大幅降低了院校、研究机构甚至个人开发者接入自动证明技术的门槛。
行业影响与展望
Mistral AI 的开源策略延续了其一贯的“高性价比”路线。这一工具的发布可能产生三重影响:
1. **加速数学研究自动化**:低推理成本使得大规模自动定理验证、辅助探索未解猜想成为可能,尤其利好组合数学、数论等需要大量穷举或反例搜索的领域。
2. **促进教育普及**:学生可低成本获得交互式证明助手,实时检查作业或探索新思路。
3. **倒逼竞品优化架构**:120B 级 MoE 模型仅激活 6B 的效果证明,稀疏激活在推理密集型任务中具有显著优势,未来或将有更多厂商转向“大参数量+小激活量”的设计。
当然,该模型在复杂多步证明(超过 200 步)中的成功率和形式化严格性仍有待验证。但无论如何,Mistral MathProof 已向行业证明:**数学证明的“成本墙”正在被打破**。