哈萨比斯卸任前密谋“AI原子能机构”:已与美国财长沟通,对标国际原子能机构
引言:AI治理的“原子时刻”
随着DeepMind联合创始人德米斯·哈萨比斯(Demis Hassabis)即将卸任CEO职务,一则关于其推动建立“AI原子能机构”的消息引发全球关注。据知情人士透露,哈萨比斯已与美国财政部长耶伦进行沟通,提议设立一个对标国际原子能机构(IAEA)的全球AI监管机构——这一构想若成真,将标志着AI治理从“行业自律”迈向“国际公约”的关键转折。
背景:从实验室到地缘政治中心的AI风险
哈萨比斯之所以选择在卸任前推动这一“密码级”动议,根源在于AI技术的“双刃剑”属性已从理论风险演变为现实威胁。当前,前沿AI模型的能力边界不断突破,从自主编写恶意代码到操纵信息环境,再到可能引发金融系统震荡的量化交易风险,AI的“系统性风险”正在逼近核武器级。哈萨比斯本人多次公开表示,AI的“对齐”问题(即确保AI目标与人类价值观一致)需要类似核安全领域的全球性协调机制。
对标IAEA:AI监管的权力架构猜想
所谓“AI原子能机构”,其核心构想是建立一个具有法律约束力的国际组织,负责:
1. **安全标准制定**:统一AI系统的训练、部署和测试规范,尤其是对“前沿模型”(Frontier Models)进行强制性安全评估;
2. **技术审计与核查**:赋予该机构对各国AI实验室的访问权限,核查其是否遵守安全协议,类似IAEA对核设施的监督;
3. **危机应急机制**:在发生AI失控或“AI军备竞赛”升级时,拥有紧急干预权,包括暂停高风险模型的运行。
这一构想直接对标IAEA的“保障监督体系”,但面临的挑战更为严峻:核材料是物理可追踪的,而AI模型是数字化的,可被无限复制和隐藏。
美国财长介入:金融命脉与AI治理的交叉点
哈萨比斯选择与美国财长耶伦沟通,而非直接找科技部门或国家安全委员会,背后有着深刻的战略考量。美国财政部掌握着对全球金融体系的监管权,而AI基础设施(如算力芯片、云计算资源、数据中心融资)的供应链高度依赖金融渠道。通过与财政部合作,可以实现对AI“算力美元”的穿透式监管——例如,要求银行对用于训练前沿模型的贷款进行额外审查,或对向特定国家出口AI算力设备实施金融制裁。
挑战与前景:理想主义与现实主义的博弈
尽管“AI原子能机构”的设想颇具前瞻性,但其落地面临三重障碍:
– **主权与安全困境**:各国对AI作为“战略资产”的争夺日益激烈,中国、美国、欧盟在AI监管路径上分歧明显,中国强调“发展与安全并重”,美国主张“创新优先”,欧盟则偏重“公民权利保护”;
– **技术验证难题**:AI系统的“黑箱”特性使得审计变得极其困难,即使开放代码,训练数据与模型权重仍可能被篡改;
– **执行机制真空**:国际原子能机构有“核不扩散条约”作为法律基础,而AI领域尚无类似国际公约,哈萨比斯的“密谋”更像是一场“先发制人”的舆论战。
结语:一个时代的终局与起点
哈萨比斯在卸任前推动这一构想,既是对其“AI安全第一”理念的终极注脚,也昭示着一个新时代的到来:AI不再仅仅是科技公司的产品,而将成为类似核能、生化武器那样的“全球公共品”。无论“AI原子能机构”最终能否落地,这一讨论本身已经将AI治理从“工程师的实验室”推向了“外交官的谈判桌”。