加州通过多项AI安全法案,罕见获OpenAI与Anthropic联合背书

AI资讯1周前发布 全启星小编
1,123 0

# 加州通过多项AI安全法案:罕见联手背后的行业信号

近日,加利福尼亚州议会通过了一系列针对人工智能安全的综合性法案,内容涵盖高风险模型的事故报告、透明度要求以及第三方审计机制。最引人注目的是,长期对监管持谨慎态度的OpenAI与Anthropic罕见地联合表态支持该法案,这一举动被业内视为AI行业从“野蛮竞赛”向“有序治理”转型的关键风向标。

## 法案核心:从自愿到强制的安全门槛

此次通过的法案主要包括:**要求训练成本超过特定阈值的模型在部署前提交安全评估报告**,**建立强制性的“红队测试”档案**,以及**对造成重大社会危害(如大规模虚假信息、歧视性结果)的模型实施事后追责**。与联邦层面尚无进展的监管僵局不同,加州试图通过州级立法填补空白,这些法案直接瞄准了最前沿的“前沿模型”(Frontier Models),而非所有AI应用,体现出“精准监管”的思路。

## 联合背书背后的理性博弈

OpenAI与Anthropic的背书并非出于公益冲动,而是一种深思熟虑的策略选择。一方面,**双方均意识到缺乏统一标准将导致“逐底竞争”**——若对手在安全投入上节省成本,自身会受到市场压力。通过支持相对严格的州法,它们可以强迫所有进入加州市场的参与者(包括Google、Meta等)支付“安全税”,从而将自身在安全研究上的先发优势转化为合规门槛。另一方面,**主动拥抱监管还能缓解公众和立法者对“AI失控”的恐惧**,避免后续被更激进的联邦法案“一刀切”勒死。此外,Anthropic作为以安全为使命的公司,自然乐于借立法巩固其品牌定位;而OpenAI近期因治理问题频遭质疑,也急需一张“合规牌”来重塑形象。

## 争议与隐忧:中小企业与开源社区的反弹

然而,法案并非毫无争议。部分中小型创业公司和开源社区担心,**过高的合规成本将扼杀创新**,尤其是审计和测试环节的巨额开支可能只有头部企业才负担得起。批评者指出,法案定义的“高风险模型”边界模糊,且对开源模型的分发行为施加了连带责任,这可能迫使开发者撤回公开模型权重,从而阻碍学术研究。Venture Beat等媒体援引加州本地AI初创公司联盟的声明,称“这实际上会创造一道由旧金山巨头把守的市场护城河”。

## 结语:州级立法能否成为全国模板?

从整体上看,加州此举标志着美国AI治理进入“地方先行、倒逼联邦”的新阶段。OpenAI与Anthropi的联合背书则表明,**行业头部玩家已从抵制监管转向主动塑造监管**——它们不再认为安全与商业发展不可兼得,而是试图通过规则设计将自身优势制度化。接下来,该法案能否经受住科技行业更广泛的政治游说,以及加州州长纽森是否会签署(他曾对SB 1047表现出犹豫),将成为2025年AI政策领域最值得关注的观察点。无论结果如何,一场关于“AI安全应当由谁定义、以何种成本实现”的深层博弈,才刚刚拉开帷幕。

相关文章