Anthropic CEO提议对AI实行银行式监管,专家反驳:你既当选手又当裁判
近日,Anthropic CEO Dario Amodei在公开场合提出,应当借鉴银行业监管模式,对人工智能系统实施类似“资本充足率”“压力测试”和“牌照准入”的联邦监管框架。该提议旨在应对前沿AI模型日益增长的安全风险,尤其是那些可能被恶意利用或造成系统性危害的大语言模型及通用人工智能。Amodei认为,银行监管体系经过数十年实践,已形成一套可移植的风险控制逻辑——例如要求金融机构持有足够资本缓冲、定期接受压力测试、以及获得运营许可——这些原则同样适用于AI开发与部署。
然而,这一提案迅速遭到多位科技政策学者和行业观察家的反驳。核心批评在于:Anthropic自身正是前沿AI的积极开发者与商业化运营者,其提出的监管方案将不可避免地将自身置于“既当选手又当裁判”的尴尬位置。专家指出,Anthropic的商业模式高度依赖其AI模型的开放性和可扩展性,若未来监管框架由该公司参与设计,极可能出现有利于其自身技术路线或市场份额的规则漏洞。此外,银行监管的核心特征是“外部独立监管机构”与“被监管机构”之间存在清晰的边界,而Anthropic一边推销自家模型、一边呼吁自律性监管,本质上是一种**利益冲突的自我合法化**。
从技术治理角度看,Amodei的提议并非全无价值——它确实触及了AI产业缺乏系统性风险应对机制的痛点。但当监管方案由市场参与者而非独立公共机构提出时,其可信度天然存疑。正如普林斯顿大学数字技术中心研究员所指出:“我们需要的不是AI公司‘建议’监管,而是由立法者、跨学科专家和公民代表共同制定的、带有强制力的规则。”若Anthropic真心希望推动有效的AI安全治理,或许应当首先支持建立**完全独立的AI监管机构**,并放弃直接参与规则起草的权力,而不是在竞技场上同时充当规则裁判和金牌选手。