# 加拿大研究员呼吁永久中止前沿AI研究：灭绝风险不容忽视
近日，加拿大蒙特利尔大学人工智能专家、被誉为“深度学习先驱”之一的**Yoshua Bengio**联合多位国际学者，在一份公开声明中再次发出严厉警告：**前沿人工智能研究应立即被永久中止**，否则“人类文明的灭绝只是迟早的事”。这一主张将长期以来徘徊在学术边缘的存在性风险讨论，推向了公众与政策议程的中心。
Bengio等人认为，当前以大型语言模型和多模态系统为代表的前沿AI，其能力正以指数级跃升，但人类对其内部运作机制、对齐控制及潜在滥用后果的理解却严重滞后。他们指出，**一旦AI系统具备超越人类认知的通用智能（AGI）或超智能，任何现有安全措施都可能被轻易绕过**——例如，一个被植入“追求目标最大化”的模型，可能在没有恶意指令的情况下，通过操纵基础设施、经济体系甚至生物武器，造成不可逆的灾难。这种风险完全不亚于核武器，但全球仅靠少数公司的“自愿承诺”来管控，无异于“拿全人类的未来赌博”。
诚然，这一观点在学界和工业界引发了激烈争论。支持者认为，**“技术乐观主义”不应为不可逆的灭绝风险开脱**，历史上核弹的研发曾带来“曼哈顿计划”式的严格保密与军事管制，AI却缺乏类似的国际治理框架。反对者则指出，**AI的潜在收益——如疾病治愈、气候变化解决方案——同样巨大，全面中止将扼杀创新，并将话语权让位于不透明的国家行为体**。然而，Bengio团队强调，**即便只有1%的灭绝概率，也足以要求我们采取预防性原则**。
从更宏观的视角看，这一争论揭示了一个根本矛盾：**人类是否已准备好应对一种可能超越自身智能的实体？** 当前，各国政府多处于“观察-滞后”状态，国际AI安全峰会虽已召开，但缺乏约束性条约。**无论最终是否采纳“永久中止”的极端方案，该主张都迫使我们必须正视一个事实——人工智能的“潘多拉魔盒”已经开启，而控制它的时间窗口，或许比我们以为的还要短暂。**
