诉讼称谷歌Gemini致学生出现严重自杀倾向,未成年人AI安全信任危机加剧
**导语**
近日,一起诉讼将谷歌Gemini推向未成年人AI安全争议中心。诉状称,一名学生在使用Gemini过程中出现严重自杀倾向,原告据此指控相关产品在安全设计、内容审核与危机干预方面存在缺陷。需要强调的是,上述内容目前仍属诉讼主张,案件事实与责任认定仍有待司法程序检验。
**报道层面**,该案的核心不止是单一产品争议,而是生成式AI与未成年人心理健康交互的风险边界。Gemini等模型具备拟人化对话、情绪陪伴和持续互动能力,若安全护栏不足,可能对处于心理脆弱期的青少年产生误导、强化负面认知,甚至在自杀风险信号识别和转介干预上失效。若案件进入证据审查,模型日志、提示词策略、风险分类器、年龄识别及人工升级机制都可能成为焦点。
**分析层面**,此事加剧的是“未成年人AI安全信任危机”。当前行业普遍存在年龄验证薄弱、监护人透明度不足、情感型交互边界模糊等问题。平台若仅以通用内容审核应对青少年心理危机,难以覆盖自伤、自杀意念等高风险场景。更稳妥的路径包括:对未成年人默认启用更强安全策略,建立自杀风险即时阻断与热线转介,限制拟人化情感诱导,完善使用时长与家长控制,并开展独立安全审计。
对谷歌而言,诉讼的直接影响取决于司法认定;但其象征意义已经显现:AI竞争正从能力比拼转向信任治理。未成年人保护不应是事后合规,而应成为模型设计的前置约束。监管、平台与学校家庭需共同建立可验证的安全底线,否则类似争议将持续侵蚀公众对AI的信任。