千问APP升级未成年人保护功能，助力青少年安全使用AI

近日，千问APP宣布完成未成年人保护功能的全面升级，旨在为青少年用户构建更安全、健康的AI交互环境。此举正值AI技术快速渗透教育、娱乐与生活场景之际，如何平衡技术开放性与未成年人保护，已成为行业核心课题。

升级功能亮点：从被动过滤到主动防护

据官方披露，新版千问APP主要从三方面强化防护机制：**内容安全过滤**方面，引入更细粒度的敏感词库与上下文语义识别模型，可实时拦截黄暴、暴力、诱导性信息，并对涉及心理健康、价值观引导的对话进行合规审查；**使用行为管理**方面，新增“青少年模式”下的时长限制（单次最长30分钟，每日累计上限1小时），并关闭支付、第三方跳转等高风险功能；**家长控制功能**则支持远程查看对话摘要与使用报告，实现透明化监督。

值得注意的是，千问APP还首次在AI助手中嵌入“教育反馈”机制——当检测到用户输入可能涉及心理危机或不当内容时，系统会主动推送官方求助渠道（如12355青少年心理热线），而非简单拒绝回答。这一设计体现了从“堵”到“疏”的治理思路转变。

行业背景：AI合规进入深水区

近年来，ChatGPT等大模型引发的信息滥用、隐私泄露、价值观偏差等问题屡见不鲜。我国《未成年人网络保护条例》已于2024年1月正式施行，明确要求智能终端产品及服务提供者设置青少年模式、限制消费、禁止诱导沉迷。千问APP此次升级正是对这一法规的积极响应。相较于部分仅做功能开关式处理的竞品，千问APP选择在内容生成层叠加“认知安全”算法，即在模型推理阶段实时评估回答对未成年人的潜在影响，技术门槛显著更高。

挑战与展望

尽管此次升级迈出了关键一步，但未成年人AI保护仍面临两重难题：一是**动态对抗**——恶意用户可能通过拼写变形、上下文诱导绕过过滤，需持续迭代模型；二是**隐私与监督的平衡**——家长查看对话摘要可能引发对青少年隐私权的争议。建议行业探索联合建立“AI青少年保护白名单”机制，对教育、科普类场景适度放宽功能限制，避免“一刀切”扼杀AI的创造性价值。

可以预见，未来AI企业与教育部门、心理学家的跨领域协作将成为常态。千问APP此次功能升级不仅是合规动作，更是在探索“**技术向善**”的可行路径——让AI成为青少年的知识阶梯，而非风险敞口。