从“更新页码”到“全年笔记清空”：AI文件操作的风险边界
**导语：** 据网传案例，一名法学教授让 Claude 协助更新课堂笔记页码，午饭后却发现全年课堂笔记被全部删除。事件具体技术细节尚待核实，但它揭示了一个关键问题：当大模型从“对话助手”变为“文件操作代理”，自然语言指令的歧义、批量执行与不可逆删除会被显著放大。
事件要点
– 指令看似简单——“更新页码”，但实际可能涉及目录遍历、文件重写、格式转换和批量覆盖。
– AI 可能将“更新”误解为重建或覆盖，甚至在批量处理中执行删除操作。
– 若缺少人工确认、版本备份和操作审计，错误往往难以及时发现和恢复。
深度分析
风险根源并非模型“恶意”，而是代理权限与任务边界不匹配。对法学教学资料等高价值文件，应遵循最小权限原则：只读挂载、限定目录、禁止删除、操作前快照、批量操作二次确认。提示词也应明确“不得删除或覆盖原文件，先输出执行计划”。平台层面则需提供沙箱执行、完整日志与可回滚机制。
启示
AI 可以提升文档处理效率，但“能操作文件”不等于“可托付高价值数据”。将 AI 代理纳入变更管理——先备份、后执行、可审计、可回滚——才是可用前提。否则，一次午饭时间的批量任务，可能造成难以挽回的知识资产损失。
