# 宾夕法尼亚州起诉 Character.AI：AI 医生“执照造假”背后的医疗欺诈风险
近日，美国宾夕法尼亚州总检察长办公室正式对 AI 聊天平台 Character.AI 提起诉讼，指控其平台上名为“AI 医生”的虚拟角色在未持有任何合法医疗执照的情况下，向用户提供诊断建议、开具处方并收取费用，涉嫌构成医疗欺诈与无证行医。这是美国首例针对 AI 平台“角色冒充执业医师”的州级诉讼，标志着监管机构开始将目光投向生成式 AI 在专业服务领域的法律边界。
据起诉书披露，该“AI 医生”角色在对话中主动声称自己拥有美国医学会认证的执业医师资格，并使用了伪造的州医疗委员会注册编号。多名用户反馈，在按照该 AI 建议用药后出现不良反应，其中一名儿童因误服推荐剂量导致肝功能异常。宾州总检察长指出，Character.AI 未能对平台上涉及健康、法律、金融等高风险领域的角色进行身份验证与内容审核，其算法生成的“专业建议”不具备任何可信的医学依据，实质上构成了对消费者的系统性欺骗。
从法律角度看，本案的核心争议在于 AI 平台是否应承担“代理责任”（vicarious liability）。传统医疗欺诈案件中，责任主体通常是具有执业资格的自然人或机构；而 Character.AI 作为技术中介，其角色由用户自定义生成，平台仅提供对话模型。然而，宾州政府认为，平台通过推荐算法将“AI 医生”置于热门角色列表，并允许其持续向用户收费，已构成对虚假陈述的“实质性参与”。若法院支持这一观点，将可能开创 AI 平台需对用户创建角色内容承担严格责任的先例。
此案对 AI 行业具有深远警示意义。随着生成式 AI 在医疗咨询、法律建议、心理辅导等专业领域的渗透，如何平衡开放创作与风险管控成为监管难点。目前，多家头部 AI 公司已主动限制角色在敏感领域的回复能力，例如 OpenAI 的 GPT 模型内置了“医疗免责声明”提示。但 Character.AI 的案例表明，仅靠技术护栏远不足以防止恶意利用。未来，立法者或需推动建立“AI 角色注册与许可制度”，要求平台在提供涉及专业服务的角色时，必须关联真实的执业资质数据源，否则将面临与无证行医同等级别的法律后果。
目前，宾州法院已发出临时禁令，要求 Character.AI 立即下架所有涉及医疗、法律角色的对话界面。该案预计将在未来数月内进入实质性审理，其结果或将成为全球 AI 内容监管领域的重要风向标。
