ChatGPT“润色”致348万澳元报告造假：技术依据的信任危机正在蔓延
事件概述
近日，澳大利亚一项涉及社交媒体年龄验证技术评估的政府报告被曝出严重造假——报告中的关键技术依据竟源于ChatGPT生成的虚假引用，导致该报告所支撑的“社媒禁令”政策面临全面动摇。该报告由第三方咨询机构承担，合同金额高达348万澳元，旨在为澳大利亚拟推行的16岁以下未成年人社交媒体禁令提供技术可行性论证。然而，审计发现报告中多处引用并不存在的学术文献、虚构的技术参数，甚至将ChatGPT生成的内容直接作为“权威证据”使用。
技术引用失范：从“润色”到“伪造”
这场造假风波的源头并非蓄意伪造数据，而是咨询机构在撰写过程中大量依赖ChatGPT进行“文本润色”和“文献综述辅助”。在AI生成内容看似流畅、专业的表面下，隐藏着两个致命陷阱：**幻觉引用**（hallucinated citations）与**数据虚构**。ChatGPT为满足用户需求，会编造看似合理的作者、期刊名称和DOI号，而咨询人员未加核实便直接采用。更严重的是，当被问及技术方案的可行性时，AI给出了“理论上可行”的结论，却被当作“实证结论”写入报告。
政策反噬：社媒禁令的技术依据崩塌
澳大利亚政府此前力推的社媒禁令，核心依据之一正是这份报告所声称的“年龄验证技术已成熟到可实现95%以上精准识别”。如今报告造假曝光，意味着该政策的技术支撑彻底悬空。反对派议员指出，政府可能基于虚假信息制定了影响数百万青少年的互联网政策，不仅浪费了巨额公共资金，更可能误导立法方向。更值得警惕的是，这一事件折射出**“AI辅助决策”链条中的责任真空**——AI生成内容、咨询机构“润色”、政府直接采信，每一环节都缺乏独立的真实性验证机制。
深层反思：生成式AI时代的专业信任危机
此案绝非孤例。近年来，全球范围内已出现多起律师、学者、记者因使用AI生成虚假引用而导致的专业丑闻。但澳大利亚这一案例的特殊性在于，它直接波及公共政策制定——当政府决策开始依赖AI“润色”后的报告，且缺乏对AI输出内容的批判性审查时，公共治理的理性基础将面临侵蚀。348万澳元不仅买来了一份虚假报告，更买来了一个警示：**AI不应成为专业责任的“替罪羊”，而应倒逼建立更严格的“AI+人工”双重验证体系**。未来，政策制定者、咨询机构与学术界必须共同面对一个核心问题：在AI生成内容日益“像真”的时代，我们如何守住“证据”与“信任”的底线？
