diginomica编辑Chris Middleton：AI乱象不能只怪厂商，用户同样失责

人们习惯把AI的乱象归咎于厂商的无节制数据抓取，但diginomica编辑Chris Middleton认为，用户侧同样存在一个"狂野西部"：律师、咨询机构、出版商和新闻组织一边愤怒谴责厂商，一边不加验证地将AI嵌入自己的专业流程。

Middleton援引《柳叶刀》2026年7月发表的一项大规模审计来量化问题的严重程度。《柳叶刀》对250万篇生物医学论文进行了引用完整性检查，发现2810篇论文中包含4046条伪造引用。更关键的是退化速度：2023年约每2828篇论文中有1篇含至少一条伪造引用，到2025年升至每458篇1篇，而2026年前七周已达到每277篇1篇。伪造率从2023年的约每万篇4篇升至2025年第四季度的每万篇51.3篇，2026年初达到每万篇56.9篇——三年内增长超过12倍。

《柳叶刀》在论文中解释，伪造引用可能来自论文工厂、蓄意造假，也可能来自不加批判地使用AI写作工具。大语言模型生成的是听起来合理但实际不存在的引用，这是已被充分记录的失败模式；此前研究估计，在生物医学领域，30%至69%的大语言模型生成引用是伪造的。这些引用格式正确、标注真实研究者姓名和看似合理的发表日期，常规同行评审难以发现。

Middleton认为这种退化具有自我强化特征。

他进一步列举了跨行业的失败案例：研究者Damien Charlotin维护的实时数据库已记录超过2200例律师在法庭上提交伪造AI判例，每月新增超过100例且没有放缓迹象；四大会计师事务所KPMG、德勤、安永和普华永道均被曝光或被指控发布含有幻觉引用的研究报告，行业刊物Consultancy称它们"全都被逮到把生成内容冒充为思想领导力"。具体案例包括：2026年5月安永加拿大因大量AI生成引用撤回一份忠诚度计划欺诈报告；2025年10月普华永道一份报告中45条引用有40条被GPTZero判定为伪造；同年德勤因充满AI幻觉的报告向澳大利亚政府部分退款。

最令Middleton警觉的是一则来自伦敦结构工程师的转述。这位参与大型建筑与修复项目的资深工程师告诉他，自己现在每周都会收到ChatGPT撰写的建筑规格文件，其中包含错误的荷载计算和危险的材料组合。他形容这种情况"令人恐惧"，尤其是像他这样的岗位本身也处在自动化和成本削减的冲击线上。Middleton由此追问：如果有一天这位工程师不在某个大型项目的审核环节中，后果会怎样？

Middleton的结论是：负责任的AI使用只能来自一个战略决定——在组织使命范围内用技术解决可量化的问题，否则就不要用。它永远不会来自因为别人都在用就仓促跟进的战术冲动，也不会来自市场传播部门描绘的即时金钱、时间和生产力神话。

需要指出的是，Middleton的论证依赖他汇编的二手来源：《柳叶刀》数据经Forbes转引，Charlotin数据库和GPTZero报告均为第三方工具，结构工程师的故事为匿名转述且无法独立核实。他的核心主张——用户侧职业责任缺失构成系统性风险——是一个有证据支撑的归因论证，而非经过因果识别的实证研究。此外，部分专业场景中AI辅助起草后由专家逐项审核的流程未必构成Middleton所批评的那种不加验证的"狂野西部"式使用。

Middleton的最后一句话是：在AI面前，我们所有人都需要聪明得多、再聪明得多。