LessWrong作者Matthew Khoriaty：AI市场平台如何从“暂停”前沿模型发展中获利
文章提出，若超级智能出现，AI市场平台将失去价值；因此，推动类似“AI 2040”的暂停计划符合其商业利益。作者分析了平台如何通过提供透明度、计算追踪和合规服务来在受控的AI扩散中占据关键中介地位。
重要性实质性证据E3 可检验写法快讯
LessWrong作者Matthew Khoriaty在一篇题为《AI Marketplaces Can Contribute to, and Profit From, the AI 2040 Plan》的文章中提出了一个反直觉的观点：像OpenRouter这样的AI市场平台，其长期商业利益可能与限制前沿人工智能发展的政策目标一致。Khoriaty指出，如果人工智能迅速发展到超级智能阶段，这些作为中间人的市场平台可能会变得无关紧要，因为超级智能可以直接管理自己的计算资源，不再需要第三方路由服务。
基于这一前提，Khoriaty认为，AI市场平台有动机去支持并准备应对一种“暂停”或放缓前沿模型开发的情景。他引用了AI Futures Project提出的“AI 2040”计划，该计划主张通过国际条约暂停前沿模型的失控发展，同时鼓励AI技术在经济中的广泛扩散。在这种情景下，市场平台可以成为连接用户与多样化、低成本且个性化AI模型的关键中介，从而获得巨大的议价能力和市场份额。
文章进一步阐述了市场平台可以采取的具体行动，以巩固其在受控AI生态系统中的地位。首先，平台可以通过激励模型提供商开源推理设置来提高透明度，这不仅有助于科学可复现性，还能降低用户切换供应商的成本。其次，平台可以利用其数据优势来追踪计算资源的使用情况，甚至安装验证设备以确保芯片仅用于推理而非训练，这对于潜在的监管条约至关重要。此外，Khoriaty建议平台实施更严格的客户身份识别（KYC）和风险分级访问，以防止恶意使用，并通过监测思维链（Chain-of-Thought）的可监控性来增强安全性。
Khoriaty强调，这种策略被称为“良性监管俘获”，即通过赋能那些能从合理监管中获益的利益集团，间接推动必要的政策变革。尽管这一论点带有推测性质，且作者承认部分动机可能源于自身立场，但它为理解AI基础设施层的经济激励提供了一个独特的视角。对于投资者和政策制定者而言，关注市场平台在安全合规方面的投入及其对行业格局的影响，可能比单纯关注模型能力的提升更具前瞻性。