LessWrong作者CMLKevin解析中国AI安全研究面临的结构性阻力

中国前沿AI安全领域目前处于弱势，且国内相关研究正面临显著的挑战与阻力。LessWrong用户CMLKevin在与多位中国侧研究人员交流后，总结了这一领域的现状。他指出，中国AI初创公司和大型实验室对前沿风险缺乏情境意识，这种缺失并非出于故意忽视或战略回避，而是源于想象力的真空。相比之下，西方在2011年就已展开FOOM（快速起飞）辩论，而中国在2023年前主流AI研究意识中并无类似讨论。

资金获取极为困难。在中国，非营利组织默认受到怀疑，获得外国有效利他主义（EA）资助几乎不可能，因为中国有严格的外国非营利规则。国内EA资金在绝对值和占非营利资金比例上都非常少。因此，许多致力于AI安全的人被迫创办营利性公司，向国内实验室员工销售安全与可观测性产品或课程，并用大部分利润来支持实质上的非营利安全研究。CMLKevin认为，这是中国生态系统中一个被严重低估的方面，西方可能误解这种现象，将其简单归结为“最终是能力研究或为国家目标服务”。

获取前沿AI辅助既困难又昂贵。不存在针对中国安全研究者的“Claude豁免”；事实上，平台经常因检测到用户可能来自中国而封禁账户，即使这些账户进行的是明确的民用AI安全工作。由于研究仍需最佳模型辅助，这种措施实际上给资金和资源较少的研究者带来了不成比例的高成本，从而早期就阻碍了他们。

机构层面的对外联系存在结构性风险。与中国以外的机构如METR、Apollo、Redwood等接触被视为“涉外”，引发强烈恐惧。CMLKevin认为，最可行的路径是美国研究者以个人身份联系中国的安全导向组织，并进行真诚的合作。他建议，一些补救措施可能是可行且立即有益的，例如以受监督、监控的方式向从事民用前沿安全工作的个人提供订阅和计算资源。