AI安全工具生态的结构性缺口：500多家机构仅约80家做工具，100条入行路径无一培养开发者
LessWrong作者ankurpandey42对AI安全生态进行了系统映射，发现500多家安全机构中仅约80家建造工具且集中在安全相邻领域，100条研究课程与奖学金路径无一专门面向工具开发者。作者认为问题不在于工具没被建造，而在于它们缺乏可推广性、采纳度和部署规模，并主张将AI安全工具视为公共品。
重要性实质性证据E3 可检验写法标准
AI安全领域目前有500多家机构，雇佣约2000名全职人员，平均每家4人。但LessWrong作者ankurpandey42在一份系统映射中发现，其中仅约80家建造任何形式的工具，且绝大多数集中在安全或安全相邻领域——红队测试、模型安全、代理基础设施安全等。更关键的是，在映射的100条奖学金和课程路径中，没有一条专门面向AI安全工具开发者。
作者认为问题的核心不在于工具没被建造。许多安全机构确实产出工具，研究项目的成果也常常是工具，但这些工具大多为内部、高度特定的用例而设计，没有以可推广性为目标。作者的论点可以概括为：如果我们认真对待AI进展及其影响，就需要可推广、被采纳、被部署的AI安全工具作为公共品。推动工具开发至少有三重价值——加速安全研究本身、提高人们以新方式应用安全用例的能力（即更高的可供性）、以及让非研究者的工程师和建造者也能参与这一领域。
在工具与产品的区分上，作者明确偏好
工具
而非
产品
。产品当然有优势：吸引风险投资、适合大规模运营和部署、迫使团队贴近真实需求、有时比依赖政府或资助者更独立。但作者指出，以营利为先的AI安全初创公司本质上是
营利第一、安全第二
，极易被市场拉离安全关切；而市场未必在造成后果之前为好的安全结果定价。因此作者选择
工具
这一更宽泛的术语，以避免附加特定的激励假设。
作者同时承认几个现实困难：双重用途（加速安全的工具同样可能加速能力或滥用）；通用化陷阱（追求可推广性可能使工具过于泛化）；以及前沿实验室和大型代理框架可能比外部组织更快建造出同类工具。作者引用了Ronak Mehta关于Coordinal（一个自动化安全研究平台）事后复盘的经验，以及自动化AI对齐研究
比想象中更难
的近期教训。
不过作者也观察到一些正在发生的早期动向：专门建造工具以扩展安全研究的机构Neolithic已经启动；多家风险投资（Halcyon、Juniper、SAIF.vc、Fifty Years、Mythos、Lionheart等）和孵化器（Seldon Lab、Surplus、Catalyze Impact）开始关注这一方向；Coefficient Giving通过新启动的Tailwind计划表示愿意资助
用AI加速AI安全与治理的工具和最佳实践
。作者本人则获得了Manifund资助，正在试点一个名为
AI Safety for Builders
的免费线上微型奖学金——四周、每周8到12小时、2到5人团队在导师指导下建造开源AI安全工具。
这份映射的数据由作者使用Exa搜索引擎的自动更新循环编译，截至2026年10月中旬，作者声明
据我们所知准确，但可能存在错误
。这是一个自报的生态诊断，不是独立验证的统计结果；但它提出了一个可检验的结构性问题：当AI安全领域的主要入行路径都在培养研究者时，谁来建造那些让安全研究可规模化的工具？