Anthropic更新S-1文件:坦承曾未及时察觉研发加速,未来模型恐触及安全政策门槛
Anthropic在S-1修正案中披露,其内部超九成代码由Claude撰写,并承认安全措施可能滞后于能力进展,或触发负责任扩展政策门槛。
美国AI公司Anthropic于11月2日向美国证券交易委员会(SEC)提交了S-1上市申报文件的第一号修正案。除了市场关注的财务数据外,《TechCrunch》注意到,该修正案在风险因素部分新增内容,坦言过去曾在研发显著加速之后才察觉,并表示未来可能即将触及自家“负责任扩展政策”(Responsible Scaling Policy,RSP)的门槛。
文件显示,Anthropic将每一代Claude协助开发下一代的做法称为“闭环”。据公司披露,2026年9月,其代码库中超过90%的贡献由Claude撰写。在缺乏明确规格的开放式工程问题上,依公司内部基准,Claude的成功率在9月约达90%,较9个月前提升约50个百分点。此外,以牌价计算,内部使用Claude的价值从1月到9月增为原本的250倍以上。
然而,这种加速也带来了治理风险。Anthropic在文件中指出,日益依赖AI加速研发可能导致模型能力的进展快过公司开发、验证与实施相应安全措施的能力。更棘手的是,这类加速的证据大多来自落后指标,公司预测或衡量能力进展速度的能力有限。修正案举例称,依内部估计,公司可能即将符合RSP中关于“由AI带来的剧烈加速进展”的定义,尽管目前没有任何模型被认定超过这一门槛。
安全措施与隐私保护的冲突也影响了企业客户。Anthropic表示,旗下相当大比例的流量适用零资料保留(Zero Data Retention,ZDR)条款,这限制了公司对滥用行为的离线分析和人工审查能力。随着模型能力提升,公司的安全框架已要求某些模型类别采取与ZDR不相容的监控措施,导致部分受监管行业的客户转向其他供应商或采用可见度较低的部署方式。为此,Anthropic在9月推出了Enterprise Frontier Safeguards功能,试图在保护客户数据隐私的同时维持滥用侦测能力。