中国AI安全研究阻力
5 节点0 篇5 来源
中国前沿AI安全领域正面临严重的结构性资源匮乏与制度性障碍，导致独立研究难以开展。尽管政府层面推出了《人工智能安全治理框架3.0》并成立CnAISDA以参与国际对话，但民间独立经费极度短缺，且受限于境外NGO法规及模型访问壁垒。数据显示，仅3.6%的中国AI模型发布时公开了安全测试结果，远低于西方标准。核心矛盾在于：官方强调“可控”与国家安全导向，而独立研究者因缺乏资金和算力支持，被迫转向商业服务或依赖非正式渠道，使得技术层面的深度对齐与安全评估进展缓慢。
事情怎么走到这一步
Concordia AI发布《中国AI安全现状》报告，指出中国国内治理与国际合作并行，但技术安全研究仍处早期阶段。
aisafetychina.com ↗中国发布《人工智能安全治理框架3.0》，重点识别智能体（Agent）风险，但被批评为非强制性指导，未对开发者施加基于能力的强制测试义务。
global.chinadaily.com.cn ↗ChinaTalk分析指出，中国AI安全瓶颈是“钱”而非“觉悟”。受《慈善法》和《境外NGO管理法》限制，独立非营利组织难以获得海外资助，年捐赠额仅为美国的约1/50。
chinatalk.media ↗SemiAnalysis报告显示，在审查的857个中国AI模型中，仅3.6%发布了可匹配的具体安全测试结果，且无主要开发商公开涵盖网络、生物等危险能力的全面测试。
m.economictimes.com ↗LessWrong作者CMLKevin指出，中国安全研究者面临模型访问受限（如被禁账号）、涉外合作高风险及资金匮乏，许多人为生存被迫通过商业产品补贴非营利研究。
lesswrong.com ↗