Anthropic
5 节点1 篇7 来源
美国人工智能公司 Anthropic 在其修改后的上市文件（S-1）中警告，其研发可能即将达到“AI 驱动的进展大幅加速”的定义。这一担忧的核心证据来自 MIT CSAIL 团队发布的《Sparks of Weight-Space Programming》研究：前沿模型 GPT-6 Astra 展示了无需训练、直接读取并编辑其他神经网络权重的能力。实验显示，Astra 能通过分析原始权重识别网络功能，并通过修改极小比例（如 0.016%）的权重显著提升 Qwen 模型的数学准确率。尽管该技术目前仅在小型网络和特定任务上有效，且存在无法区分谄媚行为等局限，但它标志着从传统梯度下降优化向语言模型直接推理优化的范式转变。Anthropic 认为这种能力的出现意味着递归自我改进的条件正在成熟，从而触发了其对负责任扩展政策（RSP）阈值的重新评估。
事情怎么走到这一步
MIT CSAIL 团队发布博客文章《Sparks of Weight-Space Programming》，展示 GPT-6 Astra 能够原生读取和编写神经网络权重，包括识别游戏类型和修复控制策略。
rikiyat.github.io ↗Humza Nusrat 等人发表预印本论文，探讨使用 Claude Opus 5.5 进行临床决策网络的权重空间审计与修复，验证了该技术在医疗领域的应用潜力与局限。
arxiv.org ↗MindStudio 发布分析报告，指出 GPT-6 Astra 通过编辑约 3.5% 的权重使游戏网络成功率从 0% 升至 100%，并将 Qwen 模型 MATH-500 准确率从 7.9% 提升至 48.1%。
mindstudio.ai ↗Zvi Mowshowitz 在 Substack 评论中指出，Anthropic 修改后的 S-1 文件明确警告可能即将满足 RSP 中关于“AI 驱动进展大幅加速”的定义，引发对递归自我改进风险的讨论。
thezvi.substack.com ↗Disconfirm 报道 Anthropic 在上市文件中警告研发可能大幅加速，同时提及前沿模型 Astra 已展示零训练直接编辑其他模型权重的能力。
thezvi.substack.com ↗