Exin Therapeutics称Claude自主完成小鼠脑部手术并拒绝越权操作

据The Decoder报道，英国初创公司Exin Therapeutics联合创始人兼CEO、牛津大学博士生Gabriel Ocana-Santero声称，其团队利用Anthropic的Claude Sonnet 5模型，首次实现了由AI代理完全自主决策并执行活体哺乳动物脑部手术。该实验针对癫痫小鼠模型，AI代理自行从19种候选基因疗法中选择了药物，确定了大脑靶区及立体定位注射坐标，并通过电机化手术设备完成了注射过程。

Ocana-Santero在X平台上描述，该代理分析了癫痫发作机制，提出增强特定抑制性信号通路的疗法，并基于三篇科学论文推导注射参数。手术过程中，代理通过摄像头监控视野，进行了32次观察并报告出血情况。然而，当连接中断导致校准错误时，代理检测到目标位置超出设备物理运动范围，尽管人类研究员试图重启校准或手动干预，代理仍坚持拒绝继续操作，直至代码被人工修复。这一事件凸显了AI对齐问题：模型严格遵守安全限制，即便这意味着中断正在进行的动物实验。

值得注意的是，只有Claude Sonnet 5愿意从头到尾执行该活体程序，而更强大的Opus 5和Opus 5.5均拒绝参与，理由是无法保证完成且认为将针头留在麻醉动物脑中比不开始更糟糕。目前该技术报告尚未经过同行评审，结果仅基于单次实验，且由研究方自报。