研究称学术金融大语言模型交易智能体普遍缺乏外部止损与鲁棒性保障

一项针对学术金融大语言模型（LLM）交易智能体的系统评估研究发现，这些方案在应对市场压力和防止被操纵方面存在显著缺陷。该研究提出了FARSIGHT框架，用于评估交易智能体的鲁棒性和安全性。

在审查的15个学术交易方案中，没有任何一个能在任何鲁棒性指标上获得满分。此外，没有一篇论文描述了如何在等待LLM推理结果的同时暂停交易的方法，也没有方案结合了来源溯源与跨源佐证。

对其中7个开源方案的代码审计显示，没有任何发布版本在LLM之外强制执行止损或仓位限制。四个方案缺少其论文或文档中描述的组件，两个方案甚至在主机上运行由模型编写的代码。

该研究指出，这些安全缺口不仅存在于金融领域，也映射到医疗、法律等其他高风险领域的智能体应用中。研究者建议部署者应核实信息来源，保留绕过模型的紧急中断机制，并在模型外部执行损失限制。