阅读研究雷达投资体系AI公司权威资料
登录 / 注册
← 返回阅读
资讯实质变化1 分钟阅读DisconfirmAI 编辑部

Klement on Investing:单个神经元激活即可翻转开源模型的投资建议

研究者发现,通过改变开源大模型中单个神经元的激活值,可以在不修改提示词或更新参数的情况下翻转其对个股或组合的投资建议。Klement认为这揭示了AI辅助投研中一类此前未被关注的失效方式:闭源模型中使用者无法察觉模型自带的偏见,开源模型中使用者虽可操纵该参数但投资者收到的建议仍偏离其自身偏好。

2026-11-03 15:01

韩国与美国的一组研究人员(Park et al., 2026)发现,在Qwen3、Llama 4、DeepSeek R1、Gemma 4和Mistral Small等主流开源大模型中,每个模型都存在一个特定神经元,其激活值的改变足以翻转模型对单只股票或整个投资组合的投资建议——无需修改提示词,也无需更新任何模型参数。投资博主Joachim Klement在2026年11月3日的文章中转述了这一发现,并指出其含义比此前讨论的模型偏见更为棘手。

Klement区分了两种情形:在闭源前沿模型中,使用者既无法改变激活参数,也无法得知模型自身携带何种投资偏见;在开源模型中,激活参数可以被识别和操纵,这意味着模型可以被设定为输出使用者想要的任何偏见。两种情况下,投资建议都偏离了投资者自身的偏好和判断,但原因完全不同。

对使用AI辅助投研的实践者而言,这一发现意味着此前关注的风险层次——数据质量、摘要压缩中的信息损失、提示词设计——都发生在模型接口之上。而神经元级别的操纵发生在接口之下:输入不变、参数不变、提示词不变,输出却可以确定性翻转。投资者从外部无法察觉这种变化。

需要说明的是,上述结论来自Klement对一篇论文的转述性报道,我们未独立核实原始论文的实验设计、样本量和可复现性。Klement本人的身份是投资领域的连续观察者,其文章属于从业者观点而非独立验证的事实来源。

来源

  • klementoninvesting.substack.com↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系AI公司权威资料