资讯1 分钟阅读·
认知多样AI评审团抗攻击错误率低10%
作者自测称按推理方式组队比按厂商组队错误率低10%，LoRA微调还能再提升逾4%准确率，样本小待复现。
重要性局部证据E2 未复现写法快讯
让AI评审团按认知推理方式多样化，比按模型厂商多样化更抗对抗攻击，错误率低10%——这是作者Anya Habana自测得出的结论。
此前评审团多样化通常按模型厂商组队，其抗攻击效果缺乏直接比较；该探索性工作在BlueDot技术AI安全冲刺项目下完成，发表于LessWrong。
实验用120个自生成的错误信念场景（由Gemini Flash Lite 3.5生成），比较「同一模型被设定为不同推理人格」与「OpenAI、Mistral、Google不同架构模型」组成的评审团，得出上述10%差距。文中还称，仅靠提示词诱导不同推理方式会泄漏模型既有能力，而用LoRA微调可让多样化评审团比单一评审模型准确率高逾4%。全部数字出自作者自测，样本量小，结论有待第三方复现。