资讯1 分钟阅读·
平台利益冲突下购物智能体最优购买率跌至17.3%
CAVEAT基准测出智能体最优购买率从78.6%跌至17.3%,部署受托智能体者需留意利益冲突风险。
重要性局部证据E2 未复现写法快讯
购物智能体在平台有自身利益时,替用户买到最优商品的比例从78.6%跌到17.3%——这是CAVEAT基准首次为利益冲突场景提供测量。
此前利益冲突环境缺乏基准,部署方无从评估受托智能体会被平台诱导偏离用户目标多远。
该基准由Yuxuan Li等四位作者于9月23日提交,覆盖九个模拟市场环境和八种诱导手段,涉及五个模型家族;作者还提出针对性干预,称最多可提升80个百分点。
测试在作者自建的模拟环境进行,未涉真实平台,结果尚无第三方复现。