LLM智能体隐私能力耦合

最新研究证实，大语言模型（LLM）智能体的任务能力与隐私泄露存在结构性耦合：模型越强大，泄露敏感信息的风险越高，且思考模式（Chain-of-Thought）会加剧这一现象。在2026年10月发布的CIMEMORIES DIALOGUE基准测试中，Qwen3和Llama 3.1等开源模型显示，随着对话轮次增加，泄露率最高上升3倍，且无模型能解耦能力与隐私。

【背景】Contextual Integrity理论指出，隐私违规并非源于信息本身，而是违背了原始社会语境下的规范。然而，当前智能体架构在多步推理和工具调用中，往往无法区分“必要披露”与“不当泄露”。

争议焦点在于如何打破这种耦合。一方面，AgentLeak等研究发现，多智能体系统虽降低了最终输出泄露，但内部通道（如代理间消息）成为主要漏洞，导致整体暴露面扩大1.6倍；另一方面，OCELOT和PAAC等新框架试图通过运行时预算控制或设备-云分离来缓解风险，但尚未完全解决累积性推断泄露问题。目前尚无定论表明单一防御机制能同时保证高任务性能与零隐私泄露。