AI研究员Florian_Dietz提出智能体记忆审计机制：通过不可变日志、认知状态标记与用户显式签核防止目标漂移

在构建具有长期记忆的AI智能体时，开发者通常面临一个隐蔽但危险的问题：随着智能体不断编辑和总结其知识库，原始信息会发生微小且累积的“漂移”，导致智能体逐渐偏离最初的目标或基于幻觉做出决策。AI研究员Florian_Dietz在LessWrong上提出了一套名为EpistemicMemory的文件约定系统，旨在通过结构化的记录方式而非模型能力的提升来解决这一可审计性问题。

Dietz指出，现有的许多记忆工具（如Karpathy的LLM Wiki或基于Obsidian的系统）虽然技术上可以通过Git历史保留原始版本，但这对于智能体而言并不友好，因为审查Git差异需要大量计算资源，往往被跳过。他的解决方案是建立按主题分类的、永不更改的 chronological LOG 文件。这些文件详细记录了每一次用户与智能体的对话，作为不可篡改的主要来源（Primary Sources）。当智能体生成摘要或更新Wiki条目时，可以随时回溯到这些原始日志进行比对，从而防止内容在多次重写中发生语义漂移。

为了解决智能体混淆“可能性”与“既定事实”的问题，该系统引入了认知状态标记（Epistemic Status Markers）。智能体在写入记忆时必须使用特定的标签，如[decided]（已决定）、[verified]（已验证）、[concluded]（已结论）、[assumed]（假设）和[superseded]（已被取代）。这种标记机制使得智能体能够紧凑地存储当前状态、替代选项以及导致该结论的讨论过程。例如，当一个旧的决定被新证据推翻时，标记为[superseded]并链接到新的讨论日志，可以清晰地展示推理链条，避免智能体错误地将未经验证的假设当作既定事实执行。

最关键的防失控机制是“用户显式签核”（Explicit Signoff by the User）。Dietz强调，只有人类用户有权将某个想法标记为[decided]，智能体本身绝不能静默批准任何重要决策。如果智能体提出了一个建议，它必须明确询问用户并获得肯定回复后才能更新状态。这一规则直接针对长运行智能体的常见失败模式：智能体误以为用户没有反对即代表同意，从而绕过人类监督自行推进任务。通过将“批准权”严格限制在人类交互中，系统确保了智能体的行动始终处于人类的知情和控制之下。

这套方法目前以GitHub模板仓库的形式发布，本质上是一组文件命名规范和提示词指令，不需要安装额外软件。对于已经使用其他记忆管理系统的开发者，Dietz建议可以直接让智能体扫描该项目并复制缺失的规则。尽管该方法依赖于智能体对指令的遵循程度，且在极端上下文压力下可能存在失效风险，但它提供了一种低成本、高透明度的工程路径，使人类能够在自动化趋势下保持对AI智能体内部状态的审计能力。