Anthropic
2 steps1 pieces3 Sources
Anthropic在Claude平台推出“消息线程”（Message Threads）公开测试版，旨在解决长运行代理因重复发送完整对话历史而导致的延迟问题。该功能允许API在服务器端缓存对话上下文，开发者仅需发送新增消息及上一轮响应ID，从而显著降低首字生成时间（TTFT）。据官方数据，在50万至100万token的请求中，启用该功能可使中位TTFT降低约35%，且请求负载大小大幅缩减。【背景】此前Messages API为无状态设计，每次交互均需重传全部历史，随着代理会话长度增加，网络传输与预处理开销成为性能瓶颈。目前该功能已集成于Claude Code并默认启用，适用于编码代理、计算机使用代理及文档密集型工作流。尽管Token消耗量保持不变，但网络带宽效率的提升对多代理系统的扩展性具有重要意义。
How it got here
Anthropic发布官方博客，宣布“消息线程”功能进入公开测试阶段，详细说明其通过服务器端缓存减少重复数据传输的技术原理。
claude.com ↗媒体报道指出，该功能在Claude Code中默认启用，实测显示在长上下文中可将首字生成时间（TTFT）降低约35%，并将中位请求大小从800KB降至1.8KB。
x.com ↗
What is still unsettled
- 消息线程功能何时从公开测试版转为正式可用（GA），以及是否会对其他非Claude Code用户产生额外的计费或限制变化？
- 在多代理协作系统中，消息线程的服务器端缓存机制如何处理跨代理的上下文一致性与隐私隔离？
- 对于超过5分钟未活动的线程，客户端自动重放完整对话的逻辑是否会引入新的延迟峰值，实际生产环境中的容错表现如何？