Anthropic

Anthropic在Claude平台推出“消息线程”（Message Threads）公开测试版，旨在解决长运行代理因重复发送完整对话历史而导致的延迟问题。该功能允许API在服务器端缓存对话上下文，开发者仅需发送新增消息及上一轮响应ID，从而显著降低首字生成时间（TTFT）。据官方数据，在50万至100万token的请求中，启用该功能可使中位TTFT降低约35%，且请求负载大小大幅缩减。【背景】此前Messages API为无状态设计，每次交互均需重传全部历史，随着代理会话长度增加，网络传输与预处理开销成为性能瓶颈。目前该功能已集成于Claude Code并默认启用，适用于编码代理、计算机使用代理及文档密集型工作流。尽管Token消耗量保持不变，但网络带宽效率的提升对多代理系统的扩展性具有重要意义。