阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯实质变化1 分钟阅读DisconfirmAI 编辑部

ScaleOps创始人Yodar Shafrir:AI代理的闲置-突发模式使静态资源规划失效

ScaleOps创始人Yodar Shafrir在KubeCon访谈中解释,AI代理等待人类或其他代理、调用大语言模型后以突发方式执行任务,团队必须为最高峰值配置资源而代理全程持有内存,导致代理因资源不足崩溃的频率比传统微服务高80%,静态扩展机制在代理时代已不再适用。

2026-11-18 04:35

ScaleOps创始人兼首席执行官Yodar Shafrir在KubeCon + CloudNativeCon NA期间接受theCUBE访谈时,提出了一个关于AI代理基础设施的具体判断:代理工作负载的行为模式与传统微服务有根本差异,这种差异使静态资源配置同时面临浪费和失败两种风险。

Shafrir描述的代理行为模式是这样的:一个代理等待人类或其他代理的输入,然后调用大语言模型,再以突发方式执行任务。团队必须为最高峰值配置资源,而代理在整个等待期间持续持有内存。当资源不足时,崩溃的步骤必须重新运行,再次消耗token。他称,ScaleOps观察到代理因资源不足而崩溃的频率比传统微服务高80%。

这一机制解释了为什么传统的自动扩展策略在代理场景下失效。代理的闲置-突发切换没有预警,静态资源配置要么浪费要么面临失败风险。Shafrir认为,人类和所有传统扩展能力在当前阶段已基本无关因为它们太静态,需要人去配置当变化如此动态时它不再以同样的方式工作。

ScaleOps的应对方案是实时资源决策:调整每个应用、代理和Model Context Protocol服务器的分配、副本数和节点放置。该公司称这能将云成本削减70%到80%。此外,ScaleOps允许其他工作负载在代理闲置时使用其资源,并通过内存交换使代理仅在需要时获得内存,该公司称这使运行代理的成本效率提高90%,且无需离开Kubernetes。

Adobe和Salesforce等客户先在只读模式下运行该平台来建立信任。Shafrir称ScaleOps学习每个应用的历史模式,理解其连接关系、通信对象和业务状态。

需要指出的是,该访谈由ScaleOps赞助,所有性能数字均为厂商自报,未经独立基准验证。Shafrir关于代理崩溃率高80%的陈述来自ScaleOps自身观察,其具体测量方法和样本范围未在访谈中披露。

来源

  • siliconangle.comSiliconANGLE↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系