资讯1 分钟阅读·
Iterate推Lifeboat引擎
厂商称新引擎使单卡智能体并发量翻倍，支持机密计算。
重要性局部证据E2 未复现写法快讯
Iterate.ai发布Lifeboat推理引擎，宣称在单张Nvidia RTX PRO 6000显卡上可运行2048个并发AI智能体会话。
该引擎通过优化键值缓存和公平调度，将有效容量提升至标准引擎的两到六倍。针对长上下文导致的显存溢出问题，Lifeboat允许模型权重保持全精度，仅加载混合专家模型中所需的特定专家模块。
所有会话均在独立的安全胶囊中运行，并内置硬件认证机制以支持机密计算。目前提供开发者免费许可及付费企业版，最高层级月费499.99美元。