质量管理SaaS公司Octave Reliance的多租户AI架构：把隔离交给运行时，把嵌入评估交给自己的语料

质量管理平台的核心资产是机构记忆：去年调查过的类似缺陷、修复了根本原因的纠正与预防措施、标记了同一缺口的审计发现。这些知识分散在数十亿文档中，跨越语言和格式，没有人能按语义相似度搜索，所以每次调查都从零开始。Octave Reliance的团队看到了解锁这段历史的机会，也看到了障碍：投诉记录、审计发现和纠正措施携带着平台最严格的隔离要求，而这些恰恰是AI需要读取的记录。在一个服务超过14000家客户、覆盖医疗器械、制药和食品制造的平台中，一次无意的跨租户泄露所携带的监管后果远超任何AI收益。

面对这个矛盾，团队做了一个不寻常的决定：不是先上线一个AI功能，而是用第一个周期构建一个所有未来功能都将坐在上面的基础。推理很直接——Reliance有40多个应用，每个有不同的文档类型和工作流，为一个应用建AI意味着为下一个重建基础设施。所以他们反转了计划：先建水平平台，再切入垂直功能。投诉摘要与分诊排在第一位，用来验证架构。

四项张力塑造了设计，没有一项可以放弃：数据可用但不能泄露、代理执行必须隔离、摄入内容不可信、20亿文档必须一天内完成嵌入。这四项同时成立时，选项空间急剧收窄。

第一项关键决策是把租户隔离推到哪里。应用代码也能实现隔离，但代价是每个未来功能团队都必须在每条代码路径上做对，一次遗漏检查就可能导致跨租户泄露。团队选择把隔离压到运行时：每个用户会话在专用microVM中运行，拥有独立的CPU、内存和文件系统，会话结束后停止并消毒。这是硬件级隔离，设计为无论代理行为如何都能成立。AgentCore Gateway在工具、操作和参数级别授权，自动化推理提供对已定义规则的形式化验证。

第二项关键决策是如何表示数据。团队用自有语料评估嵌入模型，而不是公开排行榜。决定性问题与这个特定数据相关：一张外壳开裂的照片和描述该缺陷的段落之间有什么关系，一条德语投诉和一条英语CAPA之间有什么关系。Cohere Embed v4的多模态能力让照片和文字进入同一向量空间，原生多语言支持让同一租户语料中的不同语言文档无需翻译预处理。但真正只有自有语料才能暴露的发现是维度选择：OpenSearch的存储成本随维度数线性增长，Embed v4支持256到1536的可配置输出维度。针对代表性生产查询的测试显示，512维度在保持目标精度的同时，相比1536默认值削减了约66%的存储。这个权衡不会出现在任何公开基准上，因为它取决于缺陷照片、扫描检查表和标注图与文本混合的实际文档组合。

结果方面，投诉分诊助手已在生产环境运行三个月。Octave测量每次调查被流水线吸收的时间为4到6小时，涵盖跨格式提取、先例检索和区分真正相似缺陷与措辞巧合所需的阅读。基础架构将每个用例的部署时间削减了50%——这是Octave自己的核算——语义搜索在第二季度落地，比原定第四季度目标提前两个季度。

需要保留的边界：这些数字全部来自Octave的内部测试和生产自报，发布在AWS官方博客上。microVM方案的延迟和成本开销未在文中讨论。团队也明确画了一条不越过的线：助手呈现上下文和先例，质量处理人员仍然做最终判断——在一个该判断携带监管权重的行业中，这条边界塑造了什么被自动化、什么没有。这是一家公司在特定监管语境中的架构经验，不是运行时隔离对所有多租户AI场景的最优性证明。