搜索引擎公司turbopuffer CTO与桥水基金工程负责人：亿级私有文档的权限化向量搜索方案
AI代理需要同时检索公开网页和企业私有文档，但每份内部文件都有独立权限。turbopuffer CTO Nikhil Benesch与桥水基金产品工程负责人Aaron Linsky在AI Engineer大会上解释了为什么后过滤导致召回率崩溃、前过滤在用户拥有半数文档权限时退化为全扫描，以及他们如何通过集群消除策略在4亿向量上实现120ms P90搜索（厂商自报数据）。
当AI代理被赋予检索企业私有文档的能力时，核心难题不是语义理解，而是权限。桥水基金产品工程负责人Aaron Linsky在AI Engineer大会上介绍：桥水的Vault存放约一亿份文档，涵盖135个外部源和内部纪要，每份文件权限各异。搜索引擎公司turbopuffer CTO Nikhil Benesch解释了两种直觉方案为何失败：后过滤先取最近邻再丢弃无权文档，若用户仅能访问向量空间某个角落，螺旋搜索始终凑不够结果，召回率崩溃；前过滤先按权限筛出可访问文档再逐一算距离，用户拥有半数权限时退化为全量扫描，一亿条即使全驻内存也需约5秒。他们的解法native filtering利用向量索引将相似向量聚成约200条一组的簇，先丢弃无权簇再在有权簇内扫描，兼顾索引加速与权限过滤。Benesch称4亿向量下实现约120毫秒P90延迟（厂商自报数据），但嵌套群组等复杂权限仍需额外处理。