Qdrant
2 节点1 篇2 来源
向量数据库公司Qdrant于2026年10月23日发布博客,展示了如何利用Cohere Embed 5 Pro模型结合非对称量化技术,实现大规模PDF页面图像的高效检索。测试显示,Embed 5 Pro在ViDoRe V3基准测试中的单dense向量排序质量(nDCG@10为65.8)超越了多个late-interaction视觉模型。通过叠加Matryoshka维度截断、1-bit文档量化与8-bit查询量化,并配合top-20完整向量重排序,该方案将每页内存开销降至64字节,同时保留了99.2%的排序质量。这一进展解决了传统OCR文本提取丢失图表信息以及late-interaction模型难以扩展至十亿级数据点的痛点,为生产环境中的多模态RAG应用提供了更经济的存储与检索路径。
事情怎么走到这一步
Qdrant发布博客《Scalable PDF Retrieval with Cohere Embed 5 and Qdrant Asymmetric Quantization》,作者Evgeniya Sukhodolskaya报告称Cohere Embed 5 Pro在五个公开英文语料库上的单向量检索性能优于部分late-interaction模型。
qdrant.tech ↗博客详细阐述了优化方案:利用Matryoshka表示学习将2048维向量截断至512维,采用1-bit二进制量化存储文档向量,8-bit非对称量化处理查询向量,并对前20个结果进行全精度重排序,实现每页64字节的RAM占用。
qdrant.tech ↗
还没定论的部分
- Cohere Embed 5的训练数据未公开,Qdrant指出可能存在测试集与训练集重叠的风险,需等待第三方独立复现验证其泛化能力。
- 该方案依赖Qdrant特有的非对称量化与重排序功能,其他主流向量数据库是否支持同等效率的混合量化策略尚不明确。