Databricks开源方案:用统一特征定义消除实时推荐的训练-服务偏差
Databricks发布了一套开源方案加速器,演示如何用Feature Views的声明式特征定义同时服务离线训练和在线推理,在零售银行场景下实现34毫秒p95排序延迟。文章给出了容量规划公式和SawtoothWindow长窗口流式特征技术,但所有性能数据为厂商自测、基于合成数据。
实时推荐系统有一个经典工程难题:训练时使用的特征和线上推理时使用的特征,往往由两套独立代码计算。即使逻辑相同,实现细节的差异也会随时间漂移,导致模型在训练集上表现良好、上线后效果下降——这就是训练-服务偏差(train/serve skew)。Databricks的Tian Tan、Sixuan He、Nick Joung和Julia Powell在11月16日发布的方案加速器中,提出用Feature Views的声明式定义从根源上消除这个问题:特征逻辑只写一次,训练和推理共用同一份声明。
具体做法是把特征分为两类。批量特征(如30天平均余额、90天消费总额、忠诚度等级)通过SlidingWindow、TumblingWindow或ColumnSelection声明,系统自动将它们物化到离线Delta表供训练使用,同时写入在线存储供推理读取。流式特征(如最近10分钟的品类浏览、30天品类兴趣)指向Kafka主题声明,系统持续聚合事件到在线存储,训练时则从源事件按时间点重建历史值。两类特征共享同一份定义,推理时按customer_id从在线存储取值,训练时通过create_training_set API做时间点连接,防止未来数据泄漏。
对于需要长时间窗口但又要求最新鲜前缘的流式特征,文章引入了SawtoothWindow。传统做法中,30天品类计数如果每次新事件都重算全部历史,计算量不可接受;SawtoothWindow让长窗口在有新事件到达时保持新鲜,无需回溯整个历史。这解决了流式特征在长窗口下的实际可行性问题。
在性能方面,该加速器在最小配置(小型服务端点加单节点在线存储、未经调优)下,排序请求包含在线特征读取和推理,p95为34毫秒。在更严格的压力测试中——请求键按Zipfian分布散布在2000个客户上以增加缓存未命中——排序延迟测得p50为33毫秒、p95为48毫秒。加入流式特征后延迟仅增加3到4毫秒。排序端点稳定吞吐约56 RPS,特征服务端口约390 RPS,均满足50毫秒p95预算。文章据此给出容量规划公式:所需并发数 = 4 × ceil(目标RPS ÷ 在你的SLO下测得的RPS)。按此公式,支持150 RPS排序请求在50毫秒p95内完成需要并发12。
需要明确的是,这些数字全部来自Databricks自己的基准测试,使用合成数据、暖端点和区域内客户端。文章声明加速器展示的是可运行的基础设施,不是已验证的收入提升,并指出两个限制:排序端点使用scale-to-zero,空闲后首次请求可能面临数十秒冷启动;报告的延迟包含特征读取和推理,不能与仅报告特征读取延迟的基准直接比较。对于评估该方案的工程团队,这些边界条件决定了数字的可迁移程度。