Meta称语义Token化使广告转化率提升0.35%
Meta广告推荐团队介绍用多模态语义Token替代传统广告ID的方法:新广告继承同类已有知识实现冷启动泛化,且Token内在质量指标与下游排序准确率强相关,使团队无需等待全量重训即可快速迭代。Meta自报该方法配合其生成式广告模型使转化率提升0.35%。
重要性局部证据E2 未复现写法快讯
Meta广告推荐团队在工程博客介绍了一种用
语义Token
替代传统广告ID的方法,并报告该方法与Meta的生成式广告模型(GEM)和自适应排序模型配合,使各场景广告转化率提升0.35%。该数据来自Meta内部,测量于2026年2月。
传统推荐系统为每个广告、产品或页面分配一个独立ID,模型只能从该ID的历史互动中学习。语义Token化的做法不同:先用多模态模型读取广告的文字和图片,将其编码为携带世界知识的嵌入向量,再把这个向量分解为若干独立子空间,最后将每个子空间映射到码本中的一个离散Token。相似物品共享Token,就像相关词汇共享词根。
这意味着一条新上市的跑鞋广告不需要从零积累互动数据,就能继承模型从前一季跑鞋广告中学到的类别知识。Meta团队用越野鞋举例:当运动品牌推出下一季新品时,Token化让新产品及其广告在任何人看到之前就能利用模型对上一季产品的已有认知。
这篇工程文章中最具实操价值的发现不在转化率数字本身,而在评估方法。Meta测试了八个版本的Token化器,发现Token的内在质量指标——聚类纯度(共享同一码的物品是否倾向于属于同一类别)、分布均衡度(物品是否均匀分散在不同语义ID上)和码本利用率(更大比例的码至少承载一个物品)——与下游排序预测准确率存在强相关。内在指标得分高的版本,其CTR预测准确率也更高。
这一发现的实际意义在于迭代速度。如果Token质量可以独立于完整模型训练周期来评估,团队就能在不等待全量重训的情况下快速筛选和改进Token化器,把
改Token→等模型→看效果
的串行流程变成
改Token→看内在指标→确认方向→再重训
的并行流程。
Meta将这一机制描述为Token化飞轮:尾部广告因共享内容结构而获得更准确的排序,其产生的训练数据反过来提升所有广告的预测质量,形成自我强化的循环。
需要指出的是,0.35%的转化率提升是Meta自报的内部数据,未经独立复现;八版本相关性结论同样来自内部测试。文章未披露Token词表规模、码本大小或推理延迟的具体数值。