Meta发布GenRecs Tokenization：用稳定语义词表替代逐条ID，广告转化率提升 0.35%
Meta工程博客称，这套面向广告推荐的分词方案与GEM、Adaptive Ranking Model配合，在全平台广告位带来 0.35% 的转化提升，数据为Meta内部数据，测量于 2026 年 2 月。
AI解读：Meta工程博客介绍GenRecs Tokenization：不再为每个广告、商品、页面维护独立ID，而是用一组来自稳定语义词表的token表示条目。
适用对象包括广告、商品、页面和pixel，覆盖检索与排序两个环节；Meta表示这套分词已投入生产环境使用。
冷启动和新实体是Meta强调的主要收益方向：新广告可借用同类目既有token的模型知识，而不是从零开始学习表示。
Meta工程博客发布文章，介绍其广告推荐系统使用的GenRecs Tokenization。该方法用稳定语义词表中的token序列表示每个广告、商品或页面，替代为每个条目单独维护ID的做法。
Meta称，与生成式广告模型GEM及Adaptive Ranking Model配合后，该方案在多个广告位合计带来 0.35% 的转化提升。博客注明数据来自Meta内部，测量于 2026 年 2 月。
分词怎么工作
按照Meta的描述，预训练多模态模型先读取每个广告、商品和页面的文本与图像，将其编码为带有世界知识的嵌入；分词器再把这种内容信号与用户互动中学到的表示结合，量化为一段离散token序列。相似条目会共享token，博客用跑鞋广告跨季节共享表示作为例子。
Meta称其核心是三步流水线：把条目编码进语义嵌入空间、将嵌入分解为独立子空间、再把每个子空间映射到码本中的一个条目。针对不同条目的表示需求，Meta会组合不同的编码器、残差分解、学习型向量码本和token参数化方式。Meta表示，这套分词覆盖广告、商品、页面和pixel，同时用于检索和排序。
Meta给出的效果与评估方式
博客给出的生产效果是转化提升 0.35%，但仅限Meta内部测量，未披露对照设置、统计显著性以及覆盖的具体广告位范围。Meta还描述了反馈循环：尾部广告预测改善后，训练数据质量随之提高，进而改善全部广告的预测。
在分词器本身的评估上，Meta使用聚类纯度、分布均衡度和码本利用率三项内在指标，并称在测试的八个分词器版本中，这些指标与下游排序预测准确率（包括广告模型的CTR预测准确率）呈强相关。这一相关性来自Meta自述的实验，并非第三方复现结果。
Meta划定的后续方向
Meta表示会继续把分词扩展到更多条目以改善冷启动泛化，并把分词器质量作为独立优化目标，通过多样性损失、死码重置和对比目标改进码本。博客称，改进后的码本在训练生成式推荐模型时也能带来可测量的下游性能提升。
在服务端，Meta称完全口语化的token虽能提供最丰富的广告视图，但所需上下文窗口在广告规模下不现实，因此正把压缩后的口语化token与语义ID结合，以兼顾推理质量与延迟。Meta还提到，未来将探索让广告文本、图像、音频和视频共享同一token空间。