生成式推荐GR4AD

prompt快手《Generative Recommendation for Large-Scale Advertising》值得阅读生成式推荐这事这两年聊的人很多真能在大规模系统里全量落地的基本没有。这次快手团队把生成式推荐真正搬进大规模广告系统是国内生成式推荐在大规模广告场景下的首次全量落地。实验效果非常显著并达到能完全落地的地步做对了什么1. 广告的 token 怎么表示。2. 模型怎么学。3. 线上怎么推理才能满足工业需求。快手GR4AD系统解析生成式推荐如何在大规模广告中全量落地传统的推荐系统尤其是广告推荐长期以来依赖基于深度学习的排序模型DLRM构建级联架构。这种范式在时延、收益和商业价值的提升上已逼近天花板。大语言模型LLM引领的生成式浪潮为推荐系统带来了范式变革的契机但理论探讨多真正能在工业级、大规模场景下全量落地并取得商业成功的案例凤毛麟角。快手技术团队近期推出的“Generative Recommendation for Large-Scale Advertising” (GR4AD)系统正是这一领域的关键突破。它不仅是国内首个在大规模广告场景下实现全量落地的生成式推荐系统更在快手App及极速版中承载了约25%的流量QPS实现了用户停留时长、生命周期以及商业变现效果的全面跃升。该系统做到了效果与成本的双重突破计算有效量提升10倍算力利用率分别达到23.7%和28.8%而运营成本仅为传统方案的10.6%。这标志着推荐系统正式迈入“端到端生成式觉醒”的新阶段。其成功的核心在于围绕“表征、学习、服务”三大层面进行了协同且颠覆性的重构。下面我们将深入剖析快手团队究竟“做对了什么”。1. 广告的 Token 表示从复杂特征到统一语义ID传统推荐模型将用户、广告、上下文等要素拆解为海量的离散ID特征如用户ID、广告ID、品类ID和稠密特征如统计值通过Embedding层将其映射为高维向量进行交互学习。这种方式特征工程复杂且难以捕捉深层次的语义关联。GR4AD系统采用了端到端生成式的核心思想其首要变革就是将推荐问题转化为一个“生成”问题。为了实现这一点系统中的一切元素——包括广告、用户和历史交互序列——都需要被“Token化”。表示对象传统方法GR4AD的生成式Token表示方法优势单个广告多字段特征组合ID类、统计类唯一语义ID (Semantic Token ID)将广告压缩为一个具有丰富语义的离散Token极大简化输入并为生成式推理奠定基础。用户历史按时间顺序拼接的多个广告ID序列语义ID序列 (Token Sequence)用户行为被表示为由广告语义ID构成的有序序列如同自然语言的句子。上下文时间、地点、设备等独立特征上下文Token化或条件注入可能被融入Prompt或作为生成过程的先决条件。这种“广告Token化”是技术上的关键一步。它并非简单地将广告ID当作Token而是通过前期模型如经过大量数据预训练的编码器将广告的丰富信息如创意内容、标题、商品属性、历史表现压缩成一个高信息密度的语义Token。这类似于大语言模型中的词元WordPiece/BBPE但承载的是广告的完整语义。这使得模型可以直接在Token序列的层面进行学习和生成极大地统一了数据表示为后续的序列生成任务铺平了道路。2. 模型如何学习从CTR预估到序列生成与收益建模传统广告模型的学习目标主要是逐点预估例如预估点击率pCTR、转化率pCVR最终通过如pCTR * Bid的公式进行排序。这种方式割裂了广告间的相互影响和长期价值。GR4AD作为一个生成式系统其学习范式发生了根本转变核心学习目标自回归序列生成模型被训练来根据给定的用户历史行为序列Token序列和当前上下文自回归地预测下一个最可能出现的广告Token。这本质上是在学习用户行为序列的分布概率P(ad_token_n | user_history, context)。# 概念性伪代码展示生成式推荐的学习目标转变 class GenerativeAdModel(nn.Module): def forward(self, input_token_ids): # input_token_ids: [batch_size, seq_len] 包含用户历史序列 outputs self.transformer_decoder(input_token_ids) # 模型输出是对整个词汇表所有广告Token下一个位置的预测分布 next_token_logits outputs[:, -1, :] # [batch_size, vocab_size] loss cross_entropy_loss(next_token_logits, ground_truth_next_ad_token_id) return loss融入商业目标从Token到RevenueR4AD仅仅预测下一个交互的广告是不够的。广告系统的核心是商业变现。GR4AD的创新之处在于将商业收益Revenue目标直接融入生成过程。系统在学习生成广告序列时不仅要保证序列的“真实性”符合用户兴趣还要保证生成序列的“商业价值”最大化。一种可行的技术路径是采用强化学习RL或基于目标感知的序列生成。模型在训练时会接收到由最终广告曝光、点击、转化所带来的收益信号作为奖励从而调整其生成策略。这使得模型能够内生地学习到“在合适的时间为合适的用户生成高价值且相关的广告”这一复杂策略实现了从“Token”到“Revenue”的端到端优化。3. 线上推理满足工业级需求的架构革命生成式模型尤其是大语言模型的推理延迟高、吞吐低是阻碍其在推荐场景落地的最大障碍。快手团队通过精妙的系统工程成功解决了这一难题。核心挑战与解决方案对比工业级需求传统生成式模型瓶颈GR4AD的推理架构解决方案极低延迟100ms自回归解码需逐个生成Token耗时严重。非自回归或高效解码可能采用一次性生成多个候选Token的技术或对模型进行深度优化如模型压缩、蒸馏将生成延迟压缩到可接受范围。超高吞吐百万QPS大参数量模型计算成本极高。极致算力利用与混合部署通过模型架构创新和底层计算优化将有效计算量提升10倍算力利用率高达23.7%/28.8%。采用传统模型与生成式模型混合调度的策略例如由轻量级模型召回/粗排筛选出Top-K候选再由生成式模型进行精排和序列生成从而控制总体计算成本。运营成本可控大模型服务成本高昂。成本大幅降低报道指出其运营成本仅为传统方案的10.6%。这得益于计算效率的飞跃和架构的简化端到端减少了多个独立模块的维护和串联损耗。在线学习与实时性大模型在线更新困难。流式学习与增量更新设计专门的机制允许模型能够快速吸收最新的用户反馈和广告库存变化可能是通过在线学习层或高效的微调管道。线上服务流程概念性请求接收系统接收包含用户ID、上下文信息的推荐请求。候选生成可能依然依赖一个高速的召回模块从十亿量级广告库中快速检索出千/百级别的相关候选广告集并将其转换为语义Token ID。生成式精排/序列生成核心的GR4AD模型被触发。它结合用户的Token化历史序列和候选集直接生成一个有序的广告Token列表。这个过程已经内嵌了相关性、多样性、商业价值的综合考量。结果装配与返回将生成的广告Token列表还原为具体的广告内容返回给前端展示。总结快手GR4AD系统的全量成功落地为行业提供了生成式推荐从理论走向大规模工业实践的完整蓝图。其关键成功路径可归纳为表征革命将广告、用户行为统一为语义Token序列为生成式范式提供基础。目标革命将学习目标从单点CTR预估重构为融入商业收益的序列生成任务实现端到端价值优化。架构革命通过极致的工程优化、高效的解码算法和混合部署策略攻克了生成式模型在延迟、吞吐和成本上的工业级挑战实现了效果与效率的罕见兼得。这项工作证明生成式AI不仅能够重构推荐系统的技术架构更能直接驱动核心商业指标的突破标志着推荐系统进入一个全新的“生成式觉醒”时代