Meta DLM-R：基于判别式语言模型的新一代检索技术解析

大家好我是专注于技术分享的博主。今天我们来深入探讨一篇来自Meta AI的最新研究论文《Discriminative Language Models as Retrievers》它提出了一种名为“判别式语言模型检索器”的新范式。这项研究直击传统双塔检索模型在训练和部署中的痛点为大规模信息检索任务提供了一种更简洁、更高效的思路。无论你是从事搜索、推荐系统开发的工程师还是对前沿NLP技术感兴趣的研究者理解这项技术都将大有裨益。本文将带你从核心概念、原理剖析到潜在应用完整拆解这项技术并探讨其背后的工程启示。1. 背景与核心概念传统检索模型的挑战与新思路在推荐和搜索系统中检索Retrieval是至关重要的第一步。它的任务是从海量候选池如百万级的商品、文章或视频中快速筛选出几百个最相关的候选交给后续的排序模型进行精细打分。目前工业界的主流方案是双塔模型Dual-Tower Model。1.1 传统双塔模型的运作机制与局限双塔模型的结构非常直观查询塔Query Tower负责将用户搜索词或行为序列编码成一个固定维度的向量例如768维。物品塔Item Tower负责将每个候选物品通过标题、描述等文本信息编码成另一个同维度的向量。相似度计算通过计算查询向量和所有物品向量的内积或余弦相似度选出分数最高的一批物品。这种架构的核心优势在于效率。我们可以预先计算好所有物品的向量并存入向量数据库如Faiss线上服务时只需实时计算查询向量然后进行一次高效的近邻搜索即可。然而双塔模型存在几个固有的挑战Item ID的依赖与瓶颈模型需要为每个物品分配一个唯一的ID并学习其对应的向量表示。这带来了两个问题一是冷启动新加入的物品没有历史交互数据其向量表示难以学好二是存储与更新开销巨大每新增或修改一个物品都需要更新整个向量索引。训练目标与推理目标的鸿沟训练时通常使用对比学习如InfoNCE损失让正样本对的相似度高于负样本对。但推理时是直接进行最近邻搜索。这种差异可能导致模型在训练集上表现良好但泛化到新查询或新物品时效果下降。信息压缩损失将一段丰富的文本描述物品标题、属性压缩成一个固定维度的向量不可避免地会丢失一些细节信息。1.2 判别式语言模型一种“生成式”的检索思路Meta的这篇论文提出了一种截然不同的思路为什么不直接让模型“判别”一个物品是否相关而不用先把它压缩成向量呢这就是判别式语言模型检索器Discriminative Language Model Retriever, DLM-R的核心思想。它本质上是一个序列到序列Seq2Seq的模型但它的任务不是生成文本而是为给定的“查询Query”和“候选物品文本Item Text”打分。我们可以把它理解为一个“相关性判别器”。输入是查询Q和物品文本D模型直接输出一个相关性分数s f(Q, D)。这个分数反映了在给定查询Q的条件下物品D作为正确答案的似然概率。它与生成式模型的关键区别生成式模型如T5、BART通常被用来做检索后重排Re-ranking它们需要生成具体的Token或Item ID。而DLM-R不做生成只做判别和打分这使得它在保持强大语义理解能力的同时结构更简单训练更稳定。2. 核心原理与技术拆解DLM-R的架构并不复杂但其设计理念非常巧妙。它主要建立在预训练语言模型如T5、BERT的基础上。2.1 模型架构与输入输出模型以一个标准的Encoder-Decoder Transformer如T5为基础。输入将查询文本和物品文本拼接起来中间用一个特殊的分隔符隔开。例如[Query]智能手机推荐 [SEP] [Item]Apple iPhone 15 Pro 搭载A17 Pro芯片 6.1英寸超视网膜XDR显示屏。处理这个拼接后的序列被送入模型的Encoder。输出打分论文中探索了两种主要的方式为这个(Q, D)对打分序列似然分在Decoder部分让模型去生成一个固定的、简短的“相关”标记序列例如单词“relevant”。那么模型生成这个序列的似然概率log-likelihood就可以作为相关性分数s(Q, D)。概率越高代表模型认为该物品越相关。[CLS]分类分借鉴BERT等编码器模型在Encoder的输出序列前添加一个特殊的[CLS]标记。用这个[CLS]标记对应的向量通过一个简单的线性分类层输出一个二分类概率相关/不相关以此作为分数。第一种方法更贴近语言模型的原始能力第二种方法更简洁高效。实验表明两种方式都能取得很好的效果。2.2 训练方法最大似然估计与对比学习如何训练这样一个判别式模型核心目标是让模型给正样本(Q, D)打的分数远高于给负样本(Q, D-)打的分数。论文采用了对比学习Contrastive Learning的框架其损失函数与双塔模型常用的InfoNCE损失神似但操作对象不同L -log( exp(s(Q, D)) / (exp(s(Q, D)) Σ_{i1}^{N} exp(s(Q, Di-)) ) )这里的s(Q, D)就是上文提到的模型输出的相关性分数。对于一个查询Q我们有一个相关的正样本物品D和N个随机采样或难例挖掘得到的负样本物品D-。模型需要学会拉大正负样本之间的分数差距。与双塔模型训练的关键差异端到端建模DLM-R直接对(Q, D)文本对进行联合编码和打分建模的是两者之间深层次的语义交互而非独立的向量点积。无需Item ID训练数据中只需要(查询文本 相关物品文本)这样的配对完全不需要维护一个全局的物品ID表。这极大地简化了数据 pipeline。2.3 推理与检索如何应对海量候选训练好一个打分模型后线上检索面临巨大挑战对于一次查询Q如何从百万级候选池中找到分数最高的K个物品双塔模型靠的是向量索引的近似最近邻搜索。DLM-R显然不能对百万候选逐一进行慢速的神经网络前向计算。论文提出了两种高效的推理策略两阶段检索召回 精排这是最实用的方案。第一阶段仍然使用一个传统的、高效的双塔模型或倒排索引快速召回Top M个例如1000个候选物品。第二阶段使用训练好的DLM-R对这M个候选进行精确重排Re-ranking选出最终的Top K个。DLM-R在此处替代了传统的交叉注意力重排模型如BERT并且由于结构统一都是LM可能更容易部署。知识蒸馏到双塔模型将强大的DLM-R作为“教师模型”用它来为大量的(Q, D)对生成相关性分数标签。然后用这些标签去训练一个传统的“学生”双塔模型。这样双塔模型就能学习到DLM-R的判别能力同时保留其高效的向量检索特性。这直接关联了热搜词中的知识蒸馏技术。3. 环境准备与概念验证为了帮助大家理解DLM-R的运作我们可以设想一个基于Hugging Face Transformers库的简化实验环境。请注意以下并非论文代码的完全复现而是用于阐述核心流程的概念性代码。环境假设Python 3.8PyTorch 1.12Transformers 4.20数据集假设我们有一个文本检索数据集每条数据包含query和positive_passage(正样本文本)。3.1 模型定义与初始化我们选择T5-small作为基础模型采用“序列似然分”的方式进行打分。import torch from torch import nn from transformers import T5ForConditionalGeneration, T5Tokenizer class DiscriminativeLMRetriever(nn.Module): def __init__(self, model_namet5-small): super().__init__() self.t5 T5ForConditionalGeneration.from_pretrained(model_name) self.tokenizer T5Tokenizer.from_pretrained(model_name) # 定义我们想要模型生成的“相关”标记。这里简单使用“true”这个词。 self.relevant_token_ids self.tokenizer(true, return_tensorspt).input_ids.squeeze() def forward(self, query_texts, doc_texts): 计算一批(query, doc)对的相关性分数。 分数定义为模型生成“true”的负对数似然取负号使得分数越高越相关。 # 拼接查询和文档文本 inputs [fquery: {q} document: {d} for q, d in zip(query_texts, doc_texts)] model_inputs self.tokenizer(inputs, paddingTrue, truncationTrue, return_tensorspt, max_length512) # 将输入移至模型所在的设备 model_inputs {k: v.to(self.t5.device) for k, v in model_inputs.items()} relevant_token_ids self.relevant_token_ids.to(self.t5.device) # 获取Decoder的输入ID这里我们只需要模型为每个输入生成“true” decoder_input_ids torch.tensor([[self.t5.config.decoder_start_token_id]] * len(query_texts)).to(self.t5.device) # 前向传播获取输出logits outputs self.t5(**model_inputs, decoder_input_idsdecoder_input_ids) logits outputs.logits # 形状: (batch_size, seq_len, vocab_size) # 我们只关心第一个生成位置位置1上生成“true”各个token的概率 # 简化处理计算生成“true”这个序列的近似分数实际论文更复杂 # 这里取第一个token的logits作为简化分数 scores logits[:, 0, :] # 取第一个解码位置的logits # 计算该位置是“true”第一个token的logit值 score scores[:, self.relevant_token_ids[0]] return score # 分数越高表示模型认为越相关3.2 对比损失函数实现实现一个简化的对比损失InfoNCE。def contrastive_loss(query, pos_doc, neg_docs, model, temperature0.05): query: 查询文本 (字符串) pos_doc: 正样本文档文本 (字符串) neg_docs: 负样本文档文本列表 (字符串列表) model: DiscriminativeLMRetriever 实例 # 准备批次数据一个正样本 N个负样本 all_docs [pos_doc] neg_docs all_queries [query] * len(all_docs) # 计算所有 (query, doc) 对的分数 scores model(all_queries, all_docs) # 形状: (1N, ) # 正样本分数 positive_score scores[0].unsqueeze(0) # 形状: (1, ) # 负样本分数 negative_scores scores[1:] # 形状: (N, ) # 计算InfoNCE损失 numerator torch.exp(positive_score / temperature) denominator numerator torch.sum(torch.exp(negative_scores / temperature)) loss -torch.log(numerator / denominator) return loss4. 潜在优势、挑战与工程化思考4.1 DLM-R的核心优势免ID设计解决冷启动新物品只需提供文本描述即可直接参与检索打分无需等待ID嵌入的训练和索引更新这对内容快速变化的场景如新闻、短视频极具吸引力。更强的语义建模能力通过Transformer的交叉注意力机制模型能对查询和文档进行深层次的语义交互匹配理论上能捕捉比向量点积更复杂的关系。训练流程简化数据准备更简单只需文本对无需构建全局ID映射表。与NLP生态无缝集成直接基于预训练LM微调可以方便地利用最新的LM进展如更长的上下文、更强的指令跟随能力。4.2 面临的挑战与应对推理延迟这是最大的瓶颈。直接对海量候选进行神经网络前向传播是不现实的。解决方案必须依赖两阶段架构高效召回DLM-R精排或知识蒸馏。模型规模与成本基于T5/Encoder-Decoder的模型参数量大训练和推理成本高。解决方案可以使用更小的骨干网络如DistilT5或采用知识蒸馏技术将大模型的能力迁移到小模型或双塔模型中。负样本构建对比学习的效果严重依赖于负样本的质量。需要设计策略进行难负例挖掘Hard Negative Mining。4.3 知识蒸馏连接新旧范式的桥梁这正是论文中提到的以及热搜词中关联的关键技术。DLM-R作为教师模型其强大的判别能力可以通过蒸馏传递给双塔学生模型。蒸馏流程简述教师打分使用训练好的DLM-R对大量查询候选文档对进行离线打分生成软标签soft label即一个连续的相关性分数。学生训练训练一个双塔模型。其损失函数由两部分组成标准对比损失使用真实点击数据。蒸馏损失让学生双塔模型输出的向量点积分数尽可能接近教师模型DLM-R给出的软标签分数。常用均方误差MSE或KL散度作为损失。学生部署训练完成后这个双塔学生模型就可以像传统双塔模型一样进行高效的向量化检索同时具备了教师模型更强的语义判别能力。这种方式既保留了向量检索的效率又提升了检索质量是工程落地中非常可行的方案。5. 常见问题与思考5.1 DLM-R与生成式检索如DSI有何不同生成式检索如Google的DSI让模型直接生成目标文档的唯一标识符如DocID。它本质上是将检索任务转化为序列生成任务。而DLM-R不生成任何ID或文本它只进行判别和打分。DLM-R更像一个“匹配器”或“判别器”结构通常更简单训练也更稳定。5.2 在实际系统中如何选择使用DLM-R还是双塔这是一个权衡问题追求极致效率与低成本成熟的双塔向量索引方案仍是首选尤其对于候选池巨大、延迟要求极严的场景。追求效果与灵活性且有精排预算可以采用“双塔召回 DLM-R精排”的混合架构。DLM-R替换掉传统的BERT重排模型可能带来效果提升。冷启动问题突出内容更新极快DLM-R的免ID特性优势明显可以作为召回或精排模块重点考虑。资源有限希望一体化可以考虑使用知识蒸馏将DLM-R的能力注入到一个轻量级双塔模型中获得兼顾效率与效果的方案。5.3 如何构建有效的负样本这是影响模型效果的关键。除了随机负采样必须加入难负例挖掘Batch内负采样在同一训练批次中将其他正样本对应的文档作为负样本。基于检索器的负采样使用一个初步的检索器如BM25或弱双塔模型为每个查询召回一批Top K结果将其中未被标记为正样本的作为难负例。对抗性负采样动态选择那些当前模型容易判错分数高的非正样本作为负例。6. 总结与展望Meta提出的判别式语言模型检索器DLM-R为信息检索领域提供了一个新颖且有力的视角。它通过摒弃传统的Item ID和向量点积回归到语言模型最本质的序列判别能力在多个基准测试中展示了强大的性能。其核心价值在于打破ID依赖和深度融合语义。虽然直接的暴力检索不可行但通过两阶段架构或知识蒸馏DLM-R的思想能够有效地融入现有工业系统推动检索效果的上限。对于开发者而言这项研究最重要的启示是在基于预训练模型构建系统时可以更开放地思考任务形式。不必拘泥于“编码为向量再计算”的固定范式直接让模型对原始文本进行判别式打分可能是一条更简洁有效的路径。未来随着模型效率的不断提升和推理加速技术的发展这类“深度匹配”模型或许能在更靠前的检索阶段发挥更大作用。技术的演进总是螺旋上升的。从早期的词袋模型到双塔向量模型再到如今的深度判别式模型检索技术的本质始终是在“效果”和“效率”之间寻找最佳平衡点。DLM-R及其相关思想正是这个探索道路上一次重要的尝试。