排序模型（Learning to Rank）

排序模型（Learning to Rank）

要解决的问题

排序模型旨在解决信息检索中的排序优化问题。例如：

• 搜索引擎中对候选网页的排序
• 推荐系统中物品的展示顺序
• 广告系统中广告位的分配

核心挑战：根据上下文特征，将最相关/最有价值的内容排列在更靠前的位置。

---

主要方法

1. Pointwise

核心思想

Pointwise方法将排序问题转化为单文档的监督学习任务，通过直接预测每个文档的绝对相关性分数实现排序。其本质是将排序问题拆解为：

• 回归任务：预测连续的相关性得分（如CTR预估）
• 分类任务：预测离散的相关性等级（如0-4星分级）

算法原理

1. 问题建模

对于查询query ( q ) 对应的文档集合 ( D = {d_1, d_2,…,d_n} ):

• 每个文档 ( d_i ) 被表示为特征向量 ( x_i \in \mathbb{R}^m )
• 标注数据为 ( y_i \in \mathbb{R} )（回归）或 ( y_i \in {0,1,…,k} )（分类）
• 目标函数：学习映射 ( f: x_i \rightarrow \hat{y_i} )

2. 特征工程

典型特征包括：

• Query-Doc匹配特征：TF-IDF、BM25、词向量相似度
• 文档质量特征：PageRank、点击率、停留时间
• 上下文特征：用户画像、设备类型、地理位置

3. 学习范式

# 伪代码示例
for each query in training_data:for each document in query:feature_vector = extract_features(query, doc)true_label = get_relevance_label(doc)predicted_score = model.predict(feature_vector)loss += calculate_loss(true_label, predicted_score)model.update(loss)

2. Pairwise（样本对优化）

核心思想：通过比较文档对的相对顺序进行优化。

RankNet 算法原理：

1. 定义文档对$(x_i,x_j)$，若$y_i>y_j$则标记为1，否则为0
2. 计算得分差：$s_{ij}=f(x_i)-f(x_j)$
3. 用sigmoid转换概率：$P_{ij}=\frac{1}{1+e^{-s_{ij}}}$
4. 交叉熵损失：$L=-P_{ij}^{\ast }\log P_{ij}-(1-P_{ij}^{\ast })\log (1-P_{ij})$

改进版本：

• LambdaRank：引入NDCG梯度信息调整更新量
• LambdaMART：结合梯度提升决策树

典型算法

1. RankNet（微软，2005）

核心贡献：首次将概率模型引入pairwise排序

算法原理

1. 概率建模：
   定义文档$i$比$j$更相关的概率：
   $P_{ij}=\frac{1}{1+e^{-\sigma (s_i-s_j)}}$，其中$s_i=f(x_i)$，$\sigma$为缩放因子（默认为1）

2. 损失函数：
   $L=-{\bar{P}}_{ij}\log P_{ij}-(1-{\bar{P}}_{ij})\log (1-P_{ij})$，其中${\bar{P}}_{ij}$为真实概率（1或0）

3. 梯度计算：
   $\frac{\partial L}{\partial w}=\sigma \left(\frac{\partial (s_i-s_j)}{\partial w}\right)(P_{ij}-{\bar{P}}_{ij})$

实现细节

• 使用神经网络作为基础模型
• 采用mini-batch训练，每个batch包含多个文档对
• 实际应用中通过负采样减少计算量

2. LambdaRank（微软，2006）

核心改进：将排序指标（如NDCG）的梯度信息融入优化过程

关键创新

1. Lambda梯度：
   ${\lambda }_{ij}=\frac{\Delta NDCG}{|s_i-s_j|}\cdot \frac{\partial L}{\partial (s_i-s_j)}$，其中$\Delta NDCG$表示交换$i,j$位置带来的NDCG变化

2. 参数更新：
   $w\leftarrow w-\eta ({\lambda }_i\frac{\partial s_i}{\partial w}-{\lambda }_j\frac{\partial s_j}{\partial w})$

优势分析

• 直接优化排序指标而非概率损失
• 通过$\Delta NDCG$实现位置感知优化
• 在Web搜索任务中NDCG提升达15-30%

3. LambdaMART（微软+Yahoo!，2010）

算法融合：将Lambda梯度与GBDT结合，连续8年主宰排序竞赛

实现步骤

1. 计算Lambda矩阵：
   • 对每个文档计算： ${\lambda }_i={\sum }_{j\ne i}\frac{\Delta NDC{G}_{ij}}{1+e^{s_i-s_j}}$
2. 构建决策树：
   • 用GBDT拟合残差${\lambda }_i$
   • 每棵树分裂时最大化梯度方差减少
3. 模型预测：
   • $s_i={\sum }_{t=1}^T\eta h_t(x_i)$，其中$h_t$为第t棵树，$\eta$为学习率

性能表现

数据集	NDCG@10	训练时间	树深度
Yahoo! LTR	0.783	4.2h	8
MSLR-WEB30K	0.521	11.3h	12

3. Listwise（列表整体优化）

核心思想：直接优化整个文档列表的排序质量。

LambdaMART 原理：

1. 计算每个文档的lambda梯度：
   ${\lambda }_i={\sum }_{j\ne i}\frac{\Delta NDCG}{|s_i-s_j|}(I_{y_i>y_j}-P_{ij})$
2. 使用MART（Multiple Additive Regression Trees）进行梯度提升
3. 通过多轮决策树拟合残差

ListNet 方法：

1. 计算排列概率：$P(\pi )={\prod }_{i=1}^n\frac{\varphi (s_i)}{{\sum }_{k=i}^n\varphi (s_k)}$
2. 使用Top-One近似简化计算
3. 最小化预测分布与真实分布的交叉熵

---

评估指标

1. NDCG（Normalized Discounted Cumulative Gain）

计算步骤：

1. 累积增益：$CG@k={\sum }_{i=1}^{k}re{l}_i$
2. 折损CG：$DCG@k={\sum }_{i=1}^k\frac{re{l}_i}{{\log }_2(i+1)}$
3. 归一化：$NDCG@k=\frac{DCG@k}{IDCG@k}$ （IDCG为理想排序的DCG）

特点：

• 考虑位置衰减效应
• 支持多级相关性（0-4分）
• 常用在推荐系统评估

2. MAP（Mean Average Precision）

计算过程：

1. 计算每个查询的AP：$AP=\frac{{\sum }_{k=1}^{n}P(k)\cdot rel(k)}{相关文档总数}$
2. 对所有查询取平均：$MAP=\frac{1}{Q}{\sum }_{q=1}^{Q}A{P}_q$

侧重点：

• 强调相关文档的整体排序质量
• 常用于二值相关性场景

3. MRR（Mean Reciprocal Rank）

计算公式：
$MRR=\frac{1}{Q}{\sum }_{i=1}^Q\frac{1}{ran{k}_i}$

特点：

• 只关注第一个相关结果的位置
• 适用于问答系统等场景

---

指标对比

指标	相关性类型	位置敏感	典型场景
NDCG	多级	是	推荐系统
MAP	二值	部分	文档检索
MRR	二值	强	问答系统