从公式到代码：手把手复现阿里ESMM模型（PaddlePaddle/PyTorch版）

从公式到代码：手把手复现阿里ESMM模型（PaddlePaddle/PyTorch版）

在推荐系统的技术演进中，多任务学习已成为提升模型效果的关键策略。阿里妈妈团队提出的ESMM（Entire Space Multi-Task Model）通过创新的概率分解思想，有效解决了转化率预估中的样本选择偏差和数据稀疏问题。本文将带您深入理解这一经典模型的数学原理，并分别用PaddlePaddle和PyTorch框架实现完整解决方案。

1. ESMM核心原理与技术突破

1.1 概率图视角下的转化链路建模

电商场景的用户行为遵循严格的曝光→点击→转化顺序。设：

• $x$：用户特征和上下文特征
• $y$：点击行为（0/1）
• $z$：转化行为（0/1）

ESMM的核心公式揭示了三个关键概率的关系： $$ pCTCVR = pCTR \times pCVR $$ 其中：

• $pCTR = p(y=1|x)$
• $pCVR = p(z=1|y=1,x)$
• $pCTCVR = p(y=1,z=1|x)$

这种分解带来两个重要优势：

1. 全空间建模：CTR和CTCVR任务可以使用全部曝光样本训练
2. 隐式学习：CVR参数通过乘积关系间接优化

1.2 网络架构设计精要

ESMM的模型结构包含三个核心组件：

注意：虽然CVR塔理论上只处理点击样本，但其参数通过CTCVR的联合损失进行更新

2. PaddlePaddle实现详解

2.1 环境配置与数据准备

首先安装必要依赖：

pip install paddlepaddle==2.4.0 pip install pandas sklearn

准备示例数据格式：

特征处理关键代码：

import paddle from paddle.io import Dataset class ESMNDataset(Dataset): def __init__(self, data): self.data = data def __getitem__(self, idx): sample = self.data.iloc[idx] return { 'user_id': sample['user_id'], 'item_id': sample['item_id'], 'cate_id': sample['cate_id'], 'click': sample['click'], 'conversion': sample['conversion'] & sample['click'] }

2.2 模型构建

完整模型实现：

class ESMM(paddle.nn.Layer): def __init__(self, user_num, item_num, cate_num, embed_dim=64): super().__init__() # 共享特征嵌入 self.user_emb = paddle.nn.Embedding(user_num, embed_dim) self.item_emb = paddle.nn.Embedding(item_num, embed_dim) self.cate_emb = paddle.nn.Embedding(cate_num, embed_dim) # CTR塔 self.ctr_mlp = paddle.nn.Sequential( paddle.nn.Linear(embed_dim*3, 128), paddle.nn.ReLU(), paddle.nn.Linear(128, 64), paddle.nn.ReLU(), paddle.nn.Linear(64, 2) ) # CVR塔 self.cvr_mlp = paddle.nn.Sequential( paddle.nn.Linear(embed_dim*3, 128), paddle.nn.ReLU(), paddle.nn.Linear(128, 64), paddle.nn.ReLU(), paddle.nn.Linear(64, 2) ) def forward(self, inputs): # 特征嵌入 user_emb = self.user_emb(inputs['user_id']) item_emb = self.item_emb(inputs['item_id']) cate_emb = self.cate_emb(inputs['cate_id']) concat_emb = paddle.concat([user_emb, item_emb, cate_emb], axis=1) # CTR预测 ctr_logits = self.ctr_mlp(concat_emb) ctr_pred = paddle.nn.functional.softmax(ctr_logits)[:, 1] # CVR预测 cvr_logits = self.cvr_mlp(concat_emb) cvr_pred = paddle.nn.functional.softmax(cvr_logits)[:, 1] # CTCVR计算 ctcvr_pred = ctr_pred * cvr_pred return ctr_pred, cvr_pred, ctcvr_pred

2.3 自定义损失函数

实现论文中的联合损失：

class ESMNLoss(paddle.nn.Layer): def __init__(self): super().__init__() self.ctr_loss = paddle.nn.BCELoss() self.ctcvr_loss = paddle.nn.BCELoss() def forward(self, preds, labels): ctr_pred, _, ctcvr_pred = preds click_label = labels['click'] conversion_label = labels['conversion'] ctr_loss = self.ctr_loss(ctr_pred, click_label) ctcvr_loss = self.ctcvr_loss(ctcvr_pred, conversion_label) return ctr_loss + ctcvr_loss

3. PyTorch实现方案

3.1 模型结构迁移

PyTorch版本的核心差异：

import torch import torch.nn as nn class ESMMTorch(nn.Module): def __init__(self, user_num, item_num, cate_num, embed_dim=64): super().__init__() # 共享嵌入层 self.user_emb = nn.Embedding(user_num, embed_dim) self.item_emb = nn.Embedding(item_num, embed_dim) self.cate_emb = nn.Embedding(cate_num, embed_dim) # 网络塔结构 self.ctr_tower = nn.Sequential( nn.Linear(embed_dim*3, 128), nn.ReLU(), nn.Linear(128, 64), nn.ReLU(), nn.Linear(64, 1), nn.Sigmoid() ) self.cvr_tower = nn.Sequential( nn.Linear(embed_dim*3, 128), nn.ReLU(), nn.Linear(128, 64), nn.ReLU(), nn.Linear(64, 1), nn.Sigmoid() ) def forward(self, x): user_emb = self.user_emb(x['user_id']) item_emb = self.item_emb(x['item_id']) cate_emb = self.cate_emb(x['cate_id']) concat_emb = torch.cat([user_emb, item_emb, cate_emb], dim=1) pctr = self.ctr_tower(concat_emb) pcvr = self.cvr_tower(concat_emb) pctcvr = pctr * pcvr return pctr.squeeze(), pcvr.squeeze(), pctcvr.squeeze()

3.2 训练流程优化

PyTorch训练循环示例：

def train_epoch(model, dataloader, optimizer, device): model.train() total_loss = 0 for batch in dataloader: optimizer.zero_grad() # 数据转移到设备 inputs = {k: v.to(device) for k,v in batch.items()} labels = { 'click': inputs['click'].float(), 'conversion': (inputs['click'] * inputs['conversion']).float() } # 前向计算 ctr_pred, cvr_pred, ctcvr_pred = model(inputs) # 损失计算 ctr_loss = F.binary_cross_entropy(ctr_pred, labels['click']) ctcvr_loss = F.binary_cross_entropy(ctcvr_pred, labels['conversion']) loss = ctr_loss + ctcvr_loss # 反向传播 loss.backward() optimizer.step() total_loss += loss.item() return total_loss / len(dataloader)

4. 实战技巧与调优策略

4.1 特征工程最佳实践

• 用户侧特征：
  • 历史点击/转化统计
  • 兴趣标签
  • 活跃时段
• 物品侧特征：
  • 类目属性
  • 价格分段
  • 销量统计
• 上下文特征：
  • 曝光位置
  • 时间周期
  • 设备类型

4.2 模型调优关键点

1. Embedding维度选择：

   • 高基数特征：16-64维
   • 低基数特征：8-16维

2. 塔结构设计：

   # 更深的网络结构示例 self.ctr_tower = nn.Sequential( nn.Linear(embed_dim*3, 256), nn.BatchNorm1d(256), nn.ReLU(), nn.Dropout(0.3), nn.Linear(256, 128), nn.BatchNorm1d(128), nn.ReLU(), nn.Linear(128, 1), nn.Sigmoid() )

3. 损失函数加权：

   # 根据任务重要性调整权重 loss = alpha * ctr_loss + beta * ctcvr_loss

4.3 线上部署考量

• 性能优化：
  • 使用TensorRT加速推理
  • 实现Embedding缓存机制
• 效果监控：
  • 建立CTR/CVR漂移检测
  • 设计A/B测试分层策略

在电商推荐系统中，ESMM的落地需要与召回模块、排序模块协同工作。实际部署时，我们发现将CVR预测结果与CTR预测进行动态加权（如score = CTR^α * CVR^β），能够更好地平衡点击率和转化率的目标。