朔州网站设计公司,建设网站需要的关键技术,做网站需要准备什么,上海建站优化目录
一、引言
1.1 往期回顾
1.2 本期概要
二、Shared-Bottom Multi-task Model#xff08;SBMM#xff09;
2.1 技术原理
2.2 技术优缺点
2.3 业务代码实践
三、总结 一、引言
在朴素的深度学习ctr预估模型中#xff08;如DNN#xff09;#xff0c;通常以一个行…
目录
一、引言
1.1 往期回顾
1.2 本期概要
二、Shared-Bottom Multi-task ModelSBMM
2.1 技术原理
2.2 技术优缺点
2.3 业务代码实践
三、总结 一、引言
在朴素的深度学习ctr预估模型中如DNN通常以一个行为为预估目标比如通过ctr预估点击率。但实际推荐系统业务场景中更多是多种目标融合的结果比如视频推荐会存在视频点击率、视频完整播放率、视频播放时长等多个目标而多种目标如何更好的融合在工业界与学术界均有较多内容产出由于该环节对实际业务影响最为直接特开此专栏对推荐系统深度学习多目标问题进行讲述。
1.1 往期回顾
上一篇文章主要介绍了推荐系统多目标算法中的“样本Loss加权”该方法在训练时Loss乘以样本权重实现对多种目标的加权通过引导Loss梯度的学习方向让模型参数朝着你设定的权重方向去学习。
1.2 本期概要
今天进一步深化主要介绍Shared-Bottom Multi-task Model算法该算法中文可译为“底部共享多任务模型”该算法设定多个任务每个任务设定多个目标通过“Loss计算时调整每个任务的权重”亦或是“每个塔单元内多目标Loss计算时调整每个目标的权重”进行多任务多目标的调整。 二、Shared-Bottom Multi-task ModelSBMM
2.1 技术原理
Shared-Bottom Multi-task ModelSBMM全称为底层共享多任务模型主要由底层共享网络、多任务塔、多目标输出构成。核心原理通过构造多任务多目标样本数据在Loss计算环节将各任务Loss求和或加权求和对Loss求导求梯度后逐步后向传播迭代。 底部网络Shared-Bottom 网络通常位于底部可以为一个DNN网络或者embpoolingmlp的方式对input输入的稀疏sparse特征进行稠密dense化。多个任务塔底部网络上层接N个任务塔Tower每个塔根据需要可以定义为简单或复杂的多层感知器mlp网络。每个塔可以对应特定的场景比如一二级页面场景。多个目标每个任务塔Tower可以输出多个学习目标每个学习目标还可以像上一篇文章一样进行样本Loss加权。每个目标可以对应一种特定的指标行为比如点击、时长、下单等。 2.2 技术优缺点
相比于上一篇文章提到的样本Loss加权融合法以及后续文章将会介绍的MoE、MMoE方法有如下优缺点 优点 可以对多级场景任务进行建模使得ctcvr等点击后转化问题可以被深度学习浅层参数共享互相补充学习任务相关性越高模型的loss可以降低到更低 缺点 跷跷板问题任务没有好的相关性时这种Hard parameter sharing会损害效果 2.3 业务代码实践
我们以小红书推荐场景为例用户在一级发现页场景中停留并点击了“误杀3”中的一个视频笔记在二级场景视频播放页中观看并点赞了视频。 跨场景多目标建模我们定义一个SBMM算法结构底层是一个3层的MLP643216MLP出来后接一级场景Tower和二级场景Tower一级场景任务中分别定义视频一级页“是否停留”、“停留时长”、“是否点击”二级场景任务中分别定义“点击后播放时长”“播放后是否点赞” 伪代码
导入 pytorch 库
定义 SharedBottomMultiTaskModel 类 继承自 nn.Module:定义 __init__ 方法 参数 (self, 输入维度, 隐藏层1大小, 隐藏层2大小, 隐藏层3大小, 输出任务1维度, 输出任务2维度):初始化共享底部的三层全连接层初始化任务1的三层全连接层初始化任务2的三层全连接层定义 forward 方法 参数 (self, 输入数据):计算输入数据通过共享底部后的输出从共享底部输出分别计算任务1和任务2的结果返回任务1和任务2的结果生成虚拟样本数据:创建训练集和测试集实例化模型对象
定义损失函数和优化器
训练循环:前向传播: 获取预测值计算每个任务的损失反向传播和优化
PyTorch版本 算法逻辑 导入必要的库。定义一个类来表示共享底部和特定任务头部的模型结构。在初始化方法中定义共享底部和两个独立的任务头部网络层。实现前向传播函数处理输入数据通过共享底部后分发到不同的任务头部。生成虚拟样本数据。定义损失函数和优化器。编写训练循环。进行模型预测。 import torch
import torch.nn as nn
import torch.optim as optim
from torch.utils.data import DataLoader, TensorDatasetclass SharedBottomMultiTaskModel(nn.Module):def __init__(self, input_dim, hidden1_dim, hidden2_dim, hidden3_dim, output_task1_dim, output_task2_dim):super(SharedBottomMultiTaskModel, self).__init__()# 定义共享底部的三层全连接层self.shared_bottom nn.Sequential(nn.Linear(input_dim, hidden1_dim),nn.ReLU(),nn.Linear(hidden1_dim, hidden2_dim),nn.ReLU(),nn.Linear(hidden2_dim, hidden3_dim),nn.ReLU())# 定义任务1的三层全连接层self.task1_head nn.Sequential(nn.Linear(hidden3_dim, hidden2_dim),nn.ReLU(),nn.Linear(hidden2_dim, output_task1_dim))# 定义任务2的三层全连接层self.task2_head nn.Sequential(nn.Linear(hidden3_dim, hidden2_dim),nn.ReLU(),nn.Linear(hidden2_dim, output_task2_dim))def forward(self, x):# 计算输入数据通过共享底部后的输出shared_output self.shared_bottom(x)# 从共享底部输出分别计算任务1和任务2的结果task1_output self.task1_head(shared_output)task2_output self.task2_head(shared_output)return task1_output, task2_output# 构造虚拟样本数据
torch.manual_seed(42) # 设置随机种子以保证结果可重复
input_dim 10
task1_dim 3
task2_dim 2
num_samples 1000
X_train torch.randn(num_samples, input_dim)
y_train_task1 torch.randn(num_samples, task1_dim) # 假设任务1的输出维度为task1_dim
y_train_task2 torch.randn(num_samples, task2_dim) # 假设任务2的输出维度为task2_dim# 创建数据加载器
train_dataset TensorDataset(X_train, y_train_task1, y_train_task2)
train_loader DataLoader(train_dataset, batch_size32, shuffleTrue)# 实例化模型对象
model SharedBottomMultiTaskModel(input_dim, 64, 32, 16, task1_dim, task2_dim)# 定义损失函数和优化器
criterion_task1 nn.MSELoss()
criterion_task2 nn.MSELoss()
optimizer optim.Adam(model.parameters(), lr0.001)# 训练循环
num_epochs 10
for epoch in range(num_epochs):model.train()running_loss 0.0for batch_idx, (X_batch, y_task1_batch, y_task2_batch) in enumerate(train_loader):# 前向传播: 获取预测值outputs_task1, outputs_task2 model(X_batch)# 计算每个任务的损失loss_task1 criterion_task1(outputs_task1, y_task1_batch)loss_task2 criterion_task2(outputs_task2, y_task2_batch)#print(floss_task1:{loss_task1},loss_task2:{loss_task2})total_loss loss_task1 loss_task2# 反向传播和优化optimizer.zero_grad()total_loss.backward()optimizer.step()running_loss total_loss.item()print(fEpoch [{epoch1}/{num_epochs}], Loss: {running_loss/len(train_loader):.4f})# 模型预测
model.eval()
with torch.no_grad():test_input torch.randn(1, input_dim) # 构造一个测试样本pred_task1, pred_task2 model(test_input)print(f任务1预测结果: {pred_task1})print(f任务2预测结果: {pred_task2}) 三、总结
本文从技术原理、技术优缺点方面对推荐系统深度学习多任务多目标“Shared-Bottom Multi-task Model”算法进行讲解该模型使用深度学习模型对多个任务场景多个目标的业务问题进行建模使得用户在多个场景连续性行为可以被学习在现实推荐系统业务中是比较基础的方法后面本专栏还会陆续介绍MoE、MMoE等多任务多目标算法期待您的关注和支持。 如果您还有时间欢迎阅读本专栏的其他文章
【深度学习】多目标融合算法一样本Loss加权Sample Loss Reweight
【深度学习】多目标融合算法二底部共享多任务模型Shared-Bottom Multi-task Model
