个人网站设计大全,衡水网站制作报价,企业公司,网站的基础服务三 动手学深度学习v2 —— Softmax回归损失函数图片分类数据集 目录: softmax回归损失函数
1. softmax回归 回归vs分类:
回归估计一个连续值分类预测一个离散类别
从回归到多类分类 回归
单连续数值输出自然区间R跟真实值的误差作为损失
分类
通常多个输出输出i是预测为第… 三 动手学深度学习v2 —— Softmax回归损失函数图片分类数据集 目录: softmax回归损失函数
1. softmax回归 回归vs分类:
回归估计一个连续值分类预测一个离散类别
从回归到多类分类 回归
单连续数值输出自然区间R跟真实值的误差作为损失
分类
通常多个输出输出i是预测为第i类的置信度 总结
2. 损失函数
L2 loss 均方损失 l ( y , y ′ ) 1 2 ( y − y ′ ) 2 l(y, y) \frac{1}{2}(y-y)^2 l(y,y′)21(y−y′)2L1 loss 绝对值损失函数 l ( y , y ′ ) ∣ y − y ′ ∣ l(y, y) |y-y| l(y,y′)∣y−y′∣ 0点处不可导不平滑Huber’s Robust Loss l ( y , y ′ ) { ∣ y − y ′ ∣ − 1 2 , i f ∣ y − y ′ ∣ 1 1 2 ( y − y ′ ) 2 , o t h e r w i s e l(y,y) \begin{cases} |y-y|- \cfrac12, if |y-y|1 \\ \cfrac 12(y-y)^2, otherwise \end{cases} l(y,y′)⎩ ⎨ ⎧∣y−y′∣−21,21(y−y′)2,ifotherwise∣y−y′∣1
3. softmax回归从零开始实现
