国外做外链常用的网站,wordpress电商主题数据,wordpress二維碼,学校 网站建设招聘我记得读教材的时候是yWxb, 左乘矩阵W#xff0c;这样才能表示线性变化。 但是pytorch中的nn.linear中#xff0c;计算方式是yxA^Tb#xff0c;其中A是权重矩阵。 为什么右乘也能表示线性变化操作呢#xff1f;因为pytorch中#xff0c;照顾到输入是多个样本一起算的…我记得读教材的时候是yWxb, 左乘矩阵W这样才能表示线性变化。 但是pytorch中的nn.linear中计算方式是yxA^Tb其中A是权重矩阵。 为什么右乘也能表示线性变化操作呢因为pytorch中照顾到输入是多个样本一起算的第一个维度是多个样本数所以输入默认是行向量所以用yxA^Tb输出的y也是行向量。 我们的教材中默认输入是列向量的而pytorch为了用户方便输入当作列向量维度为batch, dim每行是特征
m nn.Linear(20, 30)
input torch.randn(128, 20)
output m(input)print(output.size())torch.Size([128, 30])
print(m.weight.shape)
torch.Size([30, 20]) # 注意这里的权重维度我们再看一张图片理解一下代码中的实现逻辑
至此应该对代码的实现很理解了但是需要注意大家写文章中用的都还是Wxb的写法。 不管怎样文章和代码都是能对应上的最多是表示方式的区别有的用行向量有的用列向量
