建设通网站不良信用信息撤销,皮革 东莞网站建设,山东省临沂建设局网站,查企企官网文章目录 代价函数 如果我们有非常多的特征#xff0c;我们通过学习得到的假设可能能够非常好地适应训练集#xff08;代价函数可能几乎为 0#xff09;#xff0c;但是可能会不能推广到新的数据。 下图是一个回归问题的例子#xff1a; 第一个模型是一个线性模型#xf… 文章目录 代价函数 如果我们有非常多的特征我们通过学习得到的假设可能能够非常好地适应训练集代价函数可能几乎为 0但是可能会不能推广到新的数据。 下图是一个回归问题的例子 第一个模型是一个线性模型欠拟合不能很好地适应我们的训练集第三个模型是一个四次方的模型过于强调拟合原始数据而丢失了算法的本质预测新数据。我们可以看 出若给出一个新的值使之预测它将表现的很差是过拟合虽然能非常好地适应我们的训练集但在新输入变量进行预测时可能会效果不好而中间的模型似乎最合适。 分类问题中也存在这样的问题 就以多项式理解 的次数越高拟合的越好但相应的预测的能力就可能变差。问题是如果我们发现了过拟合问题应该如何处理
1.丢弃一些不能帮助我们正确预测的特征。可以是手工选择保留哪些特征或者使用一些模型选择的算法来帮忙例如 PCA 2.正则化。 保留所有的特征但是减少参数的大小magnitude。 代价函数
回归问题中如果我们的模型是 我们可以从之前的事例中看出正是那些高次项导致了过拟合的产生所以如果我们能让这些高次项的系数接近于 0 的话我们就能很好的拟合了。 所以我们要做的就是在一定程度上减小这些参数 的值这就是正则化的基本方法。
