sigmod激活函数主要特点（mish激活函数优点）



在这里，规则化就是说给损失函数加上一些限制，通过这种规则去规范他们再接下来的循环迭代中，不要自我膨胀。

增加惩罚因子（正则化），保留所有的特征，但是减少参数的大小

限制其较高次的参数大小不能过大

假如我们有非常多的特征，我们并不知道其中哪些特征我们要惩罚，我们将对所有的特征进行惩罚，并且让代价函数最优化的软件来选择这些惩罚的程度。于是，我们分析 线性回归模型 的代价函数和 Logistic回归模型 的代价函数如何修改

就是说原来的话代价函数只有预测与实际之间的差值，但正则化后还要加上对三次项以及四次项的限制，要保证它们是正的，这样才能保证它们最小化

就是说太大了的话那么代价函数里，会使对那些参数的惩罚代价占大头，导致偏差没了，就只会有常数项，因此是个直线

版权声明：

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符，请将相关资料发送至xkadmin@xkablog.com进行投诉反馈，一经查实，立即处理！

转载请注明出处，原文链接：https://www.xkablog.com/haskellbc/49074.html