机器学习 day03(成本函数,简化后的和一般情况下的成本函数)

机器学习 day03(成本函数,简化后的和一般情况下的成本函数)文章介绍了成本函数在衡量线性回归模型参数适合度中的作用 特别是平方误差成本函数

大家好,欢迎来到IT知识分享网。

1. 成本函数
在这里插入图片描述

  • 成本函数给我们提供了一种方法(他本身)来衡量一组特定的参数适不适合训练数据集
  • 平方误差成本函数是最通常用于线性回归的成本函数
  • 最终,我们要找到一组w和b,让J函数的值最小
  • 误差:ŷ – y

2. 简化后的平方误差成本函数,即b = 0

  • 当w = 1时,f(x) = x,J(1) = 0
    在这里插入图片描述
  • 左侧为f(x)函数,X轴为x,❌表示训练示例
  • 右侧为J(w)函数,X轴为w
  • 当w = 0.5时,f(x) = 0.5x,J(0.5) ≈ 0.58
    在这里插入图片描述
  • 当w = 0时,f(x) = 0,J(0) ≈ 2.3
    在这里插入图片描述
  • 以此类推,多取几个点,再画出J(w)函数图像
    在这里插入图片描述
  • 简化后的平方误差成本函数的目的是:找到一个w,使J(w)的值最小
  • 一般的平方误差成本函数的目的是:找到一组w和b,使J(w,b)的值最小

3. 一般的平方误差成本函数
在这里插入图片描述

  • 一个房子大小和价格的训练集,以及 w = 0.06,b = 50时的模型函数f(x)
    在这里插入图片描述
  • 对应成本函数的3D曲面图,x轴为b,y轴为w,z轴为J(w,b)
  • J(w = -10,b = -15) 是 w为-10,b为-15时,J函数的值
    在这里插入图片描述
  • 右上角的为成本函数的等高线图,同一条线上的J值均相同。等高线图中的椭圆中心点是J函数的最小值
  • 等高线图上蓝,绿,黄三点表示左上角图中的三条线所对应的J函数的值,也表示下方图中的三点所对应的J函数的值
  • 等高线图是可视化3D成本函数J的便捷方式,但它是2D形式的
  • 拥有平方误差成本函数的线性回归,他的J函数总是弓形或吊床形的

免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://haidsoft.com/156839.html

(0)
上一篇 2025-02-09 20:00
下一篇 2025-02-09 20:05

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注微信