高偏差(欠拟合):在训练集上表现得也不好
高方差(过拟合):J_cv要远大于J_train
刚刚好:J_cv和J_train都小
J_cv和J_train与拟合多项式阶数的关系
从一阶到四阶,训练集的误差越来越小,而验证集的误差先变小后变大
也有可能同时出现高方差和高偏差
正则化
当 λ 非常大时, w 会非常小, 每个 w 都接近0,模型会是常数 b ,即一条水平线。这种情况下会出现高偏差(欠拟合),并且J_train会很大。
当 λ 为0时,没有正则化,只是拟合一个多项式,会出现过拟合/高方差。此时 J_train 很小但 J_cv 会非常大
J_train 和 J_cv 与 λ 的关系