|
|
|
@ -67,17 +67,25 @@
|
|
|
|
|
|
|
|
|
|
|
|
#### 似然函数的作用
|
|
|
|
#### 似然函数的作用
|
|
|
|
|
|
|
|
|
|
|
|
- 预测值与误差：
|
|
|
|
- 预测值与误差（1）：
|
|
|
|
- 由于误差服从高斯分布：
|
|
|
|
|
|
|
|
|
|
|
|
> y是真实值、x是预测值、ε误差值，现在我们要求的就是θ，它应该怎么求解
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
- 由于误差服从高斯分布（2）：
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
> 高斯分布的公式，这里我们要求的是θ，所以把θ移动到左边，变成y - θX = ε，即演变成
|
|
|
|
|
|
|
|
|
|
|
|
- 将（1）式带入（2）式：
|
|
|
|
- 将（1）式带入（2）式：
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
> 这里我们希望左边的x和θ组合完后，和真实值y越解决越好，即成为y的可能性越大越好
|
|
|
|
|
|
|
|
|
|
|
|
- 似然函数：
|
|
|
|
- 似然函数：
|
|
|
|
|
|
|
|
|
|
|
|
解释：什么样的参数跟我们的数据组合后恰好是真实值
|
|
|
|
解释：什么样的参数跟我们的数据组合后恰好是真实值
|
|
|
|
|
|
|
|
|
|
|
|
- 对数似然：
|
|
|
|
- 对数似然：
|
|
|
|
|
|
|
|
|
|
|
|
解释：乘法难解：加法就容易了，对数里乘法可以转换成加法
|
|
|
|
解释：乘法难解，加法就容易了，对数里乘法可以转换成加法
|
|
|
|
|
|
|
|
|
|
|
|
- 展开化简：
|
|
|
|
- 展开化简：
|
|
|
|
|
|
|
|
|
|
|
|
@ -85,3 +93,9 @@
|
|
|
|
|
|
|
|
|
|
|
|
（最小二乘法）
|
|
|
|
（最小二乘法）
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
#### 参数求解
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
- 目标函数：
|
|
|
|
|
|
|
|
- 求偏导：
|
|
|
|
|
|
|
|
- 偏导等于0：
|
|
|
|
|
|
|
|
|
|
|
|
|
benjas
5 years ago
