From 50c7125e2bca795d6d7cc527a3bd1fc256815430 Mon Sep 17 00:00:00 2001 From: benjas <909336740@qq.com> Date: Tue, 27 Oct 2020 16:49:16 +0800 Subject: [PATCH] =?UTF-8?q?Update=20=E5=BF=85=E5=A4=87=E6=95=B0=E5=AD=A6?= =?UTF-8?q?=E5=9F=BA=E7=A1=80.md?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- 必备数学基础.md | 242 ++++-------------------------------------- 1 file changed, 23 insertions(+), 219 deletions(-) diff --git a/必备数学基础.md b/必备数学基础.md index 50f2399..e45734f 100644 --- a/必备数学基础.md +++ b/必备数学基础.md @@ -31,63 +31,23 @@ **问题一**：蚂蚁沿着什么方向跑路不被火烧，能活下来（二维平面） -![有个坐标轴x,y，(0,0)处着火，蚂蚁应该怎么走](assets/1603675492825.png) +![有个坐标轴x,y，(0,0)处着火，蚂蚁应该怎么走](assets/1603586067346.png) -$$ -函数：z = f(x,y) -$$ - -$$ -|pp'| = p = \sqrt{(\Delta x) ^ 2 + (\Delta y) ^ 2} -$$ - -$$ -\Delta z = f(x + \Delta x, y + \Delta y)-f(x,y) -$$ - -![公式方向图](assets/1603675552941.png) > 蚂蚁沿着任意方向都可以活，最优的是沿着对角方向L，z是函数变化，也就是图中的φ。 **三维平面的方向导数公式**： -$$ -定理：如果函数z=f(x,y)在点P(x,y)是可微分的，那么在该点沿任意方向L的方向导数都存在。 -$$ - -$$ -\frac {\delta f}{\delta l} = \frac {\delta f}{\delta x}cos\varphi + \frac {\delta f}{\delta y} sin \varphi -$$ -$$ -\varphi 是X轴到L的角度 -$$ - -![立体坐标轴](assets/1603676258627.png) +![立体坐标轴](assets/1603586587946.png) **求一个方向导数具体的值**： -$$ -求函数z=xe^{2y}在点P(1,0)处沿从点P(1,0)到点Q(2,-1)的方向的方向导数. -$$ - -$$ -解\quad \quad 这里方向\vec l即为 \vec{PQ}={1,-1},故X轴到方向\vec l的转角\varphi = -\frac {\pi}{4}. -$$ -$$ -\because \frac {\delta z}{\delta x}|_{(1,0)} = e^{2y}|_{(1,0)}=1; - \frac {\delta z}{\delta y}|_{(1,0)} = 2xe^{2y}|_{(1,0)}=2, -$$ +![1603787349201](assets/1603787349201.png) -$$ -所求方向导数 -$$ -$$ -\frac {\delta z}{\delta l}=cos(-\frac{\pi}{4})+2sin(-\frac{\pi}{4})=-\frac{\sqrt 2}{2}. -$$ @@ -95,35 +55,13 @@ $$ > 是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此*梯度*的方向）变化最快，变化率最大（为该*梯度*的模）。 -$$ -函数：z=f(x,y)在平面域内具有连续的一阶偏导数，对于其中每一个点P(x,y)都有向量\frac {\delta f}{\delta x}\vec i + \frac {\delta f}{\delta y}\vec j -$$ - -$$ -则称其为函数在点P的梯度。 -$$ - -$$ -gradf(x,y)=\frac {\delta f}{\delta x}\vec i + \frac {\delta f}{\delta y}\vec j -$$ +![1603787390222](assets/1603787390222.png) -$$ -\vec e = cos\varphi\vec i + sin\varphi\vec j是方向L上的单位向量 -$$ -$$ -\frac {\delta f}{\delta l}=\frac {\delta f}{\delta x}cos\varphi+\frac{\delta f}{\delta y}sin\varphi=\{\frac{\delta f}{\delta x}, \frac{\delta f}{\delta y}\}·\{cos\varphi, sin\varphi\} -$$ - -$$ -=gradf(x,y)·\vec e = |gradf(x,y)|cos\theta \quad \theta=(gradf(x,y),\vec e) -$$ > 根据上面的梯度导数，和方向导数的区别就在多了个*cosθ*，*θ*充当梯度和方向导数之间的关系 -$$ -只有当cos(gradf(x,y),\vec e)=1,\frac{\delta f}{\delta l}才有最大值。 -$$ +![1603787432655](assets/1603787432655.png) 函数在某点的梯度是一个向量，它的方向与方向导数最大值取得的方向一致。 @@ -134,25 +72,8 @@ $$ > 注意，只有*θ*=0，*cos*导数才能=1，梯度才能取得最大值，也就是那个方向。而沿着反方向就是最小值也就是梯度下降。 **求一个具体值，最大梯度方向和最小梯度方向**： -$$ -设u=xyz+z^2+5,求gradu,并求在点M(0,1,-1)处方向导数的最大(小)值 -$$ - -$$ -\because \frac{\delta u}{\delta x}=yz, \frac{\delta u}{\delta y}=xz,\frac{\delta u}{\delta z}=xy+2z, -$$ - -$$ -\therefore gradu|_{(0,1,-1)}=(yz,xz,xy+2z)|_{(0,1,-1)}=(-1,0) -$$ - -$$ -从而最大值\quad max\{\frac{\delta u}{\delta l}|_M\}=||gradu||=\sqrt 5 -$$ -$$ -最小值\quad min\{\frac{\delta u}{\delta l}|_M\}=-||gradu||=-\sqrt 5 -$$ +![1603787459285](assets/1603787459285.png) > 注：得出的结果(-1,0,2)，求解：((-1^2) + (0^2) + (-2^2)) = √5，前面都是x的平方，所以结果也需要开根号。 @@ -178,23 +99,7 @@ $$ > 越小的矩形，越覆盖，然后求每个矩形的面积。 - -$$ -在ab之间插入若干个点，得到n个小区间。 -$$ - -$$ -每个小矩形面积为：A_i=f(\xi -_i)\Delta x_i近似得到曲线面积：A\approx \sum^{n}_{i=1}f(\xi_i)\Delta x_i -$$ - -$$ -当分割无限加细，每个小区间的最大长度为\lambda，此时\lambda → 0 -$$ - -$$ -曲边面积：A=lim_{\lambda→0}\sum^n_{i=1}f(\xi_i)\Delta x_i -$$ +![1603787499072](assets/1603787499072.png) ![1603688411669](assets/1603688411669.png) @@ -203,17 +108,17 @@ $$ **求和**： 我们需要尽可能的将每一个矩形的底边无穷小 -$$ -莱布尼茨为了体现求和的感觉，把S拉长了，简写成\int f(x)dx \quad Sum(f(x)\Delta x) => \int_{um}f(x)dx -$$ + +![1603787599440](assets/1603787599440.png) + ![1603765637923](assets/1603765637923.png) > 将上面的所有矩阵求和，∫ = sum，求和的意思 **定积分**: -$$ -当||\Delta x||→0时，总和S总数趋于确定的极限l，则称极限l为函数f(x)在曲线[a,b]上的定积分 -$$ + +![1603787631218](assets/1603787631218.png) + ![1603765921296](assets/1603765921296.png) @@ -231,70 +136,16 @@ $$ > 左图√表示A可以到B和C，如右上图，再把√号改成0/1以存储在数据里面，就如右下图 **几种特别的矩阵**： -$$ -上三角矩阵 -\left[ -\matrix{ - a_{11} & a_{12} & ... &a_{1n}\\ - 0 & a_{22} & ... &a_{2n}\\ - ⋮ & ⋮ &⋮&⋮\\ - 0 & 0 & ... &a_{nm}\\ -} -\right] -\quad 下三角矩阵 -\left[ -\matrix{ - a_{11} & 0 & ...& 0\\ - a_{21} & a_{22} & ... &0\\ - ⋮ & ⋮ & ⋮ & ⋮ \\ - a_{n1} & a_{n2} & ... &a_{nm}\\ -} -\right] -$$ + +![1603787662399](assets/1603787662399.png) > 上三角部分有值，和下三角部分有值 -$$ -对角阵 -\left[ -\matrix{ - \lambda_1 & 0 & ... &0\\ - 0 & \lambda_2 & ... &0\\ - ⋮ & ⋮ & &⋮\\ - 0 & 0 & ... &\lambda_n\\ -} -\right] -\quad 单位矩阵 -\left[ -\matrix{ - 1 & 0 & ...& 0\\ - 0 & 1 & ... &0\\ - ⋮ & ⋮ & ⋮ & ⋮ \\ - 0 & 0 & ... &1\\ -} -\right] -$$ +![1603787675922](assets/1603787675922.png) > 对角阵：对角有值且可以是任意值，单位矩阵：对角有值且相同 -$$ -两个矩阵行列数相同的时候称为同型矩阵 -\left[ -\matrix{ - 1 & 2\\ - 6 & 7\\ - 4 & 3 -} -\right] -与 -\left[ -\matrix{ - 12 & 2\\ - 9 & 1\\ - 10 & 6 -} -\right] -$$ +![1603787692573](assets/1603787692573.png) > 同型矩阵：行列相同。矩阵相等：行列相同且里面的值一样 @@ -330,10 +181,8 @@ $$ - 得到离散型随机变量取这些值的概率 ![1603767423885](assets/1603767423885.png) - $$ - f(x_i)=P(X=x_i)为离散型随机变量的概率函数 - $$ - + + ![1603787713864](assets/1603787713864.png) **连续型随机变量概率分布** @@ -345,10 +194,7 @@ $$ - X为连续随机变量，X在任意区间(a,b]上的概率可以表示为： -$$ -P(a 还有一种方法是把每个值划分在不同区间，变成离散型，但如果有新数据进来就要再划分区间导致区间越来越多。 @@ -359,39 +205,13 @@ $$ 1. 样本X1，X2...Xn是相互独立的随机变量。 2. 样本X1，X2...Xn与总体X同分布。 -$$ -联合分布函数：F(x_1,x_2,...,x_n)=\prod_{i=1}^nF(x_i) -$$ - -$$ -联合概率密度：f(x_1,x_2,...,x_n)=\prod_{i=1}^nf(x_i) -$$ +![1603787745796](assets/1603787745796.png) ### 极大似然估计 > 找到最有可能的那个 -1. $$ - 构造似然函数：L(\theta) - $$ - - - -2. $$ - 对似然函数取对数：lnL(\theta) - $$ - - - -3. $$ - 求偏导：\frac {dlnL}{d\theta}=0 - $$ - -4. $$ - 求解得到\theta值 - $$ - - ![1603768031523](assets/1603768031523.png) +![1603768031523](assets/1603626327837.png) > 第一步构造函数；第二步取对数，对数后的值容易取且极值点还是那个位置；第三步求偏导；得到θ @@ -399,23 +219,7 @@ $$ 设 X 服从参数 λ(λ>0) 的泊松分布，x1,x2,...,xn 是来自 X 的一个样本值，求λ的极大似然估计值 -- $$ - 因为X的分布律为P\{X=x\}=\frac{\lambda^x}{x!}e^{-\lambda},(x=0,1,2,...,n) - $$ - -- $$ - 所以\lambda的似然函数为L(\lambda)=\prod^n_{i=1}(\frac{\lambda^{x_i}}{x_i!}e^{-\lambda})=e^{-n\lambda}\frac{\lambda^{\sum^n_{i=1}x_i}}{\prod^n_{i=1}(x_i!)}, - $$ - -- $$ - lnL(\lambda)=-n\lambda+(\sum^n_{i=1}x_i)ln\lambda-\sum^n_{i=1}(x_i!), - $$ +![1603787825885](assets/1603787825885.png) -- $$ - 令\frac{d}{d\lambda}lnL(\lambda)=-n+\frac{\sum^n_{i=1}x_i}{\lambda}=0 - $$ -- $$ - 解得\lambda的极大似然估计值为\hat{\lambda}=\frac{1}{n}\sum_{i=1}^nx_i=\overline{x} - $$