微积分笔记04：常见的矩阵求导运算 4.1 常规矩阵求导示例 4.1.1 求导示例1：\(f(x)=A_{m\times n}\cdot x_{n \times 1}\) \(\Rightarrow f'_{x^T}(x)=A_{m\times n}\) 如： \[A= \begin{bmatrix...

微积分笔记03：多元函数的极值 3.1 多元函数存在极值的必要条件 设存在函数\(f(x,y)\)，若该函数在点\((x_0,y_0)\)处具有偏导数，则有： \[\tag{1} f(x,y)存在极值 \Rightarrow \begin{cases} f...

微积分笔记02：多元函数的泰勒展开式&海森矩阵 2.1 二元函数的n阶泰勒展开式 设二维坐标系中存在点\((x_0,y_0)\)及其邻域内的某个点\((x_0+\Delta x,y_0+\Delta y)\) 设存在函数\(z=f(x,y)\...

微积分笔记01：方向导数与梯度 1.1 方向导数 1.1.1 方向导数引入 设二维坐标系中存在点\(P(x_0,y_0)\)，且存在某一方向\(l\)，\(l\)与\(x\)轴夹角为\(\alpha\)，\(l\)与y轴夹角为\(\beta\) 若点...

20.SVD分解及其应用 20.1 奇异值的概念 设存在复数矩阵\(A_{mn}\)，且\(R(A)=r\) 则对矩阵\((A^H\cdot A)_{nn}\)的特征值进行分析如下： 设存在n阶行向量\(x\)，则可将\((A^H\cdot A)_{nn}\)转...

19. 矩阵对角化-矩阵的正定性及其应用 19.1 矩阵的正定性 设存在二次型：\(f(x)=x^T\cdot A\cdot x\)，其中\(A\)为对称阵 19.1.1 定义 对于\(f(x)\)及\(A\)有： 正定/负定 \[若 f(x)>0且x\ne...

18. 矩阵对角化-二次型 18.1 二次方程的标准化思想 在解析几何中，对于二次曲线： \[ax^2+bxy+cy^2=1 \] 若需将其标准化，则可通过坐标旋转变换： \[\begin{cases} x=x'cos\theta-y'sin\theta\\...

17.矩阵对角化-对称阵压缩 17.1 对称阵压缩的思想 设存在n阶对称阵A 现需对A中元素进行存储，则由对称阵性质知，A中有效元素个数=\(\frac{n\cdot(n+1)}{2}\)，即共需存储\(\frac{n\cdot(n+1)}{2...

16.矩阵对角化-相似矩阵 16.1 相似矩阵 16.1.1 相似矩阵的定义 设存在n阶矩阵A、B，且存在可逆矩阵P，使： \[\tag{1} P\cdot A\cdot P^{-1}=B \] 则称\(矩阵B是A的相似矩阵\)，或\(矩阵A与矩阵B...

15 特征值和特征向量 15.1 定义 设存在n阶矩阵A: \[A= \begin{bmatrix} a_{11} & a_{12} & a_{13} &...& a_{1n}\\ a_{21} & a_{22} & a_{23} &...& a_{2n}\\ a...