机器学习数学基础-4-线性代数基础
作者:互联网
线性代数基础
行列式
二元线性方程组的求解:
\[\begin{cases} a_{11}x_1+a_{12}x_2=b_1 \\ a_{21}x_1+a_{22}x_2=b_2 \end{cases} \]当 \(a_{11}a_{22}-a_{12}a_{21}\not ={0}\) 时方程组由唯一解
二阶行列式:
将系数提取并记为:\(D =\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix}\)
表达式 \(a_{11}a_{22}-a_{12}a_{21}\) 即为二阶行列式
\[D =\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix} =a_{11}a_{22}-a_{12}a_{21} \]三阶行列式:
\[D =\begin{vmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{vmatrix} = \text{主对角线相乘相加} - \text{副对角线相乘相加} \]行列式与矩阵的区别
行列式:
\[\begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{vmatrix} \]- 行数等于列数
- 共有 \(n^2\) 个元素
- 行列式的结果是一个数值
矩阵:
\[\begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix} \]- 行数可以不等于列数
- 共有 \(m\times n\) 个元素
- 本质上就是一个数表
矩阵的特殊形式:
行向量与列向量:
\[(a_1\ a_2\ \cdots\ a_n)\qquad \begin{pmatrix} a_{1} \\ a_{2} \\ \vdots \\ a_{n} \end{pmatrix} \]特殊矩阵
方阵:
行和列一样的就是方阵,一般叫做 \(n\) 阶方阵
\[A=A_{n\times n}=A_n= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{pmatrix} =(a_{ij})_{n\times n} \]上三角矩阵与下三角矩阵:
\[\begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ 0 & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & a_{nn} \end{pmatrix} \qquad \begin{pmatrix} a_{11} & 0 & \cdots & 0 \\ a_{21} & a_{22} & \cdots & 0 \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{pmatrix} \]对角矩阵和单位矩阵:
\[\begin{pmatrix} \lambda_1 & 0 & \cdots & 0 \\ 0 & \lambda_2 & \cdots & 0 \\ \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & \lambda_n \end{pmatrix} \qquad \begin{pmatrix} 1 & 0 & \cdots & 0 \\ 0 & 1 & \cdots & 0 \\ \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & 1 \end{pmatrix} \qquad \]矩阵同型和矩阵相等
同型矩阵:两个矩阵的行列数相同
矩阵相等:在同型的前提下,各位置元素也相等
矩阵的基本运算
矩阵加减法:
有两个 \(m\times n\) 的矩阵 \(A=(a_{ij}),\ B=(b_{ij})\)
\[A\pm B=(a_{ij}\pm B_{ij}) \]矩阵数乘:
数乘运算,数 \(\lambda\) 与矩阵 \(A\) 的乘积
\[\lambda A=A\lambda= \begin{pmatrix} \lambda a_{11} & \lambda a_{12} & \cdots & \lambda a_{1n} \\ \lambda a_{21} & \lambda a_{22} & \cdots & \lambda a_{2n} \\ \vdots & \vdots & & \vdots \\ \lambda a_{m1} & \lambda a_{m2} & \cdots & \lambda a_{mn} \end{pmatrix} \]矩阵乘法:
设矩阵 \(A\) 大小 \(m\times p\),矩阵 \(B\) 大小 \(p\times n\),那么其乘积为矩阵 \(C\),大小 \(m\times n\),记作 \(C=AB\),其中元素 \(c_{ij}\) 可表示为:
\[C_{ij}=\sum_{k=1}^pa_{ik}b_{kj}=a_{i1}b_{1j}+a_{i2}b_{2j}+\cdots+a_{ip}b_{pj} \]矩阵乘法的性质:
- 矩阵乘法没有交换律:\(AB\not ={BA}\)
- \((AB)C=A(BC)\)
- \(\lambda(AB)=(\lambda A)B=A(\lambda B)\)
- \(A(B+C)=AB+AC\)
- \((B+C)A=BA+CA\)
矩阵表示方程组
\(A\) 为系数矩阵,\(X\) 是未知数矩阵,\(B\) 是常数矩阵:
\[\begin{cases} a_{11}x_1+a_{12}x_2+\cdots+a_{1n}x_n=b_1 \\ a_{21}x_1+a_{22}x_2+\cdots+a_{2n}x_n=b_2 \\ \cdots \\ a_{m1}x_1+a_{m2}x_2+\cdots+a_{mn}x_n=b_m \end{cases} \quad \text{即}\quad AX=B \]其中:
\[A= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix}\quad X= \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix}\quad B= \begin{pmatrix} b_1 \\ b_2 \\ \vdots \\ b_m \end{pmatrix} \]矩阵变换
矩阵转置:
即行列调换位置,矩阵 \(A\) 的转置记作 \(A^T\)
矩阵转置的性质:
- \((A^T)^T=A\)
- \((A+B)^T=A^T+B^T\)
- \((\lambda A)^T=\lambda A^T\)
- \((AB)^T=B^TA^T\ \Rightarrow\ (A_1A_2\cdots A_n)^T=A_n^T\cdots A_2^TA_1^T\)
对称矩阵:
如果满足 \(A^T=A\),那么 \(A\) 就是对称矩阵
即要求 \(a_{ij}=a_{ji}\)
逆矩阵:
若 \(A\) 为 \(n\) 阶方阵,如果存在 \(n\) 阶方阵 \(B\),使得 \(AB=BA=I\text{(单位阵)}\)
则称 \(B\) 是 \(A\) 的逆矩阵,记作 \(B=A^{-1}\)
逆矩阵的性质:
- \((A^T)^{-1}=(A^{-1})^T\)
- \((A^{-1})^{-1}=A\)
- \((\lambda A)^{-1}=\frac{1}{\lambda}A^{-1}\)
- \((AB)^{-1}=B^{-1}A^{-1}\)
矩阵的秩
对于一个 \(s\times n\) 的矩阵:
\[A= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{s1} & a_{s2} & \cdots & a_{sn} \end{pmatrix} \]矩阵 \(A\) 的每一行可以看作一个 \(N\) 维向量:\(\alpha_i=(a_{i1},a_{i2},\cdots,a_{in}),\ i=1,2,\cdots,s\)
\(\alpha_1,\alpha_2,\cdots,\alpha_s\) 称为 \(A\) 的行向量
矩阵 \(A\) 的每一列可以看作一个 \(S\) 维向量:\(\beta_j=\begin{pmatrix}a_{1j}\\a_{2j}\\\vdots\\a_{sj}\end{pmatrix},\ j=1,2,\cdots,n\)
\(\beta_1,\beta_2,\cdots,\beta_n\) 称为 \(A\) 的列向量
其中行向量或列向量的极大线性无关组中向量的个数称为矩阵的秩
矩阵的行秩和列秩是相等的
向量的内积
设有 \(n\) 维向量:\(x=\begin{pmatrix}x_1\\x_2\\\cdots\\x_n\end{pmatrix},\ y=\begin{pmatrix}y_1\\y_2\\\cdots\\y_n\end{pmatrix}\)
记 \([x,y]=x_1y_1+x_2y_2+\cdots+x_ny_n\),将 \([x,y]\) 叫做向量的内积
\[[x,y]=(x_1,x_2,\cdots,x_n)\begin{pmatrix}y_1\\y_2\\\cdots\\y_n\end{pmatrix}=x^Ty \]内积的性质:
- 对称性:\([x,y]=[y,x]\)
- 线性性质:\([\lambda x,y]=\lambda[x,y]\)
- 线性性质:\([x+y,z]=[x,z]+[y,z]\)
向量的长度
- \(n\) 维向量 \(x\) 的长度:\(||x||=\sqrt{[x,x]}=\sqrt{x_1^2+x_2^2+\cdots+x_n^2}\ge 0\)
- 当 \(||x||=1\) 称为单位向量
- 齐次性:\(||\lambda x||=|\lambda|\cdot||x||\)
- 三角不等式:\(||x+y||\le||x||+||y||\)
向量的正交
- 若两个向量 \(x\) 和 \(y\) 满足 \([x,y]=0\),则称向量 \(x\) 和 \(y\) 正交
- 零向量与任何向量都正交
- 两两正交的非零向量组成的向量组称为正交向量组
- 若 \(a_1,a_2,\cdots,a_r\) 是两两正交的非零向量,则 \(a_1,a_2,\cdots,a_r\) 线性无关
规范正交基
\(n\) 维向量 \(e_1,e_2,\cdots,e_r\) 是向量空间 \(V\subset R^n\) 中的向量,满足
- \(e_1,e_2,\cdots,e_r\) 是向量空间 \(V\) 中的一个基
- \(e_1,e_2,\cdots,e_r\) 两两正交
- \(e_1,e_2,\cdots,e_r\) 都是单位向量
则称 \(e_1,e_2,\cdots,e_r\) 是 \(V\) 的一个规范正交基
标签:机器,基础,矩阵,cdots,线性代数,pmatrix,end,lambda,vdots 来源: https://www.cnblogs.com/buzzing/p/16495524.html