其他分享
首页 > 其他分享> > 机器学习数学基础-4-线性代数基础

机器学习数学基础-4-线性代数基础

作者:互联网

线性代数基础

行列式

二元线性方程组的求解:

\[\begin{cases} a_{11}x_1+a_{12}x_2=b_1 \\ a_{21}x_1+a_{22}x_2=b_2 \end{cases} \]

当 \(a_{11}a_{22}-a_{12}a_{21}\not ={0}\) 时方程组由唯一解

二阶行列式:

将系数提取并记为:\(D =\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix}\)

表达式 \(a_{11}a_{22}-a_{12}a_{21}\) 即为二阶行列式

\[D =\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix} =a_{11}a_{22}-a_{12}a_{21} \]

三阶行列式:

\[D =\begin{vmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{vmatrix} = \text{主对角线相乘相加} - \text{副对角线相乘相加} \]


行列式与矩阵的区别

行列式:

\[\begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{vmatrix} \]

矩阵:

\[\begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix} \]

矩阵的特殊形式:

行向量与列向量:

\[(a_1\ a_2\ \cdots\ a_n)\qquad \begin{pmatrix} a_{1} \\ a_{2} \\ \vdots \\ a_{n} \end{pmatrix} \]


特殊矩阵

方阵:

行和列一样的就是方阵,一般叫做 \(n\) 阶方阵

\[A=A_{n\times n}=A_n= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{pmatrix} =(a_{ij})_{n\times n} \]

上三角矩阵与下三角矩阵:

\[\begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ 0 & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & a_{nn} \end{pmatrix} \qquad \begin{pmatrix} a_{11} & 0 & \cdots & 0 \\ a_{21} & a_{22} & \cdots & 0 \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{pmatrix} \]

对角矩阵和单位矩阵:

\[\begin{pmatrix} \lambda_1 & 0 & \cdots & 0 \\ 0 & \lambda_2 & \cdots & 0 \\ \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & \lambda_n \end{pmatrix} \qquad \begin{pmatrix} 1 & 0 & \cdots & 0 \\ 0 & 1 & \cdots & 0 \\ \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & 1 \end{pmatrix} \qquad \]


矩阵同型和矩阵相等

同型矩阵:两个矩阵的行列数相同

矩阵相等:在同型的前提下,各位置元素也相等


矩阵的基本运算

矩阵加减法:

有两个 \(m\times n\) 的矩阵 \(A=(a_{ij}),\ B=(b_{ij})\)

\[A\pm B=(a_{ij}\pm B_{ij}) \]

矩阵数乘:

数乘运算,数 \(\lambda\) 与矩阵 \(A\) 的乘积

\[\lambda A=A\lambda= \begin{pmatrix} \lambda a_{11} & \lambda a_{12} & \cdots & \lambda a_{1n} \\ \lambda a_{21} & \lambda a_{22} & \cdots & \lambda a_{2n} \\ \vdots & \vdots & & \vdots \\ \lambda a_{m1} & \lambda a_{m2} & \cdots & \lambda a_{mn} \end{pmatrix} \]

矩阵乘法:

设矩阵 \(A\) 大小 \(m\times p\),矩阵 \(B\) 大小 \(p\times n\),那么其乘积为矩阵 \(C\),大小 \(m\times n\),记作 \(C=AB\),其中元素 \(c_{ij}\) 可表示为:

\[C_{ij}=\sum_{k=1}^pa_{ik}b_{kj}=a_{i1}b_{1j}+a_{i2}b_{2j}+\cdots+a_{ip}b_{pj} \]

矩阵乘法的性质:


矩阵表示方程组

\(A\) 为系数矩阵,\(X\) 是未知数矩阵,\(B\) 是常数矩阵:

\[\begin{cases} a_{11}x_1+a_{12}x_2+\cdots+a_{1n}x_n=b_1 \\ a_{21}x_1+a_{22}x_2+\cdots+a_{2n}x_n=b_2 \\ \cdots \\ a_{m1}x_1+a_{m2}x_2+\cdots+a_{mn}x_n=b_m \end{cases} \quad \text{即}\quad AX=B \]

其中:

\[A= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix}\quad X= \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix}\quad B= \begin{pmatrix} b_1 \\ b_2 \\ \vdots \\ b_m \end{pmatrix} \]


矩阵变换

矩阵转置:

即行列调换位置,矩阵 \(A\) 的转置记作 \(A^T\)

矩阵转置的性质:

对称矩阵:

如果满足 \(A^T=A\),那么 \(A\) 就是对称矩阵

即要求 \(a_{ij}=a_{ji}\)

逆矩阵:

若 \(A\) 为 \(n\) 阶方阵,如果存在 \(n\) 阶方阵 \(B\),使得 \(AB=BA=I\text{(单位阵)}\)

则称 \(B\) 是 \(A\) 的逆矩阵,记作 \(B=A^{-1}\)

逆矩阵的性质:


矩阵的秩

对于一个 \(s\times n\) 的矩阵:

\[A= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{s1} & a_{s2} & \cdots & a_{sn} \end{pmatrix} \]

矩阵 \(A\) 的每一行可以看作一个 \(N\) 维向量:\(\alpha_i=(a_{i1},a_{i2},\cdots,a_{in}),\ i=1,2,\cdots,s\)

\(\alpha_1,\alpha_2,\cdots,\alpha_s\) 称为 \(A\) 的行向量

矩阵 \(A\) 的每一列可以看作一个 \(S\) 维向量:\(\beta_j=\begin{pmatrix}a_{1j}\\a_{2j}\\\vdots\\a_{sj}\end{pmatrix},\ j=1,2,\cdots,n\)

\(\beta_1,\beta_2,\cdots,\beta_n\) 称为 \(A\) 的列向量

其中行向量或列向量的极大线性无关组中向量的个数称为矩阵的秩

矩阵的行秩和列秩是相等的


向量的内积

设有 \(n\) 维向量:\(x=\begin{pmatrix}x_1\\x_2\\\cdots\\x_n\end{pmatrix},\ y=\begin{pmatrix}y_1\\y_2\\\cdots\\y_n\end{pmatrix}\)

记 \([x,y]=x_1y_1+x_2y_2+\cdots+x_ny_n\),将 \([x,y]\) 叫做向量的内积

\[[x,y]=(x_1,x_2,\cdots,x_n)\begin{pmatrix}y_1\\y_2\\\cdots\\y_n\end{pmatrix}=x^Ty \]

内积的性质:


向量的长度


向量的正交


规范正交基

\(n\) 维向量 \(e_1,e_2,\cdots,e_r\) 是向量空间 \(V\subset R^n\) 中的向量,满足

则称 \(e_1,e_2,\cdots,e_r\) 是 \(V\) 的一个规范正交基

标签:机器,基础,矩阵,cdots,线性代数,pmatrix,end,lambda,vdots
来源: https://www.cnblogs.com/buzzing/p/16495524.html