LinearAlgebra

Basic Concepts and Notation

• $\mathbf{A}\in {\mathbb{R}}^{m\times n}$表示一个$m$行$n$列的矩阵. 第一个$m$表示横向一共$m$行, 第二个$n$表示竖列一共$n$列
• $\mathbf{x}\in {\mathbb{R}}^n$表示一个$n$行的列向量$\mathbf{x}$, 如果要表示一个行向量, 那么用${\mathbf{x}}^T$表示
• ${\mathbf{x}}_i$表示向量$\mathbf{x}$的第$i$个元素: $\mathbf{x}=\left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right]$
• 用$a_{ij}$或${\mathbf{A}}_{ij}$或${\mathbf{A}}_{i,j}$表示矩阵$\mathbf{A}$的$i$行$j$列个元素
• $a_j$或${\mathbf{A}}_j$表示第$j$列${\mathbf{A}}_j=\left[\begin{array}{ccc}\cdots & |& \cdots \\ \cdots & {\mathbf{A}}_j& \cdots \\ \cdots & |& \cdots \end{array}\right]$
• $a_i^T$或者${\mathbf{A}}_i^T$表示第$i$行${\mathbf{A}}_j=\left[\begin{array}{ccc}& ⋮& \\ -& {\mathbf{A}}_i^T& -\\ & ⋮& \end{array}\right]$

注意$a_1$和$a_1^T$是两个含义完全不一样的向量. 一个是列向量, 另一个是行向量

Matrix Multiplication

Vector-Vector Multiplication

假设$\mathbf{x},\mathbf{y}\in {\mathbb{R}}^n$, 那么认为${\mathbf{x}}^T\mathbf{y}=\left[\begin{array}{ccc}{x}_1& \cdots & x_n\end{array}\right]\left[\begin{array}{c}{y}_1\\ ⋮\\ y_n\end{array}\right]={\sum }_{i=1}^n{x}_i{y}_i$称作向量内积(Inner product)

注意, 很显然的是, ${\mathbf{x}}^Y\mathbf{y}={\mathbf{y}}^T\mathbf{x}$

假设$\mathbf{x}\in {\mathbb{R}}^m,\mathbf{y}\in {\mathbb{R}}^n$, 那么$\mathbf{x}{\mathbf{y}}^T=\left[\begin{array}{ccc}{x}_1{y}_1& \cdots & x_n{y}_1\\ ⋮& \ddots & ⋮\\ x_n{y}_1& \cdots & x_n{y}_m\end{array}\right]$称作矩阵外积(Outer product)

Matrix-Vector Multiplication

假设$\mathbf{A}\in {\mathbb{R}}^{m\times n},\mathbf{x}\in {\mathbb{R}}^n$, 那么乘积$\mathbf{y}=\mathbf{Ax}=\left[\begin{array}{ccc}-& a_1^T& -\\ & ⋮& \\ -& a_m^T& -\end{array}\right]\mathbf{x}=\left[\begin{array}{ccc}-& a_1^T\mathbf{x}& -\\ & ⋮& \\ -& a_m^T\mathbf{x}& -\end{array}\right]\in {\mathbb{R}}^m$

或者写成对x的线性规划的形式: $\mathbf{y}=\mathbf{Ax}=$