L9-线性无关、基、维度

参考

Unit I: Ax = b and the Four Subspaces - Independence, Basis and Dimension | pdf
课本章节：Section 3.5 in the 4^th or Section 3.4 in the 5^th edition
练习题：L9-线性无关、基、维度-习题集

线性相关性

线性相关性针对的是一组向量，例如对于两个向量 $\overrightarrow v_{1}$ 、 $\overrightarrow v_{2}$ 在同一直线上，满足 $\overrightarrow v_{2} = 2 \overrightarrow v_{1}$ ，则向量 $\overrightarrow v_{1}$ ， $\overrightarrow v_{2}$ 线性相关。

定义

当存在系数不全为零，仍使得向量组的线性组合为零时，即该向量组其中一个向量可以由其他向量的线性组合得出，因此该向量组线性相关。

对于向量组 $\overrightarrow x_{1}$ 、 $\overrightarrow x_{2}$ …… $\overrightarrow x_{n}$ ，如果存在 $c_{1}$ 、 $c_{2}$ …… $c_{n}$ 不全为零，仍使得下列等式成立。

\begin{aligned} c_{1}\overrightarrow x_{1} + c_2\overrightarrow x_{2} + \cdots + c_{k} \overrightarrow x_{k} = \cdots + c_{n}\overrightarrow x_{n} = 0 \\ c_{k} \overrightarrow x_{k} = -(c_{1}\overrightarrow x_{1} + c_2\overrightarrow x_{2} + \cdots + c_{n}\overrightarrow x_{n}) \end{aligned}

则这些向量线性相关

将向量组作为列向量，构成矩阵 $A_{m \times n}$ ，这样就可以从矩阵的角度来考虑向量组的线性相关性了。

对于方程组 $Ax=0$ ，其零空间 $N(A)$ 不同的情况，对应于构成矩阵 $A$ 的列向量组的线性相关性

线性无关/线性独立 linearly independent：零空间中只有零向量 $N(A)={0}$ 。此时对于方程组 $Ax=0$ 的系数矩阵的阶梯形式必然没有自由变量，即秩 $rank=n$
线性相关 linearly dependent：零空间中存在一些非零向量。一般是由于方程组 $Ax=0$ 的系数矩阵的阶梯形式中的秩 $rank<n$ ，存在自由变量。

说明

如果矩阵 $A_{m \times n}$ 满足 $m<n$ （即未知数向量 $x$ 的个数比方程组的等式更多），则对于方程组 $Ax=0$ ，由于系数矩阵 $A$ 的阶梯形式中有自由变量，则必有非零解。

例如在二维空间中，有 3 个向量构成一个向量组，则它们是线性相关的。

提示

如果向量组中一个向量是零向量 $\overrightarrow v=0$ ，只要其他向量的系数为 $0$ ，而该零向量的系数为非零，最终必定可以使得方程组 $Ax=0$ 成立。

根据线性相关的定义可知，这样的向量组（包含零向量）是线性相关的。

基

基 base 是张成一个向量空间所需的最少向量，通过它们所有可能的线性组合构成向量空间。

向量空间的基就用到了线性相关性的概念，对于矩阵 $A$ 的列空间 $C(A)$ 的基具有以下 2 个特性：

它们线性无关
它们可以张成列空间

在向量空间 $\mathbb{R^{3}}$ 其中的一组基如下，因此可以通过它们的所有可能的线性组合构成向量空间

\begin{aligned} \begin{bmatrix} 1 \\ 0 \\ 0 \end{bmatrix} \begin{bmatrix} 0 \\ 1 \\ 0 \end{bmatrix} \begin{bmatrix} 0 \\ 0 \\ 1 \end{bmatrix} \end{aligned}

说明

如果矩阵 $A_{n \times n}$ 各列向量可以构成向量空间 $\mathbb{R^{n}}$ 的基，则方阵 $A_{n \times n}$ 必须是可逆矩阵 invertible

验证一组向量是否为某个向量空间的基，根据定义应该满足以下流程：

判断向量组是否线性独立
取该向量空间中任意一个向量 $\overrightarrow b$
将需要判断的向量组作为列向量组构成一个矩阵 $A$
求解 $Ax=b$ 判断是否有解

注意

基是相对于向量空间而言的，而不是矩阵而言的，例如对于矩阵 $A$ 的列空间 $C(A)$ ，因为矩阵各列并不一定是线性无关的，它们各列组成的向量组就并不一定构成列空间的基。

已知矩阵 $A$ 如下

\begin{aligned} A = \begin{bmatrix} 1 & 2 & 3 & 1 \\ 1 & 1 & 2 & 1 \\ 1 & 2 & 3 & 1 \end{bmatrix} \end{aligned}

虽然根据定义列空间 $C(A)$ 是由矩阵 $A$ 的 4 个列向量张成的，但是由于 $col3=col1+col2$ 以及 $col4=col1$ 即这些列向量并不是线性独立的（可以根据以上基于零空间对线性相关性的判定，也同样可知这些列向量是线性相关的）

虽然对于一个向量空间，组成基的向量组可以有多种，但是组成基所需的向量的数量都是一样的，与其所在向量空间的维度 dimension 相同。

对于矩阵 $A_{m \times n}$ ：

列空间 $C(A)$ 的维度（构成基所需的向量数量）= 矩阵的秩 $rank(A)$ （即矩阵 $A$ 的阶梯形式的主列/主元的数量）
零空间 $N(A)$ 的维度（构成基所需的向量数量）= $n-r$ （即自由变量的数量）

例如上述例子对于矩阵 $A$ 的列空间的维度是 $dimC(A)=2$ ，由于自由变量数量是 $4-2=2$ 所以其零空间 $N(A)$ 的维度是 $2$ ，因此只要求出 $Ax=0$ 的 2 个特解就可以构成零空间的基：

\begin{aligned} x_{1} = \begin{bmatrix} -1 \\ -1 \\ 1 \\ 0 \end{bmatrix}, x_{2} = \begin{bmatrix} -1 \\ 0 \\ 0 \\ -1 \end{bmatrix} \end{aligned}