L17-正交矩阵与 Gram-Schmidt 正交化-习题集

参考

Unit II: Least Squares, Determinants and Eigenvalues - Orthogonal Matrices and Gram-Schmidt - Check Yourself
题源：Problem: Exercises on orthogonal matrices and Gram-Schmidt | pdf
参考答案：Solutions: Exercises on orthogonal matrices and Gram-Schmidt | pdf

问题 17.1

标准正交向量 orthonormal vectors 是一系列线性独立的向量。

通过矩阵来证明： $Qx=0$ 意味着 $x=0$ （其中 $Q$ 是由标准正交向量构成的矩阵）

注意

证明过程中不能使用 $Q^{-1}$ 因为矩阵 $Q$ 不一定是方阵

解答

由于 $Q$ 是由标准正交向量组成的，所以满足 $Q^{T}Q=I$

因此在等式 $Qx=0$ 两边同时乘上 $Q^{T}$ 可得

Q^{T}Qx=Q^{T}0 \\ Ix=0 \\ x=0

所以方程组 $Qx=0$ 的解只有 $x=0$ ，即零空间中只有零向量，根据线性独立的定义，可知构成该矩阵的列向量（一系列的标准正交向量）线性独立。

问题 17.2

给定以下 3 个向量

a=\begin{bmatrix} 1 \\ -1 \\ 0 \\ 0 \end{bmatrix}, b=\begin{bmatrix} 0 \\ 1 \\ -1 \\ 0 \end{bmatrix}, c=\begin{bmatrix} 0 \\ 0 \\ 1 \\ -1 \end{bmatrix}

使用 Gram-Schmidt 正交化，求出 3 个相应的正交向量 $A$ 、 $B$ 、 $C$

并证明由 $\{A, B, C\}$ 作为基向量所张成的空间，以及由 $\{a, b, c\}$ 作为基向量所张成的空间（这两个空间相同），就是那些与向量 $d=\begin{bmatrix}1 \\ 1 \\ 1 \\ 1\end{bmatrix}$ 相垂直的向量所构成的空间。

解答

令向量 $A=a=\begin{bmatrix} 1 \\ -1 \\ 0 \\ 0 \end{bmatrix}$

则根据 Gram-Schmidt 正交化，可分别求出向量 $B$ 和 $C$

\begin{aligned} B&=b- \frac{A^{T}b}{A^{T}A}A \\ &= \begin{bmatrix} 0 \\ 1 \\ -1 \\ 0 \end{bmatrix}- \frac{ \begin{bmatrix} 1 & -1 & 0 & 0 \end{bmatrix} \begin{bmatrix} 0 \\ 1 \\ -1 \\ 0 \end{bmatrix} }{ \begin{bmatrix} 1 & -1 & 0 & 0 \end{bmatrix} \begin{bmatrix} 1 \\ -1 \\ 0 \\ 0 \end{bmatrix} } \begin{bmatrix} 1 \\ -1 \\ 0 \\ 0 \end{bmatrix} \\ &= \begin{bmatrix} 0 \\ 1 \\ -1 \\ 0 \end{bmatrix}- \frac{ 1 \times 0 + (-1) \times 1 + 0 \times (-1) + 0 \times 0 }{ 1 \times 1 + (-1) \times (-1) + 0 \times 0 + 0 \times 0 } \begin{bmatrix} 1 \\ -1 \\ 0 \\ 0 \end{bmatrix} \\ &= \begin{bmatrix} 0 \\ 1 \\ -1 \\ 0 \end{bmatrix}+ \frac{1}{2} \begin{bmatrix} 1 \\ -1 \\ 0 \\ 0 \end{bmatrix} \\ &= \begin{bmatrix} 1/2 \\ 1/2 \\ -1 \\ 0 \end{bmatrix} \end{aligned}

由于 $a^{T}c=\begin{bmatrix} 1 & -1 & 0 & 0\end{bmatrix}\begin{bmatrix} 0 \\ 0 \\ 1 \\ -1 \end{bmatrix}=0$ 即向量 $a$ 与向量 $c$ 垂直，所以向量 $c$ 在 $A$ 上的（投影）分量是 $0$

\begin{aligned} C&=c- \frac{A^{T}c}{A^{T}A}A - \frac{B^{T}c}{B^{T}B}B \\ &= \begin{bmatrix} 0 \\ 0 \\ 1 \\ -1 \end{bmatrix}-0- \frac{ \begin{bmatrix} \frac{1}{2} & \frac{1}{2} & -1 & 0 \end{bmatrix} \begin{bmatrix} 0 \\ 0 \\ 1 \\ -1 \end{bmatrix} }{ \begin{bmatrix} \frac{1}{2} & \frac{1}{2} & -1 & 0 \end{bmatrix} \begin{bmatrix} 1/2 \\ 1/2 \\ -1 \\ 0 \end{bmatrix} } \begin{bmatrix} 1/2 \\ 1/2 \\ -1 \\ 0 \end{bmatrix} \\ &= \begin{bmatrix} 0 \\ 0 \\ 1 \\ -1 \end{bmatrix}- \frac{ \frac{1}{2} \times 0 + \frac{1}{2} \times 0 + -1 \times 1 + 0 \times -1 }{ \frac{1}{2} \times \frac{1}{2} + \frac{1}{2} \times \frac{1}{2} + (-1) \times (-1) + 0 \times 0 } \begin{bmatrix} 1/2 \\ 1/2 \\ -1 \\ 0 \end{bmatrix} \\ &= \begin{bmatrix} 0 \\ 0 \\ 1 \\ -1 \end{bmatrix}+ \frac{2}{3} \begin{bmatrix} 1/2 \\ 1/2 \\ -1 \\ 0 \end{bmatrix} \\ &= \begin{bmatrix} 1/3 \\ 1/3 \\ 1/3 \\ -1 \end{bmatrix} \end{aligned}

向量 $d=\begin{bmatrix}1 \\ 1 \\ 1 \\ 1\end{bmatrix}$ （由 4 个元素组成）表示一条直线，其维度是 $1$ ，那么由垂直于它的向量所构成的空间 $D_{\perp}$ 的维度就是 $4-1=3$ 。

向量 $A$ 、 $B$ 、 $C$ 都与向量 $d$ 垂直（它们的内积都为 $0$ ），所以它们在上述的 $D_{\perp}$ 空间中，如果以这三个正交向量作为基向量，所张成的空间维度也是 $3$ ，因此所张成的空间就是 $D_{\perp}$ 。

对于以 $\{a, b, c\}$ 作为基向量所张成的空间，按照同样方法进行分析，也可以得到同样的结论。