L28-正定矩阵和最小值-习题集

参考

Unit III: Positive Definite Matrices and Applications - Positive Definite Matrices and Minima - Check Yourself
题源：Problem: Exercises on positive definite matrices and minima | pdf
参考答案：Solutions: Exercises on positive definite matrices and minima | pdf

问题 27.1

已知矩阵 $A$ 和 $B$ 是正定矩阵（也就是对称矩阵），它们的乘积 $AB$ 可能不是对称矩阵，但是它的特征值依然都是正数。从 $ABx=\lambda x$ 入手，并在等式左右两边同时乘上 $Bx$ （内积/点乘），以证明 $\lambda > 0$

解答

在原等式 $ABx=\lambda x$ 两边同时乘上 $Bx$ 则等式变成 $(ABx)^{T}Bx=(\lambda x)^{T}Bx$

提示

由于原等式的左右两边实际都是向量，而 $Bx$ 也是向量，两个向量点乘时（以矩阵的角度来考虑）其中一个需要进行转置

对于等式左边括号中的式子 $ABx$ 可以看作两部分 ${\color{Blue} A}{\color{Red} Bx}$ ，对其进行转置；对于等式右边括号中的式子 $\lambda x$ 其中 $\lambda$ 是系数，转置操作对其并不影响。所以等式可以执行以下化简

\begin{aligned} ({\color{Blue} A}{\color{Red} Bx})^{T}Bx&=(\lambda x)^{T}Bx \\ &\Downarrow \\ ({\color{Red} Bx})^{T}{\color{Blue} A}^{T}Bx&=\lambda x^{T}Bx \\ &\Downarrow \\ \end{aligned}

由于 $A$ 是正定矩阵，也就是对称矩阵，所以 $A^{T}=A$ ，则以上等式可以进一步化简

\begin{aligned} (Bx)^{T}A^{T}Bx&=\lambda x^{T}Bx \\ &\Downarrow \\ (Bx)^{T}ABx&=\lambda x^{T}Bx \\ &\Downarrow \\ (Bx)^{T}A(Bx)&=\lambda x^{T}Bx \end{aligned}

对于以上等式的左侧，可以将 $Bx$ 看作一个整体，它实际是一个向量

则 $(Bx)^{T}A(Bx)$ 的结构就正好对应 $v^{T}Av$ （其中 $v$ 是向量）形式，由于矩阵 $A$ 是正定矩阵，则式子 $v^{T}Av$ 的值均为正数，所以 $(Bx)^{T}A(Bx)>0$

对于等式的右侧，同样由于矩阵 $B$ 是正定矩阵，可得 $x^{T}Bx>0$

所以要等式成立，则 $\lambda$ 必须为正数

问题 27.2

写出矩阵 $\begin{bmatrix} 1 & 5 \\ 7 & 9 \end{bmatrix}$ 的二次形式，该函数 $f(x, y)$ 的值是否均为正数，还是均为负数，还是部分函数值为正数而部分函数值为负数？

解答

矩阵 $\begin{bmatrix} 1 & 5 \\ 7 & 9 \end{bmatrix}$ 的二次形式如下

\begin{aligned} f(x_{1}, x_{2})&=x^{T}Ax \\ &= \begin{bmatrix} x_{1} & x_{2} \end{bmatrix} \begin{bmatrix} 1 & 5 \\ 7 & 9 \end{bmatrix} \begin{bmatrix} x_{1} \\ x_{2} \end{bmatrix} \\ &= \begin{bmatrix} x_{1} & x_{2} \end{bmatrix} \begin{bmatrix} x_{1}+5x_{2} \\ 7x_{2}+9x_{2} \end{bmatrix} \\ &=x_{1}^{2}+12x_{1}x_{2}+9x_{2}^{2} \end{aligned}

将二次形式进行配方 $f(x_{1}, x_{2})=x_{1}^{2}+12x_{1}x_{2}+9x_{2}^{2}=(x_{1}+6x_{2})^{2}-27x_{2}^{2}$ 根据其结构形式，可以知道部分函数值为负数（例如 $f(2, -1)=-8$ ），部分函数值为正数（例如 $x\ne 0, y=0$ 时）

提示

也可以使用其他方法来判断，例如计算该矩阵的行列式

detA=1 \times 9-5 \times 7=-26

所以该矩阵不是正定矩阵，则 $x^{T}Ax$ 部分值为正数，部分值为负数