题目
已知：
$$
A =
\begin{bmatrix}
1 & 0 & 1\\
0 & 1 & 1\\
-1 & 0 & a\\
0 & a & -1
\end{bmatrix},
$$
二次型 $f(x_{1}, x_{2}, x_{3})=X^{\top}(A^{\top}A)X$ 的秩为 $2$.
$(Ⅰ)$ 求实数 $a$ 的值；
$(Ⅱ)$ 求正交变换 $x=Qy$, 将 $f$ 化为标准形。
解析
第 $(Ⅰ)$ 问
由题知，二次型 $f$ 的秩为 $2$, 即：
$$
r(A^{\top}A) = 2.
$$
又根据矩阵秩的性质可知，$r(A^{\top}A) = r(A)$, 于是：
$$
r(A) = 2.
$$
接着，对矩阵 $A$ 进行初等变换：
$$
A =
\begin{bmatrix}
1 & 0 & 1\\
0 & 1 & 1\\
-1 & 0 & a\\
0 & a & -1
\end{bmatrix}
\Rightarrow
$$
$$
A =
\begin{bmatrix}
1 & 0 & 1\\
0 & 1 & 1\\
0 & 0 & a+1\\
0 & 0 & 0
\end{bmatrix}.
$$
再结合 $r(A)=2$, 可知：
$$
a+1 = 0 \Rightarrow
$$
$$
a=-1.
$$
第 $(Ⅱ)$ 问
由第 $(Ⅰ)$ 问知，$a=-1$, 于是：
$$
A =
\begin{bmatrix}
1 & 0 & 1\\
0 & 1 & 1\\
-1 & 0 & -1\\
0 & -1 & -1
\end{bmatrix};
$$
$$
A^{\top} =
\begin{bmatrix}
1 & 0 & -1 & 0\\
0 & 1 & 0 & -1\\
1 & 1 & -1 & -1
\end{bmatrix};
$$
$$
A^{\top}A=
\begin{bmatrix}
2 & 0 & 2\\
0 & 2 & 2\\
2 & 2 & 4
\end{bmatrix}. ①
$$
接着，开始求 $A^{\top}A$ 得特征值：
$$
|\lambda E – A^{\top}A| = 0\Rightarrow
$$
$$
\begin{vmatrix}
\lambda-2 & 0 & -2\\
0 & \lambda-2 & -2\\
-2 & -2 & \lambda-4
\end{vmatrix} = 0
\Rightarrow
$$
$$
(\lambda – 2)^{2}(\lambda-4)-4(\lambda – 2) – 4(\lambda-2) = 0 \Rightarrow
$$
$$
(\lambda-2)[(\lambda-2)(\lambda-4)-8]=0 \Rightarrow
$$
$$
\lambda(\lambda -2)(\lambda-6)=0.
$$
于是，可知，矩阵 $A^{\top}A$ 的特征值依次为：
$$
\lambda_{1} = 0; \lambda_{2} = 2; \lambda_{3}=6.
$$
这里需要注意的是，我们这里必须使用未经化简的“原版”矩阵 $A^{\top}A$, 否则，使用 $(\lambda E-A^{\top}A)X=0$ 计算出的解特征值 $\lambda$ 与对应的特征向量 $\xi$ 就不匹配了。因为在该公式中，$(\lambda E-A^{\top}A)$ 是一个整体，要怎么化简都要怎么化简，我们只对 $A^{\top}A$ 进行化简显然是不对的。不过，我们可以对由 $(\lambda E-A^{\top}A)$ 这个整体得来的矩阵进行化简。
当 $\lambda_{1}=0$ 时：
$$
(\lambda_{1} E – A^{\top}A)X = 0 \Rightarrow
$$
$$
(0 E – A^{\top}A)X = 0 \Rightarrow
$$
$$
\xi_{1} =
\begin{bmatrix}
-1\\
-1\\
1
\end{bmatrix}.
$$
当 $\lambda_{2}=2$ 时：
$$
(\lambda_{2} E – A^{\top}A)X = 0 \Rightarrow
$$
$$
(2 E – A^{\top}A)X = 0 \Rightarrow
$$
$$
\xi_{2} =
\begin{bmatrix}
-1\\
1\\
0
\end{bmatrix}.
$$
当 $\lambda_{3}=6$ 时：
$$
(\lambda_{3} E – A^{\top}A)X = 0 \Rightarrow
$$
$$
(6 E – A^{\top}A)X = 0 \Rightarrow
$$
$$
\xi_{3} =
\begin{bmatrix}
1\\
1\\
2
\end{bmatrix}.
$$
观察可知，矩阵 $A^{\top}A$ 是一个实对称矩阵，且 $\lambda_{1} \neq \lambda_{2} \neq \lambda_{3}$, 由“实对称矩阵不同特征值对应的特征向量必正交”的性质可知，$\xi_{1}$, $\xi_{2}$ 和 $\xi_{3}$ 这三个特征向量一定正交，无需再做正交化运算。
接着，将 $\xi_{1}$, $\xi_{2}$ 和 $\xi_{3}$ 这三个特征向量单位化，得：
$$
\gamma_{1} = \frac{1}{\sqrt{(-1)^{2}+(-1)^{2}+(1)^{2}}}
\begin{bmatrix}
-1\\
-1\\
1
\end{bmatrix};
$$
$$
\gamma_{2} = \frac{1}{\sqrt{(-1)^{2}+(1)^{2}+(0)^{2}}}
\xi_{2} =
\begin{bmatrix}
-1\\
1\\
0
\end{bmatrix};
$$
$$
\gamma_{3} = \frac{1}{\sqrt{(1)^{2}+(1)^{2}+(2)^{2}}}
\begin{bmatrix}
1\\
1\\
2
\end{bmatrix}.
$$
于是，有：
$$
\gamma_{1}=\frac{1}{\sqrt{3}}
\begin{bmatrix}
-1\\
-1\\
1
\end{bmatrix};
$$
$$
\gamma_{2}=\frac{1}{\sqrt{2}}
\begin{bmatrix}
-1\\
1\\
0
\end{bmatrix};
$$
$$
\gamma_{3}=\frac{1}{\sqrt{6}}
\begin{bmatrix}
1\\
1\\
2
\end{bmatrix}.
$$
于是可知，正交变换 $x=Qy$ 中的矩阵 $Q$ 为：
$$
Q=\begin{bmatrix}
-\frac{1}{\sqrt{3}} & -\frac{1}{\sqrt{2}} & \frac{1}{\sqrt{6}}\\
-\frac{1}{\sqrt{3}} & \frac{1}{\sqrt{2}} & \frac{1}{\sqrt{6}}\\
\frac{1}{\sqrt{3}} & 0 & \frac{2}{\sqrt{6}}
\end{bmatrix}.
$$
于是，在正交变换 $x=Qy$ 下，二次型 $f$ 的标准型为：
$$
f=2y_{2}^{2} + 6y_{3}^{2}.
$$