一、题目
设矩 阵 $A$ $=$ $\begin{pmatrix}0 & 1 & a \\ 1 & 0 & 1\end{pmatrix}$, $B$ $=$ $\begin{pmatrix}1 & 1 \\ 1 & 1 \\ b & 2\end{pmatrix}$, 二次型 $f\left(x_{1}, x_{2}, x_{3}\right)$ $=$ $x^{T} B A x$. 已知方程组 $A x$ $=$ $0$ 的解均是 $B^{\top} x$ $=$ $0$ 的解，但这两个方程组不同解.
(1) 求 $a$, $b$ 的值;
(2) 求正交变换 $x$ $=$ $Q y$ 将 $f\left(x_{1}, x_{2}, x_{3}\right)$ 化为标准形.
难度评级：
二、解析 
第 (1) 问 | 解法一
该解法利用了同阶的方程组对应的系数矩阵必然秩相等的性质。但是，该问要求解的未知量有两个，因此，需要做合适的变换组合，将这两个未知量联系起来，从而完成求解。
假设 $x = \begin{pmatrix}
a \\ b \\ c
\end{pmatrix}$, 由于方程组 $A x$ $=$ $0$ 的解均是方程组 $B^{\top} x$ $=$ $0$ 的解，所以：
$$
\begin{pmatrix} \textcolor{springgreen}{0} & \textcolor{springgreen}{1} & \textcolor{springgreen}{a} \\ \textcolor{springgreen}{1} & \textcolor{springgreen}{0} & \textcolor{springgreen}{1} \end{pmatrix}
\begin{pmatrix}
a \\ b \\ c
\end{pmatrix} = \begin{pmatrix}
0 \\ 0
\end{pmatrix}
$$
$$
\begin{pmatrix}\textcolor{orangered}{1} & \textcolor{orangered}{1} & \textcolor{orangered}{b}\\ \textcolor{orangered}{1} & \textcolor{orangered}{1} & \textcolor{orangered}{2} \end{pmatrix}
\begin{pmatrix}
a \\ b \\ c
\end{pmatrix} = \begin{pmatrix}
0 \\ 0
\end{pmatrix}
$$
于是：
$$
\begin{pmatrix}\textcolor{springgreen}{0} & \textcolor{springgreen}{1} & \textcolor{springgreen}{a} \\ \textcolor{springgreen}{1} & \textcolor{springgreen}{0} & \textcolor{springgreen}{1} \\ \textcolor{orangered}{1} & \textcolor{orangered}{1} & \textcolor{orangered}{b}\\ \textcolor{orangered}{1} & \textcolor{orangered}{1} & \textcolor{orangered}{2} \end{pmatrix}
\begin{pmatrix}
a \\ b \\ c
\end{pmatrix} = \begin{pmatrix}
0 \\ 0 \\ 0 \\ 0
\end{pmatrix}
$$
也就是说 $A x$ $=$ $0$ 与 $AB^{\top} x$ $=$ $0$ 同解。
同时，矩阵 $A$ 的秩为：
$$
r(A) = 2
$$
由于同解的矩阵必然秩相等，因此
$$
r \begin{pmatrix}
A \\ B^{\top}
\end{pmatrix} = r(A) = 2
$$
又因为，经过初等变换，可得：
$$
\begin{pmatrix}
A \\ B^{\top}
\end{pmatrix} = \begin{pmatrix}0 & 1 & a \\ 1 & 0 & 1 \\ 1 & 1 & b \\ 1 & 1 & 2\end{pmatrix} \rightarrow
$$
$$
\begin{pmatrix}0 & 1 & a \\ 1 & 0 & 1 \\ 1 & 1 & b \\ 0 & 0 & 2 – b \end{pmatrix} \rightarrow
$$
$$
\begin{pmatrix}0 & 1 & a \\ 1 & 0 & 1 \\ 0 & 1 & b-1 \\ 0 & 0 & 2 – b \end{pmatrix} \rightarrow
$$
$$
\begin{pmatrix}0 & 1 & a \\ 1 & 0 & 1 \\ 0 & 0 & b-1-a \\ 0 & 0 & 2 – b \end{pmatrix}
$$
于是，为了使 $r \begin{pmatrix}
A \\ B^{\top}
\end{pmatrix}$ $=$ $2$, 必有：
$$
\begin{cases}
b-1-a = 0 \\
2-b = 0
\end{cases}
\rightarrow
$$
$$
\begin{cases}
a = 1 \\
b = 2
\end{cases}
$$