题目
设 $A=\begin{bmatrix}
1 & -2 & 3 & -4\\
0 & 1 & -1 & 1\\
1 & 2 & 0 & -3
\end{bmatrix}$, $E$ 为三阶单位矩阵.
$(Ⅰ)$ 求方程组 $AX=0$ 的一个基础解系.
$(Ⅱ)$ 求满足 $AB=E$ 的所有矩阵 $B$.
解析
对于第 $(Ⅰ)$ 问，我们可以利用初等行变换，单独将矩阵 $A$ 化简为行最简型矩阵，之后即可按照常规步骤求出 $AX=0$ 的一个基础解系。但是，为了更方便在第 $(Ⅱ)$ 问中求解，我们这里可以构造组合矩阵 $(A|E)$, 之后，在组合矩阵 $(A|E)$ 中，通过初等行变换，将属于矩阵 $A$ 的部分化简成行最简型矩阵（至于为什么要这样做，我们在后面会有讨论），化简过程如下：
$$
\begin{bmatrix}
1 & -2 & 3 & -4 & \vdots & 1 & 0 & 0\\
0 & 1 & -1 & 1 & \vdots & 0 & 1 & 0\\
1 & 2 & 0 & -3 & \vdots & 0 & 0 & 1
\end{bmatrix} ①
\Rightarrow
$$
$$
\begin{bmatrix}
1 & 0 & 0 & 1 & \vdots & 2 & 6 & -1\\
0 & 1 & 0 & -2 & \vdots & -1 & -3 & 1\\
0 & 0 & 1 & -3 & \vdots & -1 & -4 & 1
\end{bmatrix}. ②
$$
第 $(Ⅰ)$ 问
观察可知，上面 $②$ 式中的第三列，即 ” $(1,-2,-3)^{\top}$ ” 这一列为自由项，在求齐次通解时应设为 ” $1$ “, 于是，由矩阵 $A$ 的行最简形式 $\begin{bmatrix}
1 & 0 & 0 & 1\\
0 & 1 & 0 & -2\\
0 & 0 & 1 & -3
\end{bmatrix}$ 可以求出齐次线性方程组 $AX=0$ 的一个基础解系为：
$$
\begin{bmatrix}
1\\
-2\\
-3\
1
\end{bmatrix}.
$$
第 $(Ⅱ)$ 问
观察可知，题目中所给的矩阵 $A$ 并不是一个方阵，因此，矩阵 $A$ 是不可逆的。也就是说，我们【不可以】按照如下方式求出矩阵 $B$, 因为矩阵 $A^{-1}$ 并不存在：
$$
AB=E \Rightarrow
$$
$$
A^{-1}AB = A^{-1}E \Rightarrow
$$
$$
B = A^{-1}E.
$$
对于求解形如 “$AX=B$” 这样的式子，且矩阵 $A$ 不是方阵或者不可逆的情况，我们可以将矩阵 $X$ 和矩阵 $B$ 分别按列拆分成单列，之后分别代入求通解，最后将通解拼合起来就能得到矩阵 $X$.
由“非齐通=齐通+非齐特”定理可知，要求出“非齐通”，就要先求出“齐通”和“非齐特”。
注：
[1]. 非齐通：即“非齐次线性方程组的通解”；
[2]. 齐通：即“齐次线性方程组的通解”；
[3]. 非齐特：即“非齐次线性方程组的特解”。
第一步：求出非其次线性方程组 $AB=E$ 对应的齐次线性方程组 $AB=0$ 的通解（齐通）
由第 $(Ⅰ)$ 问可知，齐次线性方程组 $AB=0$ 的基础解系为：
$$
\begin{bmatrix}
1\\
-2\\
-3\
1
\end{bmatrix}.
$$
因此，齐次线性方程组 $AB=0$ 的通解为：
$$
\xi_{n} = k_{n} \begin{bmatrix}
1\\
-2\\
-3\
1
\end{bmatrix}.
$$
其中 $k_{n}$ 为任意常数。
第二步：求出非其次线性方程组 $AB=E$ 的特解（非齐特）
接着分析，虽然矩阵 $A$ 不可逆，但我们仍然可以在“变通”之后，继续使用逆矩阵的性质，过程如下：
我们先把上面经过初等行变换得到的 $②$ 式拿过来写在下面：
$$
\begin{bmatrix}
1 & 0 & 0 & 1 & \vdots & 2 & 6 & -1\\
0 & 1 & 0 & -2 & \vdots & -1 & -3 & 1\\
0 & 0 & 1 & -3 & \vdots & -1 & -4 & 1
\end{bmatrix}. ②
$$
如前面所述，$②$ 式中的第三列是自由列，在求“非齐特”的时候，为了简化计算过程，我们可以将对应于自由列的自由未知数设为 $0$. 也就是说，$②$ 式中的第三列在我们计算 $AB=E$ 这个非齐次线性方程组的特解的时候，相当于不存在，因此，我们可以将该列单独分隔开：
$$
\begin{bmatrix}
1 & 0 & 0 & \vdots & 1 & \vdots & 2 & 6 & -1\\
0 & 1 & 0 & \vdots & -2 & \vdots & -1 & -3 & 1\\
0 & 0 & 1 & \vdots & -3 & \vdots & -1 & -4 & 1
\end{bmatrix}. ③
$$
观察 $③$ 式可知，第三列前面的三列（即前三列）可以组成一个单位矩阵。如果我们将进行初等行变换化简前的前三列视作矩阵 $a$, 即将原来的矩阵 $A$ 的前三列看作一个矩阵 $a$, 则：
$$
a=\begin{bmatrix}
1 & -2 & 3\\
0 & 1 & -1\\
1 & 2 & 0
\end{bmatrix}.
$$
进而，由 $③$ 式可知，在经过初等行变换后，矩阵 $a$ 的逆矩阵就是：
$$
a^{-1} = \begin{bmatrix}
2 & 6 & -1\\
-1 & -3 & 1\\
-1 & -4 & 1
\end{bmatrix}.
$$
于是可知，下式成立：
$$
a a^{-1} = E.
$$
接着，我们只需要给矩阵 $a$ 的最左侧加上一列 $(1,-2,-3)^{\top}$, 即可将其变成化简后的矩阵 $A$. 同时，我们只需要在矩阵 $a^{-1}$ 的最下面加上一行 $(0,0,0)$ 即可在 $aa^{-1}$ 的运算过程中使刚才在矩阵 $a$ 的最左侧加上的 $(1,-2,-3)^{\top}$ 这一列失效，进而可知，$AX=E$ 与 $aa^{-1}=E$ 是等效的，而且，这里的矩阵 $X$ 就是通过在矩阵 $a^{-1}$ 的最下面加上一行后得到的，即：
$$
X = \begin{bmatrix}
2 & 6 & -1\\
-1 & -3 & 1\\
-1 & -4 & 1\\
0 & 0 & 0
\end{bmatrix}.
$$
进而可知，矩阵 $X$ 就是 $AX=E$ 的一个特解。
注：
[1]. 对于上文中用到的矩阵 $a$ 而言，将原来的 $①$ 式转化成化简得到的 $③$ 式的过程其实就是 $(a|E) \Rightarrow (E|a^{-1})$ 这一过程：
$\begin{bmatrix}
1 & -2 & 3 & \vdots & -4 & \vdots & 1 & 0 & 0\\
0 & 1 & -1 & \vdots & 1 & \vdots & 0 & 1 & 0\\
1 & 2 & 0 & \vdots & -3 & \vdots & 0 & 0 & 1
\end{bmatrix} \Rightarrow$ $\begin{bmatrix}
1 & 0 & 0 & \vdots & 1 & \vdots & 2 & 6 & -1\\
0 & 1 & 0 & \vdots & -2 & \vdots & -1 & -3 & 1\\
0 & 0 & 1 & \vdots & -3 & \vdots & -1 & -4 & 1
\end{bmatrix}.$
第三步：拼合“齐通”和“非齐特”得“非齐通”
如果令 $X=(X_{1}, X_{2}, X_{3})$, $E = (E_{1}, E_{2}, E_{3})$, 则：
$AX_{1} = E_{1}$ 的通解为：
$$
\xi_{1} + X_{1} \Rightarrow
$$
$$
k_{1} \begin{bmatrix}
1\\
-2\\
-3\
1
\end{bmatrix} + \begin{bmatrix}
2\\
-1\\
-1\
0
\end{bmatrix}.
$$
$AX_{2} = E_{2}$ 的通解为：
$$
\xi_{2} + X_{2} \Rightarrow
$$
$$
k_{2} \begin{bmatrix}
1\\
-2\\
-3\
1
\end{bmatrix} + \begin{bmatrix}
6\\
-3\\
-4\
0
\end{bmatrix}.
$$
$AX_{3} = E_{3}$ 的通解为：
$$
\xi_{3} + X_{3} \Rightarrow
$$
$$
k_{3} \begin{bmatrix}
1\\
-2\\
-3\
1
\end{bmatrix} + \begin{bmatrix}
-1\\
1\\
1\
0
\end{bmatrix}.
$$
注：
[1]. 这里使用 $k_{1}$, $k_{2}$, $k_{3}$ 是为了体现变量 $k_{n}$ 是一个任意常数的属性。
于是，$AB=E$ 中的矩阵 $B$ 就是：
$$
B = (\xi_{1} + X_{1}, \xi_{2} + X_{2}, \xi_{3} + X_{3}) \Rightarrow
$$
$$
B= \begin{bmatrix}
k_{1}+2 & k_{2}+6 & k_{3}-1\\
-2k_{1}-1 & -2k_{2}-3 & -2k_{3}+1\\
-3k_{1}-1 & -3k_{2}-4 & -3k_{3}+1\\
k_{1} & k_{2} & k_{3}
\end{bmatrix}
$$
其中，$k_{1}$, $k_{2}$, $k_{3}$ 为任意常数。
当然，除了按照上述方法求出“非齐特”之外，我们还可以仅仅利用矩阵 $A$ 计算“非齐特”。不过，这里需要注意的是，我们只能用化简成行最简形式的矩阵 $A=\begin{bmatrix}
1 & 0 & 0 & 1\\
0 & 1 & 0 & -2\\
0 & 0 & 1 & -3
\end{bmatrix}$ 确定自由未知数的位置，但不能将化简后的矩阵 $A$ 代入到 $AB=E$ 中求“非齐特”，因为此时矩阵 $A$ 与 矩阵 $E$ 之间的比例关系已经被破坏了，我们必须用原来未经修改的矩阵 $A=\begin{bmatrix}
1 & -2 & 3 & -4\\
0 & 1 & -1 & 1\\
1 & 2 & 0 & -3
\end{bmatrix}$ 代入到 $AB=E$ 中求出的“非齐特”才是正确的“非齐特”。