题目
设：
$$
A=\begin{bmatrix}
1 & a & 0 & 0\\
0 & 1 & a & 0\\
0 & 0 & 1 & a\\
a & 0 & 0 & 1
\end{bmatrix},
$$
$$
\beta=
\begin{bmatrix}
1\\
-1\\
0\\
0
\end{bmatrix}.
$$
$(Ⅰ)$ 计算行列式 $|A|$.
$(Ⅱ)$ 当实数 $a$ 为何值时，方程组 $AX=\beta$ 有无穷多解，并求其通解。
解析
第 $(Ⅰ)$ 问
由题知，行列式 $|A|$ 是一个 $4$ 阶行列式，大于了 $3$ 阶，因此，我们不能使用行列式的对角线法则直接计算，也找不到其他可以降阶的方法。于是，我们只能使用行列式的按行（列）展开定理计算 $|A|$ 的值。
根据行列式的展开定理，按行列式 $|A|$ 的第一行展开，得：
$$
A=\begin{bmatrix}
1 & a & 0 & 0\\
0 & 1 & a & 0\\
0 & 0 & 1 & a\\
a & 0 & 0 & 1
\end{bmatrix}=
$$
$$
1 \cdot (-1)^{(1+1)}
\begin{bmatrix}
1 & a & 0\\
0 & 1 & a\\
0 & 0 & 1
\end{bmatrix}+
a \cdot (-1)^{(1+2)}
\begin{bmatrix}
0 & a & 0\\
0 & 1 & a\\
a & 0 & 1
\end{bmatrix}=
$$
$$
\begin{bmatrix}
1 & a & 0\\
0 & 1 & a\\
0 & 0 & 1
\end{bmatrix}-a
\begin{bmatrix}
0 & a & 0\\
0 & 1 & a\\
a & 0 & 1
\end{bmatrix}=
$$
$$
1-a(a^{3}) = 1-a^{4}.
$$
第 $(Ⅱ)$ 问
如果方程组 $AX=\beta$ 有无穷多解，则必有：
$$
|A|=0.
$$
再结合第 $(Ⅰ)$ 问，可知：
$$
1-a^{4} = 0 \Rightarrow
$$
$$
a = 1 或 a = -1.
$$
但是，上面的结论只是说，由“方程组 $AX=\beta$ 有无穷多解”能够推出 “$a= \pm 1$”.
并未说明，由 “$a= \pm 1$” 可以推出“方程组 $AX=\beta$ 有无穷多解”。
因此，只有上面的计算推理步骤，还不能满足充分必要条件，我们还需要对 $a = 1$ 和 $a=-1$ 进行逐一验证。
当 $a=1$ 时，有：
$$
A=\begin{bmatrix}
1 & 1 & 0 & 0\\
0 & 1 & 1 & 0\\
0 & 0 & 1 & 1\\
1 & 0 & 0 & 1
\end{bmatrix}.
$$
$$
(A \vdots \beta)=
\begin{bmatrix}
1 & 1 & 0 & 0 & \vdots & 1\\
0 & 1 & 1 & 0 & \vdots & -1\\
0 & 0 & 1 & 1 & \vdots & 0\\
1 & 0 & 0 & 1 & \vdots & 0
\end{bmatrix}
\Rightarrow
$$
$$
\begin{bmatrix}
1 & 0 & 0 & 1 & \vdots & 2\\
0 & 1 & 1 & 0 & \vdots & -1\\
0 & 0 & 1 & 1 & \vdots & 0\\
0 & 0 & 0 & 0 & \vdots & -2
\end{bmatrix}.
$$
于是，可知，$r(A) = 3$, 而增广矩阵的秩 $r(A \vdots \beta)=4$, 即 $r(A) \neq r(A \vdots \beta)$, 于是，当 $a=1$ 时，方程组 $AX = \beta$ 无解，不符合题目要求，须舍去。
当 $a=-1$ 时，有：
$$
A=\begin{bmatrix}
1 & -1 & 0 & 0\\
0 & 1 & -1 & 0\\
0 & 0 & 1 & -1\\
-1 & 0 & 0 & 1
\end{bmatrix}.
$$
$$
(A \vdots \beta)=
\begin{bmatrix}
1 & -1 & 0 & 0 & \vdots & 1\\
0 & 1 & -1 & 0 & \vdots & -1\\
0 & 0 & 1 & -1 & \vdots & 0\\
-1 & 0 & 0 & 1 & \vdots & 0
\end{bmatrix}
\Rightarrow
$$
$$
\begin{bmatrix}
1 & -1 & 0 & 0 & \vdots & 1\\
0 & 1 & -1 & 0 & \vdots & -1\\
0 & 0 & 1 & -1 & \vdots & 0\\
0 & 0 & 0 & 0 & \vdots & 0
\end{bmatrix}. ①
$$
于是，可知，$r(A) = 3$, 且增广矩阵的秩 $r(A \vdots \beta)=3$, 即 $r(A) = r(A \vdots \beta)$, 于是，当 $a=-1$ 时，方程组 $AX = \beta$ 有无穷多解，符合题目要求。
综上可知，若要使方程组 $AX=\beta$ 有无穷多解，则须有 $a=-1$.
接着，对 $①$ 式继续进行化简，得：
$$
(A \vdots \beta)=
\begin{bmatrix}
1 & 0 & 0 & -1 & \vdots & 0\\
0 & 1 & 0 & -1 & \vdots & -1\\
0 & 0 & 1 & -1 & \vdots & 0\\
0 & 0 & 0 & 0 & \vdots & 0
\end{bmatrix}.
$$
于是可知，方程 $AX=0$ 的基础解系为：
$$
(1,1,1,1)^{\top}.
$$
方程 $AX=\beta$ 的一个特解为：
$$
(0,-1,0,0)^{\top}
$$
于是，方程 $AX=\beta$ 的通解为：
$$
X = k(1,1,1,1)^{\top} + (0,-1,0,0)^{\top}.
$$
其中，$k$ 为任意常数。