哈尔滨工程大学 2012年高等代数第0题

已知 $AB=O$ 且 $B$ 是三阶非零方阵，则 $A$ 不可逆，否则 $B=A^{-1}O=O$ 矛盾。因此 $\det(A)=0$。

计算 $\det(A)=\begin{vmatrix} a & 1 & 2 \\ 1 & b & 1 \\ 1 & 3b & 1 \end{vmatrix}$。按第一行展开： $\det(A)=a\begin{vmatrix} b & 1 \\ 3b & 1 \end{vmatrix} -1\begin{vmatrix} 1 & 2 \\ 3b & 1 \end{vmatrix} +2\begin{vmatrix} 1 & b \\ 1 & 3b \end{vmatrix}$ $=a(b-3b) - (1-6b) + 2(3b-b) = a(-2b) -1+6b+4b = -2ab+10b-1$。 令 $\det(A)=0$ 得 $-2ab+10b-1=0$，即 $2ab-10b+1=0$。

由 $AB=O$ 且 $B$ 非零，知 $A$ 的列向量线性相关，故 $\operatorname{rank}(A)<3$。考虑 $A$ 的第二行和第三行：$(1,b,1)$ 与 $(1,3b,1)$。若 $b=0$，则两行相同，秩小于3；若 $b\neq0$，则两行不成比例，但可能与其他行相关。通过初等行变换求秩。

交换第一、二行： $\begin{pmatrix} a & 1 & 2 \\ 1 & b & 1 \\ 1 & 3b & 1 \end{pmatrix} \xrightarrow{R_2\leftrightarrow R_1} \begin{pmatrix} 1 & b & 1 \\ a & 1 & 2 \\ 1 & 3b & 1 \end{pmatrix}$ 然后 $R_2 - aR_1$，$R_3 - R_1$： $\xrightarrow{R_2-aR_1, R_3-R_1} \begin{pmatrix} 1 & b & 1 \\ 0 & 1-ab & 2-a \\ 0 & 2b & 0 \end{pmatrix}$。

若 $b=0$，则矩阵变为 $\begin{pmatrix} 1 & 0 & 1 \\ 0 & 1 & 2-a \\ 0 & 0 & 0 \end{pmatrix}$，秩为2。代入 $\det(A)=0$ 得 $-2a\cdot0+10\cdot0-1=-1=0$，矛盾。故 $b\neq0$。

由于 $b\neq0$，第三行主元 $2b\neq0$，秩至少为2。若秩为2，则第二行与第三行成比例，即存在 $k$ 使得 $(0,1-ab,2-a)=k(0,2b,0)$。由第三分量得 $2-a=0$，即 $a=2$；由第二分量得 $1-ab = k\cdot2b$，但 $k$ 任意，实际上 $2-a=0$ 后，第二行变为 $(0,1-2b,0)$，第三行为 $(0,2b,0)$，它们成比例当且仅当 $1-2b$ 与 $2b$ 成比例，即存在 $k$ 使 $1-2b = k\cdot2b$，这总是成立（取 $k=(1-2b)/(2b)$），但注意若 $1-2b=0$ 则 $k=0$，此时第二行为零行，秩为1？实际上若 $1-2b=0$，则第二行为零行，但第三行非零，秩为1？但此时 $a=2$，$b=1/2$，代入行列式：$-2*2*0.5+10*0.5-1=-2+5-1=2\neq0$，不满足行列式为零。故需结合行列式为零的条件。

由秩为2得 $a=2$，代入行列式为零的条件：$2ab-10b+1=0$ 得 $2\cdot2\cdot b-10b+1=4b-10b+1=-6b+1=0$，解得 $b=1/6$。此时验证：$a=2,b=1/6$ 时，行变换后矩阵为 $\begin{pmatrix} 1 & 1/6 & 1 \\ 0 & 1-2/6 & 0 \\ 0 & 2/6 & 0 \end{pmatrix} = \begin{pmatrix} 1 & 1/6 & 1 \\ 0 & 2/3 & 0 \\ 0 & 1/3 & 0 \end{pmatrix}$，第二、三行成比例（比例因子2），秩为2。若秩为1，则需 $1-ab=0$ 且 $2-a=0$ 且 $2b=0$，得 $a=2,b=0$，但 $b=0$ 已排除。故唯一解为 $a=2,b=1/6$，$\operatorname{rank}(A)=2$。

由 $AB=O$ 知 $B$ 的列向量属于 $A$ 的零空间。零空间维数 $=3-\operatorname{rank}(A)=3-2=1$，故 $\operatorname{rank}(B)\leq 1$。又 $B$ 非零，故 $\operatorname{rank}(B)=1$。