南京航空航天大学 2026年高等代数第8题

由条件 $AB - BA = aA$ 且 $a \neq 0$，两边取迹得 $\operatorname{tr}(AB) - \operatorname{tr}(BA) = a \operatorname{tr}(A)$。由于 $\operatorname{tr}(AB) = \operatorname{tr}(BA)$，所以 $a \operatorname{tr}(A)=0$，故 $\operatorname{tr}(A)=0$。类似地，对 $A^k$ 有 $A^k B - B A^k = a k A^k$（归纳可得），取迹得 $\operatorname{tr}(A^k)=0$ 对所有 $k$ 成立，因此 $A$ 的所有特征值为0，即 $A$ 是幂零矩阵。

由于 $A$ 是幂零矩阵，存在可逆矩阵 $P_1$ 使得 $P_1^{-1} A P_1 = J$ 为 Jordan 标准形，且所有特征值为0，故 $J$ 是严格上三角矩阵（即对角线全为0）。

令 $A' = P_1^{-1} A P_1$，$B' = P_1^{-1} B P_1$，则 $A'B' - B'A' = a A'$。由于 $A'$ 是严格上三角，考虑 $A'$ 的零空间：存在非零向量 $v$ 使得 $A'v=0$。由交换子关系，$A'B'v = B'A'v + a A'v = 0$，所以 $B'v$ 也属于 $\ker A'$。因此 $B'$ 保持 $\ker A'$ 不变。在商空间 $V / \ker A'$ 上，$A'$ 诱导出幂零变换，且交换子关系仍然成立。通过归纳法，可以找到一组基使得 $A'$ 和 $B'$ 同时为上三角矩阵。

设 $V$ 是 $n$ 维空间。若 $A=0$，则任何基都使 $A$ 上三角，且 $B$ 可上三角化（在代数闭域上），故结论成立。若 $A \neq 0$，则 $\ker A$ 非零。取 $v_1 \in \ker A$ 非零，并扩充为 $V$ 的一组基 $v_1, \dots, v_n$。在商空间 $V/\langle v_1 \rangle$ 上，$A$ 和 $B$ 满足相同关系，由归纳假设存在基使得 $A$ 和 $B$ 同时上三角。再拉回原空间，适当调整基，可得 $A$ 和 $B$ 同时上三角。

由归纳法，存在可逆矩阵 $P$ 使得 $P^{-1}AP$ 和 $P^{-1}BP$ 均为上三角矩阵。实际上，$P^{-1}AP$ 是严格上三角（因为 $A$ 幂零），而 $P^{-1}BP$ 是上三角。

当 $a=0$ 时，$AB=BA$。考虑分块矩阵的秩：$r\begin{pmatrix} A & 0 \\ 0 & B \end{pmatrix} = r(A)+r(B)$。利用初等变换：$\begin{pmatrix} I & I \\ 0 & I \end{pmatrix} \begin{pmatrix} A & 0 \\ 0 & B \end{pmatrix} \begin{pmatrix} I & -I \\ 0 & I \end{pmatrix} = \begin{pmatrix} A & B-A \\ 0 & B \end{pmatrix}$，但更直接的方法是使用Frobenius不等式：$r(AB)+r(BC) \leq r(B)+r(ABC)$。取 $B=A+B$，$C=A$，得 $r((A+B)A)+r(A(A+B)) \leq r(A+B)+r(A(A+B)A)$，但不易直接得到。另一种方法：由于 $A$ 与 $B$ 可交换，存在可逆矩阵 $P$ 使得 $P^{-1}AP$ 和 $P^{-1}BP$ 同时为上三角（在代数闭域上），设对角线元素分别为 $\alpha_i$ 和 $\beta_i$。则 $r(A+B)$ 等于非零 $\alpha_i+\beta_i$ 的个数，$r(AB)$ 等于非零 $\alpha_i\beta_i$ 的个数，$r(A)$ 等于非零 $\alpha_i$ 的个数，$r(B)$ 等于非零 $\beta_i$ 的个数。不等式 $r(A+B)+r(AB) \leq r(A)+r(B)$ 等价于：对每个 $i$，若 $\alpha_i+\beta_i \neq 0$ 或 $\alpha_i\beta_i \neq 0$，则 $\alpha_i \neq 0$ 或 $\beta_i \neq 0$，这显然成立。因此结论成立。