新疆大学 2026年高等代数第9题

由 $A^2 = E$ 知 $A$ 满足多项式 $\lambda^2 - 1 = 0$，因此 $A$ 的特征值只能是 $1$ 或 $-1$。

若 $A$ 的特征值全为 $1$，则特征多项式为 $(\lambda-1)^2$，由 Cayley-Hamilton 定理得 $(A-E)^2=0$。又 $A^2=E$ 即 $(A-E)(A+E)=0$。若 $A$ 的特征值全为 $1$，则 $A+E$ 可逆，从而 $A-E=0$，即 $A=E$。代入 $AB+BA=O$ 得 $2B=O$，即 $B=O$，与 $B^2=E$ 矛盾。同理，若特征值全为 $-1$，则 $A=-E$，同样推出 $B=O$，矛盾。因此 $A$ 的特征值必为 $1$ 和 $-1$ 各一个。

设 $A$ 的属于特征值 $1$ 和 $-1$ 的特征向量分别为 $\alpha$ 和 $\beta$，即 $A\alpha = \alpha$，$A\beta = -\beta$。由 $AB+BA=O$ 得 $AB = -BA$。计算 $A(B\alpha) = -B A\alpha = -B\alpha$，所以 $B\alpha$ 是 $A$ 的属于 $-1$ 的特征向量，故 $B\alpha$ 与 $\beta$ 共线，设 $B\alpha = k\beta$，$k \neq 0$（否则 $B\alpha=0$，由 $B^2=E$ 得 $\alpha=0$，矛盾）。同理，$A(B\beta) = -B A\beta = -B(-\beta)=B\beta$，所以 $B\beta$ 是 $A$ 的属于 $1$ 的特征向量，故 $B\beta$ 与 $\alpha$ 共线，设 $B\beta = l\alpha$，$l \neq 0$。

由 $B^2=E$ 得 $B(B\alpha)=B(k\beta)=k l \alpha = \alpha$，所以 $kl=1$。

取 $\alpha_1 = \alpha$，$\beta_1 = \frac{1}{k}\beta$，则 $B\alpha_1 = k\beta = k^2 \beta_1$，$B\beta_1 = \frac{1}{k} B\beta = \frac{l}{k}\alpha = \frac{1}{k^2}\alpha_1$。令 $c = |k|$，再令 $\alpha_2 = \frac{1}{c}\alpha_1$，$\beta_2 = \frac{1}{c}\beta_1$，则 $B\alpha_2 = c \beta_2$，$B\beta_2 = \frac{1}{c} \alpha_2$。

取 $P = (\alpha_2, \beta_2)$，则 $P^{-1}AP = \begin{pmatrix}1 & 0 \\ 0 & -1\end{pmatrix}$。而 $BP = (B\alpha_2, B\beta_2) = (c\beta_2, \frac{1}{c}\alpha_2) = (\alpha_2, \beta_2) \begin{pmatrix}0 & 1/c \\ c & 0\end{pmatrix}$，所以 $P^{-1}BP = \begin{pmatrix}0 & 1/c \\ c & 0\end{pmatrix}$。

令 $Q = P \begin{pmatrix}1 & 0 \\ 0 & \sqrt{c}\end{pmatrix} = (\alpha_2, \sqrt{c}\beta_2)$，则 $Q^{-1}AQ = \begin{pmatrix}1 & 0 \\ 0 & -1\end{pmatrix}$，且 $BQ = (B\alpha_2, \sqrt{c}B\beta_2) = (c\beta_2, \sqrt{c}\cdot \frac{1}{c}\alpha_2) = (\alpha_2, \sqrt{c}\beta_2) \begin{pmatrix}0 & 1 \\ 1 & 0\end{pmatrix}$，故 $Q^{-1}BQ = \begin{pmatrix}0 & 1 \\ 1 & 0\end{pmatrix}$。因此存在可逆矩阵 $P$（即 $Q$）满足要求。