Question

高等代数题，急，求解，十分感谢

Answer 1

用反证法, 假设X = C ≠ 0是一个解.
考虑m维向量空间的一个非零的线性子空间W = {m维列向量y | 存在n维列向量z, 使y = Cz}.
对任意y∈W, 设y = Cz, 则Ay = ACz = CBz =C(Bz)∈W, 即W是A的"不变子空间".
考虑A在W上的限制, 设λ为其一特征值, v∈W是一个属于λ的特征向量, 即Av = λv.
由v∈W, 可设v = Cu, 则CBu =ACu =Av = λv = λCu, 即有C(B-λE)u = 0.
比较分别以C和C(B-λE)为系数矩阵的两个线性方程组:
∵C(B-λE) = (A-λE)C, ∴前者的解总是后者的解.
而u是后者的解, 但Cu = v ≠ 0, 即不为前者的解.
∴后者的解空间维数严格大于前者, 系数矩阵的秩r(C) > r(C(B-λE)).
因此B-λE不可逆, λ也为B的特征值, 与A, B没有公共特征值矛盾.

严格来说不变子空间是对以A为矩阵的线性变换, 所以用到时加了引号.
也能换成分块矩阵的语言, 不过感觉更麻烦.
另外特征值和特征向量都是在代数封闭域(如复数域)上讨论, 域的扩张不影响结论.

我证过一个更一般的结论: 如果C的秩为r, 则A, B至少有r个公共特征值.
给了两种证明, 当然都比这题麻烦, 见参考资料.

Answer 2

利用相似变换可以不妨设A和B都是上三角阵
然后一列一列解方程就行了