Question

如何证明两个交换矩阵同时存在一个可逆矩阵是它们为上三角矩阵，有详解过程

Answer 1

问题应该是在代数封闭域(比如复数域)上吧.
这样才能保证矩阵都相似于上三角阵, 因为上三角阵的特征值就是对角线上的数.

以下证明假设你承认引理: 代数闭域上任意矩阵都相似于上三角阵.

命题: A, B是两个n阶矩阵, 满足AB = BA. 存在可逆矩阵P使P^(-1)AP与P^(-1)BP均为上三角阵.
证明: 对n用数学归纳法.
n = 1时显然.
假设n < k时命题成立. 对n = k, 任取A的特征值λ, 相应的特征子空间设为W.
由AB = BA, 对任意X∈W, 有A(BX) = B(AX) = λBX, 得BX∈W, 即W是B的不变子空间.
取W的一组基, 并扩充为全空间的一组基, 以它们为列向量的矩阵设为S.
则C = S^(-1)AS具有分块形式(*表示省略分块, 因为我们不关心该部分)
λE *
0 G
D = S^(-1)BS具有分块形式
F *
0 H
由A, B可交换, 有C与D可交换, 可得G, H可交换(CD与DC的右下分块分别为GH与HG).
而G, H阶数 < n = k, 由归纳假设, 存在可逆矩阵T使K = T^(-1)GT与L = T^(-1)HT为上三角阵.
此外, 由引理, 存在可逆矩阵R使J = R^(-1)FR为上三角阵.
设Q为如下分块矩阵
U 0
0 T
易见Q可逆, 并可知Q^(-1)CQ =
λE *
0 K
而Q^(-1)DQ =
J *
0 L
均为上三角阵. 于是P = SQ使P^(-1)AP和P^(-1)BP同时为上三角阵.
n = k时命题得证.
由数学归纳法原理, 对任意正整数n, 命题成立.

证明中有由不变子空间推知矩阵分块形式的一步.
这里比较方便的理解是把矩阵和线性变换联系起来看.
矩阵相似变换对应基变换.
W是不变子空间, 线性变换在W的基上作用得到的向量仍为W的基的线性组合.
在分块矩阵上就表现为左下角为0.
进一步W是λ-特征子空间时, 左上角为λE.