如何求一个矩阵的特征值和特征向量？
为了解决这个问题，我们需要找出增广矩阵的简化阶梯形式，以便确定方程组的解。首先，写出增广矩阵：
[ 1 -1 2 -3 | 0]
[ 2 -1 5 1 | 1]
[ 1 -2 a -3 | -1]
[ 3 2 11 12 | b]
接下来，我们需要将这个增广矩阵转换为简化阶梯形式。首先，我们将第二行减去第一行的2倍，将第三行减去第一行，将第四行减去第一行的3倍：
[ 1 -1 2 -3 | 0]
[ 0 1 1 7 | 1]
[ 0 -1 a-2 0 | -1]
[ 0 5 5 21 | b]
然后，我们将第三行加上第二行，将第四行减去第二行的5倍：
[ 1 -1 2 -3 | 0]
[ 0 1 1 7 | 1]
[ 0 0 a-1 7 | 0]
[ 0 0 0 0 | b-5]
现在我们得到了简化阶梯形式。接下来，我们需要考虑三种情况：无解、有唯一解和有无穷多解。
无解：当且仅当最后一行表示一个矛盾方程（即所有未知数的系数都为零，但等号右边的常数不为零）时，方程组无解。在这种情况下，我们需要找到满足b-5 ≠ 0的b值。这意味着b ≠ 5。
有唯一解：当且仅当增广矩阵的简化阶梯形式中主变量的系数为1，且没有任何矛盾方程时，方程组有唯一解。在这种情况下，我们需要找到满足b-5 = 0且a-1 ≠ 0的a和b值。这意味着a ≠ 1且b = 5。在这种情况下，我们可以通过回代法求解方程组：
x4 = 0
x3 = 0
x2 = 1
x1 = 1
所以，当a ≠ 1且b = 5时，方程组有唯一解，解为(x1, x2, x3, x4) = (1, 1, 0, 0)。
有无穷多解：当且仅当增广矩阵的简化阶梯形式中有至少一个自由变量，且没有任何
矛盾方程时，方程组有无穷多解。在这种情况下，我们需要找到满足b-5 = 0且a-1 = 0的a和b值。这意味着a = 1且b = 5。在这种情况下，我们可以通过回代法求解方程组：
x4 = 0
x3 = 自由变量（任意实数，用t表示）
x2 = 1 - t
x1 = 1 - t
所以，当a = 1且b = 5时，方程组有无穷多解，解为(x1, x2, x3, x4) = (1-t, 1-t, t, 0)，其中t为任意实数。
总结：
当b ≠ 5时，方程组无解。
当a ≠ 1且b = 5时，方程组有唯一解，解为(x1, x2, x3, x4) = (1, 1, 0, 0)。
当a = 1且b = 5时，方程组有无穷多解，解为(x1, x2, x3, x4) = (1-t, 1-t, t, 0)，其中t为任意实数。
