齐次线性方程组ax1+x2+x3=0，x1+bx2+x3=0，x1+2bx2+x3=0有非零解时，
答案：b=0，或者b不等于零，a=1。
齐次线性方程组存在非零解当且仅当系数矩阵的秩小于未知数的个数。即该系数矩阵的秩小于3，即非满秩。因此矩阵非满秩当且仅当矩阵对应的行列式的值等于0，得到b - a b=0。解得b=0，或者b不等于零，a=1。
以下是齐次线性方程组的相关介绍：
齐次线性方程组指的是常数项全部为零的线性方程组。如果m<n(行数小于列数，即未知数的数量大于所给方程组数），则齐次线性方程组有非零解，否则为全零解。
对齐次线性方程组的系数矩阵施行初等行变换化为阶梯型矩阵后，不全为零的行数r（即矩阵的秩）小于等于m（矩阵的行数），若m<n，则一定n>r,则其对应的阶梯型n-r个自由变元，这个n-r个自由变元可取任意取值，从而原方程组有非零解（无穷多个解）。
以上资料参考百度百科——齐次线性方程组
齐次线性方程组存在非零解当且仅当系数矩阵的秩小于未知数的个数。
即该系数矩阵的秩小于3，即非满秩。
该矩阵非满秩当且仅当矩阵对应的行列式的值等于0
得到b - a b=0
解得b=0
或者b不等于零，a=1
例如：
若其只有零解，那么对应的矩阵行列式为0
对应的矩阵为：
I1 1 -1I
Ia 1 3I
I1 a 1I
第二行减去第一行×a，第三行减去第一行，进行行变换
I1 1 -1I
I0 1-a 3+aI
I0 a-1 2I
第三行加上第二行，进行行变换
I1 1 -1I
I0 1-a 3+aI
I0 0 5+aI
所以a=1或a=-5
扩展资料：
当r=n时，原方程组仅有零解；
当r<n时，有无穷多个解（从而有非零解）。
证明
对齐次线性方程组的系数矩阵施行初等行变换化为阶梯型矩阵后，不全为零的行数r（即矩阵的秩）小于等于m（矩阵的行数），若m<n，则一定n>r，则其对应的阶梯型n-r个自由变元，这个n-r个自由变元可取任意取值，从而原方程组有非零解（无穷多个解）。
参考资料来源：百度百科-齐次线性方程组
即该系数矩阵的秩小于3，即非满秩。
该矩阵非满秩当且仅当矩阵对应的行列式的值等于0
得到b - a b=0
解得b=0
或者b不等于零，a=1
