线性代数:高斯消元

笔者是今年9月份开始的大学生活,也是从9月份开始线性代数的学习。在线代中,有许多新鲜的定义和运算,所以与高等数学相比,笔者觉得线代更难学得通透。因此,笔者希望通过该篇以及后续文章来梳理下线代中的知识。

笔者所用的线代教材是 Gilbert Strang 所编写的 Linear Algebra and its Application (the 4th edition) ,在B站上也有他的相关教学视频 MIT《线性代数》吉尔伯特.斯特朗

好,接下来我们开始线代的学习。初入线代,不同于同济紫本从行列式开始(刚看同济书的时候头都大了),我们先从矩阵与高斯消元法讲起。

线代的中心问题就是如何求解线性方程组,因此我们有必要了解什么是线性方程和线性方程组,以及其中的专有名词。

  • 线性方程(linear equation):

    正如其名,线性方程(linear equation)就是形如 \[ a_1x_1+a_2x_2+...+a_nx_n=b \] 的方程。其中,\(a_i\) 是系数(coefficient),\(x_i\) 是变量(variable,或称未知数unknown),\(b\) 是常数(constant)。

由此,我们可以有线性方程组(system of linear equations),即多个线性方程方程所构成的方程组,其解取决于系数与常数项!于是,为了简便美化写法,我们便引入了矩阵来表示线性方程组。

  • 矩阵记号(matrix notation):

    • 系数矩阵(coefficient matrix): $$

      $$

    • 增广矩阵(augmented matrix): $$

      $$

  • 高斯消元法(Guassian elimination):

    是通过初等行变换(Elementary row operation, ERO)来将矩阵转化为上三角矩阵(upper triangular matrix)或行阶梯形矩阵(row echelon form matrix),进而通过回代求解线性方程组的方法。

    1. 对换(interchange):交换任意两行;
    2. 倍乘(scaling):用非零实数乘以某行;
    3. 倍加(replacement):将某个方程的倍数加到另一个方程上。

    经过ERO处理前后的矩阵行等价(row equivalent),故ERO可逆。

  • 回代(back-substitution):

    矩阵化为上三角阵或行阶梯形后,从最后一个未知数开始由尾至头逐步代回,得出解的过程。

  • 解的情况

    • 相容(consistent):方程组有解:
      1. 唯一解;
      2. 无穷多解。
    • 不相容(inconsistent):方程组无解。
  • 总结:

    高斯消元法实际上是个很简单的过程:

    原线性方程组 -> 高斯消元(行变换)-> 三角矩阵 -> 回代 -> 得出解