机器学习基础知识学习-线性代数之线性方程组

大家好，欢迎来到IT知识分享网。

线性代数的知识点是环环相扣的，虽然机器学习初学掌握向量、矩阵、行列式、运算、矩阵的特征值和特征向量就可以了。但是不去复习线性方程组，去学习特征值和特征向量有些知识点还是很吃力的，所以本篇文章学习研究线性代数的线性方程组。

说到线性方程组，不得不佩服古人，在没有阿拉伯数字、没有近百年来行列式等先进数学理念的情况下，西汉时期总结战国、秦、汉数学成就的《九章算术》就已经开始运用方程组来求解了。中国不愧为世界文明古国，在包括数学、农业技术、医学等方面取得了璀璨成绩，促进了世界文明进程的发展。

现在正式进行线性方程组的学习

线性方程组

回忆一下，高中时期解方程组用的是消元法。其具体步骤是：交换两方程，用非零权乘某方程，然后该方程的倍加到另一方程。如图：

消元法解方程

看上图中消元法用的方程组，将方程组左边的系数和右边的常量提取到矩阵，经过“初等行变化”将矩阵变为“行简化阶梯形”，会发现两个常量变为消元法解出的解。

提取方程组的系数和常量组成矩阵化简

上图中虚线左边代表方程组的系数，虚线右边代表线性方程组的常量

线性方程组的有解判定

这里引入系数矩阵和增广系数矩阵的定义：系数矩阵是线性方程组左边未知数的系数；

增广系数矩阵包含线性方程组左边未知数的系数和线性方程组右边的常量

系数矩阵、增广系数矩阵的定义

下图为向量表示线程组的形式，注意：在向量表示法中原线程组的系数放到未知数的后边

向量表示线程组的形式

方程组会有唯一解、无穷解、无解三种结果

唯一解

向量表示法中唯一解

看上图的向量表示方程组的解题过程，发现有3个未知数、r(A)=r()=3

可推出结论：方程组有唯一解r(A)=r()=未知数个数=方程组的个数

无穷解

向量表示法中无穷解

从上图可以看出，当取任一值，都会得出一个对应值。因此，未知数有无穷解。再看系数矩阵的秩和增广系数矩阵的秩，r(A)=r()=2

可推出结论：方程组有无穷多个解r(A)=r()<未知数的个数

无解

向量表示法中无解

从上图的向量表示方程组中推出未知数无解，看r(A)=2≠r()=3

总结：由以上向量表示方程组的唯一解、无穷解和无解可推出以下结论

(1)当r(A)=r()=n(未知量个数)时有唯一解

(2)当r(A)=r()<n(未知量个数)时有无穷多解

(3)当r(A)≠r()时无解

这里特表说明一下：方程组m代表方程个数，n代表未知量个数

方程组m、n的表示方法

线性方程组有解判定

(1)写出增广系数矩阵

(2)只看行，化为阶梯形

(3)看r(A)是否等于r()：阶梯形中虚线左边非零行行数是否等于虚线右边。①若相等且等于未知量个数，有唯一解；②若相等，但小于未知量个数，有无穷多解③若r(A)≠r()，无解

(4)若唯一解或无解不需要执行第四步，r(A)=r()<n时，将阶梯形化为行简化阶梯形。不管0行的方程，将非零行的首非零元(1)留左边，其余变量挪右边

方程组无穷多解时的求解示例

另外，介绍一个判断有解、无解的小技巧：

行简化阶梯形虚线处折一下的是无解，平滑过渡的是有解

判断有解、无解小技巧

同解方程组、一般解、自由未知量

同解方程组、一般解、自由未知量

看上图的例题，将得出的方程解叫一般解；再看一般解，左边的未知量和右边的未知量相同，这又叫同解方程组；方程右边的未知量叫自由未知量

齐次线性方程组的解

方程组中的方程右边的常量都等于0，就叫做齐次线性方程组

齐次线性方程组的推论：

(1)r(A)＝r()=n 推出 齐次线性方程组有唯一解齐次线性方程组有唯一解 推出 r(A)=n

(2) r(A)<n 推出 齐次线性方程组有非零解 齐次线性方程组有非零解推出r(A) <n

一个非零解可以找到无穷多个非零解

一个非零解可以找到无穷多个非零解

（3）方程个数(m)<未知量个数(n) 推出齐次线性方程组有非零解 r(A)≤min{m,n}=m＜n

看这个推论，是不是和线性相关的知识相通呢？n+1个n维向量必线性相关

n+1个n维向量必线性相关

(4)方程个数＝未知量个数， 齐次线性方程组有非零解|A|=0；

方程个数＝未知量个数，齐次线性方程组只有零解|A|≠0

方阵不等于0，可逆

有非零解推出行列式等于0

只有零解推出行列式不等于0且行列式可逆

(5)由推论(4)可进一步推出：

方程个数＝未知量个数， 齐次线性方程组有非零解|A|=0r(A)<nA不可逆；方程个数＝未知量个数，齐次线性方程组只有零解|A|≠0方阵不等于0，可逆r(A)=n

求解其次线性方程组的解

线性方程组求解

由上图的例题可知，齐次线性方程可以不带右边的常量，直接用系数矩阵求解

方程组解的结构（一）

先来看齐次线性方程组的结论：

设AX=0

(1)若和是AX=0的解，那么+也是AX=0的解

证明：A(+) = A+A=0 + 0 = 0

(2)若是AX=0的解，那么也是AX=0的解

证明：A()== C*0 = 0

引入一个概念：基础解系 其有2个必要条件：①线性无关②任何解可由表示。基础解系的概念和向量的极大线性无关组性质一样

方程组解的结构-齐次线性方程组例题

基础解系、任意解表示的证明

任意解的另一种表现形式

看下图的证明题，了解以下几点：1，由于矩阵中没有对少定理可以证明矩阵相乘等于0的概念，因此将B化为列向量组；2，矩阵的列秩等于行秩等于矩阵的秩；3，B的s个解都在n-r(A)中，r(B)更会在n-r(A)中

两矩阵相乘等于0，证明r(A)+r(B)≤n

方程组解的结构(二)非齐次线性方程组的解

非齐次线性方程组 Ax=bAx=0(导出组)，推出齐次线性方程组是非齐次线性方程组的解

(1)是Ax=b的解，是Ax=0的解

A() = A– A = b – b = 0

(2)是Ax=b的解，是Ax=0的解，+是Ax = b 的解

A(+ ) = A + A = b + 0 = b

看下图定理：

非齐次线性方程组解结构定理

说明一下：特解没有特殊含义，任意一个解都可以叫特解

非齐次线性方程组求解

非齐次线性方程组同解-解题步骤：

（1）写出增广系数矩阵,制作行变换，化为行简化阶梯形

(2)非零行的首非零元的1留在左边，其余挪到右边，写出非齐次线性方程组的同解方程组，指出谁是自由未知量(不在左边的是自由未知量)

（3）令自由未知量均取0，得Ax=b得一个特解

（4）令同解方程组右边常数项均为0，得Ax=0的同解方程组，指出谁是自由未知量(注意：这里的自由未知量和步骤二中的自由未知量相同)。令

得Ax=0的基础解系

（5）特解+Ax=0的基础解系的线性组合即为非齐次线性方程所有的解

下面看一个考研的题，如下图

四元非齐次线性方程组求同解

#头条创作挑战赛#