花书笔记2——线性代数 线性组合Ax = b的解 线性相关/线性无关 举例说明 简单易懂

Table of Contents

定义

前提条件

解方程组

举例

n≥m：【仅是方程对每一点都有解的必要条件，不是充分条件】：

x有无数解的情况

x有唯一解的情况

n＜m的情况：

x无解的情况

x有唯一解：

方程有解的充分必要条件

2.4 线性相关和生成子空间

为了使方程Ax = b 对于任意向量b 都存在解，我们要求A 的列空间构
成整个Rm。如果 中的某个点不在A 的列空间中，那么该点对应的b 会使得
该方程没有解。矩阵A 的列空间是整个 的要求，意味着A 至少有m 列，即
nm。否则，A 列空间的维数会小于m。例如，假设A 是一个3x2 的矩阵。目
标b 是3 维的，但是x 只有2 维。所以无论如何修改x 的值，也只能描绘出​​​​​​​ 空
间中的二维平面。当且仅当向量b 在该二维平面中时，该方程有解。

定义

前提条件

矩阵A维数mn

未知向量x是n维

已知向量b是m维

解方程组

为了分析方程有多少个解，我们可以将A 的列向量看作从原点（origin）（元素
都是零的向量）出发的不同方向，确定有多少种方法可以到达向量b。在这个观点
下，向量x 中的每个元素表示我们应该沿着这些方向走多远，即表示我们需要沿
着矩阵A中第i 列个向量的方向走多远

举例

n≥m：【仅是方程对每一点都有解的必要条件，不是充分条件】：

矩阵A 的列空间是整个 的要求，意味着A 至少有m 列，即n≥m

A中最后一列是冗余的，可以用其他三列线性表示出来，A里面的列向量为线性相关

A里面的列向量线性无关，将其想象成三维坐标轴x,y,z上的单位向量（即长度都为1）

我们可以将A 的列向量看作从原点（origin）（元素都是零的向量）出发的不同方向，向量x 中的每个元素表示我们应该沿着这些方向走多远，可以到达向量b。

先沿着x轴（1,0,0）走1步，再沿着y轴（0,1,0）走3步，最后沿着z轴（0,0,1）走5步就到达向量b（1,3,5）的位置了。

书上的定义：

如果一组向量中的任意一个向量都不能表示成其他向量的线性组合，那么这组向量称为线性无关
（linearly independent）

n＜m的情况：

A 列空间的维数n会小于m。例如，假设A 是一个3x2 的矩阵。目标向量b 是3 维的，但是未知向量x 只有2 维。

为什么x只有2维，请看定义及前提条件。

说明：A里面的列向量(1,0,0),(0,1,0)只能表示x轴和y轴，即一个二维平面，缺少z轴

但是向量b是一个三维坐标，

所以未知向量x怎么走都只是在一个二维平面上观光旅行，是无论如何都到达不了向量b的位置的。

巧妇难为无米之炊~~

臣妾做不到啊……

只有当b为如下情况时，x有唯一解【根据Ax=b的定义，x 只能是2 维】

x有唯一解

方程有解的充分必要条件

引用书上的原话：

如果一个矩阵的列空间涵盖整个，那么该矩阵必须包含至少一组m 个线性无关的向量。

这是式(2.11) 对于每一个向量b 的取值都有解的充分必要条件

我自己总结一下，应该是这样的：

充分必要条件:对于矩阵A，n≥m, 并且矩阵A必须包含m 个线性无关的向量。

n确定了，未知向量x也的维数也确定了。

如有不对的地方，欢迎大家指正&拍砖留言。

关于方程组有解，其他人的理解：

1. 有多少个未知数就有多少个方程，这样才能解出x；若方程少了就解不出来。

2.Ax=b有解说明A的空间包含向量b，和矩阵的秩有关-->A的生成空间（span）包含向量b

3. 增广矩阵(A,b)的秩等于A的秩则方程组有解

可以看下麻省理工学院公开课：线性代数（Bilibili有视频）

推荐书籍《线性代数》（同济大学）

花书《深度学习》中文版

https://github.com/exacity/deeplearningbook-chinese

相关知识

ATAx=0与Ax=0同解
深度学习（花书）读书笔记
n元线性方程组AX=b有唯一解的充要条件为( )
设A为m×n矩阵，且r（A）=r（.A）=r＜n，其中.A=（A⋮b）．（Ⅰ）证明方程组AX=b有且仅有n
线性方程组AX=b几种解法的比较研究
重磅！花书《深度学习》，这份精炼笔记可能是最全面的
若α1和α2是齐次线性方程组AX=0的两个线性无关的解，则对任意的常数k1和k2
【待完成】迭代法求解Ax=b
重磅！深度学习圣经“花书”核心笔记、代码发布
《统计学习方法》第 2 章“感知机”学习笔记

网址: 花书笔记2——线性代数 线性组合Ax = b的解 线性相关/线性无关 举例说明 简单易懂 https://www.huajiangbk.com/newsview2311433.html