4.2 向量的线性相关性#
向量组与线性组合#
Rn 中的 s 个向量
α1,α2,…,αs称为一个 向量组。
向量组不是集合,因此:
对任意 k1,…,ks∈R,向量
k1α1+k2α2+⋯+ksαs称为向量组 α1,…,αs 的一个 线性组合。
线性表示#
若存在 k1,…,ks∈R,使
β=k1α1+⋯+ksαs,则称 β 可以由 α1,…,αs 线性表示。
把向量按列组成矩阵
A=[α1 α2 ⋯ αs],K=k1⋮ks,则线性表示问题等价于线性方程组
AK=β.因此:
β 可由 α1,…,αs 线性表示⟺r(A)=r(A,β).TIP零向量总可以由任意向量组线性表示:
0=0α1+⋯+0αs.这里使用的是全为零的系数。
线性相关与线性无关#
若存在一组 不全为零 的数 k1,…,ks,使
k1α1+⋯+ksαs=0,则称向量组 α1,…,αs 线性相关。
若上式只能推出
k1=k2=⋯=ks=0,则称向量组 线性无关。
把向量按列组成矩阵 A=[α1 ⋯ αs],则
k1α1+⋯+ksαs=0等价于齐次线性方程组
AK=0.所以:
- 线性相关 ⟺AK=0 有非零解;
- 线性无关 ⟺AK=0 只有零解。
WARNING线性表示与线性相关中的系数条件不同:
- “β 可被表示”只要求存在一组系数;
- “向量组线性相关”要求存在一组 不全为零 的系数,使线性组合等于零向量。
用矩阵的秩判断#
设
A=[α1 α2 ⋯ αs].则:
α1,…,αs 线性无关⟺r(A)=s,α1,…,αs 线性相关⟺r(A)<s.原因是 A 有 s 列,齐次方程 AK=0:
- 当 r(A)=s 时,没有自由变量,只有零解;
- 当 r(A)<s 时,有自由变量,存在非零解。
课堂例:判断向量是否可被表示#
设
A=[α1 α2 α3 α4].若行化简后得到
r(A)=3,r([α1 α2 α3])=2,则
r([α1 α2 α3])=r([α1 α2 α3 α4]),因此 α4 不能由 α1,α2,α3 线性表示。
判断方法始终是:
- 把用于表示的向量放在系数矩阵中;
- 把目标向量作为增广列;
- 比较系数矩阵与增广矩阵的秩。
课堂例:构造新的线性无关组#
设 α1,α2,α3 线性无关,令
β1=α1+α2,β2=α2+α3,β3=α3+α1.证明 β1,β2,β3 线性无关。
设
k1β1+k2β2+k3β3=0.代入:
k1(α1+α2)+k2(α2+α3)+k3(α3+α1)=0.整理同类向量:
(k1+k3)α1+(k1+k2)α2+(k2+k3)α3=0.因为 α1,α2,α3 线性无关,所以
⎩⎨⎧k1+k3=0,k1+k2=0,k2+k3=0.系数矩阵的行列式为
110011101=2=0,故
k1=k2=k3=0.因此 β1,β2,β3 线性无关。
常用结论#
单个向量#
单个向量 α:
α 线性无关⟺α=0.两个向量#
两个向量 α,β:
α,β 线性相关⟺α,β 成比例.在 R2 或 R3 中,其几何意义是两向量共线。
含有零向量#
只要向量组中含有零向量,该向量组一定线性相关。
因为
10+0α2+⋯+0αs=0给出了一组不全为零的系数。
向量个数超过维数#
Rn 中任意 s>n 个向量必线性相关。
因为对应矩阵最多秩为 n:
r(A)≤n<s.整体与部分#
- 整体线性无关 ⇒ 任意部分组线性无关;
- 某个部分组线性相关 ⇒ 整体线性相关;
- 整体线性相关时,某些部分组仍可能线性无关。
4.3 极大线性无关组与向量组的秩#
线性相关的等价刻画#
设向量组
α1,…,αs,s≥2.则:
α1,…,αs 线性相关的充要条件是:
至少有一个向量可以由其余向量线性表示。
证明思路#
若线性相关,则存在不全为零的 ki,使
k1α1+⋯+ksαs=0.设 ki=0,则
αi=−j=i∑kikjαj.反过来,如果某个向量能由其余向量表示,把所有项移到一边,即得到一个系数不全为零的零线性组合。
老师说明:该结论需要理解,但在本课程后续证明中使用频率低于下面几个定理。
线性表示的唯一性#
设
α1,…,αs线性无关,则对任意向量 β:
α1,…,αs,β 线性相关的充要条件是:
β 可由 α1,…,αs 唯一线性表示.即存在唯一的 k1,…,ks,使
β=k1α1+⋯+ksαs.唯一性的证明#
若
β=k1α1+⋯+ksαs=t1α1+⋯+tsαs,两式相减:
(k1−t1)α1+⋯+(ks−ts)αs=0.由线性无关性:
ki−ti=0,故 ki=ti。
TIP这是本章最重要的结果之一:
“无关组加一个向量后相关”意味着新加入的向量能由原无关组唯一表示。
向量个数比较定理#
设向量组
α1,…,αr中的每一个向量都可由
β1,…,βs线性表示。
若
r>s,则 α1,…,αr 必线性相关。
其常用逆否形式为:
若 α1,…,αr 线性无关,并且它们都可由 β1,…,βs 线性表示,则
r≤s.
这一定理专门用于比较两个向量组所含向量的个数。
向量组等价#
若两个向量组能够相互线性表示,则称它们 等价。
即:
- 每个 αi 都可由 β1,…,βs 表示;
- 每个 βj 都可由 α1,…,αr 表示。
等价关系具有:
- 自反性;
- 对称性;
- 传递性。
若两个等价向量组都线性无关,则它们所含向量个数相同。
证明时对两个方向分别应用“向量个数比较定理”:
r≤s,s≤r,所以 r=s。
极大线性无关组#
设
α1,…,αs为一个向量组,其中的部分组
αi1,…,αir满足:
- αi1,…,αir 线性无关;
- 原向量组中任意再加入一个向量后,所得向量组都线性相关;
则称该部分组为原向量组的一个 极大线性无关组。
“极大”表示:
在原向量组内部已经无法继续加入向量并保持线性无关。
等价定义:
- αi1,…,αir 线性无关;
- 原向量组中的每个向量都可由它们线性表示。
第二种定义在证明和计算中更常用。
WARNING“极大线性无关组”中的“极大”是不能继续扩充,不表示向量的长度最大,也不表示只有唯一一组。
同一向量组通常可以有多个不同的极大线性无关组。
极大线性无关组的求法#
设
A=[α1 α2 ⋯ αs].对 A 只做初等行变换,化为行阶梯形矩阵。
若阶梯头位于第
i1,i2,…,ir列,则
αi1,αi2,…,αir构成原向量组的一个极大线性无关组。
WARNING必须回到 原矩阵 中取对应列。
行变换后的列向量一般已经改变,不能直接把化简后矩阵的列作为原向量组的极大无关组。
课堂例:由阶梯头寻找极大无关组#
设
A=[α1 α2 α3 α4].行化简后,阶梯头位于第 1,2,4 列,则
α1,α2,α4构成一个极大线性无关组。
课堂进一步说明:
- α1,α3,α4 也可能构成极大线性无关组;
- α2,α3,α4 也可能构成极大线性无关组;
- α1,α2,α3 若自身线性相关,就不能构成极大线性无关组。
因此极大线性无关组一般不唯一。
向量组的秩#
同一向量组的任意两个极大线性无关组所含向量个数相同。
把这个公共个数定义为该向量组的 秩:
r(α1,…,αs)=r.因此:
向量组的秩=任一极大线性无关组所含向量个数.若
A=[α1 ⋯ αs],则
r(α1,…,αs)=r(A).常用性质:
- 向量组与它的任一极大线性无关组等价;
- 同一向量组的任意两个极大线性无关组等价;
- 等价向量组的秩相等;
- 两个向量组秩相等,不能直接推出它们等价;
- 线性无关组的秩等于其向量个数;
- 线性相关组的秩小于其向量个数。
4.4 基、维数与坐标#
基与维数#
线性空间 Rn 中的向量组
ε1,…,εr若满足:
- 线性无关;
- Rn 中任意向量都可由它们线性表示;
则称其为 Rn 的一组 基。
基中所含向量的个数称为空间的 维数:
dimRn=n.Rn 的常用基为
e1=10⋮0,e2=01⋮0,…,en=00⋮1.Rn 中判断一组基#
Rn 中恰有 n 个向量
α1,…,αn时,下列条件等价:
- 它们构成 Rn 的一组基;
- 它们线性无关;
- r([α1 ⋯ αn])=n;
- det[α1 ⋯ αn]=0。
因此在 Rn 中判断 n 个向量是否构成一组基,最直接的方法是计算它们构成方阵的行列式。
设
ε1,…,εn是 Rn 的一组基。
任意 α∈Rn 可以唯一表示为
α=x1ε1+⋯+xnεn.列向量
X=x1⋮xn称为 α 在基 ε1,…,εn 下的 坐标。
写成矩阵形式:
α=[ε1 ε2 ⋯ εn]X.TIP一个具体列向量的分量,默认是它在常用基下的坐标。
更换基后,同一个向量的坐标一般会改变。
基变换与坐标变换#
设 Rn 中有两组基:
E=(ε1,…,εn),E′=(ε1′,…,εn′).若
[ε1′ ⋯ εn′]=[ε1 ⋯ εn]M,则称 M 为从基 E 到基 E′ 的 过渡矩阵。
其中 M 的第 j 列就是 εj′ 在旧基 E 下的坐标。
若向量 α 在两组基下的坐标分别为 X 和 X′,则
α=[ε1 ⋯ εn]X且
α=[ε1′ ⋯ εn′]X′.代入基变换公式:
α=[ε1 ⋯ εn]MX′.由坐标唯一性:
X=MX′,因此
X′=M−1X.WARNING方向必须分清:
- 基的变换:[E′]=[E]M;
- 坐标的变换:X′=M−1X。
基乘 M,坐标乘 M−1。
过渡矩阵的计算#
记
A=[ε1 ⋯ εn],B=[ε1′ ⋯ εn′].由
B=AM得
M=A−1B.实际计算时可将
[A∣B]作初等行变换:
[A∣B]⟶[I∣M].课堂例:基变换与坐标变换#
在 R3 中给定两组基
E:ε1=121,ε2=233,ε3=373,E′:ε1′=924−1,ε2′=822−2,ε3′=12284.求得过渡矩阵
M=1240−2400−1.若 α 在基 E 下的坐标为
X=01−1,则在基 E′ 下的坐标为
X′=M−1X=0−2141.
4.5 子空间#
子空间的定义#
设 W 是 Rn 的非空子集。
若 W 对 Rn 中的加法和数乘封闭,即:
- 对任意 α,β∈W,有 α+β∈W;
- 对任意 α∈W、k∈R,有 kα∈W;
则称 W 是 Rn 的一个 子空间。
也可以合并为一个判定条件:
∀α,β∈W, ∀k,l∈R,kα+lβ∈W.子空间一定包含零向量#
因为 W 非空,取 α∈W,由数乘封闭性:
0α=0∈W.同理:
−α=(−1)α∈W.因此子空间自动继承线性空间的八条运算性质。
WARNING仅仅是 Rn 的非空子集,还不能称为子空间。
例如
W={[x1]x∈R}对加法和数乘都不封闭,因此不是 R2 的子空间。
常见子空间#
例 1:过原点的坐标平面#
设
W=⎩⎨⎧x1x20x1,x2∈R⎭⎬⎫.任取
α=x1x20,β=y1y20,则
α+β=x1+y1x2+y20∈W,且
kα=kx1kx20∈W.因此 W 是 R3 的子空间。
又因为
x1x20=x1100+x2010,故
⎩⎨⎧100,010⎭⎬⎫是 W 的一组基,并且
dimW=2.例 2:平凡子空间#
{0},Rn都是 Rn 的子空间。
其中
dim{0}=0,dimRn=n.例 3:齐次方程组的解空间#
设
A∈Rm×n,定义
W={X∈Rn∣AX=0}.若 X1,X2∈W,则
AX1=0,AX2=0.因此
A(X1+X2)=AX1+AX2=0,且
A(kX1)=kAX1=0.所以齐次线性方程组的全体解构成 Rn 的一个子空间,称为 解空间。
向量组生成的子空间#
设 α1,…,αs∈Rn,所有线性组合的全体
L(α1,…,αs)={k1α1+⋯+ksαs∣ki∈R}构成 Rn 的一个子空间。
称它为由 α1,…,αs 生成的子空间,也称张成空间。
加法封闭性:
i=1∑skiαi+i=1∑stiαi=i=1∑s(ki+ti)αi.数乘封闭性:
ci=1∑skiαi=i=1∑s(cki)αi.生成空间的重要性质#
两个向量组生成相同子空间的充要条件是它们等价:
L(α1,…,αs)=L(β1,…,βt)⟺α1,…,αs 与 β1,…,βt 等价.设
αi1,…,αir是 α1,…,αs 的一个极大线性无关组,则
αi1,…,αir构成 L(α1,…,αs) 的一组基。
因此:
dimL(α1,…,αs)=r(α1,…,αs).所以求生成空间的基和维数,本质上就是:
- 求原向量组的一个极大线性无关组;
- 极大无关组就是生成空间的一组基;
- 极大无关组中的向量个数就是维数。
子空间的包含关系与维数#
设 W1,W2 都是有限维子空间。
若
W1⊆W2,则
dimW1≤dimW2.原因是 W1 的任一组基在 W2 中仍线性无关,其向量个数不能超过 W2 的维数。
进一步:
W1=W2的充要条件是
W1⊆W2且dimW1=dimW2.特殊地,若 W⊆Rn,则
W=Rn⟺dimW=n.
4.8 欧氏空间#
在 Rn 中,若一个二元函数
(α,β)⟼⟨α,β⟩满足下列条件,则称其为 Rn 上的一个 内积。
1. 对称性#
⟨α,β⟩=⟨β,α⟩.2. 对第一个变量线性#
⟨kα1+lα2,β⟩=k⟨α1,β⟩+l⟨α2,β⟩.结合对称性可得对第二个变量也线性:
⟨α,kβ1+lβ2⟩=k⟨α,β1⟩+l⟨α,β2⟩.3. 正定性#
⟨α,α⟩≥0,并且
⟨α,α⟩=0⟺α=0.在线性空间上加入内积结构后,得到 内积空间;有限维实内积空间也称 欧氏空间。
标准内积#
对
α=x1⋮xn,β=y1⋮yn,定义
⟨α,β⟩=x1y1+⋯+xnyn=αTβ.这称为 Rn 上的 标准内积。
若题目没有特别说明,默认使用标准内积。
加权内积#
例如
⟨α,β⟩=x1y1+2x2y2+⋯+nxnyn也是一个内积,因为各权重均为正数。
不同内积会给出不同的长度和夹角。
内积的常用性质#
⟨α,0⟩=0,⟨i∑kiαi,j∑tjβj⟩=i∑j∑kitj⟨αi,βj⟩.
长度与重要不等式#
定义向量 α 的长度或范数:
∥α∥=⟨α,α⟩.标准内积下:
∥α∥=x12+⋯+xn2.长度满足:
- ∥α∥≥0,且 ∥α∥=0⟺α=0;
- ∥kα∥=∣k∣∥α∥;
- ∥α+β∥≤∥α∥+∥β∥。
Cauchy–Schwarz 不等式#
∣⟨α,β⟩∣≤∥α∥∥β∥等号成立的充要条件是 α,β 线性相关。
课堂证明思路#
分两种情况。
若 α,β 线性相关,则 α=tβ,于是
∣⟨α,β⟩∣=∣t∣⟨β,β⟩=∣t∣∥β∥2=∥α∥∥β∥.若 α,β 线性无关,则对任意 t∈R:
α+tβ=0.由正定性:
⟨α+tβ,α+tβ⟩>0.展开:
∥α∥2+2t⟨α,β⟩+t2∥β∥2>0.这是关于 t 的二次三项式,对所有实数 t 都为正,因此判别式小于零:
4⟨α,β⟩2−4∥α∥2∥β∥2<0.从而
∣⟨α,β⟩∣<∥α∥∥β∥.合并两种情况即得结论。
三角不等式#
∥α+β∥≤∥α∥+∥β∥.老师强调,处理长度的不等式时常用技巧是:
先平方,把长度平方改写为内积,再利用内积的线性性质展开。
证明:
∥α+β∥2=⟨α+β,α+β⟩=∥α∥2+2⟨α,β⟩+∥β∥2≤∥α∥2+2∥α∥∥β∥+∥β∥2=(∥α∥+∥β∥)2.两边开平方得到结论。
夹角与正交#
对非零向量 α,β,定义夹角 θ∈[0,π]:
cosθ=∥α∥∥β∥⟨α,β⟩.Cauchy–Schwarz 不等式保证右侧属于 [−1,1],所以定义合理。
若
⟨α,β⟩=0,则称 α 与 β 正交,记作
α⊥β.非零向量之间:
α⊥β⟺θ=2π.零向量与任意向量都正交,因为
⟨0,α⟩=0.
勾股定理#
α⊥β⟺∥α+β∥2=∥α∥2+∥β∥2.因为
∥α+β∥2=∥α∥2+2⟨α,β⟩+∥β∥2.中间项为零恰好等价于 α⊥β。
正交向量组与标准正交基#
非零向量组
α1,…,αs若满足两两正交:
⟨αi,αj⟩=0,i=j,则称为 正交向量组。
单个非零向量也可以看作正交向量组。
正交向量组必线性无关#
设
k1α1+⋯+ksαs=0.两边与 αi 作内积:
ki⟨αi,αi⟩=0.因为 αi=0,所以
⟨αi,αi⟩>0.故
ki=0.对所有 i 均成立,因此向量组线性无关。
由此可知:
Rn 中正交向量组所含向量个数不超过 n.正交基#
Rn 中由 n 个两两正交的非零向量构成的基称为 正交基。
标准正交基#
若正交基中的每个向量长度均为 1,则称为 标准正交基,也称单位正交基。
把正交基
α1,…,αn单位化:
ηi=∥αi∥αi,即可得到标准正交基。
Rn 的常用基
e1,…,en就是标准正交基。
度量矩阵#
设
E=(ε1,…,εn)是 Rn 的一组基。
定义矩阵
G=⟨ε1,ε1⟩⋮⟨εn,ε1⟩⋯⋱⋯⟨ε1,εn⟩⋮⟨εn,εn⟩.称 G 为内积在基 E 下的 度量矩阵,也称 Gram 矩阵。
若 α,β 在该基下的坐标分别为
X=x1⋮xn,Y=y1⋮yn,则
⟨α,β⟩=XTGY.度量矩阵的性质#
-
对称:
GT=G;
-
正定:
XTGX>0(X=0);
-
可逆:
detG=0.
标准正交基下:
G=In.反过来,若某组基下的度量矩阵为 In,则该组基是标准正交基。
WARNING教材例 4.8.8 的度量矩阵印刷有误。
老师在课上指出:相应右下角元素应将 4 改为 6。使用原数值时可以找到非零坐标向量 X 使
XTGX=0,违反正定性,因此原矩阵不能作为度量矩阵。
正交矩阵#
若 n 阶实矩阵 Q 满足
QTQ=In,则称 Q 为 正交矩阵。
下列条件等价:
QTQ=In,QQT=In,Q−1=QT.正交矩阵的列向量构成 Rn 的一组标准正交基;其行向量也构成标准正交基。
因此,若
Q=[η1 η2 ⋯ ηn],则
η1,…,ηn 是标准正交基⟺Q 是正交矩阵.判断标准正交基的两种方法#
方法 1:逐个判断#
验证:
∥ηi∥=1,以及
⟨ηi,ηj⟩=0(i=j).方法 2:整体判断#
构造
Q=[η1 ⋯ ηn],验证
QTQ=In.第二种方法更适合计算题。
标准正交基的优点#
设
η1,…,ηn是标准正交基,且
α=x1η1+⋯+xnηn.两边与 ηi 作内积:
⟨α,ηi⟩=xi.因此坐标可直接得到:
xi=⟨α,ηi⟩.若 α,β 在该基下的坐标分别为 X,Y,则:
⟨α,β⟩=XTY=i=1∑nxiyi.∥α∥=x12+⋯+xn2.cosθ=∥X∥∥Y∥XTY.WARNING只有当两个坐标向量是在 同一组基 下给出时,才能直接对应分量相乘相加。
课堂例 4.8.9 专门强调:
- 一个向量给的是标准正交基下坐标;
- 另一个向量给的是常用基下坐标;
此时不能直接点乘,必须先把二者统一到同一组基下。
正交基的扩充#
Rn 中任意正交向量组
α1,…,αm,m<n,都可以扩充为 Rn 的一组正交基。
理论构造如下。
取
β∈/L(α1,…,αm),令
αm+1=β−i=1∑m⟨αi,αi⟩⟨β,αi⟩αi.则
αm+1⊥αi,i=1,…,m.继续重复即可扩充为正交基,最后单位化得到标准正交基。
老师指出:
该方法在理论上保证存在,但实际计算时,寻找一个不属于原生成空间的 β 往往不方便。
实际题目中,若要把一个子空间的标准正交基扩充为整个 Rn 的标准正交基,通常采用:
- 解正交条件方程,求原子空间的正交补;
- 求正交补的一组基础解系;
- 对该基础解系做 Schmidt 正交化;
- 单位化后与原标准正交基合并。
Schmidt 正交化#
设
α1,α2,…,αn是 Rn 的一组基。
Schmidt 正交化把它改造成一组正交基
β1,β2,…,βn.第一步#
β1=α1.第二步#
从 α2 中减去它在 β1 方向上的投影:
β2=α2−⟨β1,β1⟩⟨α2,β1⟩β1.于是
β2⊥β1.第三步#
从 α3 中减去它在 β1,β2 方向上的投影:
β3=α3−⟨β1,β1⟩⟨α3,β1⟩β1−⟨β2,β2⟩⟨α3,β2⟩β2.一般公式#
βk=αk−j=1∑k−1⟨βj,βj⟩⟨αk,βj⟩βj,k=2,…,n.所得向量满足:
- β1,…,βn 两两正交;
- 对每个 k,
L(α1,…,αk)=L(β1,…,βk).
最后单位化:
ηi=∥βi∥βi,即可得到标准正交基
η1,…,ηn.TIP考试中通常最多要求正交化三个向量。
建议牢牢记住:
β1=α1,β2=α2−⟨β1,β1⟩⟨α2,β1⟩β1,β3=α3−⟨β1,β1⟩⟨α3,β1⟩β1−⟨β2,β2⟩⟨α3,β2⟩β2.
课堂例 4.8.10:求子空间的标准正交基并扩充#
课堂题型:
给定 R4 中三个向量 α1,α2,α3,求它们生成子空间的一组标准正交基,并把它扩充为 R4 的标准正交基。
完整流程:
第 1 步:求生成空间的一组基#
构造
A=[α1 α2 α3].行化简后若有两个阶梯头,且位于第 1,2 列,则
α1,α2构成原向量组的一个极大线性无关组,因此也是生成空间的一组基。
第 2 步:Schmidt 正交化#
取
β1=α1,β2=α2−⟨β1,β1⟩⟨α2,β1⟩β1.再单位化:
η1=∥β1∥β1,η2=∥β2∥β2.则 η1,η2 是该子空间的一组标准正交基。
第 3 步:求正交补#
设
X=x1x2x3x4.令
⟨X,η1⟩=0,⟨X,η2⟩=0.解所得齐次方程组,求出正交补的一组基础解系
γ1,γ2.第 4 步:对正交补继续正交化#
若 γ1,γ2 尚未正交,则令
δ1=γ1,δ2=γ2−⟨δ1,δ1⟩⟨γ2,δ1⟩δ1.单位化:
η3=∥δ1∥δ1,η4=∥δ2∥δ2.最终
η1,η2,η3,η4构成 R4 的一组标准正交基。