线性空间

线性空间是 $d$ 维欧氏空间（$0\leq d\leq 3$）等的推广，相关概念的关系可参照 欧氏空间与线性空间的关系。

前置知识：阿贝尔群、域。

通俗地讲，一个集合关于某运算封闭，满足结合律、单位元与逆元则构成群。如果还满足交换律，则构成阿贝尔群。

如果一个集合关于四则运算封闭，则构成域。

定义

线性空间（向量空间）是线性代数的基本概念与重要研究对象。线性空间是由向量集合 $V$、域 $\Bbb{P}$、加法运算 $+$ 和标量乘法（数乘）组成的模类代数结构。

具体来说，设 $(V,+)$ 是一个阿贝尔群，$\Bbb{P}$ 是一个域。

定义 $\Bbb{P}$ 中的数与 $V$ 中元素的一种代数运算，称为 数乘：$\cdot:\Bbb{P}\times V\mapsto V$，记为 $p\cdot v$ 或 $pv$，其中 $p$ 在域 $\Bbb{P}$ 中，$v$ 在阿贝尔群 $V$ 中。要求该数乘运算是封闭的，运算结果始终有意义，也在群 $V$ 中。

且满足以下条件：

1. 数乘对向量加法分配律：对于 $\mathbf u,\mathbf v\in V,a\in \Bbb{P}$，$a(\mathbf u+\mathbf v)=a\mathbf u+a\mathbf v$
2. 数乘对标量加法分配律：对于 $a,b\in \Bbb{P},\mathbf u\in V$，$(a+b)\mathbf u=a\mathbf u+b\mathbf u$
3. 数乘结合律（一致于域乘法）：对于 $a,b\in \Bbb{P},\mathbf u\in V$，$a(b\mathbf u)=(ab)\mathbf u$
4. 标量乘法单位元：令 $1\in \Bbb{P}$ 是 $\Bbb{P}$ 的乘法单位元，则对于 $u\in V$，$1\mathbf u=\mathbf u$

则称代数系统 $(V,+,\cdot,\mathbb{P})$ 是 $V$ 关于 $+,\cdot$ 构成 $\Bbb{P}$ 上的一个 线性空间，$\Bbb{P}$ 为线性空间的 基域，$V$ 中元素称为 向量，$\Bbb{P}$ 中元素称为 标量。当域 $\Bbb{P}$ 为实数域时，称为实线性空间。当域 $\Bbb{P}$ 为复数域时，称为复线性空间。

不管是一列数还是箭头，或是别的什么东西，只要满足上述公理，都可以认为是向量，也就都可以利用线性代数的理论来研究。

称加法群中的零元为零向量，记作 $\mathbf 0$ 或 $\mathbf\theta$。

原阿贝尔群中向量的加减法，与线性空间新定义的数乘，统称为 线性运算。

区分

为行文方便，下文中：

1. 对$V$ 中的元素不做加粗处理。
2. 将满足线性空间定义的代数系统 $(V,+,\cdot,\mathbb{P})$ 也称为线性空间。

请注意区分。

直观理解

不是很严谨地说，标量乘法对应着一种「缩放」，基域 $\Bbb{P}$ 中的元素就代表着缩放的「比例」，向量加法对应「叠加」。同时，$\Bbb{P}$ 中的元素还代表着向量的「坐标」的取值范围。

条件 1-4 描述的是「缩放」与「叠加」的关联。可以结合二维平面上的箭头来理解。

简单性质

笔记

以下性质可在群论等中找到。

对线性空间 $(V,+,\cdot,\Bbb{P})$,

1. $\theta$ 唯一

2. $\forall\alpha\in V$,$-\alpha$ 唯一

3. $\exists 0\in\mathbb{P}$,$\forall\alpha\in V$, 有 $0\alpha=\theta$

4. $\forall k\in\mathbb{P}$, 有 $k\theta=\theta$

5. $(-1)\alpha=-\alpha,~\forall\alpha\in V$

6. 无零因子：$\forall\alpha\in V,k\in\mathbb{P}$, 有 $k\alpha=\theta\implies k=0\lor\alpha=\theta$

7. 加法的消去律：$\forall\alpha,\beta,\gamma\in V$, 有 $\alpha+\beta=\alpha+\gamma\implies\beta=\gamma$

   实际上，加法的消去律是阿贝尔群的性质。

例子

1. $\Bbb{P}^n$ 关于数域 $\Bbb{P}$ 上的加法和乘法构成 $\Bbb{P}$ 上的一个线性空间。例如 $\Bbb{P}$ 可以是 $\Bbb{R}$,$\Bbb{C}$,$\Bbb{N}_p$（$p$ 为素数）等。
2. 数域 $\Bbb{P}$ 上的 $n\times m$ 阶矩阵 $\Bbb{P}^{n\times m}$ 关于矩阵的加法和数乘构成 $\Bbb{P}$ 上的一个线性空间。
3. 数域 $\Bbb{P}$ 上的一元多项式环 $\Bbb{P}[x]$ 关于多项式的加法和数乘构成 $\Bbb{P}$ 上的一个线性空间。
4. 区间 $[a,b]$ 上的全体连续函数（记作 $C[a,b]$）关于「函数加法」和「值与连续函数的数乘」构成值域上的一个线性空间。

相关概念

线性相关、线性无关

对线性空间 $(V,+,\cdot,\Bbb{P})$：

1. 称 $a_1,a_2,\dots,a_n\in V$ 为 $V$ 的一个 向量组。
2. 对于 $k_1,k_2,\dots,k_n\in\Bbb{P}$, 称 $\sum_{i=1}^nk_ia_i$ 为向量组 $a_1,a_2,\dots,a_n$ 的一个 线性组合。
3. 若向量 $\beta\in V$ 可以表示为向量组 $a_1,a_2,\dots,a_n$ 的一个线性组合，则称 $\beta$ 能被向量组 $a_1,a_2,\dots,a_n$ 线性表出。
4. 对于 $k_1,k_2,\dots,k_n\in\Bbb{P}$, 若向量组 $a_1,a_2,\dots,a_n$ 满足 $\sum_{i=1}^nk_ia_i=\theta\iff k_i=0, i=1,2,\dots,n$, 则称向量组 $a_1,a_2,\dots,a_n$ 线性无关，否则称向量组 $a_1,a_2,\dots,a_n$ 线性相关。

规定零向量与任意向量线性相关。

线性表示或线性相关的式子，可以写成矩阵乘法的形式：

$$\beta=k_1a_1+k_2a_2+\cdots+k_ra_r=(a_1,a_2,\cdots,a_r)\begin{pmatrix} k_1 \\ k_2 \\ \vdots \\ k_r \end{pmatrix}$$

根据习惯，把向量 $a$ 按顺序并排写在左边；把标量 $k$ 按顺序竖着写在右边，构成一个「列向量」。

注意：这里标量构成的「列向量」只是方便的形式记号，不在空间 $V$ 中，与左边的向量有着本质的区别。左边的向量如果恰好是列向量，并排拼起来就可以形式上构成一个「矩阵」，上述乘积恰好是矩阵中常见的「矩阵左乘列向量」的形式。

下文指出，这里的线性表示也等价于，向量 $\beta$ 落在矩阵 $(a_1,a_2\cdots,a_r)$ 的像空间里。

根据下文中的定义，零向量一定会落在像空间里。如果用线性变换的观点看，线性相关等价于变换后多个向量变换到零向量，而线性无关等价于只有零向量本身变换到零向量。

性质

对线性空间 $(V,+,\cdot,\Bbb{P})$,

1. 若向量组的一部分线性相关，则向量组线性相关。若向量组线性无关，则其任意非空部分均线性无关。简记为：「大无关、小无关」；「小相关、大相关」。
2. 含 $\theta$ 的向量组线性相关。
3. 向量组线性相关当且仅当向量组的某个向量可以由其余向量线性表出。
4. 若向量 $\beta$ 可被向量组 $a_1,a_2,\dots,a_n$ 线性表出，则表出方式唯一当且仅当向量组 $a_1,a_2,\dots,a_n$ 线性无关。
5. 若向量组 $a_1,a_2,\dots,a_n$ 线性无关，则向量 $\beta$ 可被向量组 $a_1,a_2,\dots,a_n$ 线性表出当且仅当向量组 $a_1,a_2,\dots,a_n,\beta$ 线性相关。

极大线性无关组、秩

线性相关可以理解为「多余」，说明向量组内部有的向量可以被其他向量表出，可以删去。删完了之后，将剩下极大线性无关组。

对线性空间 $(V,+,\cdot,\Bbb{P})$：

1. 对于向量组 $b_1,b_2,\dots,b_m$, 令 $\{a_1,a_2,\dots,a_n\}\subseteq\{b_1,b_2,\dots,b_m\}$, 若有：

   • 向量组 $a_1,a_2,\dots,a_n$ 线性无关。
   • $\forall\beta\in\{b_1,b_2,\dots,b_m\}\setminus\{a_1,a_2,\dots,a_n\}$, 向量组 $a_1,a_2,\dots,a_n,\beta$ 线性相关。

   则称向量组 $a_1,a_2,\dots,a_n$ 为向量组 $b_1,b_2,\dots,b_m$ 中的一个 极大线性无关组。类似地，可定义线性空间 $V$ 的极大线性无关组。

   规定向量组 $\theta,\theta,\dots,\theta$ 的极大线性无关组为空集，于是全 $0$ 矩阵对应的向量组没有极大线性无关组。

   从向量组删向量的删法不唯一，因此极大线性无关组也不唯一。习惯上从左到右按顺序删。

   很巧的是，按顺序删，留下的向量，恰好就是「按行看」观点里面，高斯消元法剩下的行最简形矩阵中，元素 $1$ 所在的列。

   称向量组 $b_1,b_2,\dots,b_m$ 的极大线性无关组的大小为向量组的 秩，记作 $\operatorname{rank}\{b_1,b_2,\dots,b_m\}$, 规定 $\operatorname{rank}\{\theta,\theta,\dots,\theta\}=0$。

   于是，向量组的秩的定义与矩阵的秩的定义完全一致。

2. 若向量组 $a_1,a_2,\dots,a_n$ 能线性表出向量组 $b_1,b_2,\dots,b_m$ 中的所有向量，称向量组 $b_1,b_2,\dots,b_m$ 能被向量组 $a_1,a_2,\dots,a_n$ 线性表出。

3. 若向量组 $a_1,a_2,\dots,a_n$ 能被向量组 $b_1,b_2,\dots,b_m$ 线性表出，且向量组 $b_1,b_2,\dots,b_m$ 能被向量组 $a_1,a_2,\dots,a_n$ 线性表出，则称两向量组 等价，记作 $\{a_1,a_2,\dots,a_n\}\cong\{b_1,b_2,\dots,b_m\}$。

   向量组的 等价 就是向量组张成的空间相同。张成空间相同的向量组相互等价，张成空间不同的向量组不等价。

   向量组等价比矩阵等价条件更强，不仅要求秩相同，还要求空间完全一样。因此，把两个矩阵 横向 拼在一起，秩不能发生变化。

   矩阵等价仅要求秩相同，因此矩阵等价表示前一个矩阵或空间，可以通过可逆变换，到达后一个矩阵或空间。

性质

对线性空间 $(V,+,\cdot,\Bbb{P})$,

1. 设向量组 $a_1,a_2,\dots,a_n$ 能被线性表出向量组 $b_1,b_2,\dots,b_m$ 线性表出。

   • 若 $n>m$, 则向量组 $a_1,a_2,\dots,a_n$ 线性相关。
   • 若向量组 $a_1,a_2,\dots,a_n$ 线性无关，则 $n\leq m$。

2. 等价的线性无关向量组的大小相等。

   向量组的任意极大线性无关组的大小均相等。

3. 向量组线性无关当且仅当其秩等于其大小。

4. 若向量组 $a_1,a_2,\dots,a_n$ 能被线性表出向量组 $b_1,b_2,\dots,b_m$ 线性表出，则 $\operatorname{rank}\{a_1,a_2,\dots,a_n\}\leq\operatorname{rank}\{b_1,b_2,\dots,b_m\}$。

5. 等价的向量组的秩相等。

线性包

对于线性空间 $(V,+,\cdot,\Bbb{P})$，$\left\{v=\sum_{i=1}^nk_ia_i:a_i\in V,k_i\in\Bbb{P},i=1,2,\dots,n\right\}$ 也构成一个线性空间，称为由向量组 $a_1,a_2,\dots,a_n$ 张成 的线性空间（或 线性包），记作 $\operatorname{span}\{a_1,a_2,\dots,a_n\}$。

这里的 $n$ 个向量 $a$ 不一定线性无关。

线性子空间

对线性空间 $(V,+,\cdot,\Bbb{P})$, 若代数系统 $(V_1,+,\cdot,\Bbb{P})$ 满足：

1. $\varnothing\ne V_1$
2. $V_1\subseteq V$
3. $V_1$ 关于 $+,\cdot$ 构成 $\mathbb{P}$ 上的线性空间

则称 $V_1$ 为 $V$ 的线性子空间，简称子空间，记作 $V_1\leq V$。

任何空间 $V$ 都有两个 平凡子空间：它本身 $V$ 与零子空间。零子空间只含零向量，不含有线性无关的向量。

若第 2 条中的 $\subseteq$ 换为 $\subset$, 则称 $V_1$ 为 $V$ 的线性真子空间，记作 $V_1<V$。

不难证明：线性空间 $V$ 的非空子集 $V_1$ 是其线性子空间当且仅当线性运算在 $V_1$ 上封闭，即：

1. $\forall u,v\in V_1$,$u+v\in V_1$
2. $\forall v\in V_1$,$\forall k\in \Bbb{P}$,$kv\in V_1$

交、和与直和、直积

对线性空间 $(V_1,+,\cdot,\Bbb{P})$ 与 $(V_2,+,\cdot,\Bbb{P})$：

1. 不难验证：加法和数乘在 $V_1\cap V_2$ 上封闭，故可称 $V_1\cap V_2$ 为线性空间 $V_1$ 和 $V_2$ 的 交。

   类似地，可定义多个线性空间的交 $\bigcap_{i=1}^m V_i$。

2. 若线性空间 $V$ 满足 $V=\{u+v|u\in V_1,v\in V_2\}$, 则称 $V$ 为线性空间 $V_1$ 和 $V_2$ 的 和，记为 $V=V_1+V_2$。

   可以验证：$V_1+V_2$ 是包含 $V_1\cup V_2$ 的最小子空间。

   类似地，可定义多个线性空间的和 $\sum_{i=1}^m V_i$。

3. 设 $V=V_1+V_2$, 若线性空间 $V$ 中的任意元素 $v$, 均只能找到唯一一组向量 $v_1,v_2$ 满足 $v=v_1+v_2$, 则称 $V$ 为线性空间 $V_1$ 和 $V_2$ 的 直和(direct sum)，记为 $V_1\oplus V_2$。

   类似地，可定义多个线性空间的直和 $\bigoplus_{i=1}^m V_i$。

4. $V_1$ 与 $V_2$ 的 直积 $V_1\times V_2$ 定义为二者的笛卡儿积关于如下的加法和数乘构成 $\Bbb{P}$ 上的线性空间：

   1. $+:(V_1\times V_2)\times(V_1\times V_2)\mapsto V_1\times V_2; ((u_1,v_1),(u_2,v_2))\to (u_1+u_2,v_1+v_2)$
   2. $\cdot:\Bbb{P}\times(V_1\times V_2)\mapsto V_1\times V_2; (k,(u,v))\to (ku,kv)$

   类似地，可定义多个线性空间的直积 $\prod_{i=1}^m V_i$。

例子

对于线性空间 $V=\Bbb{R}^3$，设线性空间：

• $V_1:=\{(x,0,0)|x\in\Bbb{R}\}$
• $V_2:=\{(x,y,0)|x,y\in\Bbb{R}\}$
• $V_3:=\{(0,y,z)|y,z\in\Bbb{R}\}$
• $V_4:=\{(x,0,z)|x,z\in\Bbb{R}\}$

则

1. $V_1<V_2<V$,$V_3<V$
2. $V_2=V_1+V_2$
3. $V=V_1\oplus V_3=V_2+V_3$
4. $V_2\oplus V_3=V_4$,$V_2\oplus V_4=V_3$,$V_3\oplus V_4=V_2$
5. $V_2+V_3\leq V$

性质

1. 令 $V_1,V_2,V_3$ 是关于 $\Bbb{P}$ 的线性空间，和集合的交一样，线性空间的交适用如下法则：

   1. 交换律：$V_1\cap V_2=V_2\cap V_1$
   2. 结合律：$V_1\cap(V_2\cap V_3)=(V_1\cap V_2)\cap V_3$

2. 令 $V_1,V_2,V_3$ 是关于 $\Bbb{P}$ 的线性空间，类似于集合的并，线性空间的和适用如下法则：

   1. 交换律：$V_1+V_2=V_2+V_1$
   2. 结合律：$V_1+(V_2+V_3)=(V_1+V_2)+V_3$

3. 令 $V_1,V_2,V_3$ 是关于 $\Bbb{P}$ 的线性空间，线性空间的交与并有如下关系：

   1. $V_1\cap (V_2+V_3)\supseteq (V_1\cap V_2)+(V_1\cap V_3)$
   2. $V_1+(V_2\cap V_3)\subseteq (V_1+V_2)\cap (V_1+V_3)$

4. $\operatorname{span}\{a_1,a_2,\dots,a_n\}+\operatorname{span}\{b_1,b_2,\dots,b_m\}=\operatorname{span}\{a_1,a_2,\dots,a_n,b_1,b_2,\dots,b_m\}$

5. 令 $V_1,V_2$ 是关于 $\Bbb{P}$ 的线性空间，则下列诸款等价：

   1. $V_1+V_2=V_1\oplus V_2$
   2. $\exists \beta\in V_1+V_2$, 使得拆分为 $V_1$ 和 $V_2$ 中的向量和的方式唯一（任意 $\to$ 存在）
   3. $\theta$ 拆分为 $V_1$ 和 $V_2$ 中向量的和的方式唯一
   4. $V_1\cap V_2=\{\theta\}$
   证明

   $1\implies 2$：由定义立得。

   $2 \implies 3$：

   令 $\beta=\beta_1+\beta_2$, 其中 $\beta_1\in V_1, \beta_2\in V_2$, 若 $\theta=\alpha_1+\alpha_2$,$\theta\ne\alpha_1\in V_1,\alpha_2\in V_2$, 则 $\beta=\beta+\theta=(\beta_1+\alpha_1)+(\beta_2+\alpha_2)$。

   而 $\beta_1\ne\beta_1+\alpha_1$, 与条件矛盾。

   $3 \implies 4$：

   在 $V_1$ 和 $V_2$ 中取一非零向量 $\alpha$, 则 $\theta=\alpha+(-\alpha)=(-\alpha)+\alpha$, 这与条件矛盾。

   $4 \implies 1$：

   若 $V_1+V_2$ 不是直和，则存在 $\beta\in V_1+V_2$ 使得 $\beta=\beta_1+\beta_2=\gamma_1+\gamma_2$, 其中 $\beta_1,\gamma_1\in V_1,\beta_2,\gamma_2\in V_2$ 且 $\beta_1,\beta_2,\gamma_1,\gamma_2$ 互不相同。

   进而 $\theta\ne\beta_1-\gamma_1=\gamma_2-\beta_2\in V_1\cap V_2$, 与条件矛盾。

同构

设 $V,V'$ 均为域 $\Bbb{P}$ 上的线性空间，若存在双射 $\sigma:V\mapsto V'$ 且保持加法与数乘，即 $\forall u,v\in V$,$\forall k\in\Bbb{P}$ 满足：

1. $\sigma(u+v)=\sigma(u)+\sigma(v)$
2. $\sigma(ku)=k\sigma(u)$

则称 $\sigma$ 是 $V$ 到 $V'$ 的 同构映射，此时称 $V$ 与 $V'$ 同构，记为 $V\cong V'$。

特判

若 $\sigma$ 是单射，则可定义 单同态；若 $\sigma$ 是满射，则可定义 满同态。

性质

1. 域 $\Bbb{P}$ 上的两线性空间同构当且仅当其维数相等。（维数的定义参见 线性基。）

2. （1 的推论）域 $\Bbb{P}$ 上的 $n$ 维线性空间与线性空间 $\Bbb{P}^n$ 同构。

   本质

   本性质说明我们基本上可以将坐标和向量等同看待。

欧氏空间与线性空间的关系

以我们最熟悉的三维欧氏空间为例，其部分相关概念在线性空间中的对应关系如下表：

三维欧氏空间	线性空间
向量	向量
垂直	正交（即内积为$0$）
三向量共线/共面	$k$ 个向量线性相关
三向量不共面	$k$ 个向量线性无关
基向量	线性基
空间的维数	空间的维数

应用

从本节开始主要讲述对于线性方程组「按列看」的观点。

矩阵 $A$ 本身也是由列向量构成的。把 $A$ 本身看成了列向量组，而 $x$ 是未知数系数，思考 $A$ 当中的这组列向量能不能配上未知数，凑出列向量 $b$。此时列向量 $x$ 是完全未知的。

此时研究的等式 $Ax=b$ 整理为：

$$\alpha_1 x_1 +\alpha_2 x_2 +\cdots+\alpha_n x_n=b$$

这时，矩阵乘法中，位于左边的矩阵 $A$ 可以看作向量组，即一组列向量。这组列向量作为一组基，张成一个空间，探讨列向量 $b$ 是否落在这个空间里。

按列看待线性方程组的解

秩是极大线性无关组中向量的个数，代表了「约束」。那么其余的向量将赋予解的自由度，即允许在其他方向赋予冗余的向量。

如果记 $n$ 是矩阵 $A$ 的列数，即含有的列向量个数，记 $r(A)$ 为矩阵 A 的秩，则有自由度 $S$：

$$S=n-r(A)$$

方程组的全体解也构成向量组，自由度 $S$ 就是 $Ax=0$ 解向量组的秩，即下文核空间的维数。

方程组的同解

两个方程组的公共解定义为两组解的交集。

方程组的 同解 就是方程组的解的集合相等。解的集合相等的方程组同解，解的集合不相等的方程组不同解。

方程组同解也比矩阵等价条件强，不仅要求秩相等，还要求把两个矩阵 纵向 拼在一起之后，秩仍然不改变。

这里与向量组等价对比，向量组等价要求矩阵横向拼接，秩不改变。因此，有如下关系：

矩阵等价，不一定有对应的向量组等价或者方程组同解，但是若有向量组等价或者方程组同解，必然有对应的矩阵等价（秩相同）。

如果矩阵对应的向量组等价，那么将矩阵转置后，对应的方程组同解，反之亦然。

矩阵的核空间与像空间

这部分的核空间与像空间是站在线性空间的角度上叙述的。

对于矩阵 $A$，令 $W$ 为方程 $Ax=0$ 的全体解 $x$ 构成的集合，则 $W$ 是一个线性空间，$W$ 的标量域与 $A$ 的元素所在的域相同。

称此时的 $W$ 为矩阵 $A$ 的 核空间，记作 $N(A)$。

矩阵 $A$ 的核空间 $N(A)$ 就是方程 $Ax=0$ 的 解空间。根据后文基的定义，该方程的 基础解系 就是核空间的基。

如果矩阵 $A$ 是可逆矩阵，则 $A$ 的核空间 $N(A)$ 只含零向量。

对于矩阵 $A$，它的 $n$ 个列为向量 $\alpha$，称 $n$ 个列向量 $\alpha$ 张成的空间为 $A$ 的 像空间，或者记作 列空间，记作：

$$R(A)=\operatorname{span}\{\alpha_1,\alpha_2,\cdots,\alpha_n\}$$

根据后文维数的定义，像空间的维数等于矩阵 $A$ 的秩。

由定义，对于像空间 $R(A)$ 中的每一个元素 $y$，均有相应的表示：

$$y=k_1\alpha_1+k_2\alpha_2+\cdots+k_n\alpha_n=(\alpha_1,\alpha_2,\cdots,\alpha_n)\begin{pmatrix}k_1\\k_2\\\vdots\\k_n\end{pmatrix}=A\begin{pmatrix}k_1\\k_2\\\vdots\\k_n\end{pmatrix}$$

因此像空间 $R(A)$ 就是对于任意向量 $x$，$Ax$ 的 值域。

同理可以定义 $A$ 的 行空间，即 $A$ 的转置的值域 $R(A^T)$。

由于矩阵的行秩等于列秩，行空间的维数也为矩阵的秩，因此转置改变像空间，而不改变像空间的维数。

在这里可以与前文建立对应关系：

向量组等价，等价于对应矩阵的像空间 $R(A)$ 相同。

方程组同解，等价于对应矩阵的行空间 $R(A^T)$ 相同。

参考资料与注释

1. 丘维声，高等代数（下）。清华大学出版社。
2. Vector space.Wikipedia, The Free Encyclopedia.