Note03 空间的交换图¶

本笔记完全参考《Linear Algebra Done Right》，所有记录的相关知识以及总结思考均来自该书的启发。本笔记只是面向个人作为深入学习理解线性代数的垫脚石，解释性质不高，而且没有例子，但是高度凝练，适合复习的时候审阅核对梳理主干。

本笔记覆盖的范围 - 3.E ～ 3.F（参考第三版：《Linear Algebra Done Right，3E》）
本笔记同时参考了浙江大学竺可桢辅学的教辅《LALU》（第十章）

我们假设你有了前面线性代数的基础，我们这里列出我们省略的概念（很容易查到）：

向量空间的积	向量空间积的维数	线性泛函	Kronecker记号

本章节会十分的抽象，笔者搜集汇聚了很多观点，现在我从“交换图”和Note01中我提出的“基”的视角，希望能够帮助你看明白多个空间之间的映射关系。

PART01 对偶观点¶

对偶在我们的生活实际中应用广泛，很多事物都会存在对偶关系，尤其是数学上。我们从点和面这些基本几何出发，开始理解我们的对偶。在这里我引用《LALU》经典的例子："

两点确定一条直线；

两条线一定交于一点（这需要由给平行直线补上无穷远处的交点来实现）.

在如上两条陈述中，点和线就构成了一组对偶的对象：我们把两点翻译成两条线，一条直线翻译成一点，确定翻译成交于——这与诗词中的对偶手法似乎也有些类似. 再考虑三维情形，三个点确定一个平面，三个平面确定一个点（同样补上无穷远处的点），这就构成了点与平面的对偶. 以此类推，一个点作为一个零维的对象总是与一个比总空间维数少 1（我们一般直接将其称作“余一维”）的对象对偶。

那我们根据上面的引入，我们可不可以实现进一步的抽象，就是对于任意一个有限维的向量空间$V$,那么它的余一维对象也和他对偶，而判定他们对偶就是两个空间本质相同（联想并运用“同构”）。

V-R图（对偶空间研究）¶

显然，我们可以快速地构造这样的余一维对象：

可以发现，线性泛函组成的空间（易证是向量空间），我们称之为对偶空间（记做$V^{*}$）

关于对偶空间这样一个向量空间，我们最紧要的是先研究清楚他的基（我们称之为对偶基）：

对偶基

我们知道，在对偶空间中都是对于$V$的线性泛函，研究新的被对偶出来的空间的基，我们需要原空间的一组基$V：v_1，...,v_n$，然后我们给出一组线性泛函$f_1,...f_n$，并且：

\[f_i(v_j) = \delta_{ij} = \left\{\begin{matrix} 1 ,i = j\\ 0,i\ne j \end{matrix}\right. \]

下面我们可以证明这一组线性泛函是$V^*$的一组基

任取$v \in V:v = \lambda_1v_1+...+\lambda_nv_n$

那么 $f_i(v) = f_i(\lambda_1v_1+...+\lambda_nv_n) = \lambda_i$

于是我们可以有$f(v) = f(f_1(v)v_1)+...+f(f_n(v)v_n) = (f(v_1)f_1+ ...f(v_n)f_n)(v)$

我们$f$是$f_i$的线性组合，并且长度合适（等于 $dim\;L(V,R) = dim \;V$）,综上，上述$f_i$就是一组好的对偶基。

$V \cong V^*$

我们根据上面的叙述，我们很容易去验证$V$对偶空间$V^*$同构，因为他们的维数是相同的。并且其实也很容易构造一个同构映射$\phi$，满足单满性。

$V = V^{**}$

「4」多对偶

我们根据这个交换图，其实很容易构造一个自然同构$\psi = \varphi' \circ \varphi$。

V-W交换图（对偶映射研究）¶

交换图（参考LALU，P239）

我们首先定义什么是一个图（diagram）. 一个图可以视为以一个代数结构（例如线性空间）为顶点，以某种映射（例如线性映射）为边的图，例如：

如果我们称一个图是交换的（commutative），则意味着对于图中的任意两个顶点间的任意两条有向路径，路径上映射的复合结果相同. 例如上图中，我们考察从 V1 到V3 的两条路径，则如果 σ2 ◦ σ1 = σ3，这个图是交换的.

现在我们不加严格证明地给出了向量空间 - 对偶空间的交换图（具体思路就是观察任意一个元素从出发点沿着不同路径到结尾点的结果是否相同）

「1」实际对偶交换图

「2」对偶映射示意图

现在我们聚焦于对偶映射$f^*$，为什么研究对偶映射这么重要？结合之前我在序言里面提及的“点和线是一组对偶的对象”，注意“两点确定一条直线”和“两条直线交于一点”表述中对于动词“确定”和“交”，我们现在的工作就是怎么把“确定”通过一个原则翻译为“交”。

结合「2」示意图，容易知道图中的$f^*$是我们想知道的对偶映射，但是示意图中的$V \rightarrow V^*$的的对偶没发具像化，那么我们就结合$W$的线性泛函$\varphi $创建左边的「1」实际对偶交换图。根据交换图的性质，那么我们自然而然有下面的定义：

对偶映射的定义

由上面交换图，从$V$出发，有： $\(f^*(\varphi) = \varphi \circ f$\)

给出定义后，我们很容易证明，对偶映射是一个线性映射（因为他的本质上就被结构为线性映射的符合）

然后我们给出对偶映射的几点性质

反变性：$(f \circ g)^* = g^* \circ f^*$ （下面图片最上面修改为$g \circ f$）

「3」反变性交换图证明

函子性1：$\forall S,T \in L(V,W),have:(S+T)^* = S^*+T^*$
函子性2：$\forall T \in L(V,W),have:(\lambda T)^* = \lambda T^*$

矩阵可视化（对偶映射的再具像）¶

为了进一步研究原映射和线性映射的详细关系，我们使用“基”的观点重新叙述这些事情（“基”是很本质的）：

「4」V，W空间的基、V*，W*空间的对偶基

\[T(v_i) = \sum_{j = 1}^{m}A_{j,i}\;w_j\]

\[T^*(g_i) = \sum_{j = 1}^{n}A'_{j,i}\;f_j\]

然后，我们利用$T^*(g_i)$的函数结果处理$V$中$v_k$：

\[T^*(g_i)(v_k) = \{A'_{k,i} \}= g_i \circ f(v_k) = g_i \circ [\sum_{j=1}^{m}A_{j,k}w_j]= \{A_{j,k} \}\]

综上所述，我们得到了一个十分漂亮的结果，设原来$T$的矩阵是$A$，那么我们给出$T$的对偶映射的矩阵$M$：

\[ M(T^*)= A^T\]

零化子理论（引入）¶

我们引入零化子理论，定义零化子，是从定义什么样子的线性泛函是$0$开始才能知道对偶映射的零空间。回想一下$V$零映射，就是能够把$V$中所有的$v$都映射为$0$,那么推广之，我们定义"类0线性泛函"，也就是下面的零化子（annihilator）：

\[U \subset V,U^0 = \{\varphi \in V^*: \forall u \in U,\varphi(u) = 0\}\]

注意这里的符号其实不容易理解的，在下面给出的各个结论中，请对应好定义想。并且注意，零化子是一个向量空间，而不是向量。

零化子是对偶空间的子空间（易证明，读者自证）

引理 - 对偶空间的结构（也是解构）

我们之前知道，任一一个向量空间都是它的子空间的直和。 $\(V = U_1 \oplus U_2$\)

那么由上，零化子其实也是子空间，直观上来说，其实就有： $\(V^* = U_3^0 \oplus U_4^0$\)

但是我们又知道，上面的$U_3,U_4$其实也是取自于$V$,那么会不会可以用$U_1,U_2$去表示$V^*$呢？

我们既然是解构向量空间，非基不用了。我们从对偶基的角度出发思考这个问题，由熟悉到不熟悉一步步推导,我们先从$U_1,U_2$的基出发：

\[U_1:v_1,v_2,...,v_m;U_2:v_{m+1},...,v_n\]

而这些基都是取自于下面：

\[V:v_1,v_2,...,v_n\]

那么我们根据对偶基，我们先考虑$V^*$的$f_i,1 \le i \le n $:

\[f_i(v_j) = \delta_{ij},1\le i,j\le n\]

然后我们很容易地得到$U_1$的对偶基、$U_2$的对偶基：

\[U_1^*:f_1,f_2,...,f_m,U_2^*:f_{m+1},...,f_n\]

于是我们容易知道：

\[V^* = U_1^*+U_2^*\]

并且由上面的对偶基可以知道，$U_1^* \cap U_2^* = \{0\}$，所以：

\[V^* = U_1^* \oplus U_2^*\]

请注意$U_1,U_2$的零化子结构：

\[U_1^0 = span(f_{m+1},...,f_n),U_2^0 = span(f_1,...,f_m)\]

显然至此，我们综上所述有如下结论：

\[if\;\;V = U_1 \oplus U_2,then \;\;V^* = U_1^0 \oplus U_2^0\;\;(U_1^0 = U_2^*,U_2^0 = U_1^*)\]

零化子的维数$dim\;U^0 = dim\;V - dim\; U$

结合一下上面的引理，我们很容易地得到上面的结论。

零化子就是抽象空间的零点集

我们首先给出一个对偶空间公共零点集的记号，设$U$是$V^*$的子空间：

\[N(U) = \{v \in V : \forall \varphi \in U,\varphi (v) = 0\}\]

含义就是，$V$的一些$v$可以使得所有子空间$U$的线性泛函为0，可以理解为$U$中所有线性泛函的公共的零点。即：

\[N(U) = \bigcap_{\varphi \in U}^{} ker(\varphi)\]

结合对偶基的观点想，我们其实很容易理解下面的定理：

如果 $U$ 是 $V^*$ 的子空间，则 $U = N(U)^0$

$ - Explaination：$ 只要你清楚零化子的概念，U中所有线性泛函的零点的零化子显然是U本身
如果 $U$ 是 $V$ 的子空间，则 $U = N(U^0)$

$ - Explaination：$ 这个需要你设一下U的基，对偶基就很容易得到这个结论，不过确实比较绕一些，不是很直观，但是和上面的结论对称。

对偶映射的零空间和像空间¶

我们已经有了初步的对偶空间结构的理解，也知道了“类0线性泛函”集合也就是零化子的概念，下面我们将直接描述对偶映射的零空间和像空间。

「4」对偶映射

$null(f^*) = (range\;f)^0$

根据我们之前的讨论，$f^*(\varphi) = \varphi \circ f$，回想一下一般线性映射的定义 $null\;T = \{v \in V: T(v) = 0\}$ ，我们在上面定义了类0线性泛函，那么现在我们就是想确定$W^*$中的哪些$\varphi$被映射到了这些$V^*$中的类0线性泛函（也就是零化子）。$f^*(\varphi) = \phi $ 而类0线性泛函有一个特点，可以把子空间$U$中的所有向量映射为0，已知$U \subset V$,设$f^*(\varphi)(v) = 0$，有$\varphi \circ fv = 0$,$\varphi(fv) = 0$,现在我们便知道，这就是可以把所有$fv$变成0的$\varphi$,所有$fv$张成$range\; f$，于是我们得到如上结论

$range\;f^* = (null\;f)^0$

现在我们来讨论$\{\phi \in V:\phi = f^*(\varphi),\varphi \in W^* \}$,我们考虑$W^*$中所有的对偶基$W^*:\varphi_1,...,\varphi_n$，取任一$\varphi_i:f^*(\varphi_i)(v) = \varphi_i \circ (fv)$，我们再考虑$fv$,我们知道$fv$张成的向量空间$range\;f$也只是$W$的子空间，不必含有$W$所有基。设$range\;f = span(w_1,...w_m),m\le n$，于是这组基扩张后$w_1,w_2,...w_m,...w_n$也是$W$的一组基，其实不妨设$\varphi_i(w_j) = \delta _{ij}$(Kronecker 记号)，而令$fv = \lambda_1 w_1 + ... + \lambda_m w_m$ 那么$\varphi_i \circ (fv) = \lambda_i ,1 \le i \le m$，而当$m+1 \le i \le n$ 时，$\varphi_i(fv) = 0$（一定）等价于$(\varphi \circ f) (v)= 0$「1」，那么现在可以确定$null\;f$中的所有向量都是「1」式的零点，显然根据零化子理论，$null\;f$的零化子必然可以将它映射为0.

根据上面我们提出所有理论，我么可以清晰地得到下面关于对偶映射零空间和像空间的维数的一些结论：

\[dim\;null\;f^* = dim\;(range\;f)^0 = dim\;W - dim\;range\;f \\= dim\;W - (dim\;V - dim\;null f) \\ = dim\;null\;\;f + dim\;W - dim\;V\]

\[dim\;range\;f^* = dim\;(null\;f)^0 = dim\;V - dim\;null\;f \\ = dim\;range\;f+dim\;V - dim\;V = dim\;range\;f\]

有了上面这些关系，我们可以清楚地去判断原来的映射的单满性：

设$V,W$是有限维度的向量空间，$\sigma \in L(V,W)$,则

$\sigma$是单射当且仅当$\sigma^*$是满射
$\sigma$是单射当且仅当$\sigma^*$是单射

综上所述，我们已经完成了对于所有关于对偶空间中零空间和像空间的所有叙述。你会惊讶地发现，上述的所有结论其实都是具有高度的对成性的。

PART02 商空间¶

我们通过介绍向量之间的等价关系，你就能十分迅速理解这些奇怪的性质了。

我们引入《抽象代数》中的叙述，设群$(H,\cdot)$ 为 $(G,\cdot)$的子群，我们确定 $G$ 上的一个关系 "$\equiv$"，$a \equiv b \Leftrightarrow a^{-1}\cdot b \in H$，这个关系叫$G$上关于$H$的左陪集关系，而在抽象代数中，这个左陪集关系是一种等价关系。 同时，群$(G,\cdot)$ 的子群 $(H,\cdot)$所确定的左陪集关系对G进行划分等价类，我们将下面的等价类叫做以$\alpha$为代表元的等价类，记做： $\([a] = \{x|x \in G \wedge a \equiv x\}$\) 无论在抽象代数，还是一般数域中数论问题，等价类尤其是同余类，所有元素都在这些类中，就相当于被研究的系统的一组基（二次剩余问题中的缩系就很像一组基，同余方程问题中缩系也很像一组基），个人觉得，“基”就是一种很好用的工具，可以解构抽象的事物。

对于向量 $v_1$ 和 $v_2 \in V$，如果它们的差 $v_1 - v_2$（$-v_2$是$v_2$的逆元，相当于$(v_2)^{-1}\cdot v_1 \in W$）落在一个子空间 $W$ 中（即 $v_1 - v_2 \in W$），我们就说它们“等价”。这意味着，$v_1$ 和 $v_2$ 之间的差异完全由 $W$ 中的向量表示。因此，它们被看作是同一类向量的不同表示。

等价类是一种将向量分组的方法。给定子空间 $W$，我们把 $V$ 中所有与某个向量 $v_1$ 差异属于 $W$ 的向量集合，称为 $v_1$ 的等价类。形式上，$v_2$ 与 $v_1$ 等价当且仅当 $v_1 - v_2 \in W$。

于是我们利用这个等价类划分的思想，尝试对一般的向量空间进行划分：

(在这里，我稍微说一些前置的思想，就是商空间其实可以理解为被某个“标准或原则”处理后的向量空间，这个划分处理的标准就是除数位置的子向量空间)

等价类¶

我们首先先定义出向量空间的“等价类”（仿射子集）：

$v_1 - v_2 \in U$，$U$ 是 $V$ 的子空间，按照上面的讨论 $v$ 和 $u$ 等价。

那么我们这么定义，取诸多等价向量中的一个代表元$v:v_i - v \in U$：

\[v+ U = \{v+u:u\in U\}\]

于是上面这个定义便是“在一定标准下的向量空间$V$”（后面我们会知道这个空间被定义为商空间）的一个等价类。

我们一般会有一个说法：仿射子集 $v+U$ 平行于 $U$，这个源自于几何上的直观（二维向量空间你可以举例，不赘述）

平行于U的两个仿射子集或相等或不相交

设$U$是$V$的子空间，$v,w\in V$，则以下陈述等价：（1）$v - w \in U$ （2）$v+ U = w+U$ （3）$(v+U) \cap (w+U) \ne \emptyset $ 你用上面等价类的思想，这些结论的等价性是不言而喻的。

那么所有等价类构成的就是这样一个“在一定标准下的向量空间$V$”，但是请记住，它已经不再是原来的向量空间$V$。于是我们给出一个新的空间——商空间：

\[V/U = \{v+U:v\in V\}\]

我们给出这个空间上的加法和标量乘法的定义，使得这个商空间成为向量空间：

\[(v+U)+(w+U) = (v+w)+U\]

\[\lambda(v+U) = (\lambda v) + U\]

同时我们对之前在该部分引入所说的“商空间其实可以理解为被某个‘标准或原则’处理后的向量空间”的处理进行具像的定义：

设$U$是$V$的子空间。商映射$\pi$是如下定义的线性映射$\pi:V \rightarrow V/U，\forall v \in V:$

\[\pi(v) = v + U\]

容易验证，商映射是一种线性映射。

现在我们研究商映射的零空间和像空间：

\[\because \pi(v) = v+U,\pi(w) = w + U\therefore \pi(v - w) = (v-w)+U\]

若$v \equiv w$，那么$\pi(v-w) = (0) + W = [0]$（$[0]$是指0等价类），并且此事$v-w \in U$ 那么可以知道： $U \subset null\;\pi$

反之，我们取 $v \in null\;\pi$,容易知道，$v \in U$ 那么可以有：$null\;\pi \subset U$

$null\;\pi = U$

显然我们知道$\pi$的像空间是：

$range\;\pi = V/U$

于此，结合线性映射基本定理，用上面这两个结论置换零空间和像空间，我们可以很快得出商空间的维数：$dim\; V/U = dim\;V - dim\;U$

分划的观点*¶

之前我们在Note01中提出了从基观察向量空间$V$,并且有效处理了很多向量空间的问题。而现在有一个很类似的思想，通过商空间的各个等价类也就是仿射子集分划原本抽象的向量空间$V$，一般是多次分类讨论解决相应的问题。(可以追溯到数论中同余观点解决了很多问题)

我先提前列出几个很令人惊讶的结论：

任何子空间都是线性映射的零空间
$V/(null\;f) \cong range\;f\;;\;(V/W)^* = W^0$

考虑分划的思想一般从结果域出发，从结果上考虑如何对原来的集合进行划分。我们先从线性泛函$\varphi \in L(V,R)$入手：

我们已经知道了$null\;\varphi$，这个东西可以看做$\varphi^{-1}(0)$,现在我们想知道 $\varphi^{-1}(\lambda)$是什么，我们考虑下面的一个引理($\forall r\in \mathbf{R}$)：

\[\forall v' \in \varphi^{-1}(r),v\in null\;\varphi,have\;: v'+v \in \varphi^{-1}(r) \]

借此，我们不难推导出下面的一个结构：

\[\varphi^{-1}(r) = v' + null\;\varphi,\forall v' \in \varphi^{-1}(r)\]

你会发现这个名字东西十分类似我们之前定义的仿射子集

于是我们可以不局限在线性泛函上面，把上面的结果推广到一般的线性映射上$f:V \rightarrow W$,则：

\[f^{-1}(w) = v_0+null\; f,w\in W,v_0\in f^{-1}(w)\]

上面的结果说明了一件事情：我们可以从 $f$ 映射的对象$W$上，反过来对$V$进行划分考虑，这样的考虑我们详细分析一下：比如说$w_1$对应过来的是$v_1 \in V$，那么说明在$V$中 $v_1+null\;f$这个仿射子集经过 $f$ 一定是 $w_1$ 。以此类推来划分 $V$,我们能够通过分类的方式快速判断某个 $v$ 属于 $V$ 中的那一个等价类来推到出经过 $f$ 的结果。

于是我们自然而然地通过$null\;f$定义了关于 $V$ 最自然的一个商空间：$V/null\;f$

再推而广之，我们有$V/W$最一般的商空间的定义。

我们考虑一个新的映射 $\widetilde{T} : V/null(T) \rightarrow W$

「4」新的映射的交换图

我们通过交换图有下面这个式子：

\[\widetilde{T} \circ\pi(v) = T(v)\]

\[\widetilde{T}(v+null\;T) = Tv\]

那么显然地，我们知道$range\;{\widetilde{T}} = range\;T,null\;{\widetilde{T}} = \{0\}$

于是，$V/null\;T \cong range\;T$ (从商空间的使命上看这其实很直观)

我们不加证明地给出一个十分重要的引理：

若 $W$ 是 $V$ 的一个子空间，考虑 V 的直和分解 V = W ⊕W′ 构造线性映射 f 使得其在 W 上为零映射，在 W′上为恒同映射。则存在线性映射$V \rightarrow V$,使得在 $W$ 上的点取值为0，在 $W$ 之外取值非0。

那么我们可以由此得到：任意子空间都是线性映射的一个核

于是我们由线性映射基本定理便可以轻松得到：

\[dim\;V/W = dim\;V - dim\;W\]

再次考虑 V 的直和分解$V = W \oplus W'$，那么$V^* = W^*\oplus W'^*$,由维数可知:

\[dim\;V/W = dimV - dim W = dim\;W'\]

\[V/W \cong W'\]

由“引理 - 对偶空间的结构”的结论（$if\;\;V = U_1 \oplus U_2,then \;\;V^* = U_1^0 \oplus U_2^0\;\;(U_1^0 = U_2^*,U_2^0 = U_1^*)$）有：

\[(V/W)^* = W^0\]

你会惊奇地发现，商空间、对偶空间、零化子存在着如此美妙简单的关系！