线性代数学习笔记5-1：正交的向量/空间、正交补（行空间和零空间正交）

向量的正交

向量$\mathbf{x}$和向量$\mathbf{y}$正交的定义：

• 就是说它们的点积 / 内积为零：$\mathbf{x}\cdot \mathbf{y}=0$
• 也可以统一表示为向量乘法：${\mathbf{x}}^T\mathbf{y}=0$

向量的正交，可简单理解为两个向量在几何上垂直

• 零向量与所有向量都正交

空间的正交

两个空间$\mathbf{U}$和$\mathbf{V}$正交的定义：空间$\mathbf{U}$中的任意向量$\mathbf{u}$与空间$\mathbf{V}$中的任意向量$\mathbf{v}$正交

注意，这里不能再理解为几何图形上的垂直
例如地面和墙面这两个平面，一定不是正交的，因为它们交界处的向量，同时属于两个空间，但点积肯定不为0
可见，两个空间$\mathbf{U}$和$\mathbf{V}$正交$\Rightarrow$交集$\mathbf{U}\cap \mathbf{V}$不含非零向量

行空间和零空间正交（互为正交补）

空间正交的例子是，方程$\mathbf{A}\mathbf{x}=0$，系数矩阵$\mathbf{A}$的零空间和行空间正交

实际上，$\mathbf{A}$的行空间和零空间正交；$\mathbf{A}$的列空间和左零空间正交；

• 并且，它们两两互为正交补 / 正交补集（Orthogonal Complement）
• 例如行空间是零空间的正交补，即$C({\mathbf{A}}^T)=(N(\mathbf{A}){)}^{\perp }$，这意味着，行空间含有所有与零空间正交的向量
• “补”是指两个空间互不包含/交集为0，且两个子空间的并集构成了整个${\mathbf{R}}^n$空间，两个子空间的维数 之和 为整个空间的维数$n$
  行空间和零空间是${\mathbf{R}}^n$空间中的正交补，这意味着这两个正交子空间的维数之和必为$n$，即$Rank(C({\mathbf{A}}^T))+Rank(N(\mathbf{A}))=r+(n-r)=n$

对于三维空间，正交补直观的例子就是：$XoY$平面和它的法向量，互为正交补

整个线性代数的学习逻辑：首先研究向量空间及其维数，然后研究正交性，最后研究基（也就是所谓的“正交基”）