向量是线性代数的基石。很多人熟悉向量加法的平行四边形法则,却对减法、点积和距离之间的深层联系感到模糊。本文用几何图解和代数公式,帮你建立从向量减法到点积相似度、再到距离度量的完整直觉。
一、从代数到几何
设平面向量
\[ \vec{a} = (a_x,\ a_y), \quad \vec{b} = (b_x,\ b_y) \]
则减法的代数定义很直接:
\[ \vec{a} - \vec{b} = (a_x - b_x,\ a_y - b_y) \]
但这个"分量相减"的规则,背后的几何意义是什么?
二、三角形法则
将 \(\vec{a}\) 与 \(\vec{b}\) 的起点放在同一点 \(O\),分别达到终点 \(A\) 和 \(B\):
\[ \vec{a} = \overrightarrow{OA}, \quad \vec{b} = \overrightarrow{OB} \]
那么从 \(B\) 指向 \(A\) 的向量 \(\overrightarrow{BA}\) 就等于 \(\vec{a} - \vec{b}\):
\[ \boxed{\vec{a} - \vec{b} = \overrightarrow{BA}} \]
核心观察:三个向量 \(\vec{a}\) (紫色)、\(\vec{b}\) (靛蓝) 和 \(\vec{a}-\vec{b}\) (品红) 构成一个三角形。减法结果的方向总是指向被减向量的终点。
三、平行四边形法则
如果将 \(\vec{a} - \vec{b}\) 的起点也放在 \(O\),得到点 \(C\),则 \(OACB\) 构成平行四边形。这与向量加法的平行四边形法则形成对称:
- 加法:\(\vec{a} + \vec{b}\) 是平行四边形的对角线 \(\overrightarrow{OC}\)
- 减法:\(\vec{a} - \vec{b}\) 是另一条对角线 \(\overrightarrow{BA}\)(从 \(\vec{b}\) 终点指向 \(\vec{a}\) 终点)
这说明向量加法与减法在几何上是同一结构的两个视角。
四、坐标视角的另一种理解
从坐标视角看,减法可以理解为:
\[ \vec{a} - \vec{b} = (a_x - b_x,\ a_y - b_y) = \vec{a} + (-\vec{b}) \]
即先取 \(\vec{b}\) 的相反向量(方向反转),再与 \(\vec{a}\) 相加。这也是"减法即加法的逆运算"的几何体现。
五、从减法到点积
减法回答了"两个向量相差多少",点积则回答"两个向量有多像"。
点积的代数定义:
\[ \vec{a} \cdot \vec{b} = a_x b_x + a_y b_y \]
但它还有更深刻的几何定义:
\[ \boxed{\vec{a} \cdot \vec{b} = |\vec{a}|\ |\vec{b}|\ \cos\theta} \]
其中 \(\theta\) 是两向量之间的夹角。
六、点积的几何意义:投影
将 \(\vec{a}\) 投影到 \(\vec{b}\) 方向上,投影长度正是 \(|\vec{a}|\cos\theta\):
\[ \text{proj}_{\vec{b}}(\vec{a}) = \frac{\vec{a} \cdot \vec{b}}{|\vec{b}|} \]
点积本质上度量了一个向量在另一个向量方向上的"分量"。
投影分解:\(\vec{a}\) 可以分解为沿 \(\vec{b}\) 方向的分量(投影,粉色)和垂直于 \(\vec{b}\) 的分量(\(\vec{a}_\perp\))。点积只关心"同向"的那部分。
七、余弦相似度:角度作为相似度量
从点积的几何公式出发,可以定义余弦相似度:
\[ \cos\theta = \frac{\vec{a} \cdot \vec{b}}{|\vec{a}|\ |\vec{b}|} \]
它将点积归一化到 \([-1, 1]\) 区间,纯粹反映方向的一致性,与向量长度无关:
| 夹角 \(\theta\) | \(\cos\theta\) | 含义 |
|---|---|---|
| \(0°\)(同向) | \(+1\) | 方向完全一致,最相似 |
| \(90°\)(垂直) | \(0\) | 方向无关,无相似性 |
| \(180°\)(反向) | \(-1\) | 方向完全相反 |
关键洞察:余弦相似度忽略向量长度,只关心"指向哪里"。在自然语言处理中,这对应"语义相似但篇幅不同"的文本;在推荐系统中,对应"偏好方向一致但活跃度不同"的用户。
八、向量距离:欧氏距离与点积的关系
减法给出了两个向量的"差向量" \(\vec{a} - \vec{b}\)。它的长度——欧氏距离——是衡量向量差异的最直接方式:
\[ \|\vec{a} - \vec{b}\| = \sqrt{(a_x - b_x)^2 + (a_y - b_y)^2} \]
有趣的是,欧氏距离的平方可以直接用点积表示:
\[ \|\vec{a} - \vec{b}\|^2 = |\vec{a}|^2 + |\vec{b}|^2 - 2\,\vec{a}\cdot\vec{b} \]
这就是余弦定理的向量形式。它揭示了深刻的事实:
距离与相似度是一枚硬币的两面——点积越大(越相似),欧氏距离越小(越接近)。
九、统一视角:内积空间中的几何
将以上概念放入统一的框架——内积空间:
| 概念 | 公式 | 几何意义 |
|---|---|---|
| 长度(范数) | \(\|\vec{a}\| = \sqrt{\vec{a}\cdot\vec{a}}\) | 向量到原点的距离 |
| 距离 | \(\|\vec{a} - \vec{b}\|\) | 两点间的直线距离 |
| 相似度 | \(\cos\theta = \frac{\vec{a}\cdot\vec{b}}{\|\vec{a}\|\|\vec{b}\|}\) | 方向一致性 |
| 投影 | \(\text{proj}_{\vec{b}}(\vec{a}) = \frac{\vec{a}\cdot\vec{b}}{\|\vec{b}\|}\) | 沿某方向的分量 |
所有概念都源于同一个操作——内积(点积)。在内积空间中,几何直觉与代数计算完美融合。
十、为什么这套直觉很重要
| 场景 | 所用概念 | 具体含义 |
|---|---|---|
| 物理中的相对速度 | 减法 | \(\vec{v}_{\text{相对}} = \vec{v}_A - \vec{v}_B\) |
| 文本语义搜索 | 余弦相似度 | 查询与文档的语义方向一致性 |
| 推荐系统 | 点积 + 距离 | 用户偏好向量的匹配程度 |
| 计算机图形学 | 投影 | 光照计算中表面法线与光源方向的夹角 |
| 机器学习(SVM/感知机) | 点积符号 | 决定分类边界的哪一侧 |
| PCA 降维 | 投影长度 | 数据在主轴方向上的方差 |
总结
向量运算构成了现代计算的几何基础:
\[ \vec{a} - \vec{b} = \overrightarrow{BA} \]
\[ \vec{a} \cdot \vec{b} = |\vec{a}|\ |\vec{b}|\ \cos\theta \]
\[ \|\vec{a} - \vec{b}\|^2 = |\vec{a}|^2 + |\vec{b}|^2 - 2\,\vec{a}\cdot\vec{b} \]
减法描述差异,点积描述相似,距离将二者统一。掌握了这三者的几何联系,线性代数中大量抽象概念都将变得直观可见。