超平面（Hyperplane）和半空间（Halfspace）

一、超平面（Hyperplane）

1. 定义

在$n$维欧几里得空间${\mathbb{R}}^n$中，超平面是一个$n-1$维的仿射子空间。直观地说，超平面将空间划分为两个部分，是空间中的“平面”推广到高维的概念。

• 在二维空间（${\mathbb{R}}^2$）中，超平面是直线（$1$维）。
• 在三维空间（${\mathbb{R}}^3$）中，超平面是平面（$2$维）。
• 在$n$维空间中，超平面是$n-1$维的子空间。

2. 超平面的方程

超平面可以用线性方程表示。一般形式为：
$${\mathbf{w}}^{\top }\mathbf{x}+b=0$$
其中：

• $\mathbf{w}=[w_1,w_2,\dots ,w_n{]}^{\top }$ 是法向量，决定了超平面的方向。
• $\mathbf{x}=[x_1,x_2,\dots ,x_n{]}^{\top }$ 是空间中的点。
• $b$ 是偏置（截距）项，决定了超平面的位置。

3. 例子

二维空间（${\mathbb{R}}^2$）

• 超平面：直线。
• 方程：$w_1{x}_1+w_2{x}_2+b=0$。

三维空间（${\mathbb{R}}^3$）

• 超平面：平面。
• 方程：$w_1{x}_1+w_2{x}_2+w_3{x}_3+b=0$。

4. 超平面的性质

• 法向量：$\mathbf{w}$ 是超平面的法向量，垂直于超平面上的所有向量。
• 仿射性质：超平面是一个仿射子空间，不一定经过原点，除非$b=0$。
• 线性多样体：当$b=0$时，超平面是一个线性子空间。

---

二、半空间（Halfspace）

1. 定义

半空间是由超平面将空间分割成的两个部分之一。具体来说，超平面将${\mathbb{R}}^n$分割成两个闭的或开的半空间。

2. 半空间的表示

根据超平面的方程，半空间可以表示为：

• 闭半空间（Closed Halfspace）：
  $${\mathbf{w}}^{\top }\mathbf{x}+b\le 0\text{或}{\mathbf{w}}^{\top }\mathbf{x}+b\ge 0$$

• 开半空间（Open Halfspace）：
  $${\mathbf{w}}^{\top }\mathbf{x}+b<0\text{或}{\mathbf{w}}^{\top }\mathbf{x}+b>0$$

3. 半空间的性质

• 凸集：半空间是凸集，因为对于任何两个在半空间内的点，连接它们的线段也完全在半空间内。
• 分离性质：超平面将空间分为两个半空间，且任何一点要么在超平面上，要么在其中一个半空间内。

---

三、超平面与半空间的关系

• 划分空间：超平面将$n$维空间划分为两个半空间。
• 边界：超平面是半空间的边界。
• 分类：在机器学习中，超平面用于作为分类器的决策边界，将不同类别的数据点分割到不同的半空间中。

---

四、应用

1. 线性规划

• 可行域：线性规划中的约束条件通常是线性不等式，表示半空间。所有约束的交集形成了可行域，是一个凸多面体。
• 最优解：在线性规划中，目标函数在可行域的顶点（可能在超平面上）取得最优值。

2. 机器学习

• 支持向量机（SVM）：SVM试图找到一个超平面，将不同类别的样本分开，且使得间隔最大。
• 感知器：感知器模型使用超平面作为线性分类器。

3. 计算几何

• 空间划分：利用超平面将空间划分，有助于解决最近邻搜索、范围查询等问题。
• 凸包：凸多面体的面是由超平面组成的。

4. 凸分析

• 支持超平面：对于凸集，支持超平面是与该集相切且不穿过该集的超平面。
• 分离定理：如果两个不相交的凸集，那么存在一个超平面将它们分开。

---

五、总结

超平面和半空间是高维空间中的基本几何概念，具有重要的理论意义和实际应用。

• 超平面：$n$维空间中的$n-1$维子空间，可用线性方程${\mathbf{w}}^{\top }\mathbf{x}+b=0$表示。
• 半空间：由超平面划分出的空间的一部分，可用不等式${\mathbf{w}}^{\top }\mathbf{x}+b\le 0$或$\ge 0$表示。
• 应用领域：线性规划、机器学习、计算几何、凸分析等。