凸分析试题

一、论述题

简述超平面分离、严格超平面分离、以及正常超平面分离定义以及成立条件。

分离超平面定理
设 $C_1$ 和 $C_2$ 是 $\mathbb{R}^n$ 中的非空凸集，若 $C_1$ 和 $C_2$ 不相交，则存在一个的超平面分离 $C_1$ 和 $C_2$ ，即存在向量 $\boldsymbol{a} \neq \boldsymbol{0}$ 满足

$\boldsymbol{a}^\top \boldsymbol{x}_1 \leq \boldsymbol{a}^\top \boldsymbol{x}_2, \quad \forall \boldsymbol{x}_1 \in C_1, \forall \boldsymbol{x}_2 \in C_2.$

严格超平面分离
定义：集合 $C_1$ 、 $C_2$ 和超平面 $H = \left\{ x \mid \boldsymbol{a}^\top \boldsymbol{x} = b \right\}$ ，对于所有 $\boldsymbol{x}_1 \in C_1$ 和 $\boldsymbol{x}_2 \in C_2$ ，如果
$\boldsymbol{a}^\top \boldsymbol{x}_1 < b < \boldsymbol{a}^\top \boldsymbol{x}_2 \quad \text{或} \quad \boldsymbol{a}^\top \boldsymbol{x}_2 < b < \boldsymbol{a}^\top \boldsymbol{x}_1,$ 二者之一始终成立，则称 $H$ 是 $C_1$ 和 $C_2$ 的严格分离超平面或 $H$ 严格分离 $C_1$ 和 $C_2$ 。
严格超平面分离定理
设 $C_1$ 和 $C_2$ 是 $\mathbb{R}^n$ 中的非空凸集，若 $C_1$ 和 $C_2$ 不相交，且 $C_2 - C_1$ 为闭集，则存在一个的超平面严格分离 $C_1$ 和 $C_2$ 。
正常分离超平面
定义：对于集合 $C_1$ 、 $C_2$ 和超平面 $H = \left\{ x \mid \boldsymbol{a}^\top \boldsymbol{x} = b \right\}$ ，若

$\sup_{\boldsymbol{x}_1 \in C_1} \boldsymbol{a}^\top \boldsymbol{x}_1 \leq \inf_{\boldsymbol{x}_2 \in C_2} \boldsymbol{a}^\top \boldsymbol{x}_2$
$\inf_{\boldsymbol{x}_1 \in C_1} \boldsymbol{a}^\top \boldsymbol{x}_1 < \sup_{\boldsymbol{x}_2 \in C_2} \boldsymbol{a}^\top \boldsymbol{x}_2.$
或
$\boldsymbol{a}^\top \boldsymbol{x}_2 < b < \boldsymbol{a}^\top \boldsymbol{x}_1, \quad \forall \boldsymbol{x}_1 \in C_1, \forall \boldsymbol{x}_2 \in C_2,$

成立，则称 $H$ 是 $C_1$ 和 $C_2$ 的正常分离超平面或 $H$ 正常分离 $C_1$ 和 $C_2$ 。

分析讨论凸函数回收函数与其函数值增减性之间的关系。

回收函数定义
定义：
对于一个凸函数 $f : \mathbb{R}^n \to \mathbb{R}$ ，它的回收函数（Recession function）定义为：
$f_{\infty}(x) = \lim_{\lambda \to +\infty} \frac{f(x + \lambda d)}{\lambda},$ 其中 $d \in \mathbb{R}^n$ 是一个给定的方向。回收函数表示了凸函数在“远离原点”的极限行为，即随着 $\lambda$ 增大，函数值相对于 $\lambda$ 的增长速度。

增减性对回收函数的影响
①如果原函数 $f(x)$ 在某方向 $d$ 上是单调递增的，那么回收函数 $f_{\infty}(x)$ 也会表现出单调递增的趋势。因为原函数的增长速度随着 $\lambda$ 的增大会趋向于某个常数，而这个常数会反映出函数在远离原点时的增长趋势。
② 如果原函数 $f(x)$ 在某方向 $d$ 上是单调递减的，那么回收函数 $f_{\infty}(x)$ 会表现为单调递减。回收函数的值趋向于负的常数，反映出在远离原点时，函数值的变化趋于某个负值。

简述极小共同问题与极大交叉问题并写出等式约束优化原始问题与对偶问题。
定义：设 $M$ 为 $\mathbb{R}^{n+1}$ 中非空子集：

极小公共点问题 (minimal common problem): 找出 $M$ 与 $n+1$ 轴的公共点中第 $n+1$ 个分量最小的点。
极大交叉点问题 (maximal crossing problem): 找出将 $M$ 包含于其“上闭半空间”的超平面与 $n+1$ 轴的交点中第 $n+1$ 个分量最大的点。

简述梯度法与次梯度法基本原理与收敛性质。

梯度法 (Gradient Method)

基本原理：
梯度法用于求解无约束凸优化问题，其基本思想是通过迭代的方法沿着目标函数的梯度方向进行优化。每次迭代更新：
$x_{k+1} = x_k - \alpha_k \nabla f(x_k),$
其中 $\alpha_k$ 是步长 $\nabla f(x_k)$ 是目标函数 $f$ 在点 $x_k$ 处的梯度。
收敛性：
①对于光滑的凸函数，梯度法通常具有线性收敛性。
② 对于强凸函数，梯度法的收敛速度更快，通常是二次收敛。
③收敛速度受步长的影响，步长选择得当时能保证较快的收敛。

次梯度法 (Subgradient Method)

基本原理：
次梯度法是梯度法的推广，适用于不可微的凸函数。每次迭代沿着目标函数的次梯度方向进行更新：
$x_{k+1} = x_k - \alpha_k g_k,$ 其中， $g_k$ 是目标函数在点 $x_k$ 处的次梯度。

收敛性：
①次梯度法对一般凸函数也具有渐近收敛性。
② 收敛速度通常较慢，通常为次线性收敛，即 $O(1/\sqrt{k})$ ，但对于非光滑函数，仍然有效。

总的来说，梯度法适用于光滑问题，收敛性较好；次梯度法适用于非光滑问题，收敛速度较慢但仍然有效。

二、计算题

令 $f(x)=x^T\left[\begin{array}{lll} 2 & 0 & 0 \\ 0 & 1 & 2 \\ 0 & 2 & 5 \end{array}\right] x+\left[\begin{array}{l} 1 \\ 0 \\ -1 \end{array}\right] x$ 为定义在 $R^3$ 上的二次函数，试求该函数的回收函数以及常值空间 $L_f$ 。

回收函数 $r_f(d)$ 的定义为：

$r_f(d) = \lim_{\alpha \to \infty} \frac{f(x + \alpha d) - f(x)}{\alpha},$

计算 $f(x + \alpha d) - f(x)$

首先计算 $f(x + \alpha d)$ ：

$f(x + \alpha d) = (x + \alpha d)^T A (x + \alpha d) + b^T (x + \alpha d).$

展开：

$f(x + \alpha d) = x^T A x + 2 \alpha x^T A d + \alpha^2 d^T A d + b^T x + \alpha b^T d.$

因此， $f(x + \alpha d) - f(x)$ 为：

$f(x + \alpha d) - f(x) = 2 \alpha x^T A d + \alpha^2 d^T A d + \alpha b^T d.$

计算回收函数

回收函数是：

$r_f(d) = \lim_{\alpha \to \infty} \frac{f(x + \alpha d) - f(x)}{\alpha} = \lim_{\alpha \to \infty} \frac{2 \alpha x^T A d + \alpha^2 d^T A d + \alpha b^T d}{\alpha}.$

分解为：

$r_f(d) = \lim_{\alpha \to \infty} \left( 2 x^T A d + \alpha d^T A d + b^T d \right).$

如果 $d = 0$ ，则：

$f(x + \alpha d) - f(x) = 0.$

所以：
$r_f(0) = \lim_{\alpha \to \infty} \frac{0}{\alpha} = 0.$

对于非零的方向 $d \neq 0$ ，回收函数的值趋于：

$r_f(d) = \lim_{\alpha \to \infty} \left( 2 x^T A d + \alpha d^T A d + b^T d \right).$

显然， $\alpha \to \infty$ 时：
$r_f(d) = \infty, \quad \text{对于} \, d \neq 0.$
综合上述情况，回收函数 $r_f(d)$ 的显式表达式为：

$r_f(d) = \begin{cases} \infty, & \text{如果} \, d \neq 0, \\ 0, & \text{如果} \, d = 0. \end{cases}$

因此常值空间 $L_f =\{ 0 \}$

写出集合 $A=\left\{x\in R^2 \mid x_1^2+(x_2-1)^2 \leq 1, x_2 \geq |x_1|\right\}$ 的所有极点构成的集合。

解答： $\{(0,0),(-1,1),(1,1)\}$

示意图

利用 MC/MC 对偶求解如下线性规划问题的对偶问题形式：

$\begin{align*} \text{minimize} \quad & c^T x \\ \text{subject to} \quad & a_j^T x \geq b_j \end{align*}$

其中 $a_j \in R^n, b_j \in R, j=1,\ldots, r$ .

这里：

$x \in \mathbb{R}^n$ 是决策变量。
$c \in \mathbb{R}^n$ 是目标函数的系数向量。
$a_j^T x \geq b_j$ 是 $r$ 个不等式约束。

对偶问题的构建
根据 MC/MC对偶的思想，我们引入 拉格朗日乘子 $\lambda_j \geq 0$ 对应于每个不等式约束 $a_j^T x \geq b_j$ 。

拉格朗日函数 $L(x, \lambda)$ 定义为：

$L(x, \lambda) = c^T x + \sum_{j=1}^r \lambda_j (b_j - a_j^T x),$
其中 $\lambda = (\lambda_1, \dots, \lambda_r)^T$ 是非负的拉格朗日乘子向量。
接下来我们分步骤构建对偶问题。

拉格朗日函数的极小化

为了将原问题转化为对偶形式，我们对 $x$ 进行极小化，得到：

$\inf_x L(x, \lambda) = \inf_x \left( c^T x + \sum_{j=1}^r \lambda_j (b_j - a_j^T x) \right).$

将拉格朗日函数整理一下：将 $x$ 相关的项提取出来：
$L(x, \lambda) = \left( c - \sum_{j=1}^r \lambda_j a_j \right)^T x + \sum_{j=1}^r \lambda_j b_j.$

对于固定的 $\lambda$ ，为了使 $\inf_x L(x, \lambda)$ 有界（或极小），我们要求：

$c - \sum_{j=1}^r \lambda_j a_j = 0.$

这表示 $c$ 可以表示为 $\lambda$ -加权的 $a_j$ ，即：

$c = \sum_{j=1}^r \lambda_j a_j.$

对偶目标函数

在满足 $c = \sum_{j=1}^r \lambda_j a_j$ 的条件下，拉格朗日函数的极小值为：

$\inf_x L(x, \lambda) = \sum_{j=1}^r \lambda_j b_j.$

因此，对偶问题的目标函数为：

$\text{maximize} \quad \sum_{j=1}^r \lambda_j b_j.$

对偶问题的约束

为了使拉格朗日函数 $L(x, \lambda)$ 有界，我们得到 $c$ 的约束条件：

$c = \sum_{j=1}^r \lambda_j a_j.$

此外，由于 $\lambda_j$ 是拉格朗日乘子，对应于不等式约束，所以必须满足非负性：

$\lambda_j \geq 0, \quad j = 1, \dots, r.$

对偶问题形式

将以上结果总结，得到原问题的 对偶问题：

$\begin{aligned} \text{maximize} \quad & \sum_{j=1}^r \lambda_j b_j \\ \text{subject to} \quad & \sum_{j=1}^r \lambda_j a_j = c, \\ & \lambda_j \geq 0, \quad j = 1, \dots, r. \end{aligned}$

4.定义函数：

$f(x)=\left\{ \begin{array}{ll} \sqrt{1-x^2} & |x|<1 \\ \infty & \text{otherwise} \end{array} \right.$

计算其共轭函数以及二次共轭函数。

图示

我们需要计算

$f^*(y) = \sup_{|x| < 1} \left( yx - \sqrt{1 - x^2} \right).$

首先，考虑目标函数 $g(x) = yx - \sqrt{1 - x^2}$ ，对其求导：

$g'(x) = y + \frac{x}{\sqrt{1 - x^2}}.$ 令其为零，得到：
$y + \frac{x}{\sqrt{1 - x^2}} = 0 \quad \Rightarrow \quad x = -y \sqrt{1 - x^2}.$

平方两边，解出 $x$ 和 $y$ 的关系
对方程两边平方，得到：
$x^2 = y^2 (1 - x^2).$
展开并整理得到：
$x^2 + y^2 x^2 = y^2 \quad \Rightarrow \quad x^2 (1 + y^2) = y^2 \quad \Rightarrow \quad x^2 = \frac{y^2}{1 + y^2}.$

因此， $x$ 可以表示为：
$x = \pm \frac{y}{\sqrt{1 + y^2}}.$

带入原式求共轭函数

现在将 $x = \pm \frac{y}{\sqrt{1 + y^2}}$ 代入目标函数 $yx - \sqrt{1 - x^2}$ ，计算：

$yx - \sqrt{1 - x^2} = y \cdot \frac{y}{\sqrt{1 + y^2}} - \frac{1}{\sqrt{1 + y^2}}.$

因此，共轭函数 $f^*(y)$ 为：

$f^*(y) = \frac{y^2}{\sqrt{1 + y^2}} - \frac{1}{\sqrt{1 + y^2}} = \frac{y^2 - 1}{\sqrt{1 + y^2}}.$

二次共轭函数

二次共轭函数 $f^{**}(x)$ 是对共轭函数 $f^*(x)$ 再次应用共轭操作。由于 $f^*(y)$ 只在 $|y| < 1$ 取有限值，因此 $f^{**}(x)$ 会恢复原函数 $f(x)$ 。因此，二次共轭函数是：
$f^{**}(x) = f(x) = \sqrt{1 - x^2} \quad \text{对于} \quad |x| < 1,$ 并且 $f^{**}(x) = \infty$ 对于 $|x| \geq 1$ 。

5.定义函数：
$f(x)=\left\{ \begin{array}{cc} |x|-2\sqrt{1-x} & -3 \leq x \leq 1 \\ \infty & \text{否则} \end{array} \right.$

计算次微分 $\partial f(x)$ .

图示

对于 $f(x) = |x|$ 部分：
- 若 $x > 0$ ，次微分 $\partial f(x) = \{1\}$ 。
- 若 $x < 0$ ，次微分 $\partial f(x) = \{-1\}$ 。
- 若 $x = 0$ ，次微分 $\partial f(0) = [-1, 1]$ 。
对于 $f(x) = -2\sqrt{1 - x}$ 部分：
- 导数是： $\frac{1}{\sqrt{1 - x}}$ 。
- 该部分在 $-3 \leq x < 1$ 内是光滑的。
合并两部分次微分：
- 当 $x > 0$ ： $\partial f(x) = \{ 1 + \frac{1}{\sqrt{1 - x}} \}$ 。
- 当 $x < 0$ ： $\partial f(x) = \{ -1 + \frac{1}{\sqrt{1 - x}} \}$ 。
- 当 $x = 0$ ： $\partial f(0) = [0, 2]$ 。

定义 $R^2$ 中集合：

$C=\left\{(x_1, x_2) \mid x_1 \geq 0, x_2 \geq 0, x_2 \leq x_1+1, x_2 \geq \frac{1}{2} x_1^2\right\}$

计算 C 在 $(0,0)$ , $(0,1)$ 两点处的切锥与法锥。

图例

在点 $(0,0)$ ：
- 切锥： $T_C(0,0) = \{ d \mid d_1 \geq 0, d_2 \geq 0 \}$
- 法锥： $N_C(0,0) = \{ v \mid v_1 \leq 0, v_2 \leq 0 \}$
在点 $(0,1)$ ：
- 切锥： $T_C(0,1) = \{ d \mid d_1 \geq 0, d_2 \leq d_1 \}$
- 法锥： $N_C(0,1) = \{ v \mid v_1 \leq 0, v_1+v_2 \leq 0 \}$

三、证明题

令 $f: \mathbb{R} \rightarrow \mathbb{R}$ 为凸函数，且 $x_1 < x_2 < x_3$ ，证明：
$\frac{f(x_2) - f(x_1)}{x_2 - x_1} \leq \frac{f(x_3) - f(x_2)}{x_3 - x_2}.$
证明：因为 $x_2 = \frac{x_3-x_2}{x_3-x_1}x_1 +\frac{x_2-x_1}{x_3-x_1}x_3$ 根据凸函数的性质
$f(x_2)\leq \frac{x_3-x_2}{x_3-x_1}f(x_1) +\frac{x_2-x_1}{x_3-x_1}f(x_3)$ 化简可得原式。

令 $X \subseteq \mathbb{R}^n$ 为非空集合，证明：
$\text{cone}(X) = \text{cone}(\operatorname{conv}(X)).$ ①我们先证： $\text{cone}(X) \subseteq \text{cone}(\operatorname{conv}(X))$
显然有 $X \subseteq \operatorname{conv}(X)$ ，
从而 $\operatorname{cone}(X)\in \text{cone}(\operatorname{conv}(X))$

②再证明 $\text{cone}(\operatorname{conv}(X)) \subseteq \text{cone}(X)$
证明: 对于任意 $y \in \text{cone}(\operatorname{conv}(X))$ ，存在 $z_1, z_2, \ldots, z_m \in \operatorname{conv}(X)$ 和 $\mu_1, \mu_2, \ldots, \mu_m \geq 0$ 使得 $y = \sum_{j=1}^m \mu_j z_j$ 。
其中每个 $z_j$ 可以表示为 $X$ 中元素的凸组合，即 $z_j = \sum_{i=1}^{k_j} \alpha_{ij} x_{ij}$ 其中 $x_{ij} \in X$ 和 $\alpha_{ij} \geq 0$ 且 $\sum_{i=1}^{k_j} \alpha_{ij} = 1$ 。
因此， $y$ 可以重写为 $X$ 中元素的凸组合，即 $y = \sum_{j=1}^m \sum_{i=1}^{k_j} \mu_j \alpha_{ij} x_{ij}$ ，其中 $\mu_j \alpha_{ij} \geq 0$ 。这表明 $y \in \text{cone}(X)$ 。
若 $A, B$ 是 $\mathbb{R}^n$ 中的非空集合，证明：
$\operatorname{conv}(A + B) = \operatorname{conv}(A) + \operatorname{conv}(B)$

证明分两部分进行：

①证明 $\operatorname{conv}(A + B) \subseteq \operatorname{conv}(A) + \operatorname{conv}(B)$

设 $x \in \operatorname{conv}(A + B)$ ，根据凸包的定义，存在有限个点 $(a_i + b_i) \in A + B$ 和非负权重 $\lambda_i$ （满足 $\sum \lambda_i = 1$ ），使得：
$x = \sum_{i} \lambda_i (a_i + b_i),$ 其中 $a_i \in A, b_i \in B$ 。
从而
$x = \sum_{i} \lambda_i a_i + \sum_{i} \lambda_i b_i.$

注意到 $\sum_{i} \lambda_i a_i$ 是集合 $A$ 的凸组合，因此属于 $\operatorname{conv}(A)$ 。类似地， $\sum_{i} \lambda_i b_i \in \operatorname{conv}(B)$ 。因此：
$x \in \operatorname{conv}(A) + \operatorname{conv}(B).$

由此可得：
$\operatorname{conv}(A + B) \subseteq \operatorname{conv}(A) + \operatorname{conv}(B).$

② 证明 $\operatorname{conv}(A) + \operatorname{conv}(B) \subseteq \operatorname{conv}(A + B)$

设 $x \in \operatorname{conv}(A) + \operatorname{conv}(B)$ ，则存在 $x_1 \in \operatorname{conv}(A)$ 和 $x_2 \in \operatorname{conv}(B)$ ，使得 $x = x_1 + x_2$ 。根据凸包的定义，分别有：
$x_1 = \sum_{i} \lambda_i a_i, \quad x_2 = \sum_{j} \mu_j b_j,$
其中 $a_i \in A, b_j \in B, \lambda_i \geq 0, \mu_j \geq 0, \sum_{i} \lambda_i = 1, \sum_{j} \mu_j = 1$ 。
因此：
$x = x_1 + x_2 = \sum_{i} \lambda_i a_i + \sum_{j} \mu_j b_j.$

通过重新组合权重，构造新的凸组合：
$x = \sum_{i,j} (\lambda_i \mu_j)(a_i + b_j),$ 其中 $a_i + b_j \in A + B$ ，且 $\lambda_i \mu_j \geq 0$ ，并且：
$\sum_{i,j} \lambda_i \mu_j = \left(\sum_i \lambda_i\right)\left(\sum_j \mu_j\right) = 1.$
因此， $x$ 是 $A + B$ 的凸组合，属于 $\operatorname{conv}(A + B)$ 。由此得出：
$\operatorname{conv}(A) + \operatorname{conv}(B) \subseteq \operatorname{conv}(A + B).$

设 $C$ 为 $\mathbb{R}^n$ 中的凸集，试证明 $\text{ri}(C)$ 是凸集。
我们先回忆凸集和相对内部的定义：

凸集 $C$ ：若对于任意 $x, y \in C$ 和任意 $t \in [0, 1]$ ，有 $tx + (1-t)y \in C$ ，则称 $C$ 是凸的。
相对内部 $\text{ri}(C)$ ： $C$ 在其仿射闭包中的内部点构成的集合。换句话说， $\text{ri}(C)$ 是 $C$ 的所有点 $x \in C$ ，满足存在一个以 $x$ 为中心的相对开球完全包含在 $C$ 中。

证明

假设有 $x, y \in \text{ri}(C)$
设 $x, y \in \text{ri}(C)$ ，则根据相对内部的定义，存在公共 $\varepsilon > 0$ ，使得下面的两个相对开球：
$B_x = \{x +u : u \in \text{aff}(C),|u| < \varepsilon\} \subseteq C,$ $B_y = \{y + v : v \in \text{aff}(C),|v| < \varepsilon\} \subseteq C,$ 其中 $\text{aff}(C)$ 表示 $C$ 的仿射包。

任取 $t \in [0, 1]$ ，证明 $z = tx + (1-t)y \in \text{ri}(C)$

我们需要验证 $z$ 满足相对内部的定义。定义：
$B_z = \{z+ w : w \in \text{aff}(C),|w| < \varepsilon\}$ 对于这样一个相对开球中的任意一个元素，我们有：
$z + w = tx + (1-t)y+w=t(x + w) + (1-t)(y + w).$ 注意到：

$x + w \in B_x \subseteq C$ ，
$y + w \in B_y \subseteq C$ 。

由于 $C$ 是凸的，并且 $t \in [0, 1]$ ，由凸性的定义可知：
$z + w = t(x + w) + (1-t)(y + w) \in C.$ 因此， $B_z \subseteq C$ 。结合 $z \in B_z$ ，我们可以得出 $z \in \text{ri}(C)$ 。
综上，我们发现，对于连接 $x,y$ 的线段上的任意一点 $z$ ,我们都可以找到包含 $z$ 的一个相对开球，包含于 $\text{aff}(C)$ ，由此可以证明 $\text{ri}(C)$ 也是一个凸集。

设 $C_1, C_2 \subseteq \mathbb{R}^n$ 为非空锥集合，证明：
$(C_1 + C_2)^* = C_1^* \cap C_2^*.$

定义与性质回顾

锥集合 $C$ ：如果 $x \in C$ 且 $\alpha \geq 0$ ，则 $\alpha x \in C$ 。
对偶锥 $C^*$ ：对偶锥是所有与 $C$ 中每个元素的内积非负的向量组成的集合。

证明 $(C_1 + C_2)^* \subseteq C_1^* \cap C_2^*$

设 $y \in (C_1 + C_2)^*$ ，则对 $C_1 + C_2 = \{x_1 + x_2 : x_1 \in C_1, x_2 \in C_2\}$ 中的任意 $x_1 \in C_1, x_2 \in C_2$ ，有：
$\langle y, x_1 + x_2 \rangle \geq 0.$ 利用内积的线性性，得：
$\langle y, x_1 \rangle + \langle y, x_2 \rangle \geq 0.$ 由于这个式子对任意 $x_1 \in C_1$ 和 $x_2 \in C_2$ 成立，因此可以分别得到：

令 $x_2$ 的模长趋近于 $0$ ,可以得到：
$\langle y, x_1 \rangle \geq 0 \quad (\forall x_1 \in C_1),$
令 $x_1$ 的模长趋近于 $0$ ，可以得到: $\langle y, x_2 \rangle \geq 0 \quad (\forall x_2 \in C_2).$ 这表明 $y \in C_1^*$ 且 $y \in C_2^*$ ，因此：
$y \in C_1^* \cap C_2^*.$ 由此得到：
$(C_1 + C_2)^* \subseteq C_1^* \cap C_2^*.$

证明 $C_1^* \cap C_2^* \subseteq (C_1 + C_2)^*$
设 $y \in C_1^* \cap C_2^*$ ，则对任意 $x_1 \in C_1$ 和 $x_2 \in C_2$ ，有：
$\langle y, x_1 \rangle \geq 0, \quad \langle y, x_2 \rangle \geq 0.$ 因此，对任意 $x \in C_1 + C_2$ ，即 $x = x_1 + x_2$ （其中 $x_1 \in C_1, x_2 \in C_2$ ），有：
$\langle y, x \rangle = \langle y, x_1 + x_2 \rangle = \langle y, x_1 \rangle + \langle y, x_2 \rangle \geq 0.$ 这表明 $y \in (C_1 + C_2)^*$ 。因此：
$C_1^* \cap C_2^* \subseteq (C_1 + C_2)^*.$ 综上可以得到：
$(C_1 + C_2)^* = C_1^* \cap C_2^*.$

令 $X \subseteq \mathbb{R}^n$ 为凸集， $x$ 为 $X$ 中某向量，证明： $X$ 在 $x$ 处的可行方向集为凸集。

证明
假设 $b,d$ 为 $X$ 在 $x$ 处的可行方向。
我们知道，对于任意的 $\alpha > 0$ ，都有 $x+\alpha b \in X,x + \alpha d\in X$ .
考虑两个可行方向的凸组合 $tb + (1-t)d,t\in [0,1]$
$x + \alpha[tb+ (1-t)d] = t(x+\alpha b) + (1-t)(x + \alpha d )$ 根据凸集的性质，我们知道这个凸组合是包含于 $X$ 的。
所以说 $X$ 在 $x$ 处的可行方向集是一个凸集。