《凸优化理论》笔记:前言

简介

凸优化理论是非线性规划研究领域的核心成果,也是研究一般非线性规划问题的理论基础。
本文...介绍凸优化的一个完整理论分析框架。凸优化的理论基础在于对偶。...对偶的本质在于闭的凸集有两种等价的描述方式:用该机和包含的所有点的并集来描述,或用超平面描述,也即凸闭集等于所有包含它的闭半空间的交集。本文选取最小公共点/最大相交点的几何框架(MC/MC框架)作为凸优化问题的对偶性分析的基础框架。

本文的主要内容:

  • 凸分析的基本概念
  • 多面体凸性
  • 凸优化的基本概念
  • 对偶原理的几何框架
  • 对偶性在优化中的运用

本文的作者是 美国工程院院士Dimitri P. Bertsekas,老爷子的主页在这里

前言

优化的重点在于推导出约束问题存在原始和对偶最优解的条件。一个例子:

\begin{equation} \begin{aligned} &\text{minimize}\ f(x) \\ &\text{subject to } x\in X, g_j(x)\leq 0, j=1,\dots,r. \end{aligned} \end{equation}

最小最大问题的重点是推导保证等式
\inf_{x\in X} \sup_{z\in Z}\phi(x,z) = \sup_{z\in Z}\inf_{x\in X} \phi(x,z)
成立,以及下确界inf和上确界sup可取到的条件。

对偶框架

基于两个几何问题:最小公共点问题(min common point problem)和最大相交点问题(max crossing point problem)
优点:几何上的直观性
思路:MC/MC框架\rightarrow 一系列定理 \rightarrow 解决特定问题

补充

算法部分在本书网站

本书习题及答案可见网页

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

友情链接更多精彩内容