2.凸函数及其判定

凸函数

假设C \subset R^n为一个凸集,如果对于任意的x,y \in C,\alpha \in [0,1]都有f(\alpha x +(1-\alpha)y) \leq \alpha f(x) + (1-\alpha )f(y)成立,我们就称f: C \longrightarrow R为是实值凸函数(real-valued convex function)。 如果上面的小于等于号\leq改成小于号<,我们称f(x)是严格凸的。

凸函数

反正,如果-f是凸函数,我们称f是凹函数。如果-f是严格凸,我们称f是严格凹的。

一些常见的凸函数的例子

  • 仿射函数 y = a^T x + b
  • 范数 一范数,二范数,无穷范数
  • 二次函数 y = xQx^t + g^Tx + h,其中Q是正定矩阵。

水平集

假设任意函数f: C \longrightarrow R, \gamma为一个标量,我们称:
S_{\gamma} = \{ x | f(x) < \gamma\} \ \ \ or \ \ S_{\gamma} = \{ x | f(x) \leq \gamma\}
f的水平集(level set)。

水平集

注意:凸集的水平集一定是凸的,但是反过来不一定。

拓展实值函数

对于一个普通定义在集合C上的实值函数,讨论它时可能有诸多问题,因此我们希望可以把定义域拓展到R^n上,由此引出拓展实值函数的概念。

拓展实值函数(extended real-valued function)

  • 定义域:从 C拓展到R^n
  • 值域:从R拓展到\overline{R} = R \cup \{ -\infty, + \infty \}

但是我们发现,通过对定义域和值域扩充后无法通过凸函数的定义来判断函数的凸性了,因为无穷大的数无法比较大小。所以我们引入上镜图(epigraph)这一概念。

上镜图

定义:设函数 f: C \rightarrow \mathbb{R},称如下集合:

\text{epi}(f) = \left\{ (x, w) \left| x \in C, w \in \mathbb{R}, f(x) \leq w \right. \right\} \subseteq \mathbb{R}^{n+1}

为函数 f 的上镜图(epigraph)。

上镜图

一个实值函数经过拓展后,他的上镜图保持不变。


定义:函数 f 的有效定义域 (effective domain) 为:

\operatorname{dom}(f) = \{ x \in \mathbb{R}^n | f(x) < +\infty \}

从几何上看,\operatorname{dom}(f)\text{epi}(f)\mathbb{R}^n 上的投影。

有效域

Theorem (函数凸性和上镜图凸性)

实值函数 f: C \rightarrow \mathbb{R} 是凸函数当且仅当 epi(f) 是凸集。

Theorem (凸函数连续性)

f: \mathbb{R}^n \rightarrow \mathbb{R} 为凸函数,则 f 是连续函数。

注意:题目中的定义域为R^n是非常必要的,如若不然,很可能结论就是不成立的,我们看下面的例子:

反例

如图,f(x)是定义在集合[0,+\infty)上的凸函数,可以看到,它并不是连续的。


下半连续性

定义:闭函数 (Closed Function)

若函数 f: C \rightarrow [-\infty, \infty] 的上镜图是闭集,则称 f 是闭函数 (closed function)。

定义:下半连续 (Lower Semicontinuous)

对于 C 中任意序列 \{x_k\} \rightarrow x,若

f(x) \leq \liminf_{k \rightarrow \infty} f(x_k) = \lim_{k \rightarrow \infty} \inf_{p \geq 0} f(x_{k+p})

则称 fx 处下半连续 (lower semicontinuous)。

下半连续

对下半连续的理解:函数f(x)x处实际取到的函数值,比它在x处的任何一个极限值都要小。

Theorem (闭性与下半连续)

设函数 f: \mathbb{R}^n \rightarrow [-\infty, \infty],如下3个条件等价:

  • 对于任意数量 \gamma \in \mathbb{R},水平集 S_\gamma = \{x \mid f(x) \leq \gamma\} 是闭的;
  • f 下半连续;
  • \text{epi}(f) 是闭的。
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,012评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,628评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,653评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,485评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,574评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,590评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,596评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,340评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,794评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,102评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,276评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,940评论 5 339
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,583评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,201评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,441评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,173评论 2 366
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,136评论 2 352

推荐阅读更多精彩内容