算法概论笔记 - 线性规划

线性规划LP

适用条件

  1. 解满足一定的约束条件
  2. 在所有满足约束的可能解中,根据某个定义良好的评判标准,该解是最优的
  3. 约束条件和优化准则都可以表示为线性函数

线性约束条件可以转换为矩阵和向量的形式

例外

  1. 约束条件过紧,导致所有约束不能同时满足
  2. 约束条件过松,导致可行区域无界

单纯形法
该方法沿着凸可行区域的表面移动,不断改进目标函数值,最终找到最优解

归约

如果解决某个计算任务Q的算法可以用于求解计算任务P,则我们说P可被归约到Q。归约增强了算法的能力,对于线性规划而言这一点尤为重要。

线性规划
线性规划形式上自由度很大

  1. 可能是最大化问题也可能是最小化问题
  2. 约束条件可能是等式也可能是不等式
  3. 变量可以具有任意符号

但这些不同形式的线性规划都可以通过简单的归约实现相互转化

  1. 目标函数两边同时乘以-1,可将最大值问题转变为最小值问题(或者反之)
  2. 引入新的参数(例如s),将条件中的不等式转变为等式,其中s成为不等式的松弛变量
  3. 对于不确定符号的变量x,引入两个非负的变量![](http://latex.codecogs.com/svg.latex?x^+, x-),用![](http://latex.codecogs.com/svg.latex?x+- x^-)替代x
    因此我们可以将任意LP归约到具有某种特定形式的LP。这种形式成为LP的标准型,其中所有的变量非负,采用等式约束条件,并且都以目标函数最小化为目标
网络流问题
LP解法

给定有向图G=(V, E),其边容量为

。有两个顶点,发点s和收点t,最大流问题就是确定从s到t可以通过的最大流量。其中,![](http://latex.codecogs.com/svg.latex?e \in E)

我们对每条边赋予一个变量

,使其满足如下约束:

  1. 不超过边的容量,
  2. 对于s和t之外的任意节点u,流入u的流量等于流出u的流量

同时,使如下线性目标函数取值最大:

  • 起点出发的所有

    总和最大或者至终点出发的所有
    总和最大

最大流问题被归约成了一个线性规划问题

最小分割最大流定理

若将网络流中的节点分为两个不相交的集合L和R,并使s和t分别属于L和R。由于网络流必须经过L到达R,因此,没有哪个流的规模能够超过L到R的边的总容量。


网络图中最大流的规模等于其中(s, t)分割的最小容量

应用:完美匹配

对偶

在网络流中流的规模总是小于分割的容量,只有最大流和最小分割完全一致,并且相互确保了对方的最优性。实际上,每个线性的最大化问题都有一个对偶的最小问题,而且前后两个问题之间的关系非常类似于流与分割之间的关系。

构造对偶问题

  1. 为每个约束条件指定一个乘法因子
  2. 对原问题目标函数中的每个变量,写出对偶问题中相应的约束,使得不等式约束的右侧值总是大于原问题目标函数中该变量的系数
  3. 以原问题约束条件右侧值为系数的对偶问题目标函数求最优解

原问题
![](http://latex.codecogs.com/svg.latex?\quad max x_1+6x_2)
![](http://latex.codecogs.com/svg.latex?\quad x_1 <= 200)
![](http://latex.codecogs.com/svg.latex?\quad x_2 <= 300)
![](http://latex.codecogs.com/svg.latex?\quad x_1 + x_2 <= 400)
![](http://latex.codecogs.com/svg.latex?\quad x_1,x_2 >= 0)

![](http://latex.codecogs.com/svg.latex?c^T=\begin{pmatrix}1 \6 \\end{pmatrix})

![](http://latex.codecogs.com/svg.latex?A=\begin{pmatrix}1 & 0 \0 & 1 \1 & 1 \\end{pmatrix})

![](http://latex.codecogs.com/svg.latex?b=\begin{pmatrix}200 \300 \400 \\end{pmatrix})

对偶问题
![](http://latex.codecogs.com/svg.latex?\quad min 200y_1+300y_2+400y_3)
![](http://latex.codecogs.com/svg.latex?\quad y_1+y_2 >= 1)
![](http://latex.codecogs.com/svg.latex?\quad y_2+y_3 >= 6)
![](http://latex.codecogs.com/svg.latex?\quad y_1,y_2,y_3 >= 0)

矩阵转置即是把矩阵的行列互换


如果一个线性规划的最优目标函数值有界,则其对偶的最优目标函数值也有界,并且二者相等

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,186评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,858评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,620评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,888评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,009评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,149评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,204评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,956评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,385评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,698评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,863评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,544评论 4 335
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,185评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,899评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,141评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,684评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,750评论 2 351

推荐阅读更多精彩内容