追尋單純形法的幾何直觀

在算法江湖中一直流傳著單純形法的各式傳說,George Dantzig 做課後作業搞出的單純形法啦,單純形法就是在高維凸面體的頂點間遊走啦,單純形法是高斯消元法的變形啦(這貨哪像高斯消元法了?!)……

也許,單純形法的晦澀源於它處理的是高維空間。下面,我們從實例出發,看看能否參悟這隱藏在代數中的幾何直觀吧。

我們先來看看這個問題:

max 2x + y
s.t.     x +  y ≤  5
        2x + 3y ≤ 12
         x      ≤  4
and x, y ≥ 0

一切都是從妄想開始的。我們要讓z = 2x + y儘可能地大。注意到x, y ≥ 0,而z - 2x - y = 0。要是xy前的係數是正的就好了,比如z + 2x + 3y = 17,那我們立馬可以得出z_max = 17。因為z要儘可能大,那xy就得儘可能小,當它們縮至零時,z取得最大值。那怎麼才能約束變元的係數“轉正”呢?

現在,我們先放一放“轉正”的事,考慮一下如何把不等式變為等式。其實很簡單,補足。2x + 3y不是小於或等於12嘛,那就加上一個大於或等於零的變元,即2x + 3y + v = 12, v ≥ 0。這樣一來,問題就變成了半個線性代數問題了:

z - 2x -  y             =  0
     x +  y + u         =  5
    2x + 3y     + v     = 12
     x              + w =  4
and x, y, u, v, w ≥ 0

話說無端給你多整出三變元來,不是“酒入愁腸愁更愁”嘛。在此按住不表,我們先來看看那五條約束圍成的區域:

 x +  y ≤  5
2x + 3y ≤ 12
 x      ≤  4
 x      ≥  0
      y ≥  0
x1, x2

現在我們把方程組變換個形式:

 y +  u + x         =  5
 y - 2u     + v     =  2
-y -  u         + w = -1
and x, y, u, v, w ≥ 0

上面這組方程等價于下面這組約束:

 y +  u ≤  5
 y - 2u ≤  2
-y -  u ≤ -1
 y      ≥  0
      u ≥  0

畫出圖來就是:

x2, x3

你看出门道了吗?还没有,那我们继续变换:

(什麼時候我才能把這篇給寫完啊!!!)

require 'pp'
require 'set'

DEBUG = false

class String
    def to_terms() self.gsub("-", "+-").split(/\\s*\\+/).select{|e| e != ""} end

    def to_pair
        r = /
             ( (\\-)? (\\d+(\\.\\d+)?)? )   # e.g. -3.2, 4, -
             \\*?
             (\\w+ (\\d+)?)             # e.g. x2
            /x
        if r =~ self.gsub(/\\s+/, "")
            c = $3.nil? ? 1 : $3.to_f
            c = -c if not $2.nil?
            return $5.to_sym, c
        else
            p "err!"
        end
    end
end

class Array
    def scalar_mult!(c) self.map! {|e| e*c} end
    def scalar_mult(c) self.map {|e| e*c} end
    def vector_add!(v) self.each_with_index {|_, i| self[i] += v[i]} end
end

class Hash
    def dot_prod
        e = []
        self.each do |k, v|
            if v != 0
                if v == 1
                    e << k.to_s
                elsif v == -1
                    e << ("-" + k.to_s)
                else
                    e << (v.to_s + k.to_s)
                end
            end
        end
        e.join(' + ').gsub("+ -", "- ")
    end
end

class Simplex
    def initialize(path)
        m = /
             (max|Maximize) \\s+ (.+?) \\n
             \\s* (s\\.t\\.|subject \\s+ to) \\s+ (.+?)\\.
            /mx

        if m =~ File.read(path)
            @z_equ = {:b => 0}          # objective equation
            $2.to_terms.each do |term|
                k, v = term.to_pair
                @z_equ[k] = -v
            end

            @nonbasic_vars = []
            @basic_vars = []
            @matrix = []
            idx = 1
            $4.split(/[\\n,]/).each do |inequalities|
                if / (\\w+(\\d+)?) \\s* >= \\s* 0 /x =~ inequalities        # xi >= 0
                    @nonbasic_vars << $1.to_sym
                elsif / \\s* (.+?) \\s* <= \\s* (\\d+(\\.\\d+)?) /x =~ inequalities
                    lhs, rhs = $1.to_s, $2.to_f
                    equ = {:b => rhs, :"$#{idx}" => 1}
                    @basic_vars << :"$#{idx}"
                    idx += 1
                    lhs.to_terms.each do |t|
                        k, v = t.to_pair
                        equ[k] = v
                    end
                    @matrix << equ
                else
                    p "err!"
                end
            end
        else
            p "err!"
        end
    end

    def canonical_form
        @vars = @nonbasic_vars + @basic_vars
        @mtr = [[]]     # coefficient matrix
        @vars.each_with_index do |x, k|
            @mtr[0][k] = @z_equ[x] || 0
        end
        @mtr[0] << @z_equ[:b]
        @matrix.each_with_index do |row, i|
            ary = []
            @vars.each_with_index do |x, j|
                ary[j] = row[x] || 0
            end
            ary << row[:b]
            @mtr << ary
        end
        puts "max " + @z_equ.dot_prod
        print "s.t.\\n"
        @matrix.each {|r| print "#{r.select{|k, v| k!=:b}.dot_prod} = #{r[:b]}\\n"}
        print "and " + @vars.join(" >= 0, ") + " >= 0.\\n"


    end

    def mtr_display()
        @mtr.each do |r|
            puts Hash[*@vars.zip(r).flatten].dot_prod + " = #{r[-1]}"
        end
    end

    def solve
        DEBUG && puts("---------------------------------------------------------------")
        DEBUG && mtr_display
        pivot_c = @mtr[0].min
        pivot_var = @mtr[0].index pivot_c
        if pivot_c >= 0
            @z_max = @mtr[0][-1]
        else
            n = @mtr.size - 1
            idx = 1
            _a = @mtr[1][pivot_var]
            _b = @mtr[1][-1]
            (1..n).each do |i|
                idx = i if _a * @mtr[i][-1] < _b * @mtr[i][pivot_var]
            end
            v_i = @vars.index :"$#{idx}"
            c = 1.0/@mtr[idx][pivot_var]
            @mtr[idx].scalar_mult! c
            @mtr.each_with_index do |row, i|
                if i != idx
                    row.vector_add!(@mtr[idx].scalar_mult(-@mtr[i][pivot_var])) 
                end
            end
            DEBUG && puts("         ...(#{@vars[v_i]} -> #{@vars[pivot_var]})...")
            DEBUG && mtr_display
            self.solve
        end
        @z_max
    end
end

s = Simplex.new("./simplex.data")
s.canonical_form
puts "\\nf(z)_max = #{s.solve}"

simplex.data:

max 2x1 + x2
s.t.    x1 <= 4
    2x1 + 3x2 <= 12
    x1 + x2 <= 5
    x1 >= 0, x2 >= 0.

輸出:

max -2.0x1 - x2
s.t.
$1 + x1 = 4.0
$2 + 2.0x1 + 3.0x2 = 12.0
$3 + x1 + x2 = 5.0
and x1 >= 0, x2 >= 0, $1 >= 0, $2 >= 0, $3 >= 0.

f(z)_max = 9.0
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,451评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,172评论 3 394
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,782评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,709评论 1 294
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,733评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,578评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,320评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,241评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,686评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,878评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,992评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,715评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,336评论 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,912评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,040评论 1 270
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,173评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,947评论 2 355

推荐阅读更多精彩内容

  • 为何叫做 shell ? shell prompt(PS1) 与 Carriage Return(CR) 的关系?...
    Zero___阅读 3,150评论 3 49
  • 提問的智慧 How To Ask Questions The Smart Way Copyright © 2001...
    Albert陈凯阅读 2,299评论 0 8
  • 最近在看小别离,之前已经有很多朋友推荐过了,出于好奇看了一眼,确实很有意思,并且把几个不同背景不同条件的家庭焦虑展...
    胖主任阅读 239评论 0 0
  • 阳光明媚,一路向南朝着家的向,终于在历经29小时后抵达怀化。对于怀化这座城市,一直是匆匆过客。不管是北漂的时候还是...
    晗颖Jane阅读 189评论 0 0
  • 文/夏目若安 我把我们的故事拆开了、揉碎了,写进笔下的每个故事里,人物里。在笔下,我们相爱相杀相忘于江湖。曾经想要...
    夏目若安阅读 306评论 5 9