Dantzig&Wolfe分解(简称DW分解)[1]是一种列生成技巧,可以把一类特殊形式线性规划问题分解成若干子问题进行求解.
问题描述
我们考虑如下形式的线性规划问题:
其中, , .
说明
- 上述规划共组约束. 第一组约束包含了所有的决策变量, 称为连接约束(Linking constraints), 接下来是组独立的约束.
- 都是向量.
- 上述规划如果写成标准形式, 其系数矩阵的维度是. 我们发现实际上是相对稀疏的. 当, 的非常大时, 矩阵的规模可能大到无法直接求解上述规划. 在这种情况下, 我们考虑把它分解成多个子问题进行求解(DW分解).
应用场景
例1 一个公司有个部门, 各部门有独立的约束, 部门之间也有约束. 目标是最小化所有部门的总成本.
例2 一个零售公司有个仓库, 需要决定每个仓库存放的商品. 每个仓库中对商品有一些约束. 商品关于各仓库也需要满足一些约束. 目标是最小化总的成本(例如配送成本/时效等).
主问题
令. 如果是有界的, 那么可以表示成顶点的凸组合. 设代表的顶点(Extreme point), 则存在且使得
在一般情况下(无界或有界时), 它可以用顶点和极射线的线性组合来表示(参考 Minkowski表示定理). 具体来说, 令代表极射线(Extreme ray). 则存在且, 使得
假设我们枚举所有的顶点和极射线. 把上式代入原问题得到主问题(Master problem):
主问题
说明
- , 是决策变量.
- 约束的数量为(第一个等式包含了个约束). 原问题的约束数量是. 因此主问题的约束数量明显减少了.
- 但是主问题的变量显著增加了(对应所有的顶点和极射线). 与列生成技巧相似, 主问题一开始只考虑两个可行解(对应顶点和极射线). 通过求解子问题得到新的顶点或极射线.
- 在实际问题中, 一般情况下都是有界的. 此时主问题可以简化成如下形式.
子问题
定义主问题的对偶变量, , . 我们计算变量的Reduced Cost:
其中, 分别代表的reduced cost. 当, 时得到原问题的最优解. 因此在子问题中, 我们需要计算(或)使得的值尽可能小.
子问题 -
求解子问题时考虑三种情况.
- 最优解的目标值为. 此时, 子问题的解是极射线. 我们把加入到主问题进行求解.
- 最优解的目标值有界且. 此时, 子问题的解是顶点. 我们把加入到主问题进行求解.
- 最优解的目标值有界且. 此时(注意到实际上), 得到最优解.
例子: 一个选品问题
考虑个零售品牌商, 每个零售品牌商有自己的商品(SKU), 例如可口可乐, 雪碧和芬达对应同一家品牌商. 一家电商平台需要从个品牌中选择一些商品做营销活动. 已知每个商品的营销成本, 商品预期的收益和营销的预算. 在总营销费用不超过预算且每个品牌选中商品数量有限制的前提下, 如何选择商品使得预期的收益最大化?
我们先考虑一个直观的数学模型.
indices
- -- 品牌
- -- 商品
parameters
- -- 商品是否属于品牌
- -- 商品的预期收益
- -- 商品的营销成本
- -- 选中品牌的商品数量上限
- -- 营销费用的总预算
decision variables
- -- 是否选择商品
模型1
当品牌和商品数量较大时, 例如1000品牌和10万商品, 这时参数的规模是1亿, 因此直接求解非常困难. 注意到每个品牌的商品是不一样的, 因而矩阵非常稀疏, 我们可以把每个品牌中的商品分开考虑, 得到如下模型.
indices
- -- 品牌
- -- 商品
parameters
- -- 品牌的商品数量
- -- 品牌中商品的预期收益,
- -- 品牌中商品的营销成本,
- -- 品牌可以被选中的商品数量上限
- -- 营销费用的总预算
decision variables
- -- 是否选择品牌中的商品,
模型2
模型1和模型2本质上是相同的, 因此当品牌数和商品数量非常大时直接求解模型2依然非常困难. 下面我们使用DW分解进行求解.
令, . 注意到是有界的, 我们用
代表的顶点, 因此可以被表示成如下形式:
把它代入模型2中我们得到主问题的形式.
主问题
定义对偶变量和, . 计算对应的reduced cost:
注意: 主问题是最大化问题, 因此意味着可以提升主问题的目标函数值. 我们有:
- 子问题是最大化问题.
- 当所有为时主问题达到最优.
子问题 -
初始化
对任意的, 定义向量:
显然是每个约束的可行解, 即, . 我们用作为主问题初始化的顶点.
Remark. 前文的推导过程要求是多面体的顶点, 但上面的定义并不满足此条件. 这么做可行的原因是任意可行解本身就是多面体顶点的凸组合.
求解
求解的基本步骤如下:
- 初始化主问题, 求解子问题的输入参数
- 求解个子问题,分别计算对应的Reduced Cost . 如果, 则把对应的解加入到主问题. (可以理解为迭代的次数)
- 如果所有的, 则停止迭代;否则迭代求解主问题和子问题直到满足停止条件.
Python实现
主问题模型
# master_model.py
from ortools.linear_solver import pywraplp
class MasterModel(object):
def __init__(self, p, v, c, d):
"""
:param p: p[i][j]代表品牌i中商品j的预期收益
:param v: v[i]代表第i个子问题的解
:param c: c[i][j]代表品牌i中商品j的营销成本
:param d: scalar, 总预算
"""
self._solver = pywraplp.Solver('MasterModel',
pywraplp.Solver.GLOP_LINEAR_PROGRAMMING)
self._p = p
self._v = v
self._c = c
self._d = d
self._la = None # 决策变量lambda
self._constraint_y = None # 约束
self._constraint_z = [] # 约束
self._solution_la = None # 计算结果
def _init_decision_variables(self):
self._la = [[]] * len(self._v)
self._solution_la = [[]] * len(self._v) # 初始化保存结果的变量
for i in range(len(self._v)):
self._la[i] = [[]] * len(self._v[i])
self._solution_la[i] = [[]] * len(self._v[i]) # 初始化保存结果的变量
for k in range(len(self._v[i])):
self._la[i][k] = self._solver.NumVar(0, 1, 'la[%d][%d]' % (i, k))
def _init_constraints(self):
self._constraint_y = self._solver.Constraint(0, self._d)
for i in range(len(self._v)):
for k in range(len(self._v[i])):
f = 0
for j in range(len(self._v[i][k])):
f += self._c[i][j] * self._v[i][k][j]
self._constraint_y.SetCoefficient(self._la[i][k], f)
self._constraint_z = [None] * len(self._v)
for i in range(len(self._v)):
self._constraint_z[i] = self._solver.Constraint(1, 1)
for k in range(len(self._la[i])):
self._constraint_z[i].SetCoefficient(self._la[i][k], 1)
def _init_objective(self):
obj = self._solver.Objective()
for i in range(len(self._v)):
for k in range(len(self._v[i])):
f = 0
for j in range(len(self._v[i][k])):
f += self._p[i][j] * self._v[i][k][j]
obj.SetCoefficient(self._la[i][k], f)
obj.SetMaximization()
def solve(self):
self._init_decision_variables()
self._init_constraints()
self._init_objective()
self._solver.Solve()
# 保存计算结果
for i in range(len(self._v)):
for k in range(len(self._v[i])):
self._solution_la[i][k] = self._la[i][k].solution_value()
def get_solution_value(self):
return self._solution_la
def get_y(self):
""" 获取对偶变量y的值
"""
return self._constraint_y.dual_value()
def get_zi(self, i):
""" 获取对偶变量z[i]的值
"""
return self._constraint_z[i].dual_value()
def get_obj_value(self):
res = 0
for i in range(len(self._p)):
for k in range(len(self._v[i])):
for j in range(len(self._p[i])):
res += self._solution_la[i][k] * self._p[i][j] * self._v[i][k][j]
return res
def get_solution_x(self):
""" 得到原问题的解. x[i][j] = sum(la[i][k] * v[i][k][j]) over k.
"""
x = [[]] * len(self._v)
for i in range(len(self._v)):
x[i] = [0] * len(self._v[i][0])
for i in range(len(self._v)):
for k in range(len(self._v[i])):
for j in range(len(self._v[i][k])):
x[i][j] += self._solution_la[i][k] * self._v[i][k][j]
return x
子问题模型
# sub_model.py
from ortools.linear_solver import pywraplp
import numpy as np
class SubModel(object):
""" 子问题i
"""
def __init__(self, pi, ci, y, bi):
""" 下标i忽略
:param pi: list, pi := p[i] = [p1, p2, ..., ]
:param ci: list, ci := c[i] = [c1, c2, ..., ]
:param y: scalar
:param bi: scalar
"""
self._solver = pywraplp.Solver('MasterModel',
pywraplp.Solver.CBC_MIXED_INTEGER_PROGRAMMING)
self._pi = pi
self._ci = ci
self._y = y
self._bi = bi
self._x = None # 决策变量
self._solution_x = None # 计算结果
def _init_decision_variables(self):
self._x = [None] * len(self._pi)
for j in range(len(self._pi)):
self._x[j] = self._solver.IntVar(0, 1, 'x[%d]' % j)
def _init_constraints(self):
ct = self._solver.Constraint(0, self._bi)
for j in range(len(self._pi)):
ct.SetCoefficient(self._x[j], 1)
def _init_objective(self):
obj = self._solver.Objective()
for j in range(len(self._pi)):
obj.SetCoefficient(self._x[j], self._pi[j] - self._y * self._ci[j])
obj.SetMaximization()
def solve(self):
self._init_decision_variables()
self._init_constraints()
self._init_objective()
self._solver.Solve()
self._solution_x = [s.solution_value() for s in self._x]
def get_solution_x(self):
return self._solution_x
def get_obj_value(self):
p = np.array(self._pi)
c = np.array(self._ci)
x = np.array(self._solution_x)
return sum((p - self._y * c) * x)
DW分解的求解过程
# dw_proc.py
from master_model import MasterModel
from sub_model import SubModel
class DWProc(object):
def __init__(self, p, c, d, b, max_iter=1000):
"""
:param p: p[i][j]代表品牌i中商品j的预期收益
:param c: c[i][j]代表品牌i中商品j的营销成本
:param d: 总营销成本, int
:param b: b[i]代表选中品牌i的商品数量限制
"""
self._p = p
self._c = c
self._d = d
self._b = b
self._v = None # 待初始化
self._max_iter = max_iter
self._iter_times = 0
self._status = -1
self._reduced_costs = [1] * len(self._p)
self._solution_x = None # 计算结果
self._obj_value = 0 # 目标函数值
def _stop_criteria_is_satisfied(self):
""" 根据reduced cost判断是否应该停止迭代.
注意: 这是最大化问题, 因此所有子问题对应的reduced cost <= 0时停止.
"""
st = [0] * len(self._reduced_costs)
for i in range(len(self._reduced_costs)):
if self._reduced_costs[i] < 1e-6:
st[i] = 1
if sum(st) == len(st):
self._status = 0
return True
if self._iter_times >= self._max_iter:
if self._status == -1:
self._status = 1
return True
return False
def _init_v(self):
""" 初始化主问题的输入
"""
self._v = [[]] * len(self._p)
for i in range(len(self._p)):
self._v[i] = [[0] * len(self._p[i])]
def _append_v(self, i, x):
""" 把子问题i的解加入到主问题中
:param x: 子问题i的解
"""
self._v[i].append(x)
def solve(self):
# 初始化主问题并求解
self._init_v()
mp = MasterModel(self._p, self._v, self._c, self._d)
mp.solve()
self._iter_times += 1
# 迭代求解主问题和子问题直到满足停止条件
while not self._stop_criteria_is_satisfied():
# 求解子问题
print("==== iter %d ====" % self._iter_times)
for i in range(len(self._p)):
# 求解子问题
sm = SubModel(self._p[i], self._c[i], mp.get_y(), self._b[i])
sm.solve()
# 更新reduced cost
self._reduced_costs[i] = sm.get_obj_value() - mp.get_zi(i)
# 把子问题中满足条件的解加入到主问题中
if self._reduced_costs[i] > 0:
self._append_v(i, sm.get_solution_x())
print(">>> Solve sub problem %d, reduced cost = %f" % (i, self._reduced_costs[i]))
# 求解主问题
mp = MasterModel(self._p, self._v, self._c, self._d)
mp.solve()
self._iter_times += 1
self._solution_x = mp.get_solution_x()
self._obj_value = mp.get_obj_value()
status_str = {-1: "error", 0: "optimal", 1: "attain max iteration"}
print(">>> Terminated. Status:", status_str[self._status])
def print_info(self):
print("==== Result Info ====")
print(">>> objective value =", self._obj_value)
print(">>> Solution")
sku_list = [[]] * len(self._solution_x)
for i in range(len(self._solution_x)):
sku_list[i] = [j for j in range(len(self._solution_x[i])) if self._solution_x[i][j] > 0]
for i in range(len(self._solution_x)):
print("brand %d, sku list:" % i, sku_list[i])
主函数
# main.py
from data import p, c, b, d # instance data
from dw_proc import DWProc
if __name__ == '__main__':
dw = DWProc(p, c, d, b)
dw.solve()
dw.print_info()
参考文献
-
George B. Dantzig; Philip Wolfe. Decomposition Principle for Linear Programs. Operations Research. Vol 8: 101–111, 1960. ↩