1 局部搜索
1.1 局部搜索
局部搜索算法是对一类算法的统称，符合其框架的算法很多，比如爬山法、模拟退火算法和禁忌搜索算法都属于局部搜索算法。尽管各个算法在优化过程中的细节存在差异，但在优化流程上呈现出很大的共性。它的基本原理是在邻近解中迭代，使目标函数逐步优化，直至不能再优化为止。
1.2 局部搜索的过程
局部搜索算法的统一框架描述为：
1) 算法从一个或若干个初始解出发。
2)在算法参数控制下由当前状态的邻域中产生若干个候选解。
3) 以某种策略在候选解中确定新的当前解。
4)伴随控制参数的调节，重复执行上述搜索过程，直至满足算法终止条件。
5) 结束搜索过程并输出优化结果。
1.3 局部搜索的几大要素
局部搜索算法主要包含五大要素：
1) 目标函数：用来判断解的优劣。
2) 邻域的定义：根据不同问题，有着不同的邻域定义。
3) 初始解的产生方法。
4) 新解的产生和接受规则。
5) 算法终止条件。
其中前两个要素的定义和算法要解决的特定问题有关，而且不同的人对同一问题可能有完全不同的定义。后三个要素定义的不同则会产生各种不同的局部搜索算法，它们的效率和最终解的质量也会有很大的差异。
2 变邻域搜索算法
2.1 什么是变邻域搜索
变邻域搜索算法（VNS）是一种改进型的局部搜索算法。它利用不同的动作构成的邻域结构进行交替搜索。
变邻域搜索算法依赖于以下事实：
1) 一个邻域结构的局部最优解不一定是另一个邻域结构的局部最优解。
2)全局最优解是所有可能邻域的局部最优解。
变邻域搜索算法主要由以下两个部分组成：
1) VARIABLE NEIGHBORHOOD DESCENT (VND)
2) SHAKING PROCEDURE
2.2 邻域
在组合优化问题中，邻域一般定义为由给定转化规则对给定的问题域上每结点进行转化所得到的问题域上结点的集合 。
通俗一点：邻域就是指对当前解进行一个操作(这个操作可以称之为邻域动作)可以得到的所有解的集合。那么不同邻域的本质区别就在于邻域动作的不同了。
2.3 邻域动作
邻域动作是一个函数，通过这个函数，对当前解s，产生其相应的邻居解集合。例如：对于一个bool型问题，其当前解为：s = 1001，当将邻域动作定义为翻转其中一个bit时，得到的邻居解的集合N(s)={0001,1101,1011,1000}，其中N(s) ∈ S。同理，当将邻域动作定义为互换相邻bit时，得到的邻居解的集合N(s)={0101,1001,1010}。
2.4 Variable Neighborhood Descent (VND)
VND其实就是一个算法框架，它的过程描述如下：
1) 给定初始解S； 定义m个邻域，记为N_k(k = 1, 2, 3......m)；i = 1。
2) 使用邻域结构N_i（即 N_i(S)）进行搜索，如果在N_i(S)里找到一个比S更优的解S′，则令S=S′, i=1 。
3)如果搜遍邻域结构N_i仍找不到比S更优的解，则令i++。
4)如果i≤m ,转步骤2。
5) 输出最优解S。
VND的图解如下：
1）当在本邻域搜索找不出一个比当前解更优的解的时候，我们就跳到下一个邻域继续进行搜索。如图中虚线所示。
2）当在本邻域搜索找到了一个比当前解更优的解的时候，我们就跳回第一个邻域重新开始搜索。如图中实线所示。
之前我们把局部搜索比作爬山的过程，那么每变换一次邻域，也可以理解为切换了搜索的地形（landscape）。效果如下 ：
伪代码描述如下：
2.5 shaking procedure
就是一个扰动算子，类似于邻域动作的这么一个东西。通过这个算子，可以产生不同的邻居解。虽然名词很多看起来很高大上，扰动、抖动、邻域动作这几个本质上还是没有什么区别的。都是通过一定的规则，将一个解变换到另一个解而已。
2.6 VNS过程
在综合了前面这么多的知识以后，VNS的过程其实非常简单, 直接看伪代码，一目了然：
伪代码中N_k和N_l代表的邻域集合，分别是给Shaking和VND使用的，这两点希望大家要格外注意，区分开来哈。这两个邻域集合可以是一样的，也可以不一样。
