定义
优化问题：
%7D%20%5C%5C%20s.t.%5Cquad%20%26%20h_j(x)%3D0%2C%20%5Cquad%20j%3D1%2C2...q%20%5C%5C%20%26%20g_i(x)%20%5Cle%200%2C%20%5Cquad%20i%3D1%2C2%2C...p%20%5Cend%7Baligned%7D)
的解
满足如下条件
%7D%3D%5Csum%5Clambda_j%5Cnabla%7Bh_j(x%5E*)%7D%2B%5Csum%5Cmu_i%5Cnabla%7Bg_i(x%5E*)%7D%20%5C%5C%20%26%20%5Cmu_i%20%5Cge%200%2C%5Cquad%20%5Cmu_ig_i(x%5E*)%20%3D%200%20%5Cend%7Baligned%7D)
该条件即KKT条件。
解释
无约束条件时，局部极值点在梯度为0时取得。例如，当为局部极大值点，则在任一方向移动（一个任意小距离）时函数值应不增加。
有约束条件时，局部极值点的梯度需满足在可行方向内无分量。例如，当为约束条件下的局部极大值点，则在可行域内任一方向移动（一个任意小距离）时函数值应不增加。
总可行方向是各个约束下可行方向的交集，于是各个约束不可行方向的并集就在总可行方向上无分量。
- 当
%3D0)
时，不可行方向为%7D)
；
- 当
%20%5Cle%200)
时，不可行方向为%7D%EF%BC%8C%5Cmu_i%20%5Cge%200%EF%BC%8C%5Cmu_ig_i(x%5E*)%3D0)
。可由以下两种情况整合而来。
- 当
%3D0)
时，不可行方向为%7D%EF%BC%8C%20%5Cmu_i%20%5Cge%200)
；
- 当
%3C0)
时，不可行方向为
，可表示为%7D%EF%BC%8C%20%5Cmu_i%3D0)
。
于是%7D)
可表示为以上两种情况的线性组合。因为是或的关系，各个不可行方向上的分量可以是0（"或"表示只要某一个不为0，就已经满足可行方向无分量；当然，全为0表示f本身取到了极值点，任意方向无分量）。
