考虑两个命题,充分性与必要性的定义
元素,集合,子集,空集,并集,交集,笛卡尔积
向量,元组,球
边界集,内部集,开集,闭集、
凸集:
对,若,则为凸集
映射
单射one-to-one
满射onto
双射bijection
设为凸集,函数
①凹函数
②严格凹函数
③凸函数
④严格凸函数
函数在点处连续,若满足,
元二次型:
其中
正定,负定,半正定,半负定,不定
令为对称矩阵且为其顺序主子式
为正定矩阵,若
为负定矩阵,若
最优化问题:
点为局部最优,若
点为全局最优,若
令为定义在区域内部、二阶连续可导的函数
①若点为局部最优,则
②若点满足,则为驻点
Hessian矩阵,为内点
内部最优的必要条件:
①若在达到最大值,则为半负定
②若在达到最小值,则为半正定
内部最优的充分条件:
①若为负定,则在达到最大值
②若为正定,则在达到最小值
拉格朗日方法:
构造拉格朗日函数:
一阶条件:
包络问题:
则由包络定理有:
加边Hessian矩阵:即最大最小化问题的二阶条件
考虑,其中
自开始,检验个主子式
①若的符号为且其余主子式依次改变符号,则为最大值点
②若主子是的符号均为,则为最小值点