非线性优化

问题设置

一般的非线性优化问题

$$\underset{x\in {\mathbb{R}}^n}{min}f(x)\text{ s.t. }g(x)\le 0,h(x)=0$$

$f$ 是目标函数，连续可导

$g$ 是$m$ 个不等号约束条件

$h$ 是 $p$ 个等号约束条件

定义1 feasible set

集合

$$X=\{x\in {\mathbb{R}}^n;g(x)\le 0,h(x)=0\}$$

是feasible set (可行的集合), $x$ 是 feasible 若它在这个集合中。index set of active inequality constraints $\mathcal{A}(x)$ 是在不等式中使得等号成立的集合。$\mathcal{I}(x)$ 是不等号严格成立的集合

$$\begin{array}{rl}& \mathcal{A}(x)=\{i;1\le i\le m,g_i(x)=0\}\\ & \mathcal{I}(x)=\{1,\dots ,m\}\mathrm{\setminus }\mathcal{A}(x)=\{i;1\le i\le m,g_i(x)<0\}\end{array}$$

$X$ 的局部/全局最小值minima 称为局部解/全局解

设 $\overline{x}$ 是 $g_i(\overline{x})=0$ 且 $\mathrm{\nabla }{g}_i(\overline{x})\ne 0$ . 那么$M_i=\{x\in {\mathbb{R}}^n;g_i(x)=0\}$ 是

Optimality Conditions