非线性优化

问题设置

一般的非线性优化问题 \[ \min _{x \in \mathbb{R}^{n}} f(x) \quad \text { s.t. } \quad g(x) \leq 0, \quad h(x)=0 \] \(f\) 是目标函数，连续可导

\(g\) 是\(m\) 个不等号约束条件

\(h\) 是 \(p\) 个等号约束条件

定义1 feasible set

集合 \[ X=\left\{x \in \mathbb{R}^{n} ; g(x) \leq 0, h(x)=0\right\} \] 是feasible set (可行的集合), \(x\) 是 feasible 若它在这个集合中。index set of active inequality constraints \(\mathcal{A}(x)\) 是在不等式中使得等号成立的集合。\(\mathcal{I}(x)\) 是不等号严格成立的集合 \[ \begin{aligned} &\mathcal{A}(x)=\left\{i ; 1 \leq i \leq m, g_{i}(x)=0\right\} \\ &\mathcal{I}(x)=\{1, \ldots, m\} \backslash \mathcal{A}(x)=\left\{i ; 1 \leq i \leq m, g_{i}(x)<0\right\} \end{aligned} \] \(X\) 的局部/全局最小值minima 称为局部解/全局解

设 \(\bar{x}\) 是 \(g_i(\bar{x})=0\) 且 \(\nabla g_{i}(\bar{x}) \neq 0\) . 那么\(M_{i}=\left\{x \in \mathbb{R}^{n} ; g_{i}(x)=0\right\}\) 是

Optimality Conditions