凸优化｜中科大

说明

此笔记根据中科大凌青老师的凸优化视屏课程整理。

1、凸优化是简单的优化

优化/数学规划（optimization/Mathematical programming）可以被定义为“从一个可行解的集合中，寻找最优的元素”。（说凸优化是简单的优化其实是从global_minal=local_minimal的角度）
数学描述
$min{f}_0(x),f_0:R^n\to R(objectivefunction)$
$subjectto(s.t.)f(x)\le b_i,i=1,2,...,M$
$(f:R^n\to R为不等式约束)$
$X=[x_1,...,x_n{]}^T$
那么$X^{\ast }$是最优解等价于在可行解集中任意的$Z_i$都有$f_0(X^{\ast })\le f_0(Z_i)$。

2、几个例子

1、数据拟合问题（最小二乘法）
$min\Sigma {ϵ}_i^2$
2、线性二次调节器LQR
$X_k=A{X}_{k-1}+B{u}_R$
$minJ={\Sigma }_{k=1}^N(X_k^{T}Q{X}_k+u_{k}TR{u}_k)$
3、多用户能量控制问题
信噪比：$SIN{R}_i=\frac{P_i}{{\sigma }_i^2+{\Sigma }_{j\ne i{\alpha }_{ji}{P}_j}}$
码率：$f_i\propto log(1+SIN{R}_i)$
$min{\Sigma }_{i=1}^M{f}_i,s.t.0\le P\ge b_i$ 极大化网络流量
4、图像处理
去噪：${\Phi }_0(x,y)\to \Phi (x,y)$
基于先验知识（自然存在的光滑和连续）的Tv范数可以定义为在2个方向上的差分:
$||\Phi |{|}_{Tv}={\Sigma }_y{\Sigma }_x(\Phi (x,y)-\Phi (x,y-1){)}^2+(\Phi (x,y)-\Phi (x-1,y){)}^2$
$min||\Phi |{|}_{Tv}+\lambda ||\Phi -{\Phi }_0|{|}_F^2$（F范数是所有元素平方和，$\lambda$是规范化因子）
6、最优路径问题
$min{\Sigma }_{i,j\in V}{w}_{ij}{x}_{ij}$
$s.t.x_{ij}=0/1,{\Sigma }_j{x}_{ij}-{\Sigma }_j{x}_{ji}=\{\begin{array}{r}1,i=s;\\ -1,i=d\\ 0,otherwise\end{array}$