凸优化

仿射集

  1. 与仿射集相关联的子空间与v0的选取无关,为什么?这句话的几何意义是什么?
  2. 2个不同的点构成的点集,其仿射包是什么?3个不共线的点构成的点集,其仿射包是什么?…
  3. 两个集合{线性空间(及线性子空间)}与{仿射集},哪个集合更大?
  4. 例2.1证明了线性方程组的解集是仿射集,反之,任意仿射集都可以表示为一个线性方程组的解集,请给出严格的证明。
  • 从几何上看,子空间是一定包含零点的一个集合,V0只是确定了子空间与仿射集的距离,v0只要是C中的就可以了,并不影响子空间的确定。
  • 直线,二维平面
  • 仿射集大,{线性空间}包含于{仿射集},线性空间一定是仿射集,反之不一定。并且线性空间一定经过原点,仿射集不一定。
  • 设C是非零仿射集,V是C对应的子空间,T=V+ e1,e2,,emT=V^+\ e_1,e_2,\cdots,e_m,为T的基向量。
    任意y属于V,都有e1Ty=0,e2Ty=0emTy=0{e_1}^Ty=0,{e_2}^Ty=0\cdots{e_m}^Ty=0,设A=[e1,e2,,em]TA=[e_1,e_2,\cdots,e_m]^T,A是m×nm\times n矩阵。所以Ay=0。
    又因为V=C-a,所以任意x属于C,x=y+a
    Ax=Ay+Aa=Aa=bAx=Ay+Aa=Aa=b,证明成立
    当C是空集时,不存在x,使得Ax=b,满足题意。

凸集

  1. 想想凸集的本质是什么,与仿射集有什么不同?
  2. 书上的习题2.1、2.4建议做一下
    在这里插入图片描述在这里插入图片描述
  • 2.4表明,任给一个集合,能够包住它的凸集有无数个,但是其中最小的是它的凸包,而这个凸包,正好是所有包住这个集合的凸集的公共部分

总结一下:不考虑空集、单点集这些意义不大的玩意。
1、仿射集是那些平直的,没有方向限制可无限延伸的东西,例如直线、平面、…、高维超平面。它们的本质特征就是在其中取两个不同的点画直线,跑不出去
2、凸集就是向外鼓起的东西,例如球、长方体、…、高维空间中的超球,其本质特征是在其中任取两个点连线段,跑不出去
3、锥是从原点出发向一个方向平直无限延伸的东西,例如顶点在原点的圆锥。其本质特征是从原点出发过其中任意一点连射线,跑不出去。从原点出发的两条不同的射线是锥,两个共原点的不同的圆锥也是锥
4、仿射集一定是凸集
5、凸锥就是凸的锥,也就是说既是锥也是凸集。从原点出发的两条不同的射线是锥,但不是凸锥

一个目标函数定义在某个集合(可行解集合)上,优化问题就是从这个集合中找出使目标函数最优(例如达到最小值)的那个解。一般而言,优化问题并不容易求解,但是如果目标函数是凸函数,可行解集合是凸集,那么就有解决问题的方法,这就是凸优化要研究的内容

超平面

思考几个问题:

  1. 超平面的“维数”是多少?超平面方程中b有什么含义?
  2. 单纯性一定是多面体,试着给出严格的证明。
  3. 看一下附录a中的范数概念,然后思考在二维和三维空间中,1范数球、2范数球、∞ 范数球的形状;1范数锥、2范数锥、∞ 范数锥的形状。
  • 关于超平面的“维数”:在R^n中,超平面a’x=b是仿射集(所以也是凸集),它的维数就是与之相关的子空间的维数,所以维数是n-1。这个子空间的正交补是1维的,超平面的法向量a就是正交补空间的一个基

  • 维数是线性空间中极大线性无关组的向量个数,或者说是基向量的个数。超平面,一般不是线性空间,所以严格来说没有基,也就没有维数。但是超平面是仿射集,所以它有对应的线性子空间,这个线性子空间的维数就定义为超平面的维数。而这个线性子空间正是其法向量张成的一维空间的正交补空间,所以它的维数是n-1

  • 超平面方程中b的意义:超平面方程是a’x=b,x是超平面上的任意一点,所以常数b是超平面上任何一点与法向量a的内积

  • 那么,原点到超平面的距离是多少呢?就是x在a上的投影长度,所以是|b|/||a||

  • 范数球二维空间
    在这里插入图片描述- 范数球三维空间
    在这里插入图片描述

  • 范数锥二维空间
    在这里插入图片描述

  • 范数锥三维空间
    在这里插入图片描述三维情况下,2范数锥的方程是sqrt(x2+y2)=z
    1范数锥的方程是|x|+|y|=z,∞范数锥的方程是max(|x|+|y|)=z。
    注意观察范数锥在三维空间中的形状,从上到下的投影与范数球在二维空间中的形状一致。锥只是比球多了一个变量,随着Z的增大,就得到了三维图形。

保凸运算

运算可以分成两类,一是集合运算、交并补等等,一是集合之间的映射。
集合运算中,交保、并不保、和保。思考问题:
1、笛卡尔积是否保凸? 保凸,按照凸集定义即可证明
2、补是否保凸?不保,集合{y>yy=x2,xR{y*>y|y=x^2,x\in R}}的补集非凸

集合间的保凸映射,指的是凸集经过映射得到的集合仍然是凸集。典型的保凸映射有仿射、透视、线性分式。思考一下,保凸映射有没有可能把非凸集映射成凸集?
保凸映射的本质是,输入是凸的,输出一定也是凸的。至于输入非凸,那么输出是凸还是非凸并不关心。

平面上两个圆的合集还是圆,由xa<=d1,yb<=d2||x-a||<=d_1,||y-b||<=d_2的,d1+d2>=xa+yb>=x+yabd_1+d_2>=||x-a||+||y-b||>=||x+y-a-b||

发布了77 篇原创文章 · 获赞 7 · 访问量 1万+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章