凸分析（1）

 最近刚开始读Rockafellar的这本convex analysis，尝试记一些boyd convex optimization里面没有的东西。自己还是太弱了。很多问题还是想不明白。先写一些作为学习笔记好了。希望能找到小伙伴一起学习。
关于仿射集的Tucker表示。
 首先，仿射变换:Rn→Rm的图像是Rm+n中的一个仿射子集。
 对于y=x=Ax+a，的图像由点z=(x,y)组成，其中x∈Rn,y∈Rm。显然，对于z，有z=b成立。其中b=−a并且B是线性变换：(x,y)→x−y。
 所以的图像为{z|Bz=b}。B为线性变换所对应的m×n的矩阵，b∈Rm，因此，该集合为仿射集。
 特别的，从Rn到Rm的线性变换：x→x（即a=b=0）的图像是包含空间Rm+n原点的仿射集。
 因此它是Rm+n的某个子空间L，L的正交补可写为：

L⊥={(x⋆,y⋆)|x⋆∈Rn,y⋆∈Rm,x⋆=−⋆y⋆}

即L⊥是−⋆的图像。
事实上，对于y=x的图像z=(x,y)。记z⋆=(x⋆,y⋆)∈L⊥
 ∴⟨z,z⋆⟩=⟨(x,y),(x⋆,y⋆)⟩=0
 ⇒⟨x,y⟩+⟨x⋆,y⋆⟩=0
 ⇒⟨x,x⋆⟩+⟨x,y⋆⟩=⟨x,x⋆⟩+⟨x,⋆y⋆⟩=0
 ⇒⟨x,x⋆+⋆y⋆⟩=0对任意x∈Rn成立。
 ⇒x⋆+⋆y⋆=0即x⋆=−A⋆y⋆
 进一步的，有结论：任何非平凡仿射集都可以表示成仿射变换的图像。
 不妨设M是RN中的n维仿射集，1<n<N
 ∴M={x|Bx=β},x∈RN
 将x写成x=(ξ1,ξ2,…,ξN)，则
 Bx=β⇒βi1ξ1+⋯+βiNξN=βi,i=1,…,k,k>N−n=m
 ∵M为n维仿射集 \quad ∴其平行子空间{x|Bx=0}维数为n
 即B的零度为N \quad ∴Bx=0有n个线性无关的解。
 ∴r(B)=N−n=m
 ∴方程组βi1ξ1+⋯+βiNξN=βi,i=1,…,k可以通过初等行变换来消去k−m行，化简为βi1ξ1+⋯+βiNξN=βi,i=1,…,m
 记为B′x=β′此时r(B′)=r(B′|β)=m。
 ∵矩阵的行秩等于列秩。
 ∴ξ1,…,ξN的秩为m，因此可排序为ξ1¯,…,ξN¯，其中ξ1¯,…,ξn¯看作已知量，选出ξn+1¯,…,ξN¯为线性无关的自变量。
 那么我们可以用ξ1¯,…,ξn¯来表示出其余m个ξn+1¯,…,ξN¯
 即ξn+i¯=αi1ξ1¯+⋯+αinξn¯+αi,i=1,…,m
 实际上，我们可以考虑非齐次线性方程组Bx=β由于r(B)=r(B|β)=m，则存在n−m个自由未知量，并且其余m个约束变量可以由自由未知量表出。
 方程组Bx=β称为仿射集M的Tucker表示，它将M表示成从Rn到Rm的仿射变换的图像。
 显然，对于N个列向量，当其中任意m个都线性无关时，仿射集有最多种的Tucker表示，即任意种排列都满足条件，因此共有N!种Tucker表示。
 当然，子空间L的Tucker表示是齐次形式的：

ξn+1¯=αi1ξ1¯+⋯+αinξn¯,i=1,…,m

 以上L的这种表示是作为线性变换的图像，那么L⊥对应负伴随变换的图像，因此，当且仅当

ξ⋆j¯=ξ⋆n+1¯α1j+⋯+ξ⋆n+m¯,j=1,…,m

成立时，x⋆=(ξ⋆1,…,ξ⋆N)属于L⊥。这就给出了L⊥的Tucker表示。(书上这个地方好像写错了）
 另外，我们可以用线性算子证明矩阵的行秩等于列秩。
 我们考虑线性映射:Rn→Rm以及它的伴随⋆:Rm→Rn。
 又Im={w|w=x,x∈Rn}={矩阵A所有列向量的线性组合}
 不妨设矩阵列向量为α1,…,αn
 ∴Im={k1α1+⋯+knαn|∀ki}
 ∵{k1α1+⋯+knαn}和{α1,…,αn}可以互相线性表出。
 ∴rank({k1α1+⋯+knαn})=rank({α1,…,αn})
 即dim(Im)=矩阵A的列秩。
 对∀w∈Rm，w∈ker⋆⇔⋆(w)=0⇔∀v∈Rn,<A⋆(w),v>=0
⇔∀v∈Rn,⟨w,A(v)⟩=0⇔w∈(Im)⊥
 ∴ker⋆=(Im)⊥⇒dim(ker⋆)=dim(Im)⊥=m−dim(Im)
 又由秩零定理，有dim(ker⋆)=m−dim(Im⋆)
 ∴dim(Im)=dim(Im⋆)，由于实范围内A⋆即为AT
 ∴A列秩=AT列秩⇒矩阵A行秩=列秩。