凸优化4：Operations that preserve convexity

1、交集 Intersection

若 S 1 , S 2 S_1,S_2 S1​,S2​为凸，则 S 1 ∩ S 2 S_1 \cap S_2 S1​∩S2​为凸

扩展：若 S α S_{\alpha} Sα​为凸集，则 ∀   a ∈ A , ∩ ⁡ α ∈ A S α \forall \space a \in A, {\underset {\alpha \in A}{\operatorname {\cap} }} S_{\alpha} ∀ a∈A,α∈A∩​Sα​为凸集

2、仿射函数 Affine function

定义： a   f u n c t i o n   f : R n → R m   i s   a f f i n e   i f   i t   i s   a   s u m   o f   a   l i n e a r   f u n c t i o n   a n d   a   c o n s t r a n t a \space function \space f:R^n \rightarrow R^m \space is \space affine \space if \space it \space is \space a \space sum \space of \space a \space linear \space function \space and \space a \space constrant a function f:Rn→Rm is affine if it is a sum of a linear function and a constrant

数学描述为：
f : R n → R m 是 仿 射 函 数 ， 当 f ( x ) = A x + b , A ∈ R m × n , b ∈ R m f:R^n \rightarrow R^m是仿射函数，当f(x)=Ax+b,A \in R^{m \times n},b \in R^m f:Rn→Rm是仿射函数，当f(x)=Ax+b,A∈Rm×n,b∈Rm
定理：若 S ∈ R n S \in R^n S∈Rn为凸集， f : R n → R m f:R^n \rightarrow R^m f:Rn→Rm为仿射函数，则： f ( S ) = { f ( x ) ∣ x ∈ S } f(S)=\{f(x) \mid x \in S\} f(S)={f(x)∣x∈S}为凸

逆仿射(inverse affine)： g : R n → R m g:R^n \rightarrow R^m g:Rn→Rm是仿射函数，则 g − 1 ( S ) = { x ∣ g ( x ) ∈ S } g^{-1}(S)=\{x \mid g(x) \in S\} g−1(S)={x∣g(x)∈S}

定理：缩放与移位是保持凸性的
S 为 凸 集 ， α S = { α x ∣ x ∈ S } , S + a = { x + a ∣ x ∈ S } 都 为 凸 S 1 , S 2 为 凸 集 ， S 1 + S 2 = { x + y ∣ x ∈ S 1 , y ∈ S 2 } , S 1 × S 2 = { ( x , y ) ∣ x ∈ S 1 , y ∈ S 2 } 都 为 凸 S为凸集，\alpha S=\{\alpha x \mid x \in S\},S+a=\{x+a \mid x \in S\}都为凸 \\ S_1,S_2为凸集，S_1+S_2=\{x+y\mid x \in S_1,y \in S_2\},\\ S_1 \times S_2=\{(x,y)\mid x\in S_1,y\in S_2\} 都为凸 S为凸集，αS={αx∣x∈S},S+a={x+a∣x∈S}都为凸S1​,S2​为凸集，S1​+S2​={x+y∣x∈S1​,y∈S2​},S1​×S2​={(x,y)∣x∈S1​,y∈S2​}都为凸
Ex1：线性矩阵的不变形 LMI( linear matrix inequality)
A ( X ) = x 1 A 1 + ⋯ + x n A n ⪯ B ⇔ A ( X ) − B ⪯ 0    半 负 定 B , A i , x i ∈ S m ( 对 称 矩 阵 ) A(X)=x_1A_1+\cdots +x_nA_n \preceq B \\ \Leftrightarrow A(X)-B \preceq 0\space\space 半负定\\ B,A_i,x_i \in S^m(对称矩阵) A(X)=x1​A1​+⋯+xn​An​⪯B⇔A(X)−B⪯0  半负定B,Ai​,xi​∈Sm(对称矩阵)
定义仿射变换 f ( x ) = B − A ( x ) f(x)=B-A(x) f(x)=B−A(x), S + n S^n_+ S+n​为凸集， f − 1 ( S + n ) = { x ∣ B − A ( x ) ⪰ 0 } f^{-1}(S^n_+)=\{x \mid B-A(x) \succeq 0\} f−1(S+n​)={x∣B−A(x)⪰0}为凸

结论：故 A ( X ) − B ⪯ 0 A(X)-B \preceq 0 A(X)−B⪯0为凸集

Ex2：椭球是球的仿射映射
ε = { x ∣ ( x − x c ) T p − 1 ( x − x c ) ≤ 1 } , P ∈ S + + n 单 位 球    { u ∣ ∣ ∣ u ∣ ∣ 2 ≤ 1 } 令 f ( u ) = p 1 2 u + x c , 其 中 p 1 2 p 1 2 = p \varepsilon = \{x \mid (x-x_c)^Tp^{-1}(x-x_c) \leq 1\},P \in S^n_{++}\\ 单位球 \space\space \{u \mid ||u||_2 \leq 1\}\\ 令f(u)=p^{\frac{1}{2}}u+x_c,其中p^{\frac{1}{2}}p^{\frac{1}{2}}=p\\ ε={x∣(x−xc​)Tp−1(x−xc​)≤1},P∈S++n​单位球  {u∣∣∣u∣∣2​≤1}令f(u)=p21​u+xc​,其中p21​p21​=p
构造新集合
{ f ( u ) ∣ ∣ ∣ u ∣ ∣ 2 ≤ 1 } = { p 1 2 u + x c ∣ ∣ ∣ u ∣ ∣ 2 ≤ 1 } \{f(u)\mid ||u||_2 \leq 1\}\\ =\{p^{\frac{1}{2}}u+x_c \mid ||u||_2 \leq 1\}\\ {f(u)∣∣∣u∣∣2​≤1}={p21​u+xc​∣∣∣u∣∣2​≤1}
令 x = p 1 2 u + x c x=p^{\frac{1}{2}}u+x_c x=p21​u+xc​，即 u = p − 1 2 ( x − x c ) , P ∈ S + + n u=p^{-\frac{1}{2}}(x-x_c),P\in S^n_{++} u=p−21​(x−xc​),P∈S++n​，则上式：
= { x ∣ ∣ ∣ p − 1 2 ( x − x c ) ∣ ∣ 2 ≤ 1 } = { x ∣ ( x − x c ) T P − 1 ( x − x c ) ≤ 1 } =\{x\mid ||p^{-\frac{1}{2}}(x-x_c)||_2 \leq 1\} \\ =\{x\mid (x-x_c)^TP^{-1}(x-x_c) \leq 1\} ={x∣∣∣p−21​(x−xc​)∣∣2​≤1}={x∣(x−xc​)TP−1(x−xc​)≤1}

这里无法证明下式：
∣ ∣ p − 1 2 ( x − x c ) ∣ ∣ 2 ≤ 1 ( x − x c ) T ( p − 1 2 ) T ( p − 1 2 ) ( x − x c ) ≤ 1 无 法 证 明 ( p − 1 2 ) T ( p − 1 2 ) = P − 1 ||p^{-\frac{1}{2}}(x-x_c)||_2 \leq 1 \\ (x-x_c)^T(p^{-\frac{1}{2}})^T(p^{-\frac{1}{2}})(x-x_c) \leq 1\\ 无法证明(p^{-\frac{1}{2}})^T(p^{-\frac{1}{2}})=P^{-1} ∣∣p−21​(x−xc​)∣∣2​≤1(x−xc​)T(p−21​)T(p−21​)(x−xc​)≤1无法证明(p−21​)T(p−21​)=P−1

3、透视函数 Perspection function

透视函数 P : R n + 1 → R n P:R^{n+1} \rightarrow R^n P:Rn+1→Rn, d o m P = R n × R + + dom P=R^n \times R_{++} domP=Rn×R++​， R + + 为 整 数 ， d o m 为 d o m a i n ， 定 义 域 R_{++}为整数，dom为domain，定义域 R++​为整数，dom为domain，定义域

数学描述为：
P ( z , t ) = z t , z ∈ R n , t ∈ R + + P(z,t)=\frac{z}{t},z\in R^n,t\in R_{++} \\ P(z,t)=tz​,z∈Rn,t∈R++​

定理：任意一个凸集经过透视函数之后仍为凸集

Ex1： R n + 1 R^{n+1} Rn+1内的线段
X = { x ~ , x n + 1 } ∈ { R n , R + + } , Y = { y ~ , y n + 1 } ∈ { R n , R + + } θ ≥ 0 , 线 段 可 表 示 为 : θ x + ( 1 − θ ) y 证 明 ： R n + 1 线 段 ⟶ P R n 线 段 x ⟶ P P ( x ) , y ⟶ P P ( y ) θ x + ( 1 − θ ) y ⟶ P P ( θ x + ( 1 − θ ) y ) P ( θ x + ( 1 − θ ) y ) = θ x ~ + ( 1 − θ ) y ~ θ x n + 1 + ( 1 − θ ) y n + 1 = θ x n + 1 θ x n + 1 + ( 1 − θ ) y n + 1 x ~ x n + 1 + ( 1 − θ ) y n + 1 θ x n + 1 + ( 1 − θ ) y n + 1 y ~ y n + 1 ⟶ P μ P ( x ) + ( 1 − μ ) P ( y ) , 0 ≤ μ ≤ 1 上 式 属 于 n 维 空 间 中 的 线 段 ， 线 段 是 凸 集 X=\{\widetilde{x},x_{n+1}\} \in \{R^n,R_{++}\},Y=\{\widetilde{y},y_{n+1}\}\in \{R^n,R_{++}\}\\ \theta \geq 0,线段可表示为:\theta x+(1-\theta)y\\ 证明：R^{n+1}线段 \stackrel{P}{\longrightarrow} R^n线段\\ x \stackrel{P}{\longrightarrow} P(x),y \stackrel{P}{\longrightarrow} P(y)\\ \theta x+(1-\theta)y \stackrel{P}{\longrightarrow} P(\theta x+(1-\theta)y)\\ P(\theta x+(1-\theta)y)=\frac{\theta \widetilde{x}+(1-\theta)\widetilde{y}}{\theta x_{n+1}+(1-\theta)y_{n+1}}\\ =\frac{\theta x_{n+1}}{\theta x_{n+1}+(1-\theta)y_{n+1}} \frac{\widetilde{x}}{x_{n+1}}+\frac{(1-\theta) y_{n+1}}{\theta x_{n+1}+(1-\theta)y_{n+1}} \frac{\widetilde{y}}{y_{n+1}}\\ \stackrel{P}{\longrightarrow} \mu P(x)+(1-\mu)P(y),0 \leq \mu \leq 1 \\ 上式属于n维空间中的线段，线段是凸集 X={x ,xn+1​}∈{Rn,R++​},Y={y ​,yn+1​}∈{Rn,R++​}θ≥0,线段可表示为:θx+(1−θ)y证明：Rn+1线段⟶P​Rn线段x⟶P​P(x),y⟶P​P(y)θx+(1−θ)y⟶P​P(θx+(1−θ)y)P(θx+(1−θ)y)=θxn+1​+(1−θ)yn+1​θx +(1−θ)y ​​=θxn+1​+(1−θ)yn+1​θxn+1​​xn+1​x ​+θxn+1​+(1−θ)yn+1​(1−θ)yn+1​​yn+1​y ​​⟶P​μP(x)+(1−μ)P(y),0≤μ≤1上式属于n维空间中的线段，线段是凸集
Ex2：任意凸集的反透视映射仍是凸集
P − 1 ( C ) = { ( x , t ) ∈ R n + 1 ∣ x t ∈ C , t > 0 } ( x , t ) ∈ P − 1 ( C ) , ( y , s ) ∈ P − 1 ( C ) , 0 ≤ θ ≤ 1 P − 1 ( ( x , t ) , ( y , s ) ) = θ x + ( 1 − θ ) y θ t + ( 1 − θ ) s = ( θ t θ t + ( 1 − θ ) s ) x t + ( 1 − θ t θ t + ( 1 − θ ) s ) y s ⟶ P − 1 μ P ( x , t ) + ( 1 − μ ) P ( y , s ) ∈ C P^{-1}(C)=\{(x,t) \in R^{n+1} \mid \frac{x}{t} \in C,t>0\} \\ (x,t) \in P^{-1}(C), (y,s) \in P^{-1}(C), 0 \leq \theta \leq 1 \\ P^{-1}((x,t),(y,s))=\frac{\theta x+(1-\theta)y}{\theta t+(1-\theta)s}\\ =(\frac{\theta t}{\theta t+(1-\theta)s})\frac{x}{t}+(1-\frac{\theta t}{\theta t+(1-\theta)s})\frac{y}{s}\\ \stackrel{P^{-1}}{\longrightarrow} \mu P(x,t)+(1-\mu)P(y,s) \in C P−1(C)={(x,t)∈Rn+1∣tx​∈C,t>0}(x,t)∈P−1(C),(y,s)∈P−1(C),0≤θ≤1P−1((x,t),(y,s))=θt+(1−θ)sθx+(1−θ)y​=(θt+(1−θ)sθt​)tx​+(1−θt+(1−θ)sθt​)sy​⟶P−1​μP(x,t)+(1−μ)P(y,s)∈C

Ex3：将仿射函数与透视函数结合 ⟶ \longrightarrow ⟶线性分段函数
g : R n ⟶ R m + 1 为 仿 射 映 射 g ( x ) = [ A C T ] x + [ b d ] , A ∈ R m × n , b ∈ R m , C ∈ R n , d ∈ R P : R m + 1 ⟶ R m 线 性 分 段 函 数 ： P : R n ⟶ R m = P ∙ g f ( x ) = A x + b C T x + d , d o m   f = { x ∣ C T x + d > 0 } 两 个 线 性 变 换 的 除 法 也 可 以 保 持 凸 性 g:R^n \longrightarrow R^{m+1} 为仿射映射\\ g(x)=\left[ \begin{matrix} A \\ C^T \end{matrix} \right]x+\left[ \begin{matrix} b \\ d \end{matrix} \right],A\in R^{m \times n},b\in R^m,C\in R^n,d\in R \\ P:R^{m+1} \longrightarrow R^m\\ 线性分段函数：P:R^n \longrightarrow R^m=P \bullet g\\ f(x)=\frac{Ax+b}{C^Tx+d},dom \space f=\{x \mid C^Tx+d > 0\}\\ 两个线性变换的除法也可以保持凸性 g:Rn⟶Rm+1为仿射映射g(x)=[ACT​]x+[bd​],A∈Rm×n,b∈Rm,C∈Rn,d∈RP:Rm+1⟶Rm线性分段函数：P:Rn⟶Rm=P∙gf(x)=CTx+dAx+b​,dom f={x∣CTx+d>0}两个线性变换的除法也可以保持凸性

标签：Operations,preserve,frac,space,凸集,mid,theta,Rn,convexity
来源： https://blog.csdn.net/ahzahz/article/details/122629111