其他分享
首页 > 其他分享> > P10 凸函数的扩展

P10 凸函数的扩展

作者:互联网

P10

凸函数的定义

一个函数f:RnRf: R^n \mapsto Rf:Rn↦R 为凸,等价于
domfdom fdomf为凸集
且对所有的 x,ydomf,0θ1x,y \in domf, 0 \leq \theta \leq 1x,y∈domf,0≤θ≤1 有 f(θx+(1θ)y)θf(x)+(1θ)f(y)f(\theta x + (1-\theta) y) \leq \theta f(x) + (1-\theta)f(y)f(θx+(1−θ)y)≤θf(x)+(1−θ)f(y)

凸函数的扩展

f:RnRf: R^n \mapsto Rf:Rn↦R 为凸 dom  f=CRndom \; f = C \subseteq R^ndomf=C⊆Rn

定义
f^={f(x), xdomf+,xdomf\hat{f} =\begin{cases} f(x), & \text { $x \in domf$} \\ + \infty , & \text{$x \notin domf$} \end{cases}f^​={f(x),+∞,​ x∈domfx∈/​domf​
f^:RnRdomf^=Rn\hat{f}: R^n \mapsto R \quad dom \hat{f}= R^nf^​:Rn↦Rdomf^​=Rn
在这里插入图片描述

示性函数是凸函数

突击 CRnC \subseteq R^nC⊆Rn
fc(x)={, xC0,xC f_c(x) = \begin{cases} 无定义, & \text { $x \notin C$} \\ 0 , & \text{$x \in C$} \end{cases} fc​(x)={无定义,0,​ x∈/​Cx∈C​
Ic(x)={+, xC0,xC I_c(x) = \begin{cases} + \infty, & \text { $x \notin C$} \\ 0 , & \text{$x \in C$} \end{cases} Ic​(x)={+∞,0,​ x∈/​Cx∈C​

fc(x)Ic(x)f_c(x)、I_c(x)fc​(x)、Ic​(x) 都是凸函数 +/2=++\infty/2=+\infty+∞/2=+∞

Jc(x)={1, xC0,xC J_c(x) = \begin{cases} 1, & \text { $x \notin C$} \\ 0 , & \text{$x \in C$} \end{cases} Jc​(x)={1,0,​ x∈/​Cx∈C​

Jc(x)J_c(x)Jc​(x) 不是凸函数也不是凹函数
在这里插入图片描述

一阶条件

f:RnRf: R^n \mapsto Rf:Rn↦R 可微,即梯度 fdomf\triangledown f在domf上均存在▽f在domf上均存在,则fff为凸等价于:
domfdomfdomf为凸
f(y)f(x)+fT(x)(yx)x,ydomff(y)\geq f(x)+\triangledown f^T(x)(y-x) \quad \forall x,y \in domff(y)≥f(x)+▽fT(x)(y−x)∀x,y∈domf
在这里插入图片描述

证明:一阶条件
考虑一维情况f:RRf: R \mapsto Rf:R↦R 为凸,
等价于domfdom fdomf为凸集,且 f(y)f(x)+f(x)(yx)f(y) \geq f(x) + f'(x)(y-x)f(y)≥f(x)+f′(x)(y−x)
证:\Rightarrow
fff为凸,x,ydomf\forall x,y \in domf∀x,y∈domf 为凸
t,0<tt,x+t(yx)domf\forall t,0<t \leq t,x+t(y-x) \in domf∀t,0<t≤t,x+t(y−x)∈domf

f(x+t(yx))(1t)f(x)+tf(y)f(x+t(y-x)) \leq (1-t)f(x) + tf(y)f(x+t(y−x))≤(1−t)f(x)+tf(y)
tf(y)tf(x)+f(x+(yx))f(x)tf(y) \geq tf(x) + f(x+(y-x)) - f(x)tf(y)≥tf(x)+f(x+(y−x))−f(x)
f(y)f(x)+f(x+(yx))f(x)tf(y) \geq f(x) + \frac{ f(x+(y-x)) - f(x)}{t}f(y)≥f(x)+tf(x+(y−x))−f(x)​
limt0+lim_{t \rightarrow 0_+}limt→0+​​
f(y)f(x)+f(x)(yx)f(y) \geq f(x) + f'(x)(y-x)f(y)≥f(x)+f′(x)(y−x)

证: \Leftarrow
xy\forall x \not= y∀x​=y x,ydomfx,y \in domfx,y∈domf
0θ10 \leq \theta \leq 10≤θ≤1 构造 z=θx+(1θ)ydomfz = \theta x +(1-\theta)y \in domfz=θx+(1−θ)y∈domf
f(x)f(z)+f(z)(xz)f(x) \geq f(z) + f'(z)(x-z)f(x)≥f(z)+f′(z)(x−z)
f(y)f(z)+f(z)(yz)f(y) \geq f(z)+ f'(z)(y-z)f(y)≥f(z)+f′(z)(y−z)

θf(x)+(1θ)f(y)f(z)+(θ(xz)+(1θ)(yz))f(z)\theta f(x) + (1-\theta)f(y) \geq f(z) + (\theta(x-z)+(1-\theta)(y-z))f'(z)θf(x)+(1−θ)f(y)≥f(z)+(θ(x−z)+(1−θ)(y−z))f′(z)
θf(x)+(1θ)f(y)f(z)+(θx+(1θ)yz)f(z)\theta f(x) + (1-\theta)f(y) \geq f(z) + (\theta x +(1-\theta)y -z)f'(z)θf(x)+(1−θ)f(y)≥f(z)+(θx+(1−θ)y−z)f′(z)
θf(x)+(1θ)f(y)f(z)\theta f(x) + (1-\theta)f(y) \geq f(z)θf(x)+(1−θ)f(y)≥f(z)

标签:geq,凸函数,扩展,domf,P10,tf,theta,Rn
来源: https://blog.csdn.net/qq_28404829/article/details/101143318