函式為凸函式的微分條件

Basis
最後更新: 標籤: 微積分, 凸性

先備知識

凸函式的弦定義是全域性的：你必須對所有點的凸組合逐一比較函式值與對應弦高。對所有點對進行這樣的驗證並不實際。可微性將凸性轉化為局部條件：對 f′f' 或 f′′f'' 在每一點處的一個不等式，取代了無窮多個弦的比較。

條件一：透過 f′f' 的單調性判定凸性

定理。 設 ff 在開區間 II 上可微。則 ff 在 II 上為凸函式，若且唯若 f′f' 在 II 上單調不遞減。

證明（⇒\Rightarrow）：凸函式 ⇒\Rightarrow f′f' 不遞減

假設 ff 在 II 上為凸函式。取 II 中 x1<x2x_1 < x_2，目標是證明 f′(x1)≤f′(x2)f'(x_1) \leq f'(x_2)。

回顧凸函式 checkpoint 中等價的割線斜率刻畫：對 II 中任意 a<b<ca < b < c，

f(b)−f(a)b−a  ≤  f(c)−f(b)c−b.(1)\frac{f(b) - f(a)}{b - a} \;\leq\; \frac{f(c) - f(b)}{c - b}. \tag{1}

以 a=x1a = x_1、b=x2b = x_2、c=x2+hc = x_2 + h（h>0h > 0 小）代入 (1)(1)：

f(x2)−f(x1)x2−x1  ≤  f(x2+h)−f(x2)h.\frac{f(x_2) - f(x_1)}{x_2 - x_1} \;\leq\; \frac{f(x_2 + h) - f(x_2)}{h}.

對右側取 h→0+h \to 0^+ 得 f′(x2)f'(x_2)。

再以 a=x1a = x_1、b=x1+hb = x_1 + h、c=x2c = x_2（h>0h > 0 小）代入 (1)(1)：

f(x1+h)−f(x1)h  ≤  f(x2)−f(x1+h)x2−x1−h.\frac{f(x_1 + h) - f(x_1)}{h} \;\leq\; \frac{f(x_2) - f(x_1 + h)}{x_2 - x_1 - h}.

對左側取 h→0+h \to 0^+ 得 f′(x1)f'(x_1)，右側趨向 f(x2)−f(x1)x2−x1\dfrac{f(x_2) - f(x_1)}{x_2 - x_1}。

串接：

f′(x1)  ≤  f(x2)−f(x1)x2−x1  ≤  f′(x2).f'(x_1) \;\leq\; \frac{f(x_2) - f(x_1)}{x_2 - x_1} \;\leq\; f'(x_2).

故 f′(x1)≤f′(x2)f'(x_1) \leq f'(x_2)。□\square

證明（⇐\Leftarrow）：f′f' 不遞減 ⇒\Rightarrow 凸函式

假設 f′f' 在 II 上不遞減。取 II 中 x<yx < y，λ∈(0,1)\lambda \in (0, 1)；令 z≔λx+(1−λ)yz \coloneqq \lambda x + (1 - \lambda)y，則 x<z<yx < z < y。

注意 z−x=(1−λ)(y−x)z - x = (1-\lambda)(y - x) 且 y−z=λ(y−x)y - z = \lambda(y - x)。

由均值定理：

f(z)−f(x)  =  f′(c1)(z−x)對某 c1∈(x,z)，f(z) - f(x) \;=\; f'(c_1)(z - x) \quad\text{對某 } c_1 \in (x, z)， f(y)−f(z)  =  f′(c2)(y−z)對某 c2∈(z,y)。f(y) - f(z) \;=\; f'(c_2)(y - z) \quad\text{對某 } c_2 \in (z, y)。

因為 c1<z<c2c_1 < z < c_2 且 f′f' 不遞減，故 f′(c1)≤f′(c2)f'(c_1) \leq f'(c_2)。因此：

f(z)−f(x)z−x  =  f′(c1)  ≤  f′(c2)  =  f(y)−f(z)y−z.\frac{f(z) - f(x)}{z - x} \;=\; f'(c_1) \;\leq\; f'(c_2) \;=\; \frac{f(y) - f(z)}{y - z}.

代入 z−x=(1−λ)(y−x)z - x = (1-\lambda)(y-x) 和 y−z=λ(y−x)y - z = \lambda(y-x)：

f(z)−f(x)1−λ  ≤  f(y)−f(z)λ.\frac{f(z) - f(x)}{1 - \lambda} \;\leq\; \frac{f(y) - f(z)}{\lambda}.

兩側乘以 λ(1−λ)>0\lambda(1-\lambda) > 0：

λ(f(z)−f(x))  ≤  (1−λ)(f(y)−f(z)).\lambda\bigl(f(z) - f(x)\bigr) \;\leq\; (1-\lambda)\bigl(f(y) - f(z)\bigr).

整理：

λf(z)−λf(x)  ≤  (1−λ)f(y)−(1−λ)f(z),\lambda f(z) - \lambda f(x) \;\leq\; (1-\lambda)f(y) - (1-\lambda)f(z), f(z)  ≤  λf(x)+(1−λ)f(y).□f(z) \;\leq\; \lambda f(x) + (1-\lambda)f(y). \quad \square

這正是弦不等式，故 ff 為凸函式。

條件二：透過二階導數判定凸性

定理。 設 f∈C2(I)f \in C^2(I)。則 ff 在 II 上為凸函式，若且唯若對所有 x∈Ix \in I，f′′(x)≥0f''(x) \geq 0。

證明。 由條件一，ff 在 II 上為凸函式若且唯若 f′f' 在 II 上不遞減。由對 f′f' 應用單調性判定，f′f' 在 II 上不遞減若且唯若 (f′)′=f′′≥0(f')' = f'' \geq 0 在 II 上成立。串接兩個等價即得結論。□\square

嚴格凸性

推論。 若對所有 x∈Ix \in I，f′′(x)>0f''(x) > 0，則 ff 在 II 上嚴格凸。

證明。 f′′f'' 嚴格正意味著 f′f' 嚴格遞增（單調性判定，情形一）。在上面 (⇐)(\Leftarrow) 的證明中，c1<c2c_1 < c_2 此時迫使 f′(c1)<f′(c2)f'(c_1) < f'(c_2)，從而整個不等式鏈均嚴格成立，給出嚴格凸性。□\square

逆命題不成立：f(x)=x4f(x) = x^4 滿足 f′′(0)=0f''(0) = 0 但仍為嚴格凸函式——f′′>0f'' > 0 處處成立是嚴格凸的充分條件，但非必要條件。

辨認凸函式

二階導數判定使凸性的驗證變為符號檢查：

函式定義域f′′f''凸性？
x2x^2R\mathbb{R}2>02 > 0嚴格凸
x4x^4R\mathbb{R}12x2≥012x^2 \geq 0嚴格凸（見上方說明）
exe^xR\mathbb{R}ex>0e^x > 0嚴格凸
−ln⁡x-\ln x(0,∞)(0, \infty)1/x2>01/x^2 > 0嚴格凸
ln⁡x\ln x(0,∞)(0, \infty)−1/x2<0-1/x^2 < 0嚴格凹
x3x^3R\mathbb{R}6x6x，變號既非凸也非凹

對於 f(x)=x3f(x) = x^3：在 (0,∞)(0, \infty) 上 f′′(x)>0f''(x) > 0，在 (−∞,0)(-\infty, 0) 上 f′′(x)<0f''(x) < 0，故 ff 在 (0,∞)(0, \infty) 上為凸，在 (−∞,0)(-\infty, 0) 上為凹，但在整個 R\mathbb{R} 上兩者均非。

摘要

  • 條件一：ff 在 II 上可微，則 ff 凸   ⟺  \iff f′f' 在 II 上不遞減。
    • （⇒\Rightarrow）：凸函式的割線斜率性質夾出 f′(x1)≤f′(x2)f'(x_1) \leq f'(x_2)。
    • （⇐\Leftarrow）：均值定理給出 c1<c2c_1 < c_2 且 f′(c1)≤f′(c2)f'(c_1) \leq f'(c_2)，代數推導出弦不等式。
  • 條件二：f∈C2(I)f \in C^2(I) 則 ff 凸   ⟺  \iff f′′≥0f'' \geq 0 在 II 上成立（結合條件一與對 f′f' 的單調性判定）。
  • 嚴格凸性：f′′>0f'' > 0 處處成立 ⇒\Rightarrow 嚴格凸；逆命題在孤立點處可能失敗。
  • 實際判斷凸性：計算 f′′f'' 並確定其在目標區間上的符號。