琴生不等式

琴生不等式

琴生不等式（英语：Jensen's inequality，台湾称作简森不等式），或称延森不等式，以丹麦数学家约翰·延森命名。它给出积分的凸函数值和凸函数的积分值间的关系，在此不等式最简单形式中，阐明了对一平均做凸函数变换，会小于等于先做凸函数变换再平均。若将琴生不等式应用在二点上，就回到了凸函数的基本性质：过一个凸函数上任意两点所作割线一定在这两点间的函数图象的上方，即：

$t f(x_1) + (1-t) f(x_2) \geq f \left (t x_1 + (1-t) x_2 \right ), 0 \leq t \leq 1.$

一般形式

延森不等式可以用测度论或概率论的语言给出。这两种方式都表明同一个很一般的结果。

测度论的版本

假设$\mu$是集合$\Omega$的正测度，使得$\mu(\Omega) = 1$。若$g$是勒贝格可积的实值函数，而$\varphi$是在$g$的值域上定义的凸函数，则

$\varphi\left(\int_{\Omega} g\, d\mu\right) \le \int_\Omega \varphi \circ g\, d\mu$

概率论的版本

以概率论的名词，$\mu$是个概率测度。函数$g$换作实值随机变量$X$（就纯数学而言，两者没有分别）。在$\Omega$空间上，任何函数相对于概率测度$\mu$的积分就成了期望值。这不等式就说，若$\varphi$是任一凸函数，则

$\varphi\left(E(X)\right) \leq E(\varphi(X))\,$

特例

概率密度函数的形式

假设$\Omega$是实轴上的可测子集，而$f(x)$是非负函数，使得

$\int_{-\infty}^\infty f(x)\,dx = 1.$

以概率论的语言，$f$是个概率密度函数。

延森不等式变成以下关于凸积分的命题：

若$g$是任一实值可测函数，$\varphi$在$g$的值域中是凸函数，则

$\varphi\left(\int_{-\infty}^\infty g(x)f(x)\, dx\right) \le \int_{-\infty}^\infty \varphi(g(x)) f(x)\, dx .$

若$g(x)=x$，则这形式的不等式简化成一个常用特例：

$\varphi\left(\int_{-\infty}^\infty x\, f(x)\, dx\right) \le \int_{-\infty}^\infty \varphi(x)\,f(x)\, dx .$

有限形式

若$\Omega$是有限集合$\{x_1,x_2,\ldots,x_n\}$，而$\mu$是$\Omega$上的正规计数测度，则不等式的一般形式可以简单地用和式表示：

$\varphi\left(\sum_{i=1}^{n} g(x_i)\lambda_i \right) \le \sum_{i=1}^{n} \varphi(g(x_i))\lambda_i,$

其中$\lambda_1 + \lambda_2 + \cdots + \lambda_n = 1, \lambda_i \ge 0$。

若$\varphi$是凹函数，只需把不等式符号调转。

假设$x_1, x_2, \ldots, x_n$是正实数，$g(x)=x$，$\lambda_i = 1/n$及$\varphi(x) = \log(x)$。上述和式便成了

$\log\left(\sum_{i=1}^{n} \frac{x_i}{n} \right) \ge \sum_{i=1}^{n} \frac{\log(x_i)}{n},$

两边取取以$e$为底数的指数函数就得出熟悉的均值不等式：

$\frac{x_1 + x_2 + \cdots + x_n}{n} \ge \sqrt[n]{x_1 x_2 \cdots x_n}.$

这不等式也有无限项的离散形式。

统计物理学

统计物理学中，若凸函数是指数函数，延森不等式特别重要：

$e^{\langle X \rangle} \leq \left\langle e^X \right\rangle,$

其中方括号表示期望值，是以随机变量X的某个概率分布算出。这个情形的证明很简单（参见Chandler, Sec. 5.5）：在以下等式的第三个指数函数

$\left\langle e^X \right\rangle = e^{\langle X \rangle} \left\langle e^{X - \langle X \rangle} \right\rangle$

套用不等式

$e^X \geq 1+X ,$

即得出所求的不等式。

参考书目

• Walter Rudin. Real and Complex Analysis. McGraw-Hill. 1987. ISBN 0-07-054234-1. 
• David Chandler. Introduction to Modern Statistical Mechanics. Oxford. 1987. ISBN 0-19-504277-8. 

外部链接

• MathWorld上的延森不等式网页