柯西-施瓦茨不等式

柯西-施瓦茨不等式（英語：Cauchy–Schwarz inequality），又稱施瓦茨不等式或柯西-布尼亞科夫斯基-施瓦茨不等式或柯西不等式，在多個数学领域中均有應用的不等式；例如線性代數的矢量，數學分析的無窮級數和乘積的積分，和概率論的方差和協方差。它被认为是最重要的数学不等式之一。它有一些推广，如赫尔德不等式。

不等式以奧古斯丁-路易·柯西，赫爾曼·施瓦茨，和維克托·布尼亞科夫斯基命名。

叙述

$V$ 是個複内积空间，則對所有的 $v,\,w\in V$ 有：

(a) $\|v\|\|w\|\geq |\langle v,\,w\rangle |$

(b) $\|v\|\|w\|=|\langle v,\,w\rangle |$ $\Leftrightarrow$ 存在 $\lambda \in \mathbb {C}$ 使 $v=\lambda \cdot w$

證明請見内积空间#柯西-施瓦茨不等式。

特例

實數

定理 — 
對有限实数数列 ${\{x_{i}\in \mathbb {R} \}}_{i=1}^{n}$和${\{y_{i}\in \mathbb {R} \}}_{i=1}^{n}$，有

$\left(\sum _{i=1}^{n}x_{i}y_{i}\right)^{2}\leq \left(\sum _{i=1}^{n}x_{i}^{2}\right)\left(\sum _{i=1}^{n}y_{i}^{2}\right)$

也就是

$(x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})\geq (x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})^{2}$

等式成立時存在實數$\lambda \in \mathbb {R}$，對於任意的正整數$i\in \mathbb {N}$有

$y_{i}=\lambda x_{i}$

此定理可以根據点积為内积的事實，然後設：

$x=(x_{1},\,\dots ,\,x_{n})\in \mathbb {R} ^{n}$

$y=(y_{1},\,\dots ,\,y_{n})\in \mathbb {R} ^{n}$

這樣根據一般內積空間的柯西不等式就可以得証，也可以如下依據實數的性質直接證明

證明

考慮一個關於$t$的一元二次方程式 $(x_{1}t+y_{1})^{2}+\cdots +(x_{n}t+y_{n})^{2}=0$ (1) 也就是 $(x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})t^{2}+2(x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})t+(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})=0$ (1') 因為對於任意實數$t\in \mathbb {R}$有 $(x_{1}t+y_{1})^{2}+\cdots +(x_{n}t+y_{n})^{2}\geq 0$ 所以$t$的二次方程式(1')不是沒有實數解，不然就是有重根，這樣的話，根據二次方程的公式解有 $D=4(x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})^{2}-4(x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})\leq 0$ 即 $(x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})\geq (x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})^{2}$(2) 另一方面，(2)等號成立等價於$D=0$，這正好就是(1)有重根的情況，換句話說 $x_{1}t+y_{1}=\cdots =x_{n}t+y_{n}=0$ 而$-t$就是定理要求的$\lambda \in \mathbb {R}$，故本定理得證。$\Box$

複數

$n$維复数空間$\mathbb {C} ^{n}$事實上是個定義在域$\mathbb {C}$(也就是純量母空間)上的複係數内积空间，只要對任意$x,\,y\in \mathbb {C} ^{n}$定義如下的內積函數：

$x=(x_{1},\,\dots ,\,x_{n})\in \mathbb {C} ^{n}$

$y=(y_{1},\,\dots ,\,y_{n})\in \mathbb {C} ^{n}$

$\langle x,\,y\rangle :=\sum _{i=1}^{n}x_{i}{\overline {y_{i}}}$

$\|x\|^{2}:=\langle x,\,x\rangle =\sum _{i=1}^{n}x_{i}{\overline {x_{i}}}=\sum _{i=1}^{n}|x_{i}|^{2}$

這樣根據一般內積空間的柯西不等式就有：

$|\langle x,\,y\rangle |\leq \|x\|\|y\|$

直接以複數性質證明的事實上與一般內積空間的證明方法雷同，請參閱内积空间#柯西-施瓦茨不等式。

矩阵

一般线性代数的書籍習慣將複數版本的柯西不等式以矩阵表示，換句話說，取：

$\mathbf {x} ={\begin{bmatrix}x_{1}\\\ldots \\x_{n}\end{bmatrix}}$

$\mathbf {y} ={\begin{bmatrix}y_{1}\\\ldots \\y_{n}\end{bmatrix}}$

$\mathbf {x} ^{\star }:={\begin{bmatrix}{\overline {x_{1}}}&\dots &{\overline {x_{n}}}\end{bmatrix}}$(共軛加上转置)

這樣的話，複數版本的柯西不等式可以重寫為：

$\mathbf {x} ^{\star }\mathbf {y} \leq (\mathbf {x} ^{\star }\mathbf {x} )(\mathbf {y} ^{\star }\mathbf {y} )$

注意到矩陣乘法偷懶地把只有一個元素的矩陣視為那個元素本身，而且為了符合矩陣乘法和线性映射的對應：

$T(\mathbf {x} )=\mathbf {T} \mathbf {x} ={\begin{bmatrix}T_{11}&\cdots &T_{1n}\\\vdots &&\vdots \\T_{nn}&\cdots &T_{nn}\\\end{bmatrix}}{\begin{bmatrix}x_{1}\\\vdots \\x_{n}\end{bmatrix}}$

必須把内积空间的線性定義改為：（也就是符合狄拉克符号的習慣）

线性	對所有 $a,\,v,\,w\in V$	$\langle a,\,v\oplus w\rangle =\langle a,\,v\rangle +\langle a,\,w\rangle$
	對所有 $v,\,w\in V$ 和所有 $\lambda \in F$	$\langle v,\,\lambda \cdot w\rangle =\lambda \times \langle v,\,w\rangle$

但這並沒有產生任何新的性質。而等號成立地條件也只是換種說法，說成是$\mathbf {x}$与$\mathbf {y}$线性相关。

Lp空间

• 對平方可積的複值函數，有

$\left|\int _{\mathbb {R} ^{n}}f(x){\overline {g(x)}}\,dx\right|^{2}\leq \int _{\mathbb {R} ^{n}}|f(x)|^{2}\,dx\int _{\mathbb {R} ^{n}}|g(x)|^{2}\,dx$。

可一般化為赫爾德不等式。

• 原不等式可以增強至拉格朗日恒等式

$\langle x,x\rangle \cdot \langle y,y\rangle =|\langle x,y\rangle |^{2}+|x\times y|^{2}$。

这是

$\left(\sum _{i=1}^{n}x_{i}y_{i}\right)^{2}=\left(\sum _{i=1}^{n}x_{i}^{2}\right)\left(\sum _{i=1}^{n}y_{i}^{2}\right)-\left(\sum _{1\leq i<j\leq n}(x_{i}y_{j}-x_{j}y_{i})^{2}\right)$

同名的定理

正定對稱算子

$V$是個複内积空间，如果$A\subseteq V$， $T:A\to V$，這時如果對所有$a\in A$ 都有$\langle A(a),a\rangle \geq 0$，稱$T$是$V$的一個正定算子（positive operator）。

類似的，如果對所有$a,\,b\in A$ 都有$\langle A(a),\,b\rangle =\langle a,\,A(b)\rangle$，稱$T$是$V$的一個對稱算子（symmetric operator）。

定理 — 
對於複係數内积空间$V$的线性子空间$A\subseteq V$，如果$T:A\to V$是$V$的一個正定對稱的线性映射，則對於任意$x,y\in A$有：

$|\langle A(x),\,y\rangle |^{2}\leq \langle A(x),\,x\rangle \langle A(y),\,y\rangle$

證明

若 $x=y=0_{V}$ ，注意到對於任意$z\in A$有 ${\begin{aligned}\langle \,A(0_{V}),\,0_{V}\,\rangle &=\langle \,A(0_{V}),\,z\oplus (-1)\cdot z\,\rangle \\&=\langle \,A(0_{V}),\,z\,\rangle -\langle \,A(0_{V}),\,z\,\rangle \\&=0\end{aligned}}$ 所以這種情況下，本不等式成立。 若考慮 $x,\,y\neq 0_{V}$ ，取 $e_{x}={\frac {1}{|\langle \,A(x),\,x\,\rangle |}}\cdot x$ $e_{y}={\frac {1}{|\langle \,A(y),\,y\,\rangle |}}\cdot y$ $\alpha =\langle A(e_{x}),\,e_{y}\rangle$ 則 ${\begin{aligned}\langle \,A[e_{x}\oplus (-\alpha )\cdot e_{y}],\,e_{x}\oplus (-\alpha )\cdot e_{x}\,\rangle &=\langle \,A(e_{x})\oplus (-\alpha )\cdot A(e_{y}),\,e_{x}\oplus (-\alpha )\cdot e_{x}\,\rangle \\&=\langle \,A(e_{x}),\,e_{x}\,\rangle -\alpha \langle \,A(e_{y}),\,e_{x}\,\rangle -{\overline {\alpha }}\langle \,A(e_{x}),\,e_{y}\,\rangle +\alpha {\overline {\alpha }}\langle \,A(e_{y}),\,e_{y}\,\rangle \\&=1-\alpha {\overline {\alpha }}-{\overline {\alpha }}\alpha +\alpha {\overline {\alpha }}\\&=1-\left|{\frac {\langle \,A(x),\,y\,\rangle }{\langle \,A(e_{x}),\,e_{x}\,\rangle \langle \,A(e_{y}),\,e_{y}\,\rangle }}\right|^{2}\\&\geq 0\end{aligned}}$ 所故得証。$\Box$

考慮到對稱算子$A$在有有限基底的向量空间中都可以唯一的表示成某個埃尔米特矩阵$\mathbf {A}$，一般线性代数的書籍習慣以如下的形式表示：

$|\mathbf {A} \mathbf {x^{\star }} \mathbf {y} |^{2}\leq (\mathbf {A} \mathbf {x^{\star }} \mathbf {x} )(\mathbf {A} \mathbf {y^{\star }} \mathbf {y} )$

另外，正定算子對應的矩陣元素都必須$\geq 0$，所以正定對稱算子對應的$\mathbf {A}$是對稱且非負的矩陣。

這個定理無法視為本章所述的柯西不等式的特例，因為$\langle \,A(x),\,x\,\rangle =0$不一定能推出$x=0_{V}$，如：

$A:\mathbb {C} ^{2\times 1}\to \mathbb {C} ^{2\times 1}$

$A\left({\begin{bmatrix}x\\y\end{bmatrix}}\right)={\begin{bmatrix}1&1\\1&1\end{bmatrix}}{\begin{bmatrix}x\\y\end{bmatrix}}$

$\left\langle \,{\begin{bmatrix}a_{1}\\a_{2}\end{bmatrix}},\,{\begin{bmatrix}b_{1}\\b_{2}\end{bmatrix}}\,\right\rangle :=a_{1}{\overline {b_{1}}}+a_{2}{\overline {b_{2}}}$

的話，那：

$\left\langle \,A\left({\begin{bmatrix}1\\-1\end{bmatrix}}\right),\,{\begin{bmatrix}1\\-1\end{bmatrix}}\,\right\rangle =\left\langle {\begin{bmatrix}1&1\\1&1\end{bmatrix}}{\begin{bmatrix}1\\-1\end{bmatrix}},\,{\begin{bmatrix}1\\-1\end{bmatrix}}\right\rangle =\left\langle {\begin{bmatrix}0\\0\end{bmatrix}},\,{\begin{bmatrix}1\\-1\end{bmatrix}}\right\rangle =0$

所以

$f:\mathbb {C} ^{2\times 1}\times \mathbb {C} ^{2\times 1}\to \mathbb {C}$

$f(\mathbf {x} ,\,\mathbf {y} )=\langle \,\mathbf {A} \mathbf {x} ,\,\mathbf {y} \,\rangle$

不一定有非退化的性質，而不能視為內積，所以就無法直接套用內積空間的柯西不等式。這也意味著以上定理等號成立的條件，不必然是线性相关。

复变函数中的柯西不等式

设 $f(z)$在区域$D$及其边界上解析，$a$ 为$D$内一点，以$a$为圆心做圆周 $C_{R}:|z-a|=R$，只要$C_{R}$及其内部$G$均被$D$包含，则有：

$\left|f^{(n)}(z_{0})\right|\leq {\frac {n!M}{R^{n}}}\qquad (n=1,2,3,...)$

其中，M是$|f(z)|$的最大值，$M=\max \limits _{|x-a|\in R}|f(x)|$ 。

其它推广

${\sqrt {\sum _{i=1}^{n}(\sum _{j=1}^{m}a_{ij})^{2}}}\leq \sum _{j=1}^{m}{\sqrt {\sum _{i=1}^{n}a_{ij}^{2}}}$

$m\geq \alpha >0,(\sum _{i=1}^{n}\prod _{j=1}^{m}a_{ij})^{\alpha }\leq \prod _{j=1}^{m}\sum _{i=1}^{n}a_{ij}^{\alpha }$

若$\displaystyle q_{i}\geq 0,\sum _{i}q_{i}=1$，则$\displaystyle (x^{*}A^{\sum _{i}a_{i}q_{i}}x)\leq \prod _{i}(x^{*}A^{a_{i}}x)^{q_{i}}$

參見

• 三角不等式
• 內積空間