Variance et covariance
Sommaire:
Toutes les variables considérées sont de carré intégrable.
On définit la variance de $X$ par $$ {\rm Var}[X] = \mathbb{E}\left[(X - \mathbb{E}[X])^2\right] $$
et la covariance de $X$ et $Y$ par $$ {\rm Cov}[X, Y] = \mathbb{E}\Big[(X - \mathbb{E}[X])(Y - \mathbb{E}[Y])\Big] = \mathbb{E}[XY] - \mathbb{E}[X] \mathbb{E}[Y] $$
Nous avons $$ {\rm Var}[X + Y] = {\rm Var}[X] + {\rm Var}[Y] + 2{\rm Cov}[X, Y] $$
Si $X$ et $Y$ sont indépendantes, alors ${\rm Cov}[X, Y] = 0$.
Soit $\epsilon >0$. $$ {\rm P}\left(|X - {\rm E}[X]| > \epsilon\right) \leq \frac{{\rm Var}[X]}{\epsilon^2} $$
Soient $X_1, X_2,\dots,X_n$ des variables indépendantes et de même loi, de carré intégrable, alors $$ {\rm P}\left(\left|\frac{1}n \sum_i^n X_i - {\rm E}[X]\right| > \epsilon\right) \xrightarrow[n\to\infty]{} 0 $$