Espérance et Variance des Variables Discrètes

Bonjour,

Dans la leçon précédente, nous avons vu comment les probabilités conditionnelles et le théorème de Bayes nous permettent de mettre à jour nos connaissances face à de nouvelles informations. Nous avons appris à calculer la probabilité d'événements complexes en structurant notre raisonnement. Aujourd'hui, nous allons franchir une nouvelle étape dans la caractérisation des phénomènes aléatoires. Au lieu de nous concentrer uniquement sur la probabilité de chaque issue, nous allons chercher à résumer une distribution de probabilité par deux indicateurs numériques fondamentaux : sa tendance centrale et sa dispersion.

L'objectif de cette leçon est donc de calculer l'espérance et la variance d'une variable aléatoire discrète. L'espérance, ou moyenne, représente la valeur que l'on peut espérer obtenir en moyenne si l'on répète l'expérience un grand nombre de fois. La variance, quant à elle, mesure à quel point les résultats tendent à s'écarter de cette moyenne. Ces concepts sont au cœur de l'analyse d'algorithmes (par exemple, pour la complexité en cas moyen du tri rapide), de la théorie des jeux, ou encore de l'analyse de la performance des systèmes informatiques.

1. L'espérance : le centre de gravité d'une loi de probabilité

L'espérance d'une variable aléatoire $X$ , notée $E (X)$ ou $μ$ , est la moyenne pondérée des valeurs que $X$ peut prendre, où les poids sont les probabilités associées à chaque valeur.

Définition : Soit $X$ une variable aléatoire discrète de support $S_{X}$ (l'ensemble des valeurs qu'elle peut prendre) et de fonction de masse $P (X = x)$ . Son espérance est définie par :

E (X) = x \in S_{X} \sum x \cdot P (X = x)

Pour vous familiariser avec cette définition et voir des exemples concrets de calcul, je vous propose de lire la première partie de la section "Espérance et variance d’une v.a. discrète" du document suivant.

MODULE 6 Variable aléatoire

Ce document du cours 'Variable aléatoire' de l'UQTR définit formellement l'espérance et donne son interprétation intuitive comme "centre de masse" ou valeur moyenne sur le long terme. Les exemples sont clairs et vous aideront à fixer les idées.

Lisez la section intitulée 'Espérance et variance d’une v.a. discrète', depuis la Définition 2.2 jusqu'à l'Exemple 2.7. Concentrez-vous sur la formule de l'espérance et sur la manière dont elle est appliquée dans les différents exemples.

Pour visualiser le calcul, la vidéo suivante vous guidera à travers un exemple détaillé, étape par étape.

Expected Value and Variance of Discrete Random Variables

Cette vidéo de 'jbstatistics' montre comment appliquer la formule de l'espérance. Même si elle est en anglais, les calculs sont universels et très clairement présentés.

Regardez les deux segments suivants : De 00:32 à 01:40, pour la définition de l'espérance (Expected Value). De 04:53 à 05:47, pour suivre un exemple de calcul complet. Observez comment chaque valeur de la variable est multipliée par sa probabilité avant d'être sommée.

2. La variance : une mesure de la dispersion

L'espérance seule est insuffisante. Considérez deux jeux :

Jeu A : Vous gagnez 10€ à coup sûr. $E (X_{A}) = 10$ .
Jeu B : Vous avez 50% de chance de gagner 20€ et 50% de ne rien gagner. $E (X_{B}) = 20 \cdot 0.5 + 0 \cdot 0.5 = 10$ .

Les deux jeux ont la même espérance, mais leur nature est radicalement différente. Le jeu B est "plus risqué". La variance mesure précisément cette dispersion ou ce "risque".

Définition : La variance de $X$ , notée $V a r (X)$ ou $σ^{2}$ , est l'espérance du carré de l'écart à la moyenne :

V a r (X) = E [(X - μ)^{2}] = x \in S_{X} \sum (x - μ)^{2} \cdot P (X = x)

L'écart type, noté $σ$ , est simplement la racine carrée de la variance, $σ = V a r (X)$ . Il a l'avantage d'être exprimé dans la même unité que la variable $X$ .

Le calcul direct avec cette formule peut être fastidieux. Heureusement, il existe une formule équivalente, souvent bien plus pratique, connue sous le nom de formule de Koenig-Huygens.

Théorème :

V a r (X) = E (X^{2}) - [E (X)]^{2}

Cette formule vous demande de calculer l'espérance du carré de la variable, $E (X^{2}) = \sum x^{2} P (X = x)$ , puis de lui soustraire le carré de l'espérance que vous avez déjà calculée. C'est la méthode à privilégier dans la quasi-totalité des cas.

La vidéo suivante démontre le calcul de la variance en utilisant les deux formules, ce qui vous permettra de bien comprendre leur équivalence.

Expected Value and Variance of Discrete Random Variables

Nous retournons à la vidéo de 'jbstatistics'. L'auteur y présente la définition de la variance, la formule de calcul pratique, et applique les deux à son exemple.

Regardez les segments suivants : De 02:07 à 02:59 : Définition de la variance (average squared distance from the mean). De 02:59 à 04:01 : Introduction de la formule alternative (computational formula) E(X^2) - [E(X)]^2. De 06:17 à 07:15 : Calcul de la variance avec la formule de définition. De 05:47 à 06:17 : Calcul de E(X^2), l'ingrédient manquant pour la seconde formule. De 07:15 à 07:54 : Vérification que la formule alternative donne bien le même résultat.

3. Propriétés de l'espérance et de la variance

Lorsque l'on transforme une variable aléatoire (par exemple, en changeant d'unité de mesure), il n'est pas nécessaire de tout recalculer. Certaines propriétés, qu'il est indispensable de maîtriser pour l'Agrégation, simplifient grandement les choses.

Soient $X$ et $Y$ deux variables aléatoires, et $a, b$ des constantes réelles.

Propriétés de l'espérance (linéarité) :

$E (a) = a$
$E (a X + b) = a E (X) + b$
$E (X + Y) = E (X) + E (Y)$ (cette propriété est générale et ne requiert pas l'indépendance de X et Y)

Propriétés de la variance :

$V a r (a) = 0$
$V a r (X + b) = V a r (X)$ (une translation ne change pas la dispersion)
$V a r (a X) = a^{2} V a r (X)$ (le facteur est au carré !)
$V a r (a X + b) = a^{2} V a r (X)$

Si $X$ et $Y$ sont indépendantes, alors :

$V a r (X + Y) = V a r (X) + V a r (Y)$

Expectation and Variance of a Linear Combination of Independent Random Variables — Cet exemple illustre comment calculer l'espérance et la variance d'une combinaison linéaire de deux variables aléatoires indépendantes en utilisant les propriétés ci-dessus.

Vous pouvez retrouver une explication détaillée de ces transformations dans le document de l'UQTR que nous avons consulté précédemment, ainsi qu'un exemple d'application.

MODULE 6 Variable aléatoire

Reprenons le document de l'UQTR pour étudier les propriétés de l'espérance et de la variance lors de transformations.

Lisez la section 'Transformation' ainsi que la section 'Résumé'. Portez une attention particulière à la manière dont l'espérance et la variance réagissent aux changements d'échelle (multiplication par une constante) et aux translations (addition d'une constante).

4. Exercice d'application

La meilleure façon de valider votre compréhension est de résoudre un problème qui vous force à manipuler ces définitions. L'exercice suivant est un "problème inverse" : à partir des moments (espérance et espérance du carré), il faut retrouver la loi de probabilité.

ECG2-TD5-correction.pdf

Le document suivant contient une série d'exercices de niveau classes préparatoires, tout à fait adaptés à la préparation de l'Agrégation. Nous allons nous intéresser à l'exercice 5.9.

Concentrez-vous sur la première question de l'Exercice 5.9. Essayez de la résoudre par vous-même. Vous disposez de trois inconnues (les probabilités p₀, p₁, p₂) et vous pouvez formuler trois équations. Une fois votre solution établie, vous pouvez la comparer avec la correction fournie dans le document.

Voici une piste pour vous guider :

Équation 1 : La somme des probabilités doit valoir 1.
Équation 2 : Utilisez la définition de l'espérance $E (Y)$ pour obtenir une équation liant $p_{1}$ et $p_{2}$ .
Équation 3 : Utilisez la définition de l'espérance du carré $E (Y^{2})$ pour obtenir une seconde équation liant $p_{1}$ et $p_{2}$ .

Votre formation en informatique et mathématiques vous a rendu familier avec la résolution de systèmes d'équations linéaires, ce qui est la clé ici.

Conclusion

Dans cette leçon, nous avons appris à synthétiser une loi de probabilité discrète à l'aide de deux descripteurs fondamentaux.

Points clés à retenir :

L'espérance $E (X) = \sum x P (X = x)$ est la valeur moyenne d'une variable aléatoire.
La variance $V a r (X)$ mesure la dispersion autour de la moyenne. Elle se calcule efficacement avec la formule de Koenig-Huygens : $V a r (X) = E (X^{2}) - [E (X)]^{2}$ .
L'écart type $σ = V a r (X)$ est la mesure de dispersion dans la même unité que $X$ .
L'espérance est linéaire : $E (a X + b) = a E (X) + b$ .
La variance réagit différemment : $V a r (a X + b) = a^{2} V a r (X)$ .

Cette leçon conclut notre module sur les mathématiques discrètes. Vous disposez maintenant des outils de base en logique, méthodes de preuve, dénombrement et probabilités. Ces outils ne sont pas une fin en soi ; ils sont le langage sur lequel nous allons construire des raisonnements plus complexes en algorithmique et en théorie de l'informatique.

Notre prochain cours marquera le début du Module 3 : Fondements de l'Analyse d'Algorithmes. Nous commencerons par un concept qui est à la fois une technique de programmation puissante et un objet mathématique formel : la récursivité. Vous verrez immédiatement comment les relations de récurrence que nous avons étudiées dans ce module sont essentielles pour analyser la complexité des algorithmes récursifs.

Recommended resources

1. L'espérance : le centre de gravité d'une loi de probabilité

2. La variance : une mesure de la dispersion

3. Propriétés de l'espérance et de la variance

4. Exercice d'application

Conclusion