Introduction aux Probabilités - Université Rennes 2

Introduction aux Probabilités - Université Rennes 2 Introduction aux Probabilités - Université Rennes 2

sites.univ.rennes2.fr
from sites.univ.rennes2.fr More from this publisher
26.06.2013 Views

166 Chapitre 3. Variables aléatoires à densité 7. Application (a) Si le symbole d’entrée est + √ Eb (respectivement − √ Eb), alors Y ∼ N(+ √ Eb, N0 2 ) (respectivement Y ∼ N(− √ Eb, N0 2 )). De façon générale, Y = X + B où B est le bruit additif, supposé gaussien centré de variance N0/2 et indépendant de X, variable aléatoire binaire correspondant au symbole d’entrée. (b) Intuitivement, on se dit que le symbole d’entrée était plus vraisemblablement + √ Eb (respectivement − √ Eb) si la sortie y est positive (respectivement négative). Cette règle est en effet la bonne si les symboles d’entrée sont équiprobables, c’est-à-dire si È(X = + √ Eb) =È(X = + √ Eb) = 1/2. Il suffit de comparer les probabilités conditionnelles pour s’en convaincre. Il convient juste d’adapter la formule de Bayes et celle des probabilités totales au cas d’un cocktail entre loi discrète et loi à densité, ce qui donne ici : È(X = + Eb|y) = f(y|X = +√ Eb)È(X = + √ Eb) d’où È(X = + Eb|y) = f(y) f(y|X = + √ Eb)È(X = + √ Eb) f(y|X = + √ Eb)È(X = + √ Eb)+f(y|X = − √ Eb)È(X = − √ Eb) Il reste à tenir compte du fait que les symboles d’entrée sont équiprobables et des densités respectives de la réponse Y connaissant X pour obtenir È(X = + Eb|y) = On en déduit automatiquement : e −(y−√ Eb ) 2 N0 e −(y−√ Eb ) 2 N0 +e −(y+√ Eb ) 2 N0 1 = 1+e −4 È(X = − Eb|y) = 1−È(X = + Eb|y) = e−4 et par suite È(X = + √ Eb|y) È(X = − √ = e Eb|y) 4 √ Eb N 0 y 1+e −4 √ Eb N 0 y √ Eb y N0 √ Eb y N0 (3.2) de sorte que ce rapport est supérieur à 1 si et seulement si y est positif, et la règle de décision au maximum de vraisemblance correspond bien à la règle intuititive donnée ci-dessus. Remarque : si les symboles d’entrée ne sont pas équiprobables, il faut en tenir compte dans la règle de décision. Supposons par exemple queÈ(X = + √ Eb) = 3/4, alors l’équation (3.2) devient È(X = + 3 Eb|y) = 3+e −4 et È(X = + √ Eb|y) È(X = − √ = 3 e Eb|y) 4 √ Eb N 0 y √ Eb N 0 y Ainsi on décide que le symbole d’entrée était X = + √ Eb si 3 e 4 √ Eb y −ln3 N0 N0 > 1 ⇔ y > τ = × √Eb 4 Arnaud Guyader - Rennes 2 Probabilités

3.6. Corrigés 167 Ces résultats admettent une interprétation graphique très simple : les points d’abscisses 0 et τ sont les points d’intersection des fonctions y ↦→ f(y|X = + √ Eb)È(X = + √ Eb) et y ↦→ f(y|X = − √ Eb)È(X = − √ Eb) respectivement lorsqueÈ(X = + √ Eb) = 1/2 et È(X = + √ Eb) = 3/4 (voir figure 3.21 dans le cas où N0 = √ Eb = 1, d’où en particulier τ = −ln3/4 ≈ −0.27). Figure 3.21 – Fonctions y ↦→ f(y|X = + √ Eb)È(X = + √ Eb) et y ↦→ f(y|X = − √ Eb)È(X = − √ Eb) lorsqueÈ(X = + √ Eb) = 1/2 (à gauche) etÈ(X = + √ Eb) = 3/4 (à droite). (c) Dans le cas où les symboles d’entrée sont équiprobables, la probabilité d’erreur Pe est égale à la somme de la probabilité de décider + √ Eb alors que le symbole d’entrée était − √ Eb et vice-versa : Pe =È(Y > 0|X = − Eb)È(X = − Eb)+È(Y < 0|X = + Eb)È(X = + Eb) et par symétrie des rôles, en notant toujours B le bruit additif : Pe =È(B > B Eb) =È N0/2 > √ Eb 2Eb = Q . N0/2 N0 Exercice 3.28 (Entropie d’une variable aléatoire) Si X est une variable aléatoire réelle admettant une densité f, on appelle entropie de X la quantité (si elle est définie) : h(X) = E[−lnf(X)] = − +∞ −∞ 1. Si X ∼ N(0,1), alors son entropie s’écrit +∞ e h(X) = − −∞ −x2 ⎛ 2 √ ln⎝ 2π e−x2 ⎞ 2 √ ⎠ dx = 2π ln(2π) 2 or +∞ −∞ d’où en effet e −x2 2 √ 2π dx = 1 et +∞ −∞ f(x)lnf(x)dx. +∞ −∞ h(X) = 1 2 (1+ln(2π)). e −x2 2 √ 2π dx+ 1 2 +∞ −∞ x 2e−x2 2 √ dx 2π x 2e−x2 2 √ dx = E[X 2π 2 ] = Var(X) = 1 2. Le même calcul que ci-dessus montre que si X ∼ N(m,σ 2 ), alors elle a pour entropie : h(X) = 1 2 (1+log(2πσ2 )). Probabilités Arnaud Guyader - Rennes 2

166 Chapitre 3. Variables aléatoires à densité<br />

7. Application<br />

(a) Si le symbole d’entrée est + √ Eb (respectivement − √ Eb), alors Y ∼ N(+ √ Eb, N0<br />

2 )<br />

(respectivement Y ∼ N(− √ Eb, N0<br />

2 )). De façon générale, Y = X + B où B est le<br />

bruit additif, supposé gaussien centré de variance N0/2 et indépendant de X, variable<br />

aléatoire binaire correspondant au symbole d’entrée.<br />

(b) Intuitivement, on se dit que le symbole d’entrée était plus vraisemblablement + √ Eb<br />

(respectivement − √ Eb) si la sortie y est positive (respectivement négative). Cette<br />

règle est en effet la bonne si les symboles d’entrée sont équiprobables, c’est-à-dire si<br />

È(X = + √ Eb) =È(X = + √ Eb) = 1/2. Il suffit de comparer les probabilités conditionnelles<br />

pour s’en convaincre. Il convient juste d’adapter la formule de Bayes et celle<br />

des probabilités totales au cas d’un cocktail entre loi discrète et loi à densité, ce qui<br />

donne ici : È(X = + Eb|y) = f(y|X = +√ Eb)È(X = + √ Eb)<br />

d’où<br />

È(X = + Eb|y) =<br />

f(y)<br />

f(y|X = + √ Eb)È(X = + √ Eb)<br />

f(y|X = + √ Eb)È(X = + √ Eb)+f(y|X = − √ Eb)È(X = − √ Eb)<br />

Il reste à tenir compte du fait que les symboles d’entrée sont équiprobables et des<br />

densités respectives de la réponse Y connaissant X pour obtenir<br />

È(X = + Eb|y) =<br />

On en déduit automatiquement :<br />

e −(y−√ Eb ) 2<br />

N0 e −(y−√ Eb ) 2<br />

N0 +e −(y+√ Eb ) 2<br />

N0 1<br />

=<br />

1+e −4<br />

È(X = − Eb|y) = 1−È(X = + Eb|y) = e−4<br />

et par suite<br />

È(X = + √ Eb|y)<br />

È(X = − √ = e<br />

Eb|y) 4<br />

√ Eb<br />

N 0 y<br />

1+e −4<br />

√ Eb<br />

N 0 y<br />

√<br />

Eb<br />

y N0 √<br />

Eb<br />

y N0 (3.2)<br />

de sorte que ce rapport est supérieur à 1 si et seulement si y est positif, et la règle de<br />

décision au maximum de vraisemblance correspond bien à la règle intuititive donnée<br />

ci-dessus.<br />

Remarque : si les symboles d’entrée ne sont pas équiprobables, il faut en tenir compte<br />

dans la règle de décision. Supposons par exemple queÈ(X = + √ Eb) = 3/4, alors<br />

l’équation (3.2) devient<br />

È(X = + 3<br />

Eb|y) =<br />

3+e −4<br />

et<br />

È(X = + √ Eb|y)<br />

È(X = − √ = 3 e<br />

Eb|y) 4<br />

√ Eb<br />

N 0 y<br />

√ Eb<br />

N 0 y<br />

Ainsi on décide que le symbole d’entrée était X = + √ Eb si<br />

3 e 4<br />

√<br />

Eb<br />

y −ln3 N0<br />

N0 > 1 ⇔ y > τ = × √Eb<br />

4<br />

Arnaud Guyader - <strong>Rennes</strong> 2 <strong>Probabilités</strong>

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!