Entropie d'une loi normale
Réponses à toutes vos questions après le Bac (Fac, Prépa, etc.)
-
Elganar
- Membre Naturel
- Messages: 79
- Enregistré le: 08 Avr 2013, 16:24
-
par Elganar » 24 Oct 2015, 15:38
Bonjour,
Je souhaite calculer l'entropie d'une loi normale en connaissant sa densité.
Puis qu'il s'agit d'une loi normale j'ai posé Z une VAR N(0,1) pour avoir X=qZ+m
Avec m et q les deux paramètres de X.
Cependant je n'arrive pas à aboutir mes calculs, merci d'avance pour votre aide !
Il s'agit de la question 2.3 du lien suivant:
Sujet ici
-
Sake
- Habitué(e)
- Messages: 1392
- Enregistré le: 17 Juil 2014, 21:32
-
par Sake » 24 Oct 2015, 16:50
Elganar a écrit:Bonjour,
Je souhaite calculer l'entropie d'une loi normale en connaissant sa densité.
Puis qu'il s'agit d'une loi normale j'ai posé Z une VAR N(0,1) pour avoir X=qZ+m
Avec m et q les deux paramètres de X.
Cependant je n'arrive pas à aboutir mes calculs, merci d'avance pour votre aide !
Il s'agit de la question 2.3 du lien suivant:
Sujet ici
Salut,
Soit
)
l'entropie associée à la loi normale de paramètres
)
si

suit cette loi.
Alors
 = - \int_{\mathbb{R}} \phi(x)\ln \phi(x) \mathrm{d}x)
et ici,
 = - \int_{\mathbb{R}} \frac{1}{\sqrt{2\pi \sigma^2}}e^{-\frac{(x-m)^2}{2\sigma^2}} \[-\frac{1}{2}\ln(2\pi\sigma) - \frac{(x-m)^2}{2\sigma^2}\]\mathrm{d}x)
Soit

, alors
^2}{2\sigma^2}\frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-m)^2}{2\sigma^2}} \mathrm{d}x = \int_{\mathbb{R}} \frac{z^2}{2}\frac{1}{\sqrt{2\pi}} e^{-\frac{z^2}{2}} \mathrm{d}z = \int_{\mathbb{R}}\frac{1}{2}u^2\phi_R (u)\mathrm{d}u)
où

est la loi normale centrée réduite.
On a alors
^2}{2\sigma^2}\frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-m)^2}{2\sigma^2}} \mathrm{d}x = \frac{1}{2}\mathbb{E}_R (Z^2) = \frac{1}{2})
Donc
 = \frac{1}{2}\ln(2\pi\sigma) + \frac{1}{2})
-
Elganar
- Membre Naturel
- Messages: 79
- Enregistré le: 08 Avr 2013, 16:24
-
par Elganar » 24 Oct 2015, 16:58
Bonjour,
Merci beaucoup pour cette petite astuce et ton aide !!
-
Sake
- Habitué(e)
- Messages: 1392
- Enregistré le: 17 Juil 2014, 21:32
-
par Sake » 24 Oct 2015, 17:03
Elganar a écrit:Bonjour,
Merci beaucoup pour cette petite astuce et ton aide !!
J'ai oublié des ² pour certains sigmas. Il te faudra les rajouter. Et ne te préoccupe pas du chgt de variable z -> u, car ce sont des variables muettes. De toute manière, cette manip a juste pour but de mettre en exergue le moment d'ordre 2 d'une loi normale centrée réduite.
-
Elganar
- Membre Naturel
- Messages: 79
- Enregistré le: 08 Avr 2013, 16:24
-
par Elganar » 24 Oct 2015, 17:38
Je ne comprends cependant pas pourquoi l'espérance vaut 1 :/
-
Elganar
- Membre Naturel
- Messages: 79
- Enregistré le: 08 Avr 2013, 16:24
-
par Elganar » 24 Oct 2015, 17:56
Elganar a écrit:Je ne comprends cependant pas pourquoi l'espérance vaut 1 :/
Ah oui le moment d'ordre !!
-
Sake
- Habitué(e)
- Messages: 1392
- Enregistré le: 17 Juil 2014, 21:32
-
par Sake » 24 Oct 2015, 18:22
Tout est éclairé ? :)
-
Elganar
- Membre Naturel
- Messages: 79
- Enregistré le: 08 Avr 2013, 16:24
-
par Elganar » 25 Oct 2015, 09:11
Oui merci beaucoup !
Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 24 invités