Expression de l'entropie
Réponses à toutes vos questions après le Bac (Fac, Prépa, etc.)
-
Zap
- Messages: 4
- Enregistré le: 17 Mai 2006, 12:00
-
par Zap » 17 Mai 2006, 12:06
Bonjour,
voila l'entropie de shannon est définie comme
H(x) = - Sum p(x) log_2 p(x)
mon problème,
exprimer la probabilité en fonction de l'entropie quand x peut avoir deux valeurs
donc on peut simplifier la formule du haut pour un cas à 2 classes :
 = - p(x) log_2(p(x)) - (1-p(x)) log_2(1-p(x)))
j'aimerais donc avoir une équation de la forme
p(x) = ... fonction de H(x) ...
normalement cela devrait être un polynome de degré 2 avec 2 racines dont la somme vaut 1
Ca doit être super simple mais ca m'aiderait pas mal

Merci
-
yos
- Membre Transcendant
- Messages: 4858
- Enregistré le: 10 Nov 2005, 20:20
-
par yos » 17 Mai 2006, 12:22
Si j'ai bien compris :
=H(x))
donc
=2^{-H(x)})
.
-
yos
- Membre Transcendant
- Messages: 4858
- Enregistré le: 10 Nov 2005, 20:20
-
par yos » 17 Mai 2006, 12:30
Ah non c'est faux : ta seconde formule m'a enduit d'erreur!
 log_2p(x) -[1-p(x)] log_2[1-p(x)]=H(x))
.
Et ... je ne suis pas sûr qu'on puisse sortir p(x) de là! Je vais regarder.
-
Zap
- Messages: 4
- Enregistré le: 17 Mai 2006, 12:00
-
par Zap » 17 Mai 2006, 12:31
oups ta formule est bonne pour la formule que j'ai mise mais j'ai fait une coquille
c'est
 = - p(x) log_2(p(x)) - (1-p(x)) log_2(1-p(x)))
voila sinon c'était trop simple :triste:
-
Zap
- Messages: 4
- Enregistré le: 17 Mai 2006, 12:00
-
par Zap » 17 Mai 2006, 17:37
c'est vrai que ca à l'air simple mais je me demande si c'est possible finalement...
-
nuage
- Membre Complexe
- Messages: 2214
- Enregistré le: 09 Fév 2006, 22:39
-
par nuage » 17 Mai 2006, 21:04
Il n'est pas possible d'exprimer p(x) en fonction de H(x) avec les fonctions usuelles.
Mais on peut, bien entendu, calculer des valeurs approchées avec la précision désirée.
Un conseil dans ce cas : remplacer x par d=1/2-x.
Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 43 invités