Expression de l'entropie

Réponses à toutes vos questions après le Bac (Fac, Prépa, etc.)
Zap
Messages: 4
Enregistré le: 17 Mai 2006, 12:00

Expression de l'entropie

par Zap » 17 Mai 2006, 12:06

Bonjour,

voila l'entropie de shannon est définie comme
H(x) = - Sum p(x) log_2 p(x)

mon problème,
exprimer la probabilité en fonction de l'entropie quand x peut avoir deux valeurs

donc on peut simplifier la formule du haut pour un cas à 2 classes :


j'aimerais donc avoir une équation de la forme
p(x) = ... fonction de H(x) ...

normalement cela devrait être un polynome de degré 2 avec 2 racines dont la somme vaut 1

Ca doit être super simple mais ca m'aiderait pas mal :)

Merci



yos
Membre Transcendant
Messages: 4858
Enregistré le: 10 Nov 2005, 20:20

par yos » 17 Mai 2006, 12:22

Si j'ai bien compris :
donc .

yos
Membre Transcendant
Messages: 4858
Enregistré le: 10 Nov 2005, 20:20

par yos » 17 Mai 2006, 12:30

Ah non c'est faux : ta seconde formule m'a enduit d'erreur!

.

Et ... je ne suis pas sûr qu'on puisse sortir p(x) de là! Je vais regarder.

Zap
Messages: 4
Enregistré le: 17 Mai 2006, 12:00

par Zap » 17 Mai 2006, 12:31

oups ta formule est bonne pour la formule que j'ai mise mais j'ai fait une coquille
c'est



voila sinon c'était trop simple :triste:

Zap
Messages: 4
Enregistré le: 17 Mai 2006, 12:00

par Zap » 17 Mai 2006, 17:37

c'est vrai que ca à l'air simple mais je me demande si c'est possible finalement...

Avatar de l’utilisateur
nuage
Membre Complexe
Messages: 2214
Enregistré le: 09 Fév 2006, 22:39

par nuage » 17 Mai 2006, 21:04

Il n'est pas possible d'exprimer p(x) en fonction de H(x) avec les fonctions usuelles.
Mais on peut, bien entendu, calculer des valeurs approchées avec la précision désirée.
Un conseil dans ce cas : remplacer x par d=1/2-x.

 

Retourner vers ✯✎ Supérieur

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 65 invités

Tu pars déja ?



Fais toi aider gratuitement sur Maths-forum !

Créé un compte en 1 minute et pose ta question dans le forum ;-)
Inscription gratuite

Identification

Pas encore inscrit ?

Ou identifiez-vous :

Inscription gratuite