Variable aléatoire

[julie00]

coucou!! g un pb avec cet exercice!! je comprend pas très bien!

;) est la fonction définie sur ]sur 0, 1] par ;) (x) = (-ln(x))/ ln(2)

Pour un évènement A de probabilité non nulle, on pose i(A) = ;) (P(A)).

soit h la fonction défini sur [0,1] par h(0)=0 et h(x)=(-xlnx)/ln2 si x différent de 0
Soit X une variable aléatoire discrète. On pose H(X)=;) h(P(X=x))

1) soit n un entier naturel non nul. si Un suit la loi uniforme {1,2,..,n} que vaut H(Un)?

2) si on suppose que Z est la va finie définie par P(Z=1)=1/4
P(Z=2)=1/4 et P(Z=3) =1/2 que vaut H(Z)? comparer H(Z) et H(U3)

3) vérifier que h est continue et positive sur [0,1]. La fonction h est elle dérivable en 0?


merciii

[fahr451]

bonsoir

H ( au facteur ln2) s'appelle la surprise ou l'entropie

qu 'as tu déjà fait ?

[julie00]

ben dans l'énoncé apparait le nom d'entropie^!

[allomomo]

Salut,

Petite parenthèse :
La fonction entropie (en thermodynamique)


L'entropie est une fonction qui mesure le désordre.

[center]

[/center]

Voir la fin : ... Pour on a : , ohhh un ln2. Bon je délire donc j'arrête

[serge75]

Salut,

Petite parenthèse :
La fonction entropie (en thermodynamique)


L'entropie est une fonction qui mesure le désordre.

Cette dernière formule permettant de définir la température comme inverse d'un facteur intégrant de la chaleur.... (gag inside)

[fahr451]

bon nous vla rassurés l'énoncé parle d'entropie (moi j'aime bien le concept de surprise) et de plus certains matheux connaissent un peu de physique

reste à dire ce que tu as fait car je ne vois pas de difficulté

[julie00]

merci de toutes vos réponses mais euh à mon avis il ne faut pas utiliser l'entropie puisque je ne l'ai jamais vu la formule
moi je ne trouve pas facile l'ex lol je vois pas du tout comment trouver H(Un)

est ce qu'il faut partir de la loi uniforme P(X=k)=1/n

on sait que H(X)=;) h(P(X=x)) alors est ce qu'il faut utiliser cela!

je suis un peu pomé dans cet exo^^

[buzard]

Bonjour,

en statistique plutôt que d'entropie on parle plus aisément de quantité d'information moyenne. Ce qu'on appel l'entropie d'une variable aléatoire n'est que la moyenne des quantités d'information des évènements.

Ici étant donnée que tu t'intéresse à l'information d'une variable suivant une loi uniforme, il semble logique que chaque évènement possède tous la même quantité d'information. C'est le caractère même de l'uniformité, rien n'est sensé distinguer les évènements entre eux.

Par contre, lorsque le nombre de faces du dé augmente l'information augmente aussi. En effet, la "surprise" d'obtenir un évènement donné est plus grande, ou plus rationnellement il y plus de contraintes (ne pas être égale à un des autres) à satisfaire.

fait une recherche wiki, ce sujet est plutôt bien documenté, pour de plus amples explication : entropie de shannon, théorie de l'information, ...

[fahr451]

julie je ne vois pas ce qui bloque

U est unforme

P(U= k) 1/n pour k = 1,.., n donc h(P(U=k) ) = (-1/n )ln (1/n) = ln n /n
et H(U) =(1/ln 2) sigma sur k ln n /n = ln n / ln 2

et même calcul avec l'autre variable Z

on montre que la surprise H est maximale quand la loi est uniforme cequ'on te demande de vérifier sur l'exemple tu dois trouver H(Z)