Estimation ponctuelle d'un écart type à partir d'un échantil

[leon1789]

Je n'ai pas compris pourquoi il y aurait une différence entre l'estimation de la variance de la population mère avec l'estimation de l'écart type

Pour moi on a et ce calcul n'influe pas sur le calcul des estimateurs...

Le biais de l'estimateur de variance est simple (cf nos messages ci-dessus : l'espérance des carrés, ça se calcule bien), mais le biais de l'estimateur d'écart-type est beaucoup plus compliqué (à cause des racines carrées qu'il faut moyenner, et là ça se craint sec !).

Bref, le biais de l'estimateur d'écart-type n'est pas la racine carrée du biais de l'estimateur de variance . Mais il est vrai qu'il est d'usage de prendre la racine carrée à défaut de mieux.

[Anonyme]

C'est précisément dans la simplification de en

Ah oui

est ce ton explication est liée au fait que ?

et on a

ET que si et seulement si et sont indépendantes

(indépendantes ou non corrélées ? : en fait je ne sais plus)

ps)
Tout ce que je sais c'est qu'il y a une subtilité
ET que
- non corrélées
- indépendantes
sont 2 notions qui sont équivalentes dans un certain contexte : lorsque les V.A. sont du type ?)

[Anonyme]

@leon1789

Je pense que j'ai à peu près compris tes explications et encore une fois merci.

J'ai une dernière question sur la notion de biais

Question 1 :
Pourquoi l'un (avec correcteur de biais) plutôt que l'autre (sans correcteur de biais) ?

Question 2 :
Est ce que le fait que la MOYENNE de "l'estimateur non biaisé" soit égale à "la vraie valeur" (dont on cherche à faire une estimation ) fait que cet estimateur est "meilleur" que celui avec un biais ?

ps)
Cette question n'a peut être aucun sens ?
car il faut certainement pour répondre à cette question : que j'approfondisse la notion de [I]"meilleur"[/I]

[Sylviel]

Et oui la notion de biais est assez surprenante. On peut souhaiter a priori qu'un estimateur n'ai pas de biais (ne serait-ce que pour qu'en réalisant un certain nombre d'estimation indépendante on puisse en faire la moyenne et appliquer la loi des grands nombre). Mais on peut aussi souhaiter que l'estimateur soit optimum au sens où il minimise l'espérance du carré de l'erreur. Et dans ce cas un biais peut-être favorable. De manière générale cela peut se résumer en un trade-off biais / variance.

[Anonyme]

Bonjour

Pour traiter la notion d'intervalle de fluctuation d'un estimateur : Plutôt que te "parler dans le vide"
je vais essayer de traiter un exercice qui permet de calculer pour un échantillon de taille n
l'intervalle de fluctuation d'une fréquence au seuil de 95%

Voici l'énoncé de l'exo :


Et voici :
1) La réponse à la question 1 est : loi binomiale de paramètre n=50 et p=0,375

ET
2) Les réponses aux questions 1.d) et 1.e), qui peut être calculées "très facilement" en créant un tableau Excel de 51 lignes et 2 colonnes
1ière colonne : les entiers de 0 à 50
2ième colonne : =LOI.BINOMIALE(A1;50;0,375;1) qui permet de calculer avec

Et en lisant ce tableau Excel , on trouve que
et

et donc on a : = =

ET
3) La réponse à la question 4 : On rejette l’hypothèse P(S)=0,375 pour la machine n°3 car on a
(on rejette cette hypothèse avec une marge d’erreur de 5%)




QUESTION : Est ce que ces réponses aux questions de cet exo sont correctes ?

ceci afin de continuer cet exo par l'étude d'une estimation de l'écart type (et de son intervalle de fluctuation au seuil de 95%)


ps)
Voici une copie du tableau Excel :

[Anonyme]

Et oui la notion de biais est assez surprenante. On peut souhaiter a priori qu'un estimateur n'ai pas de biais (ne serait-ce que pour qu'en réalisant un certain nombre d'estimation indépendante on puisse en faire la moyenne et appliquer la loi des grands nombre). Mais on peut aussi souhaiter que l'estimateur soit optimum au sens où il minimise l'espérance du carré de l'erreur. Et dans ce cas un biais peut-être favorable. De manière générale cela peut se résumer en un trade-off biais / variance.

salut Sylviel

Pourquoi dis tu ? ( peut être que je n'ai pas compris ton message) que :
- si on applique une correction de biais sur l'estimation faite sur un échantillon de taille
- et si on fait un certain nombre d'estimation sur un certain nombre d'échantillon :

pourquoi ne pourrait-on pas considérer que ces différentes estimations sont indépendantes ?

et calculer "une moyenne empirique" par la formule :
( s'il y a [I]K échantillons donc K estimations )[/I]

avec : estimation faite à partir du ème échantillon

[Sylviel]

Si c'est exactement ce que je dis. Si on a plusieurs réalisations indépendante d'un estimateur sans biais alors en prendre la moyenne est une bonne idée (par la loi des grands nombre à défaut de propriétés plus fines). Alors qu'avec un estimateur biaisé "ce n'est pas possible", ou du moins cela ne diminueras pas le biais.

[Anonyme]

@Sylviel

Si on calcule K "estimations biaisées" : est ce que cette "moyenne empirique" a toujours un sens ?

vu qu'on a toujours une "inter-indépendance" entre ces K estimations

ps)
Je suis conscient que pour chaque "estimation" on a un calcul différent de

[Sylviel]

Imaginons que tu as un estimateur S de m, tel que E(S)=m+a avec a non nul (le biais).
Si tu as un grand nombre de réalisation indépendante de cet estimateur alors leur moyenne empirique va tendre vers m+a. Donc tu n'auras pas estimé m, mais m + un biais, celui de l'estimateur.

[Anonyme]

@Sylviel

Je comprends à peu près ce que tu expliques
mais j'ai toujours du mal à accepter le fait : qu'une "bonne estimation" est une estimation non biaisée
( car alors on "vraie valeur" )

Pour moi : ce n'est pas parce qu'une estimation est centrée sur "la vraie valeur"
qu'elle est forcément "meilleure" qu'une estimation dont le biais est "raisonnable" ?

Connais tu un exo qui me permettrait de comprendre ce qu'est cette notion mathématique de "meilleure estimation"
qui permet de COMPARER une estimation biaisée avec une estimation non biaisée ?

ps)
et après je te jure que je ne te pose plus de question sur ce sujet...

[leon1789]

Et oui la notion de biais est assez surprenante. On peut souhaiter a priori qu'un estimateur n'ai pas de biais (ne serait-ce que pour qu'en réalisant un certain nombre d'estimation indépendante on puisse en faire la moyenne et appliquer la loi des grands nombre). Mais on peut aussi souhaiter que l'estimateur soit optimum au sens où il minimise l'espérance du carré de l'erreur. Et dans ce cas un biais peut-être favorable. De manière générale cela peut se résumer en un trade-off biais / variance.

Exactement !

Voici un exemple simple :

Un agriculteur possède un champ carré de longueur , dont il désire estimer la surface. Pour cela, il effectue 2 mesures indépendantes X1 et X2 de la longueur de son champs telles que ces mesures suivent une loi normale d’espérance et de variance ² . Pour estimer la surface, plusieurs possibilités s’offrent à lui. Il peut faire la moyenne des mesures et l’élever au carré, ou bien il peut élever les mesures au carré et prendre leur moyenne. Une troisième solution revient à multiplier les 2 mesures. Les trois estimateurs correspondants sont les suivants :

estimateur(;)1) = (X1 + X2)² / 4

estimateur(;)2) = (X1² + X2²) / 2

estimateur(;)3) = X1 * X2

On calcule les biais de chaque estimateur, c'est-à-dire de l'espérance de i - ² :

biais(;)1) = ²/2
biais(;)2) = ²
biais(;)3) = 0

Là, on pourrait se dire que 3 est meilleur que 1, lui-même meilleur que 2 (ces deux derniers estimateurs surestimant la surface du carré).

Mais si maintenant on calcule la variance de chaque estimateur autour de ², c'est-à-dire l'espérance de (;)i - ²)²

variance(;)1) = 2;)²;)² + 0.75 ^4
variance(;)2) = 2;)²;)² + 2 ^4
variance(;)3) = 2;)²;)² + ^4

Et là, on voit que 1 se défend un petit peu mieux que 3 !

[leon1789]

Et oui la notion de biais est assez surprenante. On peut souhaiter a priori qu'un estimateur n'ai pas de biais (ne serait-ce que pour qu'en réalisant un certain nombre d'estimation indépendante on puisse en faire la moyenne et appliquer la loi des grands nombre). Mais on peut aussi souhaiter que l'estimateur soit optimum au sens où il minimise l'espérance du carré de l'erreur. Et dans ce cas un biais peut-être favorable. De manière générale cela peut se résumer en un trade-off biais / variance.

Exactement !

Voici un exemple simple :

Un agriculteur possède un champ carré de longueur , dont il désire estimer la surface. Pour cela, il effectue 2 mesures indépendantes X1 et X2 de la longueur de son champs telles que ces mesures suivent une loi normale d’espérance et de variance ² . Pour estimer la surface, plusieurs possibilités s’offrent à lui. Il peut faire la moyenne des mesures et l’élever au carré, ou bien il peut élever les mesures au carré et prendre leur moyenne. Une troisième solution revient à multiplier les 2 mesures. Les trois estimateurs correspondants sont les suivants :

estimateur(;)1) = (X1 + X2)² / 4

estimateur(;)2) = (X1² + X2²) / 2

estimateur(;)3) = X1 * X2

On calcule le biais de chaque estimateur, c'est-à-dire l'espérance de i - ² :

biais(;)1) = ²/2
biais(;)2) = ²
biais(;)3) = 0

Là, on pourrait se dire que 3 est meilleur que 1, lui-même meilleur que 2 (ces deux derniers estimateurs surestimant en moyenne la surface du carré).

Maintenant on calcule la variance de chaque estimateur autour de ², c'est-à-dire l'espérance de (;)i - ²)²

variance(;)1) = 2;)²;)² + 0.75 ^4
variance(;)2) = 2;)²;)² + 2 ^4
variance(;)3) = 2;)²;)² + ^4

Et là, on voit que 1 se défend un petit peu mieux que 3 !

[beagle]

@Sylviel

Je comprends à peu près ce que tu expliques
mais j'ai toujours du mal à accepter le fait : qu'une "bonne estimation" est une estimation non biaisée
( car alors on "vraie valeur" )

Pour moi : ce n'est pas parce qu'une estimation est centrée sur "la vraie valeur"
qu'elle est forcément "meilleure" qu'une estimation dont le biais est "raisonnable" ?

Connais tu un exo qui me permettrait de comprendre ce qu'est cette notion mathématique de "meilleure estimation"
qui permet de COMPARER une estimation biaisée avec une estimation non biaisée ?

ps)
et après je te jure que je ne te pose plus de question sur ce sujet...

Juste un exemple:
Si les biais sont connus, alors avec un grand biais et petit écart-type cela sera un meilleur mesureur que petit biais et grand écart-type.Puisqu'il me suffit d'enlever le biais.

et mème sans connaitre le biais, cela marche aussi,
donc tout dépend de l'expérience que l'on fait,
comme l'ont dit Léon et Sylviel d'ailleurs il me semble ...
c'était pour illustrer...

[turfiste2012]

Bonjour,

excellent lien Gilles Costantini (post 2) qui fait référence à un cours de BTS Domotique il me semble.

A+