Probabilité discrète et continue

[quent217]

Bonjour à tous,

Mon problème n'est pas un problème scolaire mais un problème personnel, et je ne savais pas dans quel catégorie le mettre. Vous pouvez le déplacer si besoin.

J'aimerai savoir comment calculer une probabilité P(X | Y=y) (probabilité de X sachant que Y est égal à y) lorsque X est une variable aléatoire discrète et que Y est une variable aléatoire continue.

Je suis intéressé par le cas général, mais je vais vous donner un cas d'application pour simplifier la compréhension :

On a 2 moutons.
Lorsque le premier bêle, l'intensité du bêlement en décibels est représentée par une variable aléatoire M1 qui suit une loi normale N(m1, s1 ^ 2)
Lorsque le second bêle, l'intensité du bêlement en décibels est représentée par une variable aléatoire M2 qui suit une loi normale N(m2, s2 ^ 2)

L'un des 2 moutons bêle, mais on ne sait pas lequel.
On note X l’événement: Le premier mouton a bêlé
On sait qu'il y a une probabilité à priori p pour que ce soit le premier mouton qui ait bêlé, donc P(X)=p et P(non X)=1-p

On mesure l'intensité du bêlement, et on obtient une valeur d.

Tous les paramètres m1, s1, m2, s2, p et d sont connus.

On cherche à calculer la probabilité à posteriori que ce soit le premier mouton qui ait bêlé, sachant l'intensité mesurée.

D'après moi, on peut noter D = M1*p + M2*(1-p) la variable aléatoire du bêlement dont on ne connaît pas l'origine.
On cherche donc à calculer la probabilité P(X | D=d).

Si on applique naïvement la formule de Bayes, on a :
P(X | D=d) = P(D=d | X) * P(X) / P(D=d)

Le problème est que D étant une variable continue, on a P(D=d | X) = P(D=d) = 0.
On aurait donc P(X | D=d) = 0 / 0 qui n'est pas défini.

Comment puis-je faire pour calculer la probabilité voulue ?

Je précise que je ne suis actuellement plus en études, et malgré avoir été plutôt bon en mathématiques, je n'ai pas suivie de cursus poussé dans ce domaine.
J'espère avoir le niveau pour comprendre les réponses, mais soyez indulgents s'il vous plait x)

Je remercie par avance ceux qui prendront le temps de me répondre.

[Ben314]

Salut,
Il me semble que le problème, c'est qu'en général (probabilité d'avoir sachant , c'est défini comme étant égal à et, bien évidement, il faut que pour que ça ait du sens.
Or, si est une loi continue on va avoir pour tout ce qui pose problème.
Donc si on veut espérer définir quelque chose de cohérent, je pense qu'il faut étendre la définition de proba conditionnelle en posant par exemple , mais à mon avis, il faut faire gaffe vu que c'est pas certain à 100% que ça fonctionne bien comme on pourrait l'espérer cette nouvelle définition (par exemple, ne pas utiliser des théorèmes "classiques" concernant les probas conditionnelles sans avoir pris soins de vérifier qu'ils restent corrects avec cette nouvelle définition)

Donc dans le cas de tes moutons, plutôt que d'utiliser (qui est nul), tu prend à la place qui est équivalent, lorsque , à où est la fonction de densité de .
Idem pour que tu remplace par où est la fonction de densité de .
Et le bilan, c'est qu'en fait, tu décrète que ce qui va te dit que la proba que ce soit le 1er qui bêle est et la proba que ce soit le 2nd est

[quent217]

Merci pour ton explication.
J'avais effectivement pensé à passer par des limites, mais je ne savais pas comment le faire correctement sans faire n'importe quoi XD

Pour l'équivalence je la comprend intuitivement (on considère que la fonction est constante aux alentours de d), mais je ne sais pas comment la démontrer, et surtout j'ai l'impression que ce n'est pas forcément vrai dans un cas général.
Est-ce que c'est une équivalence vraie uniquement dans le cas d'un loi normale comme dans mon exemple, ou bien c'est vrai pour n'importe quelle fonction de densité ?

Aussi, pour le dénominateur de la probabilité finale : , je pense que ça vient du fait que j'ai dit dans mon premier message que , mais j'ai finalement l'impression que c'est faux. On aurai plutot :


Est-ce que j'ai bon là dessus ? Et si oui, comment adapter la probabilité finale ? Ça me semble plus compliqué à faire dans un cas conditionnel comme celui-ci.

J'ai aussi une autre question. Tu dis qu'on doit redéfinir la notion de probabilité conditionnelle en posant une nouvelle définition basée sur une limite. Mais est-ce que cette nouvelle définition correspond à la réalité d'un point de vue statistique ? C'est à dire que si je fais le calcul avec cette nouvelle définition, et que je réalise l'expérience des moutons un grand nombre de fois, est-ce que les résultats vont effectivement converger vers la solution théorique ?
Je pourrai faire une petite simulation en python pour le tester, et je vais probablement le faire, mais je voulais savoir si tu avais une raison de penser que c'est effectivement le cas, et si c'est démontrable ?

[quent217]

En fait je me rend compte que cela revient à poser dans un cas général pour une loi X de densité f, .
C'est bien évidemment faux écrit comme cela, mais en le posant ainsi et en utilisant la formule de Bayes, on retrouve bien la probabilité énoncée :

[Ben314]

Pour l'équivalence je la comprend intuitivement (on considère que la fonction est constante aux alentours de d), mais je ne sais pas comment la démontrer, et surtout j'ai l'impression que ce n'est pas forcément vrai dans un cas général.
Est-ce que c'est une équivalence vraie uniquement dans le cas d'un loi normale comme dans mon exemple, ou bien c'est vrai pour n'importe quelle fonction de densité ?

Lorsque tu as une variable aléatoire à densité , ça signifie que et ça va être équivalent (dans le sens que le rapport entre les deux tend vers 1) à lorsque la fonction est continue au point . Donc c'est valable non seulement pour la Gaussienne, mais aussi pour toutes les lois "classiques" à densité et, bien que ça puisse parfaitement exister, je ne pense pas que dans des applications "classiques" des probas., on manipule des fonctions de densité non continues.

On aurai plutot :

Est-ce que j'ai bon là dessus ? Et si oui, comment adapter la probabilité finale ? Ça me semble plus compliqué à faire dans un cas conditionnel comme celui-ci.

Je pense que c'est la même chose.
De tout façon, j'ai l'impression que tu ne peut rien calculer si tu connait uniquement les lois de et de vu qu'il me semble que, si par exemple le premier mouton bêle 100 fois plus souvent que le deuxième alors quand tu entend un bêlement, même si l'intensité est plutôt proche de celle du second, il y a quand même de forte chance que ce soit le premier qui bêle. Donc je pense que tu as besoin d'une info. du type de celle que tu donne dans ton premier message, à savoir la proba que ce soit le premier qui bêle sans tenir compte des intensité de bêlement (peut-être qu'avec une autre info., ça pourrait marcher aussi, mais celle là me semble la plus naturelle).
Et si tu as cette info. concernant la proba. que ce soit le premier qui bêle, alors ta loi çi dessus se calcule en écrivant que :

modulo de supposer tout les événements indépendants.

J'ai aussi une autre question. Tu dis qu'on doit redéfinir la notion de probabilité conditionnelle en posant une nouvelle définition basée sur une limite. Mais est-ce que cette nouvelle définition correspond à la réalité d'un point de vue statistique ? C'est à dire que si je fais le calcul avec cette nouvelle définition, et que je réalise l'expérience des moutons un grand nombre de fois, est-ce que les résultats vont effectivement converger vers la solution théorique ?

Je suis persuadé que ça fonctionne parfaitement, en particulier du fait que des proba telles que (qui est nul) n'ont pas de sens dans le monde réel vu qu'il est impossible de mesurer l'intensité du bêlement avec une précision infinie. La seule chose qui a du sens c'est donc les proba du style où le désigne justement la précision de ta mesure de .
Et concernant le fait que "c'est démontrable ou pas", ce qu'on a fait au début, c'est de remplacer les par des ce qui rend le calcul plutôt plus cohérent (vu qu'avec un vrai =, ça n'a pas de sens dans le monde réel où tout n'est qu'approximation). Et ensuite, on à approximé une intégrale sur un petit intervalle par la surface du rectangle correspondant. Au niveau purment mathématique, y'a pas de soucis modulo de supposer la fonction continue. Au niveau "concret", ça peut poser de petits problèmes si le n'est pas assez petit (c'est à dire si la précision des mesures n'est pas géniale) et que, au voisinage du point en question, la fonction de densité varie beaucoup. Mais bon, c'est le même problème dans tout les domaines qui utilisent des maths : si tu as une fonction f avec de très grandes variations et que tu mesure un x avec une faible précision, ben ton estimation de f(x) va être archi mauvaise . . .

En fait je me rend compte que cela revient à poser dans un cas général pour une loi X de densité f, .

Non, pas vraiment, en fait ce qu'on dit, c'est plutôt que . (ou , mais ça change rien).
Et ça fait que, quand tu divise deux probas de ce type, les se simplifient et il ne te reste que les densités : c'est par exemple le cas dans le calcul que tu fait à la fin de ton dernier post. Pour que ce soit parfaitement rigoureux, il faut que tu multiplie par toutes tes fonctions de densité puis que tu simplifie ta fraction par .
Mais si tu avais un truc du style (j'écrit n'importe quoi) tu l'approximerais par vu que est quasi nul.

[GaBuZoMeu]

Bonjour,

On peut conditionner par une variable aléatoire continue : voir par exemple la page wikipedia https://fr.wikipedia.org/wiki/Esp%C3%A9rance_conditionnelle#Cas_absolument_continu. L'espérance de conditionnée par est une nouvelle variable aléatoire, fonction de .