Probabilités conditionnelles

Réponses à toutes vos questions après le Bac (Fac, Prépa, etc.)
Avatar de l’utilisateur
Sake
Habitué(e)
Messages: 1392
Enregistré le: 17 Juil 2014, 23:32

Probabilités conditionnelles

par Sake » 20 Sep 2018, 13:52

Bonjour,

"Soit une source d'information binaire émettant une suite de bits indépendants 0 et 1 avec et . Ces informations binaires sont transmises vers un récepteur à travers deux canaux de transmissions distincts et indépendants. Ceux-ci sont perturbés de sorte qu'une probabilité d'erreur apparaît sur les deux canaux (on fera les applications numériques avec et les probabilités respectives qu'on ait une erreur sur les canaux 1 et 2, i.e. la probabilité d'avoir en sortie du canal 1 le bit 1 alors que c'était le 0 qui a été émis, etc.). A un certain instant, on reçoit de la première liaison un "0" et on reçoit de la deuxième liaison un "1". On cherche celui des bits "0" ou "1" qui a le plus de chance d'avoir été émis.
Soit la sortie de la première liaison, la sortie de la deuxième liaison et le bit émis.
Déterminer et et conclure."

Pour , on utilise la définition des probas conditionnelles pour écrire que c'est égal à .
, ça se développe avec la formule des probas totales mais pour passer de ça à :

il faut une hypothèse supplémentaire : L'indépendance conditionnelle. Or l'énoncé indique que les bits sont indépendants entre eux et les canaux le sont deux à deux, mais il n'y a pas a priori d'indépendance mutuelle entre bits et canaux, ou alors je me trompe?

Merci de m'aider à clarifier ce point.



beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 16:14

Re: Probabilités conditionnelles

par beagle » 20 Sep 2018, 14:27

je ne suis pas sur de tout comprendre,
mais l'indépendance des canaux signifie que j'ai la même proba = la même fréquence d'erreur en canal 2
sachant ce qui se passe en canal1 (erreur ou pas erreur en canal1),
non?
Ils ne se concertent pas pour faire leurs erreurs quoi.

p (erreur canal2 / erreur canal 1) = p (erreur canal2/ pas erreur canal 1 ) = p (erreur canal2)

Ils ne se connaissent pas, ne font pas les erreurs ensembles, mais aussi il n' y en a pas un pour corriger l'autre.
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

LB2
Habitué(e)
Messages: 1504
Enregistré le: 05 Nov 2017, 18:32

Re: Probabilités conditionnelles

par LB2 » 20 Sep 2018, 14:40

Bonjour,

il est vrai qu'indépendance conditionnelle et indépendance tout court sont deux notions distinctes, l'une n'étant ni plus faible, ni plus forte que l'autre en général.

Dans ce cas, je comprends l'énoncé comme :

à bit émis fixé, les évènements "le canal 1 fait une erreur" et "le canal 2 fait une erreur" sont indépendants

c'est à dire exactement l'indépendance conditionnelle .

On peut se demander dans cet exemple si les évènements "le canal 1 fait une erreur" et "le canal 2 fait une erreur" sont indépendants.

Leur proba respective est et .

La proba de l'intersection, en utilisant les probabilités totales sur le système complet {la source émet 0/la source émet 1}, et en utilisant uniquement l'indépendance conditionnelle, vaut

.

Les évènements sont bien indépendants.

En termes intuitifs, le mécanisme d'erreur ne dépend pas du bit émis. Pour le reformuler, l'information du bit émis ne change pas la probabilité d'erreur de chaque source : elle est constante. Ce qui n'est pas le cas en général.

Avatar de l’utilisateur
Sake
Habitué(e)
Messages: 1392
Enregistré le: 17 Juil 2014, 23:32

Re: Probabilités conditionnelles

par Sake » 20 Sep 2018, 15:19

Salut et merci pour le message détaillé,

LB2 a écrit:Bonjour,

il est vrai qu'indépendance conditionnelle et indépendance tout court sont deux notions distinctes, l'une n'étant ni plus faible, ni plus forte que l'autre en général.

Dans ce cas, je comprends l'énoncé comme :

à bit émis fixé, les évènements "le canal 1 fait une erreur" et "le canal 2 fait une erreur" sont indépendants

c'est à dire exactement l'indépendance conditionnelle .

On peut se demander dans cet exemple si les évènements "le canal 1 fait une erreur" et "le canal 2 fait une erreur" sont indépendants.

Leur proba respective est et .

La proba de l'intersection, en utilisant les probabilités totales sur le système complet {la source émet 0/la source émet 1}, et en utilisant uniquement l'indépendance conditionnelle, vaut

.

Les évènements sont bien indépendants.

En termes intuitifs, le mécanisme d'erreur ne dépend pas du bit émis. Pour le reformuler, l'information du bit émis ne change pas la probabilité d'erreur de chaque source : elle est constante. Ce qui n'est pas le cas en général.


Oui, je pense avoir saisi l'affaire.

En dessinant un arbre de proba, on constate que la probabilité d'avoir à la fois , et est le produit : sauf que la sortie 2 est indépendante de la sortie 1 donc elle en rien à fiche que vale 0 ou non, ce qui fait que

Avatar de l’utilisateur
Ben314
Le Ben
Messages: 21482
Enregistré le: 11 Nov 2009, 23:53

Re: Probabilités conditionnelles

par Ben314 » 20 Sep 2018, 15:21

Salut,
Sake a écrit:Ces informations binaires sont transmises vers un récepteur à travers deux canaux de transmissions distincts et indépendants.
A mon sens, le problème c'est de comprendre (ou de tenter de comprendre) ce que signifie mathématiquement les phrases en Français de l'énoncé.
Toi, cette indépendance des "canaux", tu la comprend comment au sens mathématique ?
Parce que moi, la façon dont je l'interprète, c'est que les trois variable aléatoire "valeur sortie de la source" ; "erreur de transmission sur le canal 1" et "erreur de transmission sur le canal 2" sont globalement indépendante.
Donc, par exemple, (quelque soient les deux ?)
Modifié en dernier par Ben314 le 20 Sep 2018, 19:16, modifié 1 fois.
Qui n'entend qu'un son n'entend qu'une sonnerie. Signé : Sonfucius

Avatar de l’utilisateur
Sake
Habitué(e)
Messages: 1392
Enregistré le: 17 Juil 2014, 23:32

Re: Probabilités conditionnelles

par Sake » 20 Sep 2018, 18:42

Ben314 a écrit:Salut,
A mon sens, le problème c'est de comprendre (ou de tenter de comprendre) ce que signifie mathématiquement les phrases en Français de l'énoncé.
Toi, cette indépendant des "canaux", tu la comprend comment au sens mathématique ?

P(z_1=i,z_2=j) = P(z_1=i)P(z_2=j) pour tout (i,j) appartenant à [[0,1]]² ou de manière équivalente P(z_1=i|z_2=j) = P(z_1=i), autrement dit les deux canaux ne s'influencent pas : la connaissance de l'issue d'un des canaux ne donne aucune autre information sur la probabilité d'une issue concernant l'autre canal.
Ben314 a écrit:Parce que moi, la façon dont je l'interprète, c'est que les trois variable aléatoire "valeur sortie de la source" ; "erreur de transmission sur le canal 1" et "erreur de transmission sur le canal 2" sont globalement indépendante.

Cela ne me paraissait pas évident.

Avatar de l’utilisateur
Ben314
Le Ben
Messages: 21482
Enregistré le: 11 Nov 2009, 23:53

Re: Probabilités conditionnelles

par Ben314 » 20 Sep 2018, 19:22

Sake a écrit:Toi, cette indépendant des "canaux", tu la comprend comment au sens mathématique ?
P(z_1=i,z_2=j) = P(z_1=i)P(z_2=j) pour tout (i,j) appartenant à [[0,1]]² ou de manière équivalente P(z_1=i|z_2=j) = P(z_1=i), autrement dit les deux canaux ne s'influencent pas : la connaissance de l'issue d'un des canaux ne donne aucune autre information sur la probabilité d'une issue concernant l'autre canal.
Pour moi, c'est pas ça du tout du tout que ça dit : si (par exemple) z1=1 alors il est très très probable que b=1 (très faible risque d'erreur de transmission sur le canal1) puis très très probable que z2=1 (très faible risque d'erreur de transmission sur le canal 2). Bref, p(z1=1 sachant que z2=0) est beaucoup beaucoup plus petit que p(z1=1 sachant que z2=1).

A mon sens, le seul truc raisonnable (et cohérent), c'est que les cas d'erreur sont indépendants, c'est à dire que les événement et sont indépendant (et indépendant de la valeur de )
Et c'est bien évidement très très très différent du fait que et sont indépendants.

EDIT : Et d'ailleurs, si tu ne suppose absolument rien concernant l'indépendance des bidules (donc ce que tu connaît, c'est uniquement certaines propriétés de la loi conjointe du triplet (,,) et c'est tout), alors je suis certain qu'avec "que ça" plus les valeur super petites de et , on peut quand même démontrer que les v.a.r. et sont forcément non-indépendantes (intuitivement parlant, c'est complètement évident)
Qui n'entend qu'un son n'entend qu'une sonnerie. Signé : Sonfucius

LB2
Habitué(e)
Messages: 1504
Enregistré le: 05 Nov 2017, 18:32

Re: Probabilités conditionnelles

par LB2 » 20 Sep 2018, 21:06

Pour calculer explicitement ce que dit Ben :

effectivement : z1 et z2 ne sont pas des variables aléatoires indépendantes! En revanche, |z1-b| et |z2-b| (à valeurs dans {0,1} ) le sont.

Le calcul de la loi conjointe:
A chaque fois, d'après les probabilités totales, on fait 0.3*proba dans l'univers où le bit émis est 0 + 0.7 * proba dans l'univers où le bit émis est 1.
On pose p=10^{-7}
p(z1=0,z2=0)=0.3 * (1-p)*(1-2p)+0.7*p*2p = 0.3-0.9p+2p^2 (proche de 0.3)
p(z1=0,z2=1)=0.3 * (1-p)*2p +0.7*p (1-2p) = 1.3p-2p^2 (très faible)
p(z1=1,z2=0)=0.3*p*(1-2p)+0.7*(1-p)*2p=1.7p-2p^2 (très faible)
p(z1=1,z2=1)=0.3*p*2p+0.7*(1-p)*(1-2p)=0.7-2.1p+2p^2 (proche de 0.7)

Et de même les lois marginales :
p(z1=0)=0.3+0.4p
p(z1=1)=0.7-0.4p
p(z2=0)=0.3+0.8p
p(z2=1)=0.7-0.8p

On voit bien que par exemple, p(z1=0)*p(z2=0) est proche de 0.09 alors que p(z1=0,z2=0) est proche de 0.3

donc z1 et z2 ne sont pas indépendants.

La consultation d'un des canaux te donne quand même une grosse info sur le bit de départ, donc sur l'autre canal. Sauf si p=1/2 auquel cas c'est ce qu'on appelle du bullshit.
Modifié en dernier par LB2 le 21 Sep 2018, 11:40, modifié 1 fois.

Avatar de l’utilisateur
Sake
Habitué(e)
Messages: 1392
Enregistré le: 17 Juil 2014, 23:32

Re: Probabilités conditionnelles

par Sake » 21 Sep 2018, 04:59

Merci à vous deux, je regarderai ça dans la journée. Cette notion d'indépendance me fait des noeuds au cerveau alors que ça ne devrait pas être le cas. Faire des maths sans beaucoup dormir ça aide pas non plus.

Avatar de l’utilisateur
Sake
Habitué(e)
Messages: 1392
Enregistré le: 17 Juil 2014, 23:32

Re: Probabilités conditionnelles

par Sake » 21 Sep 2018, 11:57

Ben & LB2
Ben314 a écrit:
Sake a écrit:Toi, cette indépendant des "canaux", tu la comprend comment au sens mathématique ?
P(z_1=i,z_2=j) = P(z_1=i)P(z_2=j) pour tout (i,j) appartenant à [[0,1]]² ou de manière équivalente P(z_1=i|z_2=j) = P(z_1=i), autrement dit les deux canaux ne s'influencent pas : la connaissance de l'issue d'un des canaux ne donne aucune autre information sur la probabilité d'une issue concernant l'autre canal.
Pour moi, c'est pas ça du tout du tout que ça dit : si (par exemple) z1=1 alors il est très très probable que b=1 (très faible risque d'erreur de transmission sur le canal1) puis très très probable que z2=1 (très faible risque d'erreur de transmission sur le canal 2). Bref, p(z1=1 sachant que z2=0) est beaucoup beaucoup plus petit que p(z1=1 sachant que z2=1).

A mon sens, le seul truc raisonnable (et cohérent), c'est que les cas d'erreur sont indépendants, c'est à dire que les événement et sont indépendant (et indépendant de la valeur de )
Et c'est bien évidement très très très différent du fait que et sont indépendants.

EDIT : Et d'ailleurs, si tu ne suppose absolument rien concernant l'indépendance des bidules (donc ce que tu connaît, c'est uniquement certaines propriétés de la loi conjointe du triplet (,,) et c'est tout), alors je suis certain qu'avec "que ça" plus les valeur super petites de et , on peut quand même démontrer que les v.a.r. et sont forcément non-indépendantes (intuitivement parlant, c'est complètement évident)

En effet, vos calculs montrent de façon indéniable que les sorties sont dépendantes. Mais Ben, comment fais-tu pour dire que ce sont les cas d'erreur qui sont indépendants (sans faire de calcul)? Ca ne me semble pas être une évidence...

De même, je dois avouer ne pas avoir utilisé mon intuition pour comprendre que comme les erreurs sont très improbables, l'issue de chaque canal en dit pas mal sur les chances que le bit émis soit 0 ou 1. Pour faire écho à une autre discussion, n'avoir qu'une corde à son arc est parfois un tort. Mais je n'ai fait que lire l'énoncé, et celui-ci indique que les sorties sont indépendantes, information un peu légère dans ce cas voire cryptique : Il s'avère que les issues ne sont pas indépendantes, donc qu'est-ce qui est indépendant? Tu me dis que ce sont les cas d'erreur, mais comment l'as-tu vu?

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 16:14

Re: Probabilités conditionnelles

par beagle » 21 Sep 2018, 12:25

sans objet
Modifié en dernier par beagle le 21 Sep 2018, 13:23, modifié 1 fois.
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

Avatar de l’utilisateur
Sake
Habitué(e)
Messages: 1392
Enregistré le: 17 Juil 2014, 23:32

Re: Probabilités conditionnelles

par Sake » 21 Sep 2018, 12:29

beagle a écrit:mais s'il rentre du zero dans l'un je sais dire l'nentrée de l'autre,

Pas forcément. Tu as une bonne chance de tomber sur le bon résultat, mais tu peux aussi te tromper. Enfin c'est pas ce qu'une relation de dépendance indique de toute façon.
beagle a écrit:ben parce que indépendance ou lié cela se définit par le sachant que
et pas par la formule de l'indépendance!

??

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 16:14

Re: Probabilités conditionnelles

par beagle » 21 Sep 2018, 12:50

…………..mais possible
pas d'inquiétude Sake, c'est juste la femme de ménage qui range!
Modifié en dernier par beagle le 21 Sep 2018, 13:24, modifié 3 fois.
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

Avatar de l’utilisateur
Sake
Habitué(e)
Messages: 1392
Enregistré le: 17 Juil 2014, 23:32

Re: Probabilités conditionnelles

par Sake » 21 Sep 2018, 13:06

Ok, je veux bien oublier à propos de l'indépendance des canaux. Mais dans ce cas, je fais comment pour justifier que P(z1 = 0, z2 = 1 | b = 0) vaut P(z1 = 0 | b = 0)*P(z2 = 1 | b = 0) ?

Au fait, pour le reste tu as des propos plutôt vagues, ça prête à confusion

Avatar de l’utilisateur
Sake
Habitué(e)
Messages: 1392
Enregistré le: 17 Juil 2014, 23:32

Re: Probabilités conditionnelles

par Sake » 21 Sep 2018, 13:33

Bon j'ai parlé à un collègue et il m'a dit qu'il avait compris que l'indépendance des canaux signifie que l'erreur sur un canal n'influence pas la probabilité d'erreur sur l'autre canal. Je comprends la logique du raisonnement, mais ce n'est pas trivial quand on lit le sujet... Ou alors suis-je un cas spécial?

Avatar de l’utilisateur
Ben314
Le Ben
Messages: 21482
Enregistré le: 11 Nov 2009, 23:53

Re: Probabilités conditionnelles

par Ben314 » 21 Sep 2018, 15:01

C'est un "grand classique" des exos. de proba que l'énoncé ne soit pas super clair et qu'il puisse y avoir plusieurs interprétations possible.
Mais, là, à mon sens, l'énoncé est "plutôt bien fait" : le fait que les événements E1:"il y a eu une erreur sur le canal 1" et E2:"il y a eu une erreur sur le canal 2" soient indépendant me semble extrêmement plausible "concrètement parlant" et surtout, toujours "concrètement parlant", je vois difficilement quoi d'autre pourrait être indépendant (vu que c'est une certitude que c'est pas les valeurs de z1 et z2).
Et bien sûr, la présence de la phrase "Ces informations binaires sont transmises vers un récepteur à travers deux canaux de transmissions distincts et indépendants" ne fait que confirmer ce que j'aurais sûrement considéré comme un "sous entendu naturel" de l'énoncé.

Et dans le même esprit, bien qu'il n'y ait rien pour le confirmer dans l'exo., j'aurais tendance à considérer que non seulement les événements E1 et E2 sont indépendants, mais aussi qu'il sont indépendant de la valeur de b (i.e. c'est la même proba de d'erreur 0->1 que d'erreur 1->0)
Mais d'un autre coté, j'ai pas regardé en détail si on en avait besoin pour répondre aux questions posées...
Qui n'entend qu'un son n'entend qu'une sonnerie. Signé : Sonfucius

Avatar de l’utilisateur
Sake
Habitué(e)
Messages: 1392
Enregistré le: 17 Juil 2014, 23:32

Re: Probabilités conditionnelles

par Sake » 21 Sep 2018, 15:43

Ben314 a écrit:C'est un "grand classique" des exos. de proba que l'énoncé ne soit pas super clair et qu'il puisse y avoir plusieurs interprétations possible.
Mais, là, à mon sens, l'énoncé est "plutôt bien fait" : le fait que les événements E1:"il y a eu une erreur sur le canal 1" et E2:"il y a eu une erreur sur le canal 2" soient indépendant me semble extrêmement plausible "concrètement parlant" et surtout, toujours "concrètement parlant", je vois difficilement quoi d'autre pourrait être indépendant (vu que c'est une certitude que c'est pas les valeurs de z1 et z2).
Et bien sûr, la présence de la phrase "Ces informations binaires sont transmises vers un récepteur à travers deux canaux de transmissions distincts et indépendants" ne fait que confirmer ce que j'aurais sûrement considéré comme un "sous entendu naturel" de l'énoncé.

Oui dans ces cas-là il faut surtout du bon sens...
Ben314 a écrit:Et dans le même esprit, bien qu'il n'y ait rien pour le confirmer dans l'exo., j'aurais tendance à considérer que non seulement les événements E1 et E2 sont indépendants, mais aussi qu'il sont indépendant de la valeur de b (i.e. c'est la même proba de d'erreur 0->1 que d'erreur 1->0)
Mais d'un autre coté, j'ai pas regardé en détail si on en avait besoin pour répondre aux questions posées...

On en a pas vraiment besoin du coup il me semble : P(z1 = 0, z2 = 1 | b = 0) = P[(z1 = 0 | b = 0) ∩ (z2 = 1 | b = 0)] et en utilisant l'indépendance des deux événements (z1 = 0 | b = 0) et (z2 = 1 | b = 0) (on s'appuie sur le fait que si A et B sont indépendants, alors A et le complémentaire de B sont indépendants), on montre que c'est égal à P(z1 = 0 | b = 0)*P(z2 = 1 | b = 0), produit de probas dont on connaît les valeurs. L'écriture (z1 = 0 | b = 0) ∩ (z2 = 1 | b = 0) est peut-être pas licite mais elle fait sens...

Avatar de l’utilisateur
Ben314
Le Ben
Messages: 21482
Enregistré le: 11 Nov 2009, 23:53

Re: Probabilités conditionnelles

par Ben314 » 21 Sep 2018, 16:54

Sake a écrit:... on montre que c'est égal à P(z1 = 0 | b = 0)*P(z2 = 1 | b = 0), produit de probas dont on connaît les valeurs.
Si, justement, là tu as besoin de l'indépendance :

Et, pour affirmer que est égal à (c'est à dire égal à qui est connu) , tu as besoin de l'indépendance des événements et .
De même, n'est égal à (connu) , que si on suppose les événements et indépendants.

EDIT : Quoi que, c'est plus que discutable mon truc :
La phrase de l'énoncé "...une probabilité d'erreur apparaît sur les deux canaux...", si elle était seule serait à mon sens à interpréter comme parlant uniquement de la proba. des événements et
Mais quand on lit ensuite le "...i.e. la probabilité d'avoir en sortie du canal 1 le bit 1 alors que c'était le 0 qui a été émis...", là, ça parle on ne peut plus clairement de la proba. de sachant que .
Modifié en dernier par Ben314 le 21 Sep 2018, 17:16, modifié 1 fois.
Qui n'entend qu'un son n'entend qu'une sonnerie. Signé : Sonfucius

LB2
Habitué(e)
Messages: 1504
Enregistré le: 05 Nov 2017, 18:32

Re: Probabilités conditionnelles

par LB2 » 21 Sep 2018, 17:15

En fait tout est affaire de modèle pour savoir si l'écriture est licite ou pas.

Si je parle de l'évènement (z1=0) dans l'univers de départ, tout le monde est d'accord.
Maintenant, ce qui est très important de comprendre, c'est que (z1=0|b=0) N'EST PAS UN ÉVÉNEMENT dans l'univers de départ.
C'est une NOTATION pour dire :
- c'est l'évènement z1=0
- dans l'univers où l'on sait avec certitude que b=0

Ce qui a un sens, c'est p(z1=0|b=0), qui s'interprète comme :
- par définition, dans l'univers de départ, la probabilité p(z1=0 ET b=0)/p(b=0)
- dans l'univers où l'on sait avec certitude que b=0, la probabilité p(z1=0) (j'écris exprès comme ceci)

On voit bien que cette notation p ne désigne pas la même fonction de probabilité dans chaque univers : elle dépend de l'univers.

beagle
Habitué(e)
Messages: 8707
Enregistré le: 08 Sep 2009, 16:14

Re: Probabilités conditionnelles

par beagle » 22 Sep 2018, 14:09

Bonjour Sake,
juste une question pour voir et essayer de comprendre.

Lorsque tu essayes de voir dans un problème si indépendance ou non, si c'est indépendant, ou comment on pourrait le rendre indépendant,
Quelle question te poses-tu?
Que regardes-tu?
L'important est de savoir quoi faire lorsqu'il n' y a rien à faire.

 

Retourner vers ✯✎ Supérieur

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 32 invités

Tu pars déja ?



Fais toi aider gratuitement sur Maths-forum !

Créé un compte en 1 minute et pose ta question dans le forum ;-)
Inscription gratuite

Identification

Pas encore inscrit ?

Ou identifiez-vous :

Inscription gratuite