Gambler' ruin Markov Chain

Discutez d'informatique ici !
Avatar de l’utilisateur
ortollj
Membre Relatif
Messages: 462
Enregistré le: 13 Mai 2009, 10:28

Gambler' ruin Markov Chain

par ortollj » 05 Fév 2019, 21:33

bonjour
je me demmandais si il existait une methode matriciel un peu comme dans Birth Death Markov's chain de trouver les probabilités de se trouver dan l'etat final "win state" partant d'un etat quelconque i.(sauf que la difference est que l'on a que des états transitoire dans Gambler's ruin :ghee: .)
et j'ai fini par trouver une méthode de calcul matricielle :Gambler's Ruin Markov's chain
pour trouver les a_i. bon c'est un peu comme ré-inventer la roue ;-). je ne sais pas d'ailleurs si cette methode etait connue.
(figurer vous que j'ai cherché cette methode pendant une bonne semaine !) ce qui m'a debloqué ca a été de refaire la matrice de transition avec les rho a la place de p et p-1.
je trouve ce logiciel de calcul formel SageMath vraiment geant.
j'ai mis les codes en public sur cocalc .com donc dite moi si vous avez un probleme d'accès.
ces codes peuvent servir pour débuter avec SageMath.
si j'avais su j'aurais pas venu.



LB2
Habitué(e)
Messages: 795
Enregistré le: 05 Nov 2017, 18:32

Re: Gambler' ruin Markov Chain

par LB2 » 05 Fév 2019, 22:52

Salut ortollj!
Motivé par le cours du MIT à ce que je vois!

Question : Pourrait on adapter cette méthode pour résoudre le fameux problème du robot d'il y a quelque temps : lycee/marche-aleatoire-conditionnement-t202447.html?hilit=robot

Avatar de l’utilisateur
ortollj
Membre Relatif
Messages: 462
Enregistré le: 13 Mai 2009, 10:28

Re: Gambler' ruin Markov Chain

par ortollj » 12 Fév 2019, 02:49

Non LB2 je n'ai pas trouvé de facon plus elegante de résoudre ce probleme que ce qu'on nous a appris
dans le MOOC du MIT courses.
edx.org/courses/course-v1:MITx+6.431x+3T2018/courseware/Unit_10_Markov_chains .
a savoir mettre les equations des absorbing state a zero, les aborbing states sont tous ceux sur les bords
(quand le robot tombe) et resoudre le systeme d'equations avec SageMath . a la main c'est un travail de benedictain !
j'ai mis la matrice de transfert dans la derniere cellule. je trouve la meme valeur que BEN,
pour ma matrice le centre de la table est
quand vous executez le code Sagemath que j'ai deposé sur cocalc.com il faut cliquer sur "fetch additional output" en bas de la cellule, sinon le code ne s'execute pas entierement.

code Gambler ruin 2D sur cocalc.com

dans le post j'ai voulu y faire figurer le système d'equation en Latex mais ca ne fonctionne pas. :rouge:

ci dessous c'est la matrice de la representation topologique de la chaine de Markov.
je n'ai pas mis la matrice de transfert (trop grande), elle figure dans le code (executer le code de la 3em cellule pour obtenir le Latex).
mon code fonctionne aussi pour une table rectangulaire (mettre des valeurs différentes a rstateNumber et cstateNumber (correspondent au deux cotés de la table), et aussi si les 4 déplacements ne sont pas equiprobable, il suffit de modifier les valeurs:
# row cell number
rstateNumber = 11
#column cell number
cstateNumber = 11


#########################
#changer les valeurs des probas de deplacement si vous le souhaitez
# bien sur il faut que la somme fasse 1 :mrgreen:
p_right=1/4
p_up=1/4
p_left=1/4
p_down=1/4

PS: @LB2 les tentatives de "simplifications" dans le post dont tu donnes le lien, ne m'ont pas convaincue
la seul difficulté dans ce probleme (et ca ne l'est pas beaucoup est de remplir correctement la matrice de transition)
et le probleme se limite a une simple résolution d'un systeme d'equations, quand on utilise la theorie des chaines de Markov.







si j'avais su j'aurais pas venu.

Retourner vers ϟ Informatique

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 1 invité

Tu pars déja ?



Fais toi aider gratuitement sur Maths-forum !

Créé un compte en 1 minute et pose ta question dans le forum ;-)
Inscription gratuite

Identification

Pas encore inscrit ?

Ou identifiez-vous :

Inscription gratuite