Un probleme de proba systeme enormmmme

[Ouimet21]

Alors, pour lire le probleme, je met le lien du pdf
http://pdfcast.org/pdf/the-gamma-problem-revised-2
il faut cliquer sur download


Mon probleme est à la page 3, je doit résoudre le systeme d'équation et mon plus gros obstacle est l'espérance Ek(log(zi+Y))

Si je jessaie de trouver avec lechantillonage preferentiel, je genere des Y , mais alors a cause des zi, je me trouve avec des log de nombre negatifs...

Et si japproxime en prenant zi+yi, par definition jai des xi, et ca ne marche pas non plus car c'est non borné

etc.

Si quelqun a une idée pour faire avancer le probleme juste un peu, ca serait apprécié, ca fait un moment jy pense la

[ToToR_2000]

bonjour,

déjà pour résoudre ton système 4x4 (qui n'est pas linéaire), ça risque d'être difficile (numériquement bien sûr, analytiquement c'est impossible en général).

Mais... en fait tu veux annuler un gradient donc tu cherches à résoudre le problème d'optimisation : Min Omega avec des contraintes sur les coeffs...
Je te conseille donc de résoudre ce problème directement par une méthode numérique.

Et une dernière chose, les expressions d'espérance peuvent être calculées (sous forme intégrale). Pour la résolution numérique, tu peux approximer cette intégrale par une somme de Riemann.

Voilà, c'est faisable mais il y a du boulot !

[Ouimet21]

bonjour,

déjà pour résoudre ton système 4x4 (qui n'est pas linéaire), ça risque d'être difficile (numériquement bien sûr, analytiquement c'est impossible en général).

Mais... en fait tu veux annuler un gradient donc tu cherches à résoudre le problème d'optimisation : Min Omega avec des contraintes sur les coeffs...
Je te conseille donc de résoudre ce problème directement par une méthode numérique.

Et une dernière chose, les expressions d'espérance peuvent être calculées (sous forme intégrale). Pour la résolution numérique, tu peux approximer cette intégrale par une somme de Riemann.

Voilà, c'est faisable mais il y a du boulot !

Ok mais on sentend que les zi sont parfois negatif?, alors si je genere Y suit une gamma avec les parametre au temps t, il va arriver des moments, quand meme souvent ou zi+Y sera negatif, et alors jaurai un log dun nombre negatif,

Puis si on essaye le probleme tel que les parametre de X et Y sont egaux, on arrive a un systeme avec une equation non bornée lorsque alpha est fixé, ce qui ne devrait pas etre le cas, donc je vois mal quoi faire

De plus pour ce qui est du systeme en tant que tel, cest pas si pire une fois je sais comment avoir les Ek, japplique lagorithme EM

[Ouimet21]

Si quelqun peut me trouver analytiquement

E(log(z+Y)) ou lesperance est prise sous la loi de Y, soit une gamma(alpha,beta), ca reglerait aussi mon probleme

z est une constante

[ToToR_2000]

Si tes zi sont parfois négatifs, alors écrire log(zi+Y) n'a aucun sens puisque zi+Y est négatif avec une proba non nulle.
Donc soit tu peux te débrouiller pour restreindre tes zi dans les réels positifs, soit tu t'es planté dans ton modèle.

Pour le calcul de la dérivée de E[log(zi+Y)], il suffit d'appliquer les formules de dérivation sous le signe intégrale, et c'est bien sûr à TOI de le faire.

Pour tes autres questions (celles concernant ton modèle d'estimation des paramètres), es-tu certain que le modèle en question permet effectivement de calculer les paramètres ? (le modèle on te l'a donné, tu l'as "adapté", tu l'as imaginé)

[Ouimet21]

En fait au debut je croyait que les Y etaient distribués selon la loi gamma(gamma,delta), mais je me suis rendu du compte de mon erreur, en fait la loi gamma est la marginale de Y et non pas la loi conditionnelle en fonction de z(Y et Z ne sont pas independants), ainsi la distribution conditionnelle de Y est proportionnelle a la densité totale ou les zi sont des constantes...

Donc, maintenant je suis capable et ca marche je crois dobtenir Ek(log(zi+Y)) ou k(Y/z,theta),

Mais puisque que j'ai seulement une reponse numerique, je ne peux pas trouver la derivée et donc je suis obligé de laisser tombé le systeme dequations et de tout simplement maximiser directement
Ek(log(f(Z,Y/theta))) au lieu dessayer de trouver une solution analytique pour tous les parametres a chaque etape t dans le temps

En fait, mon probleme c'est comme s'il était résolu, mais pour une raison inconnue, meme si je prend les algorithmes qui sont implementés directement dans le programme R, je n'arrive pas à retrouver les parametres que je pose au depart lorsque que je simule X et Y

De plus, bien sur que je ne veux pas que les gens du forum le fasse a ma place, tout ce que je veux c'est une idée ou je sais pas

[Ouimet21]

J'ai edité le pdf pour une version plus recente et corrigée car il y avait des erreurs dans le système, le problème n'est pas simplifié pour autant, au contraire!

La méthode de l'algorithme EM m'a été proposée par mon tuteur de ((recherche)), il a un doctorat alors cest supposé fonctionner bien qu'il n'ait pas essayé lui-même

[Ouimet21]

le calcul de la dérivée de E[log(zi+Y)], il suffit d'appliquer les formules de dérivation sous le signe intégrale

Tu vois je sais même pas c'est quoi ces formules, je sais pas de quoi tu parles

[ToToR_2000]

Je parle de ça:

http://fr.wikipedia.org/wiki/Int%C3%A9grale_param%C3%A9trique
(voir Règle de Leibniz de dérivation sous le signe d'intégration)

Et l'espérance, c'est:
où f est la densité de probabilité de Y.

J'ai vu qu'en fait Y ne suivait pas la loi gamma... si tu n'as pas l'expression de f, ça ne va pas être possible de continuer sur cette voie.
Est-ce que tu es capable de générer des échantillons de Y ?

[Ouimet21]

Je parle de ça:

http://fr.wikipedia.org/wiki/Int%C3%A9grale_param%C3%A9trique
(voir Règle de Leibniz de dérivation sous le signe d'intégration)

Et l'espérance, c'est:
où f est la densité de probabilité de Y.

J'ai vu qu'en fait Y ne suivait pas la loi gamma... si tu n'as pas l'expression de f, ça ne va pas être possible de continuer sur cette voie.
Est-ce que tu es capable de générer des échantillons de Y ?

oui en fait si tu regarde le pdf, il a été modifié et ces details sont corrigés, donc, encore la je suis bloqué car je peux générer les Y et trouver alors lesperance, mais alors je ne peux pas appliquer la derivation sous integrale car dans lintegrale, il y a la marginale de z qui est elle meme une integrale non solvable qui depend des parametres en question, en fait peut etre que cest faisable mais lexpression serait 4 fois plus monstrueuse que le systeme qui est deja assez imposant,

mais anyway, pour simplifier les choses, au lieu de trouver explicitement l'expression des parametre en solutionnant le systeme, on a tout simplement a mximiser la fonction qui mene a ce systeme et ceci est tres simple mais mon code en R ne fonctionne pas, je comprends pas pourquoi...