La seule difficulté consiste à trouver a', une fois que c'est fait, pour a et b c'est facile il suffit d'utiliser les formules que j'ai écrit dans le post #5.
Pour trouver a'=sup{n; n(n+1)/2<=M} tu te sers de la définition de celui-ci...
tu peux essayer tous les entiers n (en commençant par 0,1,2,3,...) tels que n(n+1)/2<=M=f(a,b); a' sera le plus grand de ceux-ci (ça c'est la méthode pas très intelligente et bourrin)
Tu peux aussi résoudre
/2-M=0)
et prendre le premier entier inférieur ou égal à la racine positive.
Pour M=1234, l'équation devient

ou x^2+x-2468, la racine positive est

donc a'=49