Je ne comprend pas trop de quoi tu parle là.
Le "bon" cadre (c'est à dire le cadre dans lequel tout marche parfaitement bien) pour résoudre les équation aX+bY=c est celui des entiers relatifs (i.e. positif, nuls ou négatifs) : a,b,c sont des entiers relatif et on cherche les solutions (X,Y) parmi les couples d'entiers relatifs.
Dans ce cas, il y a soit aucune solution (par exemple 4X-6Y=7 n'a pas de solutions entières) soit une infinité de solutions.
Lorsque l'on cherche (par exemple) les solutions pour lesquelles X et Y sont des entiers naturels (i.e. positifs), je pense que le plus simple consiste souvent à commencer par chercher TOUTES les solutions dans les entiers relatifs PUIS à regarder lesquelles sont positives.
Exemple : On cherche tout les couples d'entiers positifs ou nuls (X,Y) tels que 5X+7Y=111.
On fait l'algo d'euclide.
On en déduit que a=5 et b=7 sont premiers entre eux et que 1=3a-2b.
Donc 111=333a-222b et l'équation de départ peut s'écrire aX+bY=333a-222b
soit encore b(Y+222)=a(333-X) (#)
Comme b est premier avec a et qu'il divise a(333-X), c'est qu'il divise 333-X (théorème de Gauss)
Donc 333-X=kb avec k
entier relatif c'est à dire X=333-7k.
En réinjectant ce résultat dans l'équation (#) on trouve que Y+222=ka donc que Y=5k-222.
Et on termine en disant que, pour que X et Y soient positifs ou nuls, il faut que
c'est à dire que
.
Il y a donc 3 solutions au problème de départ.