Hello,
je proposerais, en considérant les solutions parmi les fonctions dérivables :
on a comme déjà dit
=0, f(xf(x))=x^2)
mais aussi
)=-x^2 = -f(xf(x)))
en appliquant la relation à y = -x. Donc si on considère l'ensemble I des images de xf(x) pour x réel, qui est comme f est supposée dérivable et à fortiori continue au moins un intervalle sinon tout R (TVI). Bref sur I f est donc impaire, et de fait f' est paire sur cet intervalle, ce qui est important pour la suite.
A présent, je dérive la relation par rapport à y, ce qui donne :
f'(xf(x+y))=f(x)f'(yf(x)))
En appliquant cette relation en y=0, on trouve :
(1) :
En l'appliquant pour y=-x, on trouve cette fois-ci:
f'(xf(0))=f(x)f'(-xf(x)))
c'est à dire en remplaçant f(0)=0
(2) :
C'est ici qu'entre l'argument de parité de f' sur I, qui permet donc de dire que
)=f'(xf(x)))
, que l'on peut remplacer dans (2) au moyen de ce qu'on a obtenu par (1). Cela donne :
^2=f(x)\frac{f(x)f'(0)}{xf'(x)})
, ce qui se simplifie en :
}{f^2(x)}=\frac{1}{x^2f'(0)})
A présent ça tombe tout seul, en intégrant on a :
}=\frac{1}{xf'(0)}+C)
=\frac{xf'(0)}{1+Cxf'(0)})
Evidemment en redérivant f et en prenant en x=0 (pour retrouver f'(0)) on voit que la seule constante possible est C=0, donc on retombe sur f de la forme:
=xf'(0))
Donc si f est solution, elle est nécessairement de la forme f(x) = ax.
En remplaçant dans la relation initiale, on trouve
 = a^2yx+x^2)
donc

et on retombe sur les deux solutions déjà exhibées f(x)=x et f(x)=-x qui sont donc les seules solutions dérivables.
Modulo quelques points de rigueurs oubliés dans ma démo comme le traitement de la singularité en x=0 dans mes divisions au cours des calculs je pense que ça se tient :we:
Damien