Il ne faut pas utiliser de développement limité !
Pour la fonction epsilon, voici un petit calcul différent de l'exercice mais qui utilise la même méthode.
Au lycée, on voit l'approximation affine :
 \simeq f(x_0) + (x-x_0)f'(x_0))
C'est une approximation, pas une égalité. En réalité, il faut ajouter l'erreur d'approximation, qui est une certaine fonction E :
 = f(x_0) + (x-x_0)f'(x_0) + E(x))
Que peut-on dire de cette fonction ? On peut démontrer qu'elle est de la forme
\varepsilon(x))
où la fonction epsilon tend vers zéro quand

tend vers

.
Pour le démontrer, il suffit de calculer cet epsilon :
 = f(x_0) + (x-x_0)f'(x_0) + (x-x_0)\varepsilon(x))
\varepsilon(x) = f(x) - f(x_0) - (x-x_0)f'(x_0))
 = \frac{f(x) - f(x_0)}{x-x_0} - f'(x_0))
(en supposant que

est différent de

). On en déduit :
 = \lim_{x\to x_0}\frac{f(x) - f(x_0)}{x-x_0} - f'(x_0))
Or la limite de droite est précisément la définition de
)
, ce qui prouve que
 = 0)
.
Ici il faut appliquer exactement cette méthode (à part qu'il y a une dérivée seconde) : écrire la fonction epsilon en l'isolant dans la dernière égalité du 1er message, puis reconnaître des dérivées et des dérivées secondes. Je viens de le faire, ça marche.
PS : Par curiosité, tu as fait comment pour calculer la limite de h en 0 ? (Il y a une forme indéterminée assez "hard", je trouve).