Bonsoir, tu confonds en fait deux notions différentes : les polynômes (éléments de

) et les polynômes d'endomorphismes (éléments de
)
).
=\det(Xid-u))
est bien défini, c'est le déterminant de l'application linéaire Xid-u (l'indéterminée X a vocation à représenter un scalaire quand on passe à la fonction polynômiale associée).
Par contre, écrire
id-u))
n'a aucun sens : u(x)id serait le produit d'un vecteur par une application, ce qui n'est pas défini.
Si on pose

, ce qu'on note
)
c'est
l'endomorphisme 
, et donc
(x)=u^n(x)+\sum_{k=0}^{n-1}a_ku^k(x))
, qui est bien nul quand x est le vecteur nul.
(x))
est d'ailleurs nul pour tout x, par le théorème de Cayley-Hamilton. D'ailleurs, ce théorème semble évident si on ne remarque pas la confusion que tu as faite (en version matricielle) :
=\det(A.I_n-A)=\det(A-A)=0)
, ce qui est évidemment faux (même si le résultat est juste).