Il y a sans doute un quiproquo sur les notations (personnellement je n'avais jamais rencontré ta notation

avant, je ne connais que

et

).
Quoi qu'il en soit, ici l'énoncé parle d'un espace vectoriel E quelconque, en particulier il n'y a pas de produit scalaire dessus, donc si x et y sont deux éléments de E, l'écriture que tu utilises dans ta définition de

n'a pas de sens. Ce qui a un sens c'est avec x un élément de E et f un élément de E*.
Il est possible que l'énoncé n'ait pas les mêmes notations que ton cours, mais ici, comme il n'y a pas de produit scalaire, la seule façon d'interpréter ce

est
 = \{ 0 \} \})
. De plus, si u est un endomorphisme de E,

est un endomorphisme de E*, donc ça n'aurait pas de sens d'étudier la stabilité d'un sous-espace de E par

. Pour finir, avec cette interprétation, ce qu'on te demande de démontrer est vrai.