On me sussure à l'oreille qu'il y a un lecteur assidu, mais peu éclairé, de nos échanges.
D'abord le fait que la dérivée seconde de f soit toujours positive ne signifie pas que f est
monotone, mais que f est
convexe.
Exemple :
admet pour dérivée 2 > 0, mais est décroissante sur les nombres négatifs, et croissante sur les nombres positifs.
Ensuite, rappelons une évidence: si j'ai deux fonctions
et
la fonction g+h est simplement la fonction qui a tout x associe g(x)+h(x).
Ainsi quand on parle de chercher une fonction inconnue f comme somme de fonctions basique que l'on note par exemple
, il s'agit de déterminer les coefficients
définissant
Exemple simple (que même notre lecteur assidu devrait comprendre) consiste à prendre comme fonctions basiques des monomes, par exemple
(il s'agit d'une fonction constante),
,
. On est donc dans le cas de la regression polynomiale, ici de degré 2.
Evidemment ce cas n'est guère intéressant, et n'est pas vraiment ce que l'on a en tête quand on parle de regression non paramétrique. On va plutôt choisir des monomes mais restreint à des intervalles (ce qui fait des fonctions polynomiales par morceaux) ou des noyaux Gaussiens, donc des fonctions de la forme
où les x_k sont répartit dans l'espace d'intérêt et
est un paramètre donné (c'est l'idée de base derrière les méthodes de regression à noyaux).
Pour aller plus loin:
https://husson.github.io/img/presentation_gam4.pdf
Merci de répondre aux questions posées, ce sont des indications pour vous aider à résoudre vos exercices.