Ajustement de courbe

[DIREMO]

Bonjour
J’ai un ensemble de points (xi, yi)
Je cherche une fonction f telle que f(xi) est le plus proche possible de yi (régression) mais la contrainte est que la dérivée seconde de f est toujours positive.
Existe-t-il une technique permettant de le faire ?

[lyceen95]

Si tu cherches une approximation par une fonction polynome de degré 2, ta dérivée seconde sera de signe constant (le signe du terme de degré 2).
Et si les données s'y prêtent, forcément, cette dérivée seconde sera positive.
Si la dérivée seconde obtenue est négative, c'est que les données ne se prêtent pas du tout à ta contrainte.

Mais cette proposition n'est probablement pas satisfaisante. Là où tu voulais qu'un truc soit toujours positif, je transforme ça en une contrainte beaucoup plus forte, vouloir que ce soit constant !

Généralement, quand on cherche une régression, on impose d'entrée un type de fonction (polynômes, logarithmes , etc). Si tu n'imposes aucune règle de ce type, il n'y a pas de technique simple.

[Sylviel]

Pour compléter ce que dis lycéen:

soit on fait une regression paramétrique, ce qui veut dire que l'on cherche une fonction dans une certaine famille (polynomes, log, etc...), soit on fait une regression non-paramétrique (kernel regression par exemple).

Dans le premier cas on choisit la famille soit à partir d'information préalables sur le phénomène a décrire, soit en observant les données à l'oeil, soit en testant plusieurs familles. Dans ce dernier cas il faut faire attention au sur-apprentissage, et il est bon de vérifier la qualité/stabilité de la regression en laissant une partie des données pour le test (typiquement par cross-validation).

Dans le cas non-paramétrique on représente typiquement la fonction a estimer par une somme de fonctions élémentaires (par exemple des gaussiennes).

Pour ton problème je te suggère d'utiliser des splines (des fonctions polynomiales par morceaux). En effet la contrainte de convexité (dérivée seconde positive) se traduit bien avec ce genre de fonctions.

[Sylviel]

On me sussure à l'oreille qu'il y a un lecteur assidu, mais peu éclairé, de nos échanges.

D'abord le fait que la dérivée seconde de f soit toujours positive ne signifie pas que f est monotone, mais que f est convexe.
Exemple : admet pour dérivée 2 > 0, mais est décroissante sur les nombres négatifs, et croissante sur les nombres positifs.


Ensuite, rappelons une évidence: si j'ai deux fonctions et la fonction g+h est simplement la fonction qui a tout x associe g(x)+h(x).
Ainsi quand on parle de chercher une fonction inconnue f comme somme de fonctions basique que l'on note par exemple , il s'agit de déterminer les coefficients définissant


Exemple simple (que même notre lecteur assidu devrait comprendre) consiste à prendre comme fonctions basiques des monomes, par exemple (il s'agit d'une fonction constante), , . On est donc dans le cas de la regression polynomiale, ici de degré 2.

Evidemment ce cas n'est guère intéressant, et n'est pas vraiment ce que l'on a en tête quand on parle de regression non paramétrique. On va plutôt choisir des monomes mais restreint à des intervalles (ce qui fait des fonctions polynomiales par morceaux) ou des noyaux Gaussiens, donc des fonctions de la forme où les x_k sont répartit dans l'espace d'intérêt et est un paramètre donné (c'est l'idée de base derrière les méthodes de regression à noyaux).

Pour aller plus loin:
https://husson.github.io/img/presentation_gam4.pdf