Salut,
j'imagine que c'est pour de la microéconomie? ^^
Il n'y a pas de définition mathématique précise de la régularité d'une fonction. Mais généralement, quand on parle d'hypothèses de régularité pour une fonction, on veut parler de l'existence de ses dérivées et de certaines propriétés de ses dérivées.
Dans ton exemple,

est une fonction de deux variables, et on fait un certain nombre d'hypothèses de régularité sur

. Généralement, on suppose que

est de classe C2 (je ne sais pas si c'est le cas ici). Et en plus on suppose que les dérivées partielles de

vérifient certaines conditions, ici

. Je pense que la dernière condition est plutôt

d'ailleurs.
Donc oui, ce sont des hypothèses faites pour une fonction (ou une famille de fonctions) particulière.