On peut essayer de s'y prendre de la façon suivante :
Je modifie trés légèrement ton énoncé en supposant que l'équation du plan cherché est z=ax+by+c (ce qui exclue de la recherche les plans verticaux)
Tu cherches à minimiser
.
Je me place alors dans R^n, muni du produit scalaire usuel. J'introduis les vecteurs X=(x_1,..,x_n), Y et Z de la même manière, ainsi que le vecteur T dont toutes les coordonnées valent 1.
La quantité à minimiser apparaît alors être la norme au carré du vecteur Z-aX-bY-cT.
Cette quantité sera minimale lorsque a,b,c seront choisis de sorte que aX+bY+cZ soit le projeté (orthogonal) de Z sur l'espace engendré par X,Y et T. Tu écris que c'est alors réalisé lorsque Z-aX-bY-cT est orthogonal à X, à Y et à T, ce qui te fournit les équations :
Il te reste à t'armer de courage et à résoudre ce système de trois équations linéaires d'inconnues a, b et c.
Cordialement