Statistiques: moindres carrés: démonstration

[Anonyme]

[font=Times New Roman] [font=Arial][size=1]Bonjour,[/font][/size][/font]
[font=Arial]dans un chapitre "Statistiques" de mon livre, je trouve le début de démonstration pour déterminer les coefficients a et b de la droite des moindres carrés. J'ai beau étudier ça dans tous les sens, je ne comprends pas comment on arrive à la conclusion f ' (a) = 0 et g ' (b) = 0. Voici la démonstration:[/font]


[font=Verdana","sans-serif][font=Arial]" Soit [/font](X,Y) une série statistique double représentée par un nuage de npoints dans un repère orthonormal du plan.[/font]
[font=Verdana","sans-serif]Etant donnée une droite D d’équation y = ax+b, on calcule la distance dechacun des points du nuage à la droite D. On choisit alors a et b pour que lasomme S(a,b) des carrés de ces distances soit minimum.[/font]
[font=Verdana","sans-serif]Le carré de la distance de à D : y = ax+b est [/font]

[font=Verdana","sans-serif][color=black][font=Verdana","sans-serif][color=black][font=Verdana","sans-serif] (yi -a*xi -b)²[/font][/font][/color][/font][/color]
[font=Verdana","sans-serif][color=black][font=Verdana","sans-serif][color=black][font=Verdana","sans-serif] (1+a²)[/font][/font][/color][/font][/color]
[font=Verdana","sans-serif][color=black][font=Verdana","sans-serif][/font][/font][/color][font=Times New Roman][font=Arial][size=1]d'où [/font][/size][/font]


[font=Verdana","sans-serif]On étudie alors T(a,b) : [/font]



[font=Verdana","sans-serif]Pour b fixé, f: a -> T(a,b) est une fonction polynôme du second degré.Le coefficient de a² étant positif, le minimum de f est atteint en a tel quef ’ (a) = 0.[/font]

[font=Verdana","sans-serif]De même, pour a fixé, g : b -> T(a,b) a son minimum en b tel que g ’ (b) = 0. "[/font]

[font=Verdana","sans-serif]Fin de citation.[/font]
[font=Arial]Merci pour votre réponse.[/font]
[font=Arial]Désolé pour le mauvais affichage des formules, LaTeX fonctionne mal avec mon navigateur.[/font]

[font=Arial]s.wilks[/font]

[sylvainc2]

C'est quelque chose qu'on apprend dans un cours sur le calcul différentiel: f'(a) est la pente de la tangente au point (a, f(a)). Si f'(a)=0 alors la tangente est horizontale, donc il y a un minimum ou maximum (local ou global) en ce point. Ici, puisque f est une parabole ouverte vers le haut, c'est un minimum global. Même chose pour g.

[Anonyme]

Avant tout, je te remercie car les réponses à ma question ne sont vraiment pas nombreuses.

Mais je ne suis pas d'accord avec toi.
Ce que tu dis est vrai mais ce que je ne comprends pas c'est comment on passe
de " (a0 , b0) minimum de S(a,b) " à " (a0 , b0) minimum de T(a,b) ".

Après, pour le passage de " (a0 , b0) minimum de T(a,b) " à " f ' (a0) = g ' (b0) = 0 ", c'est Ok, il n'y a pas de problème.

Merci si vous pouvez m'éclairer.

s.wilks

[Dlzlogic]

Bonjour,
A mon avis la question est posée de façon trop compliquée, c'est pour ça que je n'ai pas répondu avant.
Donc, je l'exprime autrement.
Soit un ensemble de couples de valeurs (X,Y) résultant d'une même expérience. La méthode des moindres carrés consiste à dire que la valeur la plus probable de la fonction Y = f(x) est telle que la somme des carrés des valeurs (y(xi) - yi) est minimum.
Cette somme sera minimum pour la valeur qui annule la dérivée.
Si on décide que la fonction cherchée est une fonction linéaire (ou plutôt affine), alors elle sera de la forme Y = Ax + B.
Il faut tout de même remarquer que la valeur que l'on minimise n'est pas la distance à la droite représentative, mais la différence des ordonnées.
Par contre, il est vrai que dans le libellé de votre question, il s'agit de la distance à la droite.

Si cette question est posée dans un cadre scolaire ou universitaire, je ne suis pas compétent.

[JeanJ]

Bonjour,

je suis un peu comme Dizlogic La façon dont est posée la question me gène.
Je vais donc me contenter de citer un article (§.3) où l'on fait la distinction entre plusieurs régressions linéaires dans lesquelles on minimise une somme de carrés des "distances" entre les points donnés et une droite que l'on déterminera. Mais les "distances" peuvent être prises selon diverses directions. Le cas où les distances sont prises orthogonalement à la droite (donc les plus courtes) est rârement employé, mais il est traité dans cet article (§.3.3)
"Régressions coniques, quadriques, circulaire, sphérique..." par le lien :
http://www.scribd.com/JJacquelin/documents

[Anonyme]

Bonjour à tous et en particulier à JeanJ,

je te remercie vivement JeanJ car c'est bien toi qui m'a donné la réponse en m'aiguillant sur le lien:
[url="http://www.scribd.com/JJacquelin/documents"]http://www.scribd.com/JJacquelin/documents[/url]

C'est bien cela.
Il y a plusieurs types de régressions linéaires:
- moindres carrés des écarts d'ordonnées
- moindres carrés des écarts d'abscisses
- moindres carrés des écarts de distances
(paragraphe 3. du lien)

Or, mon bouquin truandait car il partait d'une régression linéaire des moindres carrés des écarts des distances (minimisation de S(a,b)) et passait sans rien préciser à une régression linéaire des moindres carrés des écarts d'ordonnées (minimisation de T(a,b)).

Sur ce, la discussion est close. (je ne sais pas comment on place une icone montrant que la discussion est close).

s.wilks