Statistiques: moindres carrés: démonstration

Réponses à toutes vos questions après le Bac (Fac, Prépa, etc.)
Anonyme

Statistiques: moindres carrés: démonstration

par Anonyme » 16 Oct 2012, 21:28

[font=Times New Roman] [font=Arial][size=1]Bonjour,[/font][/size][/font]
[font=Arial]dans un chapitre "Statistiques" de mon livre, je trouve le début de démonstration pour déterminer les coefficients a et b de la droite des moindres carrés. J'ai beau étudier ça dans tous les sens, je ne comprends pas comment on arrive à la conclusion f ' (a) = 0 et g ' (b) = 0. Voici la démonstration:[/font]


[font=Verdana","sans-serif][font=Arial]" Soit [/font](X,Y) une série statistique double représentée par un nuage de npoints Image dans un repère orthonormal du plan.[/font]
[font=Verdana","sans-serif]Etant donnée une droite D d’équation y = ax+b, on calcule la distance dechacun des points du nuage à la droite D. On choisit alors a et b pour que lasomme S(a,b) des carrés de ces distances soit minimum.[/font]
[font=Verdana","sans-serif]Le carré de la distance de Image à D : y = ax+b est [/font]

[font=Verdana","sans-serif][color=black][font=Verdana","sans-serif][color=black][font=Verdana","sans-serif] (yi -a*xi -b)²[/font][/font][/color][/font][/color]
[font=Verdana","sans-serif][color=black][font=Verdana","sans-serif][color=black][font=Verdana","sans-serif] (1+a²)[/font][/font][/color][/font][/color]
[font=Verdana","sans-serif][color=black][font=Verdana","sans-serif][/font][/font][/color][font=Times New Roman][font=Arial][size=1]d'où [/font][/size][/font]Image


[font=Verdana","sans-serif]On étudie alors T(a,b) : [/font]Image



[font=Verdana","sans-serif]Pour b fixé, f: a -> T(a,b) est une fonction polynôme du second degré.Le coefficient de a² étant positif, le minimum de f est atteint en a tel quef ’ (a) = 0.[/font]

[font=Verdana","sans-serif]De même, pour a fixé, g : b -> T(a,b) a son minimum en b tel que g ’ (b) = 0. "[/font]

[font=Verdana","sans-serif]Fin de citation.[/font]
[font=Arial]Merci pour votre réponse.[/font]
[font=Arial]Désolé pour le mauvais affichage des formules, LaTeX fonctionne mal avec mon navigateur.[/font]

[font=Arial]s.wilks[/font]



sylvainc2
Membre Naturel
Messages: 69
Enregistré le: 12 Aoû 2012, 20:22

par sylvainc2 » 18 Oct 2012, 19:20

C'est quelque chose qu'on apprend dans un cours sur le calcul différentiel: f'(a) est la pente de la tangente au point (a, f(a)). Si f'(a)=0 alors la tangente est horizontale, donc il y a un minimum ou maximum (local ou global) en ce point. Ici, puisque f est une parabole ouverte vers le haut, c'est un minimum global. Même chose pour g.

Anonyme

Statistiques: moindres carrés: démonstration

par Anonyme » 18 Oct 2012, 19:47

Avant tout, je te remercie car les réponses à ma question ne sont vraiment pas nombreuses.

Mais je ne suis pas d'accord avec toi.
Ce que tu dis est vrai mais ce que je ne comprends pas c'est comment on passe
de " (a0 , b0) minimum de S(a,b) " à " (a0 , b0) minimum de T(a,b) ".

Après, pour le passage de " (a0 , b0) minimum de T(a,b) " à " f ' (a0) = g ' (b0) = 0 ", c'est Ok, il n'y a pas de problème.

Merci si vous pouvez m'éclairer.

s.wilks

Dlzlogic
Membre Transcendant
Messages: 5273
Enregistré le: 14 Avr 2009, 14:39

par Dlzlogic » 18 Oct 2012, 20:02

Bonjour,
A mon avis la question est posée de façon trop compliquée, c'est pour ça que je n'ai pas répondu avant.
Donc, je l'exprime autrement.
Soit un ensemble de couples de valeurs (X,Y) résultant d'une même expérience. La méthode des moindres carrés consiste à dire que la valeur la plus probable de la fonction Y = f(x) est telle que la somme des carrés des valeurs (y(xi) - yi) est minimum.
Cette somme sera minimum pour la valeur qui annule la dérivée.
Si on décide que la fonction cherchée est une fonction linéaire (ou plutôt affine), alors elle sera de la forme Y = Ax + B.
Il faut tout de même remarquer que la valeur que l'on minimise n'est pas la distance à la droite représentative, mais la différence des ordonnées.
Par contre, il est vrai que dans le libellé de votre question, il s'agit de la distance à la droite.

Si cette question est posée dans un cadre scolaire ou universitaire, je ne suis pas compétent.

JeanJ
Membre Relatif
Messages: 264
Enregistré le: 09 Jan 2010, 11:04

par JeanJ » 18 Oct 2012, 20:28

Bonjour,

je suis un peu comme Dizlogic La façon dont est posée la question me gène.
Je vais donc me contenter de citer un article (§.3) où l'on fait la distinction entre plusieurs régressions linéaires dans lesquelles on minimise une somme de carrés des "distances" entre les points donnés et une droite que l'on déterminera. Mais les "distances" peuvent être prises selon diverses directions. Le cas où les distances sont prises orthogonalement à la droite (donc les plus courtes) est rârement employé, mais il est traité dans cet article (§.3.3)
"Régressions coniques, quadriques, circulaire, sphérique..." par le lien :
http://www.scribd.com/JJacquelin/documents

Anonyme

Statistiques: moindres carrés: démonstration

par Anonyme » 18 Oct 2012, 21:51

Bonjour à tous et en particulier à JeanJ,

je te remercie vivement JeanJ car c'est bien toi qui m'a donné la réponse en m'aiguillant sur le lien:
[url="http://www.scribd.com/JJacquelin/documents"]http://www.scribd.com/JJacquelin/documents[/url]

C'est bien cela.
Il y a plusieurs types de régressions linéaires:
- moindres carrés des écarts d'ordonnées
- moindres carrés des écarts d'abscisses
- moindres carrés des écarts de distances
(paragraphe 3. du lien)

Or, mon bouquin truandait car il partait d'une régression linéaire des moindres carrés des écarts des distances (minimisation de S(a,b)) et passait sans rien préciser à une régression linéaire des moindres carrés des écarts d'ordonnées (minimisation de T(a,b)).

Sur ce, la discussion est close. (je ne sais pas comment on place une icone montrant que la discussion est close).

s.wilks

 

Retourner vers ✯✎ Supérieur

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 28 invités

Tu pars déja ?



Fais toi aider gratuitement sur Maths-forum !

Créé un compte en 1 minute et pose ta question dans le forum ;-)
Inscription gratuite

Identification

Pas encore inscrit ?

Ou identifiez-vous :

Inscription gratuite