Moindres carrées non linéaires

Réponses à toutes vos questions après le Bac (Fac, Prépa, etc.)
Avatar de l’utilisateur
Rockleader
Habitué(e)
Messages: 2126
Enregistré le: 11 Oct 2011, 20:42

Moindres carrées non linéaires

par Rockleader » 12 Déc 2016, 00:16

Bonsoir,

j'ai compris l'approximation linéaire avec les moindres carrés, mais je sèche pour la partie non linéaire.

J'ai ici une fonction dont je connais certains points

f(0)=1
f(1)=3
f(2)=7

On considère que ces points là bien que connus peuvent contenir des erreurs.
Donc en réalité on a pas = mais plutôt environ égal.

On cherche f de la forme:



On trouve

f(0)=a
f(1)=b
f(2)=a+4b

Ce qui permet d'écrire le système

a=1
b=2
a+4b=7

De là on peut formuler le problème des moindres carrés

avec


L'équation normale est donc

Je calcule donc mes produits de matrices






jusque là toute la démarche était similaire à un problème de moindre carré linéaire.

Sauf que à l'étape suivante, je suis supposé trouver le système suivant

2a+4b=8
4a+17b=31

Et là je ne vois absolument pas d'où ça sort; je m'attendais à retrouver les coefficients des deux matrices précédentes ici...à savoir

2a+2b=8
2a+3b=11

Alors, soit j'ai fais une erreur en recopiant ma correction (ce qui est possible, soit je n'ai absolument pas compris cette étape là) :oops:



Merci de votre aide !
Modifié en dernier par Rockleader le 12 Déc 2016, 00:38, modifié 1 fois.
Cette histoire est entièrement vraie puisque je l'ai inventé du début à la fin !



Avatar de l’utilisateur
Lostounet
Admin
Messages: 9657
Enregistré le: 16 Mai 2009, 13:00

Re: Moindres carrées non linéaires

par Lostounet » 12 Déc 2016, 00:18

Salut

Comment ça se fait que tu cherches f sous cette forme sachant qu'elle est non définie en 0 à cause de la racine? Et que tu veux f(0)= machin
Merci de ne pas m'envoyer de messages privés pour répondre à des questions mathématiques ou pour supprimer votre compte.

Avatar de l’utilisateur
Rockleader
Habitué(e)
Messages: 2126
Enregistré le: 11 Oct 2011, 20:42

Re: Moindres carrées non linéaires

par Rockleader » 12 Déc 2016, 00:38

Salut,

pardon erreur de notation, le (x-1) de la racine est en norme donc jamais de racine négative. Je rectifie.
Cette histoire est entièrement vraie puisque je l'ai inventé du début à la fin !

Avatar de l’utilisateur
Ben314
Le Ben
Messages: 20442
Enregistré le: 11 Nov 2009, 23:53

Re: Moindres carrées non linéaires

par Ben314 » 12 Déc 2016, 00:53

Salut,
Rockleader a écrit:Ce qui permet d'écrire le système
a=1
b=2
a+4b=7
A mon avis, plutôt que d'écrire tout ce que tu as écrit en terme matriciel (où il semblerais fort que tu domine pas vraiment le pourquoi on écrit ça...), je pense que tu ferais bien mieux de te dire que, vu qu'on veut :
a proche de 1 ET b proche de 2 ET a+4b proche de 7 (et évidement pas égal comme tu l'écrit !!!!)
le truc pas con (et c'est jamais que ça les "moindres carrés) c'est d'essayer de minimiser
E = (a-1)²+(b-2)²+(a+4b-7)²
Et il te suffit de te rappeler la forme canonique vu au début du Lycée pour trouver quel couple (a,b) minimise cette quantité, voire éventuellement la notion de dérivée vu un peu plus tard au Lycée.
Je pense que ça permettra que tu comprenne ce que tu fait plutôt que d'utiliser des "boites noires" (c'est systématiquement un énorme piège à c.. d'utiliser des truc qu'on comprend pas)

P.S. Et une fois que tu aura parfaitement compris comment on résous ce type de truc avec les outils de seconde (forme canonique), puis avec ceux de première (dérivées), tu regardera comment on fait (plus joliment) avec de l'algèbre linéaire.
Qui n'entend qu'un son n'entend qu'une sonnerie. Signé : Sonfucius

Avatar de l’utilisateur
Rockleader
Habitué(e)
Messages: 2126
Enregistré le: 11 Oct 2011, 20:42

Re: Moindres carrées non linéaires

par Rockleader » 12 Déc 2016, 01:07

P.S. Et une fois que tu aura parfaitement compris comment on résous ce type de truc avec les outils de seconde (forme canonique), puis avec ceux de première (dérivées), tu regardera comment on fait (plus joliment) avec de l'algèbre linéaire.


Ahah oui, sauf que dans l'exam de demain j'aurais pas le choix de la méthode faudra que je suive la trace que j'ai ici^^

Puis on nous demande pas spécialement de comprendre mais simplement de savoir appliquer...ce qui est un peu con je suis d'accord avec toi...mais honnêtement j'ai pas le temps de m'intéresser plus que ça à ces trucs là^^


Quoi qu'il en soit, trouver un extremum d'un point je sais déjà faire ça, comme tu l'as dis c'était vu en lycée, on calcule la dérivés, on regarde les points sur lesquels elle s'annule et ça permet de conclure si le point est un minimum ou maximum local. De ça on en a mangé pendant tout le lycée avec des paraboles.


Là cette année on nous a appris la méthode avec le gradiant et la hessienne pour traiter les problèmes d'optimisation. Ce qui revient au même en fait que faire ce qu'on faisait en lycée, mais sous forme matricielle finalement mais avec plusieurs variables.



Ceci étant dit, tout ceci ne m'explique pas vraiment comment je peux retrouver le résultat du problème présent d'approximation non linéaire (car c'est bien l'intitulé de l'exercice, il ne s'agit pas simplement de linéaire ici ou alors j'ai une erreur d'énoncé...).


Merci.
Cette histoire est entièrement vraie puisque je l'ai inventé du début à la fin !

Avatar de l’utilisateur
Ben314
Le Ben
Messages: 20442
Enregistré le: 11 Nov 2009, 23:53

Re: Moindres carrées non linéaires

par Ben314 » 12 Déc 2016, 01:33

Revoie le calcul matriciel...(*)
Rockleader a écrit:

(ou bien dérive (a-1)²+(b-2)²+(a+4b-7)² en a puis en b vu que c'est ça que tu doit trouver comme équations...)

(*) Peut-être tu comprend mieux pourquoi je t'incitait à utiliser autre chose que des matrices...
Qui n'entend qu'un son n'entend qu'une sonnerie. Signé : Sonfucius

Avatar de l’utilisateur
Rockleader
Habitué(e)
Messages: 2126
Enregistré le: 11 Oct 2011, 20:42

Re: Moindres carrées non linéaires

par Rockleader » 12 Déc 2016, 02:01

Alors, je t'avouerais que je n'ai même pas fait le calcul matriciel, car on nous avait donné une formule pour calculer ces produits directement

Donc en fait mes valeurs je les obtiens avec



et




J'en conclus que ces simplifications de calculs que l'on m'a donné étaient fausses ?

Car oui je suis bien d'accord avec toi en faisant la multiplication je retrouve les bonnes valeurs...


Peut-être justement le problème se situe sur le fait que cette simplification n'est valable que dans le cas d'un problème de moindre carré linéaire ? J'avoue ne pas arriver à comprendre pourquoi on nous a donné cette formule si elle n'est pas correcte...
Cette histoire est entièrement vraie puisque je l'ai inventé du début à la fin !

Avatar de l’utilisateur
Ben314
Le Ben
Messages: 20442
Enregistré le: 11 Nov 2009, 23:53

Re: Moindres carrées non linéaires

par Ben314 » 12 Déc 2016, 02:25

Écoute, si je peut te donner un vague conseil :
- Tu ne veut pas prendre le temps de comprendre d'où sortent ces formule, c'est ton problème.
- Tu t'y prend la veille pour tenter de les appliquer, (et donc ne surement pas avoir le temps de les comprendre), c'est aussi ton problème.
Mais si tu veut ne faire qu'appliquer tel quel des formules que tu ne comprend pas, il faut évidement savoir sur le bout des doigts dans quels contextes ces formules s'appliquent (ou pas) vu que tu n'aura aucun autre moyen que ta mémoire pour le savoir.

Et effectivement, les formules que tu cites ne sont valable que dans le cas très particulier où on cherche à approximer le nuage de points par une fonction affine x->ax+b.
Qui n'entend qu'un son n'entend qu'une sonnerie. Signé : Sonfucius

Avatar de l’utilisateur
Rockleader
Habitué(e)
Messages: 2126
Enregistré le: 11 Oct 2011, 20:42

Re: Moindres carrées non linéaires

par Rockleader » 12 Déc 2016, 02:44

Tu ne veut pas prendre le temps de comprendre d'où sortent ces formule, c'est ton problème.


C'est plutôt que le temps je ne l'ai pas, c'est pas un choix de réviser un exam la veille, certains font peut être ça par choix mais c'est pas du tout mon cas...les trucs à faire s'entassent, et on gère en fonction des priorités du moment...j'imagine que je t'apprends rien...alors est-ce que j'ai un problème d'organisation quelque part...sûrement, mais ce n'est pas de la mauvaise volonté ça je peux te l'assurer.


Tu t'y prend la veille pour tenter de les appliquer, (et donc ne surement pas avoir le temps de les comprendre), c'est aussi ton problème.


Bah je m'y prends la veille sur ce qui pose problème...mieux vaut tard que jamais...certes comme j'ai dis ça pourrait se faire plus tôt si j'étais mieux organisé..j'assure pleinement ça...

En revanche, je ne cherche pas à comprendre le pourquoi, je cherche simplement à comprendre le quand utiliser telle ou telle formule.
il faut évidement savoir sur le bout des doigts dans quels contextes ces formules s'appliquent


C'est la seule chose que j'ai prévu de retenir pour mon exam...comprendre quand utiliser, appliquer. Sachant que savoir ça revient quand même un peu à comprendre ce qu'on fait et pourquoi on le fait même si je saurais pas donner toute une démonstration dans le détail, je comprends l'idée générale des choses, c'est bien suffisant pour moi.

tu n'aura aucun autre moyen que ta mémoire pour le savoir.


justement non, j'ai droit à une feuille manuscrite donc tout l'intérêt pour moi est bien de savoir quand utiliser les bonnes définitions ;)


Et effectivement, les formules que tu cites ne sont valable que dans le cas très particulier où on cherche à approximer le nuage de points par une fonction affine x->ax+b.


Parfait, merci, à présent c'est plus clair, dans le cas d'une fonction affine j'utiliserai les formules que l'on m'a donné, dans le cas contraire je ferais simplement le produit matriciel pour retomber sur les bonnes équations.


Merci.
Cette histoire est entièrement vraie puisque je l'ai inventé du début à la fin !

 

Retourner vers ✯✎ Supérieur

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 25 invités

Tu pars déja ?



Fais toi aider gratuitement sur Maths-forum !

Créé un compte en 1 minute et pose ta question dans le forum ;-)
Inscription gratuite

Identification

Pas encore inscrit ?

Ou identifiez-vous :

Inscription gratuite