Régression linéaire multiple

[Matheco]

Bonjour,



je ne comprends pas comment on passe de la deuxième à la troisième ligne.
Cela voudrait dire que tX. Y - tY. X = 2 tX . Y ?

(tX, tY = transposées des matrices X, Y)

[Ben314]

Salut,
La règle de calcul concernant la transposée d'un produit te dit que le deuxième et le troisième terme de ta deuxième ligne sont les transposés l'un de l'autre, sauf qu'en fait, ce sont des matrices 1x1 (qu'on identifie à des scalaires) donc...

[Matheco]

D'accord merci beaucoup! autre petite question si possible

celà veut dire que la dérivé par rapport à bêta et par rapport à la transposé de bêta revient au même ?
et d'autre part que tB. tX. X. B = tX. X. B^2 ?

[Ben314]

BOn, déjà, je sais pas d'où tu tient cette "prose", mais le terme de "dérivé par rapport à bêta" dans le cas où bêta est un vecteur, c'est n'importe quoi.

Et, en particulier, ça t'incite à te poser la question
"Est-ce que de dériver par rapport à bêta et par rapport à la transposé de bêta revient au même ?"
qui ne veut franchement pas dire grand chose.

Et concernant ta deuxième question, ben non, tB. tX. X. B ne risque pas d'être égal à tX. X. B^2 vu que B^2 ça veut rien dire du tout : on ne sait faire le produit d'une matrice de taille mxn avec une pxq uniquement lorsque n=p.
Or bêta est un vecteur colonne donc de taille nx1 et tu peut pas calculer bêta^2 (sans parler du fait que le produit matriciel n'étant pas commutatif, même si B^2 voulait dire quelque chose, il y aurait peu de chance que tB. tX. X. B soit égal à tX.X.B^2 vu que tu as changé l'ordre des termes)

En bref, tu as vu quoi concernant les dérivées de fonction de plusieurs variables ?
Plus précisément, on t'a donné quoi comme définition d'une expression comme celle employée ici de "dérivée par rapport à bêta de..." ?

[Matheco]

Il s'agit d'une capture d'écran d'un cours dont je n'ai pas inventé la prose et que je cherche tant bien que mal à comprendre.
Et effectivement on cherche la dérivée partielle de l'expression de mon premier message par rapport au vecteur bêta qui est censé être égal à l'expression donné dans mon second message.

[Ben314]

Bon, là j'ai pas le temps de refaire un cours complet sur le calcul matriciel et sur la notion de dérivées partielles (le fait que tu écrive LA dérivée partielle par rapport à bêta donne l'impression que tu n'as pas du en entendre parler souvent).

Ce que je t'inciterais plus que fortement à faire, c'est de regarder "dans un cas concret" ce que c'est que ton fameux truc par exemple en prenant (au pif) , et (là, il faut absolument mettre des variables pour pouvoir dériver...)
- Déjà, ça te permettra de bien voir pourquoi on a (par exemple) .
- Ensuite ça te permettra de voir qu'on a comme résultat un truc qui dépend de deux variables s et t et donc que, si on veut le "dériver", il y a deux façons de le faire (considérer que LA variable est s ou bien que c'est t)
- Ensuite de voir que, si on considère s comme "connu",on a une fonction de t (et c'est tout) et que le truc clasique vu au Lycée, c'est que pour trouver le minimum de la fonction, il faut regarder quand-est-ce que la dérivée (en t) est nulle => tu regarde quelle équation ça donne de dire que la dérivée en t est nulle.
- Idem pour la dérivée en s (en considérant t comme fixé)
- Ca te fait donc deux quantités qui doivent être nulles toute les deux lorsqu'on est sur le mini de la fonction et tu vérifie que le fait que ces deux quantités sont nulle, ça se traduit bien par une seule égalité (vectorielle) qui est celle donnée dans ton poly.

Avec ça, c'est pas sûr que tu capte "toute la subtilité théorique du bidule", mais y'a au moins un truc de sûr, c'est que tu reposera plus des question du style "Est-ce que de dériver par rapport à bêta et par rapport à la transposé de bêta revient au même ?" vu que tu aura vu que "dans le concret", ça veut rien dire.
Ni " est ce que tB. tX. X. B = tX. X. B^2 ?" vu que si tu regarde avec l'exemple çi dessus ce que signifie tX. X. B^2 , tu verra que c'est un truc qu'on peut pas calculer (les matrices sont pas de la bonne taille pour qu'on puisse en faire le produit).