Les posteurs les plus actifs de la semaine
Aucun utilisateur |
Sujets les plus vus
Moindres carrés et décomposition de la variance
Page 1 sur 1
Moindres carrés et décomposition de la variance
Bonjour à tous,
Je viens vers vous pour un éclairage sur le critère des moindres carrés et son lien avec la formule de décomposition de la variance.
Supposons que l'on dispose de données (t_n, y_n)_(1 <= n <= N) où t_n sont des instants d'observations (déterministes) et y_n (observations plus ou moins aléatoire). On cherche une fonction f_{theta}, où theta est un vecteur paramètre, qui modélise au mieux les observations.
On va donc tenter de minimiser le critère des moindres carrés (MC), ici ça donne
sigma^2_r(theta) = 1/N*somme_{n=1}^{N} [y_n - f_{theta}(t_n)]^2.
Notons theta*, le vecteur de paramètres qui minimise sigma^2_r.
Mon problème, c'est que j'aimerais savoir si on a bien dans ce cas :
variance empirique de (y_n) = variance de f_{theta*} + variance résiduelle???
Y a t-il une condition sur f_{theta} pour que ça marche?
Ai-je compris ce résultat?
Merci d'avance pour votre aide!
Bonne soirée.
Je viens vers vous pour un éclairage sur le critère des moindres carrés et son lien avec la formule de décomposition de la variance.
Supposons que l'on dispose de données (t_n, y_n)_(1 <= n <= N) où t_n sont des instants d'observations (déterministes) et y_n (observations plus ou moins aléatoire). On cherche une fonction f_{theta}, où theta est un vecteur paramètre, qui modélise au mieux les observations.
On va donc tenter de minimiser le critère des moindres carrés (MC), ici ça donne
sigma^2_r(theta) = 1/N*somme_{n=1}^{N} [y_n - f_{theta}(t_n)]^2.
Notons theta*, le vecteur de paramètres qui minimise sigma^2_r.
Mon problème, c'est que j'aimerais savoir si on a bien dans ce cas :
variance empirique de (y_n) = variance de f_{theta*} + variance résiduelle???
Y a t-il une condition sur f_{theta} pour que ça marche?
Ai-je compris ce résultat?
Merci d'avance pour votre aide!
Bonne soirée.
wasteland93- Nombre de messages : 6
Date d'inscription : 11/08/2008
Re: Moindres carrés et décomposition de la variance
Bon, je me réponds à moi même vu que j'ai fini par trouver la réponse...
En fait, la réponse est oui si et seulement si la constante fait partie du modèle f_{theta}. En gros ça veut dire qu'il faut pouvoir écrire f_{theta}( t ) = g_{theta'}(t) + theta_{0}.
Si la constante ne fait pas partie du modèle, alors on a la décomposition suivante (toujours valide celle-ci) :
||y||^{2} = ||f_{theta*}||² + variance résiduelle(theta*)
Voila. A+.
En fait, la réponse est oui si et seulement si la constante fait partie du modèle f_{theta}. En gros ça veut dire qu'il faut pouvoir écrire f_{theta}( t ) = g_{theta'}(t) + theta_{0}.
Si la constante ne fait pas partie du modèle, alors on a la décomposition suivante (toujours valide celle-ci) :
||y||^{2} = ||f_{theta*}||² + variance résiduelle(theta*)
Voila. A+.
wasteland93- Nombre de messages : 6
Date d'inscription : 11/08/2008
Sujets similaires
» moindres carrés généralisés
» moindres carrés pondérés - IC prédiction
» Moindres carrés pondérés itératifs
» ANOVA et moindres carrés généralisés
» Décomposition d'une série temporelle.
» moindres carrés pondérés - IC prédiction
» Moindres carrés pondérés itératifs
» ANOVA et moindres carrés généralisés
» Décomposition d'une série temporelle.
Page 1 sur 1
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum