moindres carrés généralisés

Bonjour,

j'ai un problème d'hétéroscédasticité dans une régression linéaire :

Y= cst + var1+ class_var2 + var3;


La variance des erreurs est par contre corrélée à la variables explicatives (qualitative en 5 modalités) : class_var2 .

J'ai pensé à un modèle à effet aléatoire avec la variable class_var2 en variable aléatoire.
Cependant il y a une corrélation non négligeable entre class_var2 et var3 donc le modèle à effet aléatoire va être biaisé.
Var3 est la principale variable explicative de Y, je ne peux pas me permettre de la retirer du modèle.


Comment puis-je résoudre mon problème d'hétéroscédasticité?

+graphiquement est-il possible de voir si problème d'hétéroscédasticité est résolue?


Niaboc

En fait juste un moindre carré pondéré par 1/variance des Y calculée sur les différentes classes de class_var2 peut permettre de résoudre le problème?

Ou dois je plutot pondérer par l inverse de la variance des residus des MCO?

J'ai fait plusieurs recherches et je pense qu'il faut bien pondéré par l'inverse de la variance (selon les classe de class_var2) des résidus des MCO. Je me suis juste demandé si ce n'était pas l'écart type qu'il fallait utilisé? Ou ça dépend du logiciel utilisé? utilisant SAS et l'instruction weigth de la proc glm, je pense que c'est bien l'inverse de la variance qu'il faut utiliser :

http://support.sas.com/documentation/cdl/en/statug/63033/HTML/default/viewer.htm#statug_glm_sect024.htm

Salut,

Pas plus de réponse que ça mais je m'interroge sur le trade-off entre utiliser la variance pour pondérer et le fait d'utiliser un modèle mixte avec un problème de corrélation.

Le pb de corrélation va se poser aussi avec un modèle plus "simple".

Pour moi, ton problème, me fait plus penser à une structure de corrélation telle que là :https://stat.ethz.ch/R-manual/R-devel/library/nlme/html/gls.html

HTH

Nik

Avec le modèle mixte les coefficients vont être biaisés mécaniquement à cause de la corrélation entre l'effet fixe et l'effet aléatoire ; tandis qu'avec un moindre carré pondéré, les tests d'inférences vont être moins précis "seulement" (même si ma corrélation n'est pas assez élevée pour que ce soit complètement le cas).

J'avoue ne pas avoir tellement compris ton lien (je ne sais pas si ça parle réellement des moindres carrés généralisés?). Peux-tu expliciter ce à quoi tu pensais, histoire d'avoir d'autres pistes? je n'ai pas compris non plus ce que signifie le "HTH" à la fin de ton message :-S.

Niaboc

Hope This Help

Je t'ai mis le lien vers l'aide d'une fonction de R...c'est pas le plus explicite mais oui ça parle des MCG (si je continue dans la traduction : gls = Generalized Least Squares.

par contre je me suis planté dans mon message, ce n'est pas de la structure de corrélation dont je voulais parler mais de la structure de variance ! .

Si tu utilise la variance résiduelle de chaque groupe, c'est que tu estimes avoir une bonne estimation de la dite variance avec tes données.

Une possibilité est d'estimer la fonction de variance conjointement aux paramètres. Dans R c'est ce que fait la fonction gls() via l'argument weigths pour lequel on peut spécifier la structure de variance à estimer. Je ne sais pas s'il y a un équivalent dans SAS... (certainement)

Sais-tu comment "tourne" la fonction gls(). Si je renseigne la structure de variance (ma variable class_var2 en fait), les calculs sont peut-être les mêmes que ce que je fais sous SAS "à la main" :

MCO -> matrice inverse de la variance des résidus -> MCP.

THM

Niaboc

ps :De plus, si ma structure de variance n'est pas la bonne, l'estimateur MCP est biaisé... Je me souviens avoir déjà évoqué ça avec toi il y a un certain temps. Mais je n'ai pas trouvé de documents sur ce sujet. Peut-être en aurais-tu?

Sais-tu comment "tourne" la fonction gls(). Si je renseigne la structure de variance (ma variable class_var2 en fait), les calculs sont peut-être les mêmes que ce que je fais sous SAS "à la main" :

oui si l'estimateur par groupe équivaut à simplement faire la variance du groupe...Ce ne sera pas toujours le cas.

De plus, si ma structure de variance n'est pas la bonne

oui mais c'est bien une structure de variance que tu donnes en fixant les poids du modèle.

Je n'ai pas plus de doc sur le sujet. En tout cas pas de doc de comparaison entre un lm pondéré et un gls ou autre. J'ai regardé vite fait le livre de Zuur et al sur les modèles mixte et il semble y avoir des exemples traités. A regarder au moins pour vérifier l'intérêt d'un méthode par rapport à l'autre (s'il y en a un )

Oui c'est vrai que ce n'est pas toujours le cas... mais dans mon cas d'hétéroscédasticité les MCP (wls) correspondent aux MCG (gls).

Et oui c'est bien une structure de variance que je donne.

Y'a un intérêt je suppose à utiliser les MCG plutôt qu'un modèle mixte dans le cas ou l'hétéroscédasticité est due à une variable explicative du modèle. Sinon je pense que les deux méthodes sont similaires, hormis qu'avec un modèle mixte on peut intégrer en plus les effets aléatoires dans le modèle et pas seulement la structure de variance.