Forum de Statistiques
Vous souhaitez réagir à ce message ? Créez un compte en quelques clics ou connectez-vous pour continuer.
Le deal à ne pas rater :
Support Téléphone Voiture à Fente CD
12.99 €
Voir le deal

validation croisée - variance MSE

Aller en bas

validation croisée - variance MSE Empty validation croisée - variance MSE

Message par niaboc le Mar 25 Fév 2020 - 9:13

Bonjour,

Je voulais tester le compromis biais/variance dans le cadre d'une validation croisée, en fonction du paramètre K (K-fold).

Le biais du MSE diminue et la variance du MSE augmente lorsque le K augmente.
(EDIT : Au vu de ce que j'ai pu lire dernièrement, pas certain que la variance augmente avec le K finalement?!... à tester )

Pour pouvoir calculer le biais et la variance du MSE, il n'y a pas d'autres choix que de passer par des simulations : par exemple simuler 100 tirages 2-fold CV, 100 3-fold CV, etc. jusqu'au LOOCV. et ensuite calculer la variance de l'estimateur à partir de ces 100 tirages?

Ou alors, peut-on calculer analytiquement la VAR(MSE) sans avoir à faire X tirages?

Merci

Niaboc
niaboc
niaboc

Nombre de messages : 979
Age : 33
Localisation : Paris
Date d'inscription : 05/05/2008

Revenir en haut Aller en bas

validation croisée - variance MSE Empty Re: validation croisée - variance MSE

Message par niaboc le Mer 26 Fév 2020 - 15:42

Analytiquement je ne vois pas trop comment calculer la VAR(MSE), donc j'ai fait plusieurs simulations (avec régression linéaire multiple) mais au final il n'est vraiment pas évident de constater un lien entre K et le biais et la variance du MSE?!

Sitôt que le nombre d'individus est un peu trop haut (même 100), alors le biais et la variance n'ont pas de lien avec le K, et lorsqu'on diminue le nombre d'individus et qu'on travaille sur un modèle moins bon alors il semble y avoir une diminution du biais seulement pour les toutes premières valeurs de K (2 et 3).

Je ne sais pas si vous avez déjà tenté de réaliser ce genre de simulation?
niaboc
niaboc

Nombre de messages : 979
Age : 33
Localisation : Paris
Date d'inscription : 05/05/2008

Revenir en haut Aller en bas

Revenir en haut


 
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum