Les posteurs les plus actifs de la semaine
Kaidozaki
 


regression logistique deviance

Voir le sujet précédent Voir le sujet suivant Aller en bas

regression logistique deviance

Message par excella le Lun 21 Mai 2012 - 20:12

Bonjour,
je voudrais savoir comment calcule -t-on la déviance s'il vous plait?

excella

Nombre de messages : 10
Date d'inscription : 21/05/2012

Voir le profil de l'utilisateur

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par joyeux_lapin13 le Lun 21 Mai 2012 - 20:22

p.13: http://eric.univ-lyon2.fr/~ricco/cours/slides/regression_logistique.pdf

Deviance = -2 . LL où LL est la vraisemblance. Bref toutes les formules sont là où je t'ai dit.

joyeux_lapin13

Nombre de messages : 1670
Age : 33
Localisation : Mayotte
Date d'inscription : 21/04/2010

Voir le profil de l'utilisateur https://lemakistatheux.wordpress.com/

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par excella le Lun 21 Mai 2012 - 20:27

merci beaucoup, ton site m'aide beaucoup.mais alors comment calculer le modèle saturé et la déviance.
Car comme tableau j'ai une sortie R. et pas de stat de deviance

excella

Nombre de messages : 10
Date d'inscription : 21/05/2012

Voir le profil de l'utilisateur

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par joyeux_lapin13 le Lun 21 Mai 2012 - 20:36

J'ai rien compris... la deviance qui provient de la vraisemblance c'est une mesure de l'information, en gros tu vas gagner des points si tu as de grosses probas pour prédire correctement et en perdre si tu as des petites probas voir des probas mal fichues (exemple on s'attends à ce qu'inférieur à 0.5 on soit classé 1 et au final on a une proba de 0.9 soit on a une valeur qui donne quasi sur d'être classé 2 alors que la classe réel c'est 1), la formule étant d'ailleurs la somme pour toutes les observation du statut réel multiplié par la probabilité associé.

En résumé pour la calculer il te faut pour chaque observation: son statut (ça tu l'as depuis le début) et sa proba calculée par ton modèle (ça tu l'as en récupérant les valeurs de ton modèle pour l'individu en question).

Dans le document que je t'a donné il y a en p.40 une définition de "modèle saturé", parles-tu de ça? Si c'est la même chose il semblerat que pour le faire il faut que tu mettes dans ton modèle tes variables ainsi que leur interaction: exemple -> Y = a + b + a*b (nous sommes d'accords que j'ai simplifier les notations).

joyeux_lapin13

Nombre de messages : 1670
Age : 33
Localisation : Mayotte
Date d'inscription : 21/04/2010

Voir le profil de l'utilisateur https://lemakistatheux.wordpress.com/

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par excella le Lun 21 Mai 2012 - 20:46

je comprends ce que tu dis pour les probas critiques et je viens de comprendre pour le modèle saturé (merci Very Happy ). En revanche (je te mets la sortie R que j'ai en fichier joint) et on me demande de trouver le BIC, la stat de deviance et la pvalue.
je ne vois pas comment faire pour trouver les renseignements sans le modèle saturé
Fichiers joints
17.png Vous n'avez pas la permission de télécharger les fichiers joints.(231 Ko) Téléchargé 5 fois

excella

Nombre de messages : 10
Date d'inscription : 21/05/2012

Voir le profil de l'utilisateur

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par joyeux_lapin13 le Lun 21 Mai 2012 - 20:51

Désolé mais il faut que tu cherches un peu... tout est dans le document de Rakatomolala (qui au passage a fait d'autres document de ce format là assez extra). Surtout que pour le BIC et la pvalue ce sont des choses classiques en régression logistique et tu auras vite fait de trouver une formule que tu pourras vite utiliser, une fois de plus je te conseil de parcourir ce superbe document.

joyeux_lapin13

Nombre de messages : 1670
Age : 33
Localisation : Mayotte
Date d'inscription : 21/04/2010

Voir le profil de l'utilisateur https://lemakistatheux.wordpress.com/

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par excella le Lun 21 Mai 2012 - 20:56

Si je demande sur un forum, c'est peut-être parce que j'ai déjà beaucoup chercher. Non je ne cherche pas via R. ça aurais déjà été beaucoup plus simple. Mais merci quand même

excella

Nombre de messages : 10
Date d'inscription : 21/05/2012

Voir le profil de l'utilisateur

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par joyeux_lapin13 le Lun 21 Mai 2012 - 21:01

Concernant les régressions logistiques, le type d'info que tu cherches est très répandu... je ne cherche pas à te pointer du doigt mais dire ça alors que je te met sous le nez un document où il y a tout... après que tu aies un souci de "littéralisation" des formules je comprends mais là...

joyeux_lapin13

Nombre de messages : 1670
Age : 33
Localisation : Mayotte
Date d'inscription : 21/04/2010

Voir le profil de l'utilisateur https://lemakistatheux.wordpress.com/

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par excella le Lun 21 Mai 2012 - 21:05

je dis ça par le faite que tu me dises il faut que tu cherches un peu... mais bref.
Je ne critique pas ton aide. car tu ma permis de comprendre le modèle saturé et tout (que j'ai précisé dans les messages précédents). Je comprends ensuite que la regression logistique soit large, mais le problème n'est pas dans la lecture ou compréhension des formules, mais dans l'application.

excella

Nombre de messages : 10
Date d'inscription : 21/05/2012

Voir le profil de l'utilisateur

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par joyeux_lapin13 le Lun 21 Mai 2012 - 21:12

Pour le calcul de la p-value avec R voici un autre document en p. 21 http://stat.genopole.cnrs.fr/_media/members/cambroise/teaching/tdpoly.pdf (par contre j'ai lu à la va-vite).

Code:
pchisq(deviance(model0),df.residual(model0),lower=FALSE)

Pour le BIC: p.46 du document de Raka et pour R semblerait qu'il faille utiliser la fonction BIC(model)

joyeux_lapin13

Nombre de messages : 1670
Age : 33
Localisation : Mayotte
Date d'inscription : 21/04/2010

Voir le profil de l'utilisateur https://lemakistatheux.wordpress.com/

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par excella le Lun 21 Mai 2012 - 21:17

comme je te disais précédemment, je ne peux pas utiliser R, c'est un exo sur feuille, je n'ai pas les données pour les travailler. En revanche, je ne sais pas si c'est bon, mais pour le BIC (par rapport à mon exemple), j'ai fais:
226,93 -2*1 =-2LL
dc BIC= -2LL + 1*log(200)

Mais je ne sais toujours pas comment faire pour trouver le pvalue de deviance et la stat de deviance :s


excella

Nombre de messages : 10
Date d'inscription : 21/05/2012

Voir le profil de l'utilisateur

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par joyeux_lapin13 le Lun 21 Mai 2012 - 21:29

Quand tu parles du test de la deviance du parle du test du rapport de Vraisemblance qui consiste à confronter deux modèles et déterminer à une différence au sens statistique? Ou du test des résidus de deviance?

joyeux_lapin13

Nombre de messages : 1670
Age : 33
Localisation : Mayotte
Date d'inscription : 21/04/2010

Voir le profil de l'utilisateur https://lemakistatheux.wordpress.com/

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par excella le Lun 21 Mai 2012 - 21:31

je dirais oui car je vois que ça. Mais en même temps je ne sais pas, ils ont pas précisé la question

je mets le lien sur l'annale que j'essaye tant bien que mal de faire

excella

Nombre de messages : 10
Date d'inscription : 21/05/2012

Voir le profil de l'utilisateur

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par joyeux_lapin13 le Lun 21 Mai 2012 - 21:35

Alors cf p.22 du document de Raka, en général ton modèle au numérateur est le modèle avec juste le coefficient constant et au dénominateur le modèle que tu as construit, le but étant de montrer que ton modèle classe mieux qu'un modèle basique.

joyeux_lapin13

Nombre de messages : 1670
Age : 33
Localisation : Mayotte
Date d'inscription : 21/04/2010

Voir le profil de l'utilisateur https://lemakistatheux.wordpress.com/

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par excella le Lun 21 Mai 2012 - 21:45

Ok, c'est quoi les procédures qui permettent de tester l'effet d’interaction entre des variables explicatives sur la variable à expliquer ?

excella

Nombre de messages : 10
Date d'inscription : 21/05/2012

Voir le profil de l'utilisateur

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par joyeux_lapin13 le Mar 22 Mai 2012 - 7:36

Je suis pas sur d'avoir compris la question... une interaction (ou croisement de variables) ça marche comme une variable tout court dans un modèle logistique, le seul souci avec ce type variable c'est qu'elle pose plus de problème à l'algorithme pour converger notamment lorsqu'il s'agit de croisement entre variables qualitatives.

joyeux_lapin13

Nombre de messages : 1670
Age : 33
Localisation : Mayotte
Date d'inscription : 21/04/2010

Voir le profil de l'utilisateur https://lemakistatheux.wordpress.com/

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par excella le Dim 10 Juin 2012 - 8:25

Bonjour, j'ai un modèle où ma variable à expliquer est qualitative et contient 5 modalités.
Comme variable de référence on prend la modalité 2.
Comment trouver les coefficients des variables si je prenais comme variable de référence la modalité 3 ?

excella

Nombre de messages : 10
Date d'inscription : 21/05/2012

Voir le profil de l'utilisateur

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par joyeux_lapin13 le Lun 11 Juin 2012 - 7:04

De la même manière. L'algorithme utilisé en régression logistique (du moins dans la version de base) est soit celui de Newton-Raphton soit celui du scoring de Fisher (il me semble, je connais que le premier, donc je peux m'être éventuellement trompé sur le nom exact du second). Quelque soit la forme de tes données c'est l'un des deux algorithmes et pas un autre, donc dans le cas de variable qualitative, tu vas faire ton tableau disjonctif complet, tu supprimes les colonnes correspondant à la référence de toutes tes variables et tu appliques l'un des 2 algorithmes sur la matrice obtenue afin d'obtenir tes coefficients.

joyeux_lapin13

Nombre de messages : 1670
Age : 33
Localisation : Mayotte
Date d'inscription : 21/04/2010

Voir le profil de l'utilisateur https://lemakistatheux.wordpress.com/

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par excella le Lun 11 Juin 2012 - 20:00

oui, mais je ne suis pas sur pc,je n'ai qu'une feuille avec un exo, je ne peux pas faire de commande sur R ou autre

excella

Nombre de messages : 10
Date d'inscription : 21/05/2012

Voir le profil de l'utilisateur

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par joyeux_lapin13 le Mar 12 Juin 2012 - 7:32

L'algorithme de Newton-Raphson n'est pas difficile à faire tourner à la main et il converge assez vite, maintenant ça va te prendre un minimum de temps, à ta place je ferais juste la première itération puis la dernière, le reste tu le fais tourner sur R si tu le peux.

joyeux_lapin13

Nombre de messages : 1670
Age : 33
Localisation : Mayotte
Date d'inscription : 21/04/2010

Voir le profil de l'utilisateur https://lemakistatheux.wordpress.com/

Revenir en haut Aller en bas

Re: regression logistique deviance

Message par Contenu sponsorisé Aujourd'hui à 12:29


Contenu sponsorisé


Revenir en haut Aller en bas

Voir le sujet précédent Voir le sujet suivant Revenir en haut

- Sujets similaires

 
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum