Besoin d'aide INTERPRETATION REGRESSION LOGISTIQUE

kazy13/75 a écrit:Si une variable explicative binaire est à plus de 90% "non" (dc très peu de oui), je suppose qu'elle suppose très explicative ds mon modèle final.

Tout dépend, si ta variable dépendante est elle constituée à 50% de oui et de non, à ce moment la ta variable à 90% de non ne te donnera que peut d'information sur ta variable dépendante puisque dans presque un cas sur deux, tu auras un non qui seras associée soit à un non soit à un oui de ta variable dépendante. Dans ce cas cette variable sera peu discriminante.

kazy13/75 a écrit:Puis je dire : je ne l'intègre pas dans ma reg mais dans l'interprétation finale, en expliquant mon modèle, je préciserai que le fait d'"être non" sur cette variable est important dans la décision.
Je pose cette question car effectivement, après plusieurs recodages de mes autres variables, je constate qu'au step1, c'est tjrs cette var qui est la plus significative...
merci par avance

Ca me semble difficile parce qu'on peut te dire, mais si cette variable explique presque à elle toute seule la variable dépendante, pourquoi ne pas l'avoir intégrer dans le modèle ? parce qu'après tout le but est d'avoir le "meilleur" modèle.
Par contre ça ne t'empêche pas de voir ce qui se passe quand tu ne l'intègres pas en effet.

ok merci pour ces précisions. ps : j'ai bien raison pour forward LR (mdr les stats en anglais pfff). je vais voir ce que cela donne.
encore merci droopy

interprétation des coeff :
dans les variables présentes dans l'équation du modèle, les coeff sont soit + soit -. Ma question est de savoir dans quel sens les coeff peuvent jouer un role d'accord ou de rejet?
Lorsque -, ca joue un role dans le sens d'une acceptation??? ET donc si +, néfaste quant à l'attribution???
merci

en fait, il faut donc interpréter les exponentiels (bi) ou odd ratio. ce qui me gene, c'est comment interpréter cet odd + ou - : si ma variable à deux modalités, sur quelle modalité je peux affirmer tant de %???

En général chez moi un moins ça a plutôt tendance à vouloir dire un effet négatif.

Tu peux très bien tirer des conclusions a partir des deux. Un coeff négatif va dans le sens d'un rejet puisque si tu es négatif tu vas faire diminuer la proba de succès.
Le odd ratio (l'exponentiel des paramètres) est effectivement intéressant puisqu'il mesure un rapport des chances. Un rapport des chances c'est la proba de succès selon une variable diviser par la proba de succès si tu n'as pas cette variable.

Si tu prends l'exemple suivant :

Code:

        independante
Reponse  a  b
  succes 20 60
  echec  50 10

Ici le rapport des chances d'avoir un succès si tu es b est de 60/10 et si tu es a elle est de 20/50, donc le rapport des chances de succès si tu es b par rapport à a est de (60/10)/(20/50) = 6/0.4 = 15.

Si tu fais la regression logistique de ce modèle tu auras pour la modalité b une valeur de paramètre égale à 2.7080502 et exp(2.7080502) = 15.

Donc la valeur du paramètre b qui est positive me dit que b est plus lié avec le succès que a, et le odd ratio me dit que le rapport des chances d'avoir un succès en étant b / des chances d'avoir un succès en étant a est de 15.

Si on aurait regarder a par rapport à b on aurait eu un coeff de -2.7080502 et un rapport des chances de 0.0667 (1/15) --> tu en tires les mêmes conclusions que précédement.

Ici il n'est pas question de % de variance expliquée on est pas dans un cas de modèle linéaire, mais dans un GLM.

Tu peux essayer avec ton jeu de donnée en ne prenant qu'une seule variable pour voir si tu retombes sur tes pattes.

Bonjour droopy et merci pour tes explications claires!
De mon coté, suite à différentes lectures, j'ai interpréter les coeff des var explicatives de trois manières :
1) signe + ou - : effectviement comme tu me l'as souligné, ca va ds le sens d'un accord (+) ou d'un rejet (-).

2) Il est possible d’interpréter les coefficients comme une régression simple où les coefficients représenteraient l’impact d’une unité de plus sur le log des chances (ratio des probabilités).

En transformant mathématiquement les coefficients, l’analyse est rendue plus concrète :

Une façon d’interpréter les coefficients est de calculer l’impact sur la probabilité.

La moyenne indique la probabilité. Donc, la probabilité que l’aide soit acceptée est de 58% (accords / nombre de décisions total).



Variation :

∆ prob (phénomène arrive) = b_i * p(1-p)

= 3.583 * 0.58(1-0.58)

= 0.87



Donc une unité de plus envers la radiation (une de mes variables qui est ici oui ou non )augmente de 87% la probabilité d’avoir une aide. SENS DE "une unité"???



3)

- Si bi est négatif, e^bi <1 (e^bi = odds) : l'évènement a moins de chance de se produire par rapport à la modalité de référence de la variable. En d'autres termes, les individus appartenant à la modalité considérée de la variable explicative ont [(1- e^bi)*100] % moins de chance que leur homologue de la modalité de référence de subir l'évènement étudié.

- Si bi est positif, e^bi >1 : l'évènement a plus de chance de se produire par rapport à la modalité de référence de la variable. Autrement dit, les individus appartenant à la modalité considérée de la variable explicative ont donc [(e^bi -1)*100] % plus de chance que leur homologue de la modalité de référence de subir l'évènement étudié.

Donc j'ai par exemple, pour la var "radiation", exp (bi) = 35.996 donc mon rapport de cote est ici de 35??? Dans ton exemple, que sont les réponses a et b? chances de succès d'être b par rapport à a???



merci par avance.

1) oui parce que exp(-x) donne quelque chose d'inférieur a 1 donc tu as moins de chance d'avoir un succès et exp(x) donne l'inverse (si x est>0) et exp(0)=1 --> le même rapport des chances.

2) me semble bizarre ton truc ... je ne vois pas trop ou tu veux en venir avec ton truc, je crois que le odds ratio est amplement suffisant.

3)

Si bi est négatif, e^bi <1 (e^bi =
odds) : l'évènement a moins de chance de se produire par rapport à la
modalité de référence de la variable.

Tout a fait.

En d'autres termes, les individus
appartenant à la modalité considérée de la variable explicative ont
[(1- e^bi)*100] % moins de chance que leur homologue de la modalité de référence de subir l'évènement étudié.
- Si bi est positif, e^bi
>1 : l'évènement a plus de chance de se produire par rapport à la
modalité de référence de la variable. Autrement dit, les individus
appartenant à la modalité considérée de la variable explicative ont
donc [(e^bi -1)*100] % plus de chance que leur homologue de la modalité de référence de subir l'évènement étudié.

--> la chance est un rapport de probabilité sur un rapport de probabilité, si avec une pièce truquée tu as une proba de 0.6 de faire face, si avec une autre pièce tu as une proba de 0.5 de faire face, alors le rapport des chances est de faire face avec une pièce truqée par rapport à une pièce normale est de (0.6/0.4)/(0.5/0.5) = 1.5 --> donc tu as 1.5 fois plus de chance de faire face avec ta pièce truquée. Mais tu peux aussi prendre les choses dans l'autre sens, le rapport des chances de faire face avec une pièce non truquée par rapport à une pièce truquée, ici il est de 2/3, donc tu auras moins de chance de faire face avec la pièce non truquée qu'avec la pièce truquée. Ce ne sont pas des pourcentages, tu peux avoir des rapports de chance dépassant les 100%. le rapport de chance varie entre ]0;+Inf

ote]Donc
j'ai par exemple, pour la var "radiation", exp (bi) = 35.996 donc mon
rapport de cote est ici de 35??? Dans ton exemple, que sont les
réponses a et b? chances de succès d'être b par rapport à a???

ici avec la variable radiation tu as 36 fois plus de chance d'observer un succès qu'avec la variable de référence. Ici b et a sont deux modalités d'un facteurs, j'aurai pu prendre les yeux bleus et les yeux noirs, grand-petits, etc.

Regarde ici c'est peut-être plus claire :
http://fr.wikipedia.org/wiki/Odds_ratio

Les odds sont censés etre simple d'interpétation!!! Décidemment, à être trop dans les chiffres, on s'en mêle les pinceaux!!!
Qu'entends tu par "variable de référence" (je l'ai écrit moi-même! dans mon analyse) ??? pour mon odd de 36...

Une question d'ordre générale : en ayant interpéter mon modèle final (var significatives, adéquation, pouvoir prédictif, odds), comment puis-je valider cela? en fait, comme c'est ma première regression log, comment justifier à toute personne que ce modèle est une "bonne" (la meilleure?) prédiction pour la suite???

Je crois surtout que plus que les pinceaux emmélés c'est tes idées qui ne sont pas très claires. Un odds de 36 est très élevé puisque que tu as 36x plus de chance de succès ! A choisir je préfère avoir 36x plus de chance d'être intelligent que 0.03.

Ce que j'entends par variable de référence, c'est que lorsque tu utilises des variables catégorielles, toutes les modalités n'ont pas un paramètre estimé, si je reprends mon exemple avec ma modalité a et b, le modèle donne :

Code:

Coefficients:
            Estimate Std. Error z value Pr(>|z|)   
(Intercept)  -0.9163    0.2646  -3.463 0.000534 ***
    b          2.7081    0.4320  6.268 3.66e-10 ***

Ici j'ai bien le alpha, et bi associée a la modalité b, mais je n'ai pas de paramètre pour a. Ce qui est normal parce qu'on en a pas bespoin, en effet si je suis un b et ben je ne suis pas un a. En fait le modèle utilise k-1 variables, avec k le nombre de modalité de ta variable.

De toute façon tu as des tests sur les odds ratio donc tu peux te servir de ceux-ci pour justifier le fait que c'est important.

Ici tu vois biens que les p-values associées avec chaque coeff sont très faibles (<0.05) donc les paramètres sont significatifs (différent de 0).

Pour la dernière question, une grande partie de la réponse se trouve dans des discussions qui ont eu lieu il n'y pas très longtemps sur le forum, si je me souviens bien il s'agit de plusieurs posts de amal38. Tu peux aussi regarder du côté de la validation croisée.

comment justifier à toute personne que ce modèle est une "bonne" (la meilleure?) prédiction pour la suite???

La comme ça il n'y en a pas ... Tu pourrais faire des comparaisons de modèle en comparant leurs performances (sur un jeu de données de validation, indépendant) sur différents critères pour pouvoir dire que la regression logistique selon ces critères semblent être ou non la mieux adaptée. Mais de toute façon ce que tu dirais ne serait valable que pour ton jeu de données. Toi tu as choisi la regression logistique qui est un moyen, une analyse parmi tant d'autres.

ok merci beaucoup pour tes explications et de ton tps !!!!!!!!!

Bonjour,
voici une analyse que j'ai faite sur mes prévisions, j'aimerais en avoir un avis (statistiquement parlant) :
ceci correspond à la dernière étape du modèle prédictif et me donne les éléments suivants :

Matrice de confusion	Rejet	Accord	Total
Rejet	67	108	175
Accord	19	219	238
Total	106	307	413