coefficient de corrélation - coefficient de détermination

Bonjour,

J'ai un peu de mal à m'y retrouver dans les définitions des coefficients pour les séries statistiques doubles pour lesquelles on effectue une régression linéaire.

Donc on définit le coefficient de corrélation linéaire

r=Cov(X,Y)/(xy)

r est compris entre -1 et 1 et plus sa valeur absolue est proche de 1, plus la régression linéaire a une forte corrélation.
On peut alors obtenir les coefficuients de la droite de régression linéaire y=ax + b avec a=Cov(X,Y)/Var(X) et b=E(Y)-aE(X) où E(X) désigne la moyenne de la série X et E(Y) la moyenne de la série Y.

Le coefficient de détermination r² permet de juger de la qualité d'une régression linéaire.

Et c'est là que je perds pieds... Car ce coefficient de détermination est non seulement le coefficient de corrélation linéaire²... enfin si j'ai bien compris.

Mais il se définit aussi par
r²=(variance expliquée)/(variance totale)=Var(Y calculé par la régression)/Var(Y observée)

Et là je ne vois pas du tout comment faire le lien entre les deux définitions du coefficient de détermination, comment démontrer une définition à partir de l'autre ? (d'ailleurs laquelle découle de laquelle ?)

Si vous pouvez m'éclairer ce serait super... Merci

r est compris entre -1 et 1 et plus sa valeur absolue est proche de 1, plus la régression linéaire a une forte corrélation

La il y a un mixte de chose. Plus la valeur absolue est proche de 1 et plus le lien linéaire entre tes deux variables est fort. Mais une régression n'a pas de corrélation.

Le coefficient de détermination noté R² et non r² te renseigne sur la part de variance de ta variable y qui est expliquée par la variable x.
Il est vrai qu'il équivaut au carré du coefficient de corrélation r.

Mais encore une fois il ne faut pas confondre corrélation et regression. Dans une corrélation tu cherches à quantifier le lien linéaire entre y et x sans à priori sur qui explique qui, tu cherches juste le lien. Dans une régression tu cherches à expliquer la variabilité d'une variable, disons y, par une autre variabe, disons x, et tu cherches une équation de la forme y=ax+b.
Même s'il y a des liens mathématiques entre les deux, établir une corrélation ou une régression ne revient pas du tout à faire la même chose. Pour t'en convaincre, si tu fais la corrélation de y avec x et de x avec y tu obtiens les mêmes valeurs, par contre si tu fais la régression linéaire de y en fonction de x et de x en fonction de y alors les valeurs des coefficients de la régressions changent.

regarde le pdf qui s'intitule stat pour les statophobes qui décrit très bien les différences entre corrélation et régression

merci beaucoup les stats pour les statophobes, je vais le lire en détail, j'ai survolé certains passages et c'est vraiment intéressant

droopy a écrit:

Le coefficient de détermination noté R² et non r² te renseigne sur la part de variance de ta variable y qui est expliquée par la variable x.
Il est vrai qu'il équivaut au carré du coefficient de corrélation r.

C'est ça que je ne comprends pas.
Comment ça se fait que R² correspond au carré de r ?
Est-ce vrai dans tous les cas ?
Et si oui comment peut-on le démontrer ?
Et enfin, lequel découle duquel ? Est-ce R² qui a permis de définir r ou l'inverse ? Ou sont-ils comme l'oeuf et la poule ?

je ne serais pas capable de t'en faire la démonstration mais tu dois pouvoir la trouver sur le net.
Ce n'est pas vrai dans tous les cas. C'est seulement vrai dans le cas d'une régression linéaire simple, c'est à dire y en fonction de x.
J'ai envie de dire qu'aucun des deux ne découle de l'autre ... Il faut bien que tu vois que c'est juste un cas particulier. Quand tu as deux variabels aléatoires Y et X, alors le coefficient de détermination de Y en fonction de X est aussi égale au carré de leur coefficient de corrélation. Mais ce n'est pas la le plus important. C'est juste un détail mathématique. Ce qu'il te faut voir c'est la différence entre une corrélation et une régression. Après si tu veux avoir tous les détails mathématiques je pense que tu arriveras à les trouver mais je ne suis pas sur que ça t'apporte grand chose ...

juste à titre indicatif,il faut savoir que dans le cas d'une regression lineaire simple le coeff de corrélation au carré=le coeff de determination au carré,pour la demonstration voir le livre de l 'econometrie de Bourbonnais.

Bon, je vais tenter une explication en français

le coeff de correlation r exprime l'intensité du le la relation LINEAIRE pouvant exister entre 2 variables CONTINUES

le coeff de determination R2 exprime la part de la variabilité de Y pouvant être expliquée par les variantions de X dans le cadre d'un modèle de régression.

Les modèles de régression étudient la relation entre 2 variables OU PLUS (régression multiple). La relation étudiée peut être lineaire OU PAS (regression quadratique, logistique... etc) et les variables rentrées dans le modèle peuvent être continues OU PAS.

donc on peut dire en caricaturant à peine que la corrélation est une sorte de cas particulier de la régression linéaire simple. Ou encore, de façon peut être un peu plus juste, que dans le cadre de l'étude d'une relation LINEAIRE liant 2 variables CONTINUES, l'étude de la corrélation et de la régression linéaire simple sont tous les 2 adaptés et amènent (heureusement....) aux mêmes conclusions.

voilà pourquoi, dans ce cas uniquement (régression linéaire simple), R2 = r au carré. On parle de la même chose, décrite par 2 moyens à peine différents.

Dès que la relation étudiée n'est plus linéaire ou que le modèle devient plus complexe (variables dichotomiques ou ordinales, multiples prédicteurs introduits dans le modèle) l'étude de la corrélation n'es plus adaptée et on ne peut utiliser qu'un modèle (plus ou moins avancé) de régression.