Problème de classifieur QDA

Bonjour,
J'utilise la classification en se basant sur l'approche QDA. J'utilise matlab.
Dans les résultats j'ai un problème que je n'arrive pas à résoudre: En effet je dois avoir comme résultat deux classes C1 et C2.
Mon classifieur donne de bons résultats avec certains features que j'utilise, si non, pour certains d'autres, il me donne des résultats bizarres, je m'explique: Pour les éléments appartenant à la classe 1 et que le classifieur classe bien dans la classe 1 je note la précision true positive (tp), pour les éléments appartenant à la classe 2 et que le classifieur classe bien dans la classe 2 je note la précision true negative (tn), des fois j'ai des tn=0% et tp=100%, ceci n'est pas normale. Il doit y avoir un problème quelque part avec mon classifieur que je n'arrive pas à trouver.
Aidez moi s'il vous plaît! Merci

En quoi ce serait pas normale que certaine features soit incapable de classer correctement ?
Et quand tout se retrouve dans une seule classe, c'est assez typique d'un cas déséquilibré.
poste plutôt ta matrice de confusion.

En effet, il s'agit d'un cas déséquilibré (beaucoup plus d'instances dans la classe 2 que la classe 1), mais la représentation des distributions de mes features dit plutôt qu'il s'agit de feature discriminant.
Je vous donne ici un exemple de la matrice de confusion:
0 38
0 518
Sachant que je calcul cette matrice sur l'apprentissage, donc mon classifieur se rompent dès l'apprentissage.
Une question, est ce que vous avez une idée concernant la manière d'implémenter la classification avec QDA?
Merci

Salut,

Susue a écrit:En effet, il s'agit d'un cas déséquilibré (beaucoup plus d'instances dans la classe 2 que la classe 1), mais la représentation des distributions de mes features dit plutôt qu'il s'agit de feature discriminant.

Cela m'intrigue un peu, mais effectivement si tu arrive à trouver toi même une règle que ton classifieur ignore alors:
- ton classifieur est mal paramétré, essaye différentes combinaisons dans les paramètres et regarde l'influence sur ta matrice de confusion
- ton classifieur n'est pas adapté, essaye en un autre.

Après je comprend pas trop ta démarche étant donnée que tu as déjà de bon résultat avec d'autre features, je vois pas pourquoi tu fais tourner un modèle pour chaque feature.

Susue a écrit:
Je vous donne ici un exemple de la matrice de confusion:
 0     38
 0     518
Sachant que je calcul cette matrice  sur l'apprentissage, donc mon classifieur se rompent dès l'apprentissage.

Travailler sur des classe déséquilibré est toujours délicat, déjà prend  l'habitude d'avoir un jeu de test et un jeu d'apprentissage et de se baser que sur les résultats du jeu de test. Si tu as trop peu de donnée pour te le permettre utilise au moins la cross validation pour éviter le sur apprentissage.
Enfin tu peux te permettre d'augmenter artificiellement ta classe minoritaire en dupliquant quelque lignes (sans abuser non plus sinon tu retombe dans le sur apprentissage) ça permet de donner un pti coup de pouce, mais ça fera pas de miracle non plus.

Susue a écrit:Une question, est ce que vous avez une idée concernant la manière d'implémenter la classification avec QDA?
Merci

Jamais entendu parler de QDA, mais sur R on trouve souvent de tout.