Contrairement à la régression linéaire, qui prévoit une valeur continue, la régression logistique estime la probabilité qu'un événement se produise, limitée entre 0 et 1. Le modèle y parvient en appliquant la fonction logistique à une combinaison linéaire de prédicteurs, en produisant des log-odds qui sont ensuite transformés en probabilités. L'interprétation correcte de la sortie — coefficients, rapports de cotes, valeurs p, statistiques de l'ajustement du modèle et contrôles diagnostiques — est essentielle pour tirer des conclusions valables et prendre des décisions saines. Ce guide vous permet de passer par chaque composante, offre un flux de travail étape par étape et met en évidence les écueils communs à éviter.

Composantes essentielles de la sortie de régression logistique

Lorsque vous adaptez une régression logistique à l'aide de logiciels tels que R, Python (statsmodels ou scikit-learn), SAS ou SPSS, la sortie comprend généralement plusieurs éléments clés.

Coefficients sur l'échelle Log-Odds

Les coefficients bruts (β) représentent le changement des log-odds du résultat pour une augmentation d'une unité dans le prédicteur, tenant d'autres variables constantes. Comme les log-odds ne sont pas intuitifs, la plupart des analystes exposent ces coefficients pour obtenir des rapports de cotes. Cependant, le signe et l'ampleur relative des coefficients log-odds racontent déjà une histoire : un coefficient positif signifie que les valeurs de prédicteur plus élevées sont associées à des cotes plus élevées de l'événement; un coefficient négatif signifie que les cotes sont plus faibles.

Taux de probabilité

Le rapport de cotes (OR) est le coefficient exposé: OR = eβ Une OU supérieure à 1 indique une probabilité accrue; une OU inférieure à 1 indique une probabilité réduite; une OU de 1 signifie qu'il n'y a pas d'association. Par exemple, dans une étude sur le tabagisme et le cancer du poumon, une OU de 2,5 signifie que les probabilités de cancer du poumon chez les fumeurs sont 2,5 fois plus élevées chez les non-fumeurs. Les rapports de cotes sont largement signalés parce qu'ils sont faciles à communiquer, mais ils peuvent être trompeurs lorsque le résultat est fréquent (voir les écueils ci-dessous).

Erreurs standard et statistiques z

Chaque coefficient a une erreur type qui reflète la variabilité de l'échantillonnage. Le z-statistique (coefficient divisé par son erreur type) est utilisé pour tester l'hypothèse nulle que le vrai coefficient est zéro. Une grande valeur absolue z-value (habituellement supérieure à 1,96) correspond à une petite valeur p et suggère que le prédicteur a un effet statistiquement significatif.

Valeurs P et importance statistique

La valeur de p indique la probabilité d'observer un coefficient aussi extrême que celui obtenu (ou plus extrême) si l'hypothèse nulle était vraie. Les seuils conventionnels sont de 0,05, 0,01 ou 0,001. Une valeur de p faible (p. ex., < 0,05) nous amène à rejeter la valeur nulle et à conclure que le prédicteur est statistiquement significatif. Cependant, les valeurs de p dépendent fortement de la taille de l'échantillon : dans les ensembles de données de grande taille, même les effets triviaux peuvent devenir significatifs.

Intervalles de confiance pour les rapports de cotes

Un intervalle de confiance de 95 % pour un rapport de cotes fournit une gamme de valeurs plausibles pour l'effet réel. Si l'intervalle exclut 1, le résultat est statistiquement significatif au niveau 0,05. Les intervalles de confiance transmettent également la précision : des intervalles étroits indiquent des estimations stables (souvent à partir de grands échantillons), tandis que de larges intervalles suggèrent une incertitude élevée (typique des petits ensembles de données ou une variabilité élevée).

Évaluation de l'ajustement global du modèle et de la performance

L'interprétation des coefficients individuels n'est qu'une partie de l'histoire. Vous devez aussi évaluer dans quelle mesure le modèle de régression logistique correspond bien aux données et dans quelle mesure il établit une distinction entre les deux classes de résultats.

Essai de rapport de déviation et de probabilité

La déviation est une mesure de l'ajustement du modèle dérivé de la probabilité log-lihood. La déviation nulle correspond à un modèle avec seulement l'interception, tandis que la déviation résiduelle reflète l'ajustement de votre modèle complet. Le test du rapport de probabilité compare la déviation de votre modèle avec celle du modèle nul. Un test significatif (faible valeur p) indique que vos prédicteurs améliorent collectivement l'ajustement du modèle. Ce test est analogue au test F en régression linéaire.

Critère d'information d'Akaike (AIC)

Il est calculé comme AIC = 2k – 2ln(L), où k est le nombre de paramètres et L est la probabilité maximale. Les valeurs AIC inférieures indiquent un meilleur compromis entre l'ajustement et la parcimonie. Lorsqu'on compare des modèles concurrents non-négatifs, celui avec le plus petit AIC est généralement préféré. Les différences AIC de moins de 2 ne sont pas considérées comme significatives.

Essai de Hosmer-Lemeshow

Ce test évalue l'étalonnage en divisant les probabilités prévues en déciles et en comparant les fréquences observées par rapport aux fréquences prévues dans chaque groupe. Une valeur p non significative (p. ex., > 0,05) suggère que les prédictions du modèle sont bien étalonnées. Cependant, le test a des limites connues : il peut être trop sensible dans les grands échantillons et ne pas détecter certains types de mauvais calibrage.

Courbe ROC et ASC

La courbe caractéristique de fonctionnement du récepteur (CCR) trace la sensibilité (taux réel positif) par rapport à 1 – spécificité (taux faux positif) sur tous les seuils de probabilité possibles. La zone sous la courbe CCR (CCR) résume la capacité du modèle à faire une distinction entre les événements et les non-événements. Une ASC de 0,5 indique une absence de discrimination (devine aléatoire), tandis que 1,0 indique une discrimination parfaite.

Statistiques de classification à un seuil choisi

Si vous devez faire des prédictions binaires, vous devez choisir une limite de probabilité (souvent 0,5, mais elle peut être ajustée). À partir de la matrice de confusion résultante, vous pouvez calculer la précision, la sensibilité, la spécificité, la valeur prédictive positive (précision) et le score F1. La limite optimale dépend du coût relatif des faux positifs par rapport aux faux négatifs.

Étapes pratiques pour une interprétation minutieuse

Une fois que vous avez la sortie, suivez ces lignes directrices pour extraire des informations significatives et les communiquer clairement.

  1. Toujours rapporter les cotes avec les intervalles de confiance Exemple : « Pour chaque année supplémentaire d'âge, les chances de réadmission ont augmenté de 3 % (RC = 1,03, IC à 95 % : 1,01–1,05, p = 0,002). » Ce format fournit à la fois la taille de l'effet et la précision.
  2. Vérifier la multicolinéarité Les corrélations élevées peuvent gonfler les erreurs standard et rendre les estimations de coefficients instables. Utilisez des facteurs d'inflation de variance (FIV); un FIV supérieur à 5 ou 10 mérite souvent l'attention.
  3. Examiner les termes d'interaction Lorsque l'effet d'un prédicteur peut dépendre de la valeur d'un autre. Inclure les termes du produit dans le modèle et les interpréter avec soin. Utilisez des affichages graphiques (p. ex., des diagrammes de probabilité prédits) pour visualiser l'interaction.
  4. Évaluer la linéarité dans les log-odds Les violations de l'hypothèse de linéarité peuvent conduire à des coefficients biaisés. Essayez d'ajouter des termes polynômes (carrés, cubes) ou en utilisant des approches flexibles comme des splines cubiques restreintes. Comparez les modèles avec le test de rapport de probabilité ou de CAI.
  5. Valider le modèle En utilisant des techniques internes ou externes. La validation croisée du pli k, la validation du bottage ou un ensemble d'essais de retenue fournissent des estimations réalistes des performances hors échantillon. Cette étape est essentielle pour éviter les surajustements.
  6. Considérer le taux de base du résultat. Si l'événement est rare (p. ex. taux par défaut de 5 %), un modèle qui prévoit « aucun défaut » pour tout le monde aura 95 % de précision mais aucune valeur prédictive.

Erreurs courantes et comment les éviter

Même les analystes expérimentés peuvent mal interpréter les résultats de régression logistique. Voici quelques erreurs fréquentes et les meilleures pratiques pour les contourner.

  • Les rapports de cotes confrontent le risque relatif. Lorsque le résultat est commun (p. ex. prévalence > 10 %), le rapport de cotes surestime le rapport de risque. Pour les résultats rares (p. ex. moins de 5 %), le RUP est un bon approximation du risque relatif. Pour les résultats communs, envisager d'utiliser un modèle log-binomial ou une régression de Poisson avec une variance robuste pour estimer directement les rapports de risque.
  • Interpréter les rapports de cotes comme variation en pourcentage de probabilité. Pour calculer les différences de probabilité, vous devez spécifier une probabilité de base. Par exemple, si la probabilité de base est de 0,2 (p.ex., 0,25), une RO de 2 donne des cotes de 0,5 et une probabilité de 0,333, soit une augmentation de 13,3 points de pourcentage. À la base de 0,5, la même RO donne une probabilité de 0,667 (une augmentation de 16,7 points). L'effet sur la probabilité dépend du point de départ.
  • Ignorer les hypothèses du modèle. La régression logistique suppose l'indépendance des observations, aucune multicolinéarité sévère et linéarité dans les log-odds pour les prédicteurs continus. Vérifiez les valeurs aberrantes influentes utilisant des résidus tels que Pearson, déviance ou résidus étudiants, et les valeurs de levier.
  • Surinterprétation des valeurs p. Une faible valeur p n'implique pas un effet important, surtout avec une taille d'échantillon énorme. Toujours évaluer l'ampleur et l'importance pratique du rapport de cotes. Inversement, un résultat non significatif peut refléter une puissance insuffisante plutôt qu'un effet vraiment nul.
  • Oublier le biais variable omis. Si d'importants facteurs de confusion font défaut, les estimations de coefficients peuvent être biaisées. Utilisez les connaissances du domaine, les graphiques acycliques dirigés (GAD) ou les analyses de sensibilité (p. ex., la valeur électronique) pour évaluer la robustesse de vos résultats.

Débit de travail d'interprétation détaillé

Voici une approche systématique que vous pouvez appliquer à toute analyse de régression logistique, présentée sous forme de liste de contrôle.

  1. Examiner le signe et l'ampleur des coefficients bruts de log-odds pour obtenir un sens préliminaire de la direction.
  2. Exposer les coefficients pour obtenir des rapports de cotes et calculer des intervalles de confiance à 95 %.
  3. Examiner les valeurs p pour chaque prédicteur; identifier les variables statistiquement significatives et noter celles qui ne le sont pas.
  4. Évaluer l'ajustement global du modèle à l'aide du test du rapport de probabilité, de l'AIC et (le cas échéant) du test Hosmer-Lemeshow.
  5. Évaluer les performances discriminantes avec la courbe ROC et l'ASC.
  6. Si une classification est nécessaire, choisir un seuil de probabilité et déclarer la sensibilité, la spécificité et d'autres paramètres pertinents de la matrice de confusion.
  7. Vérifier les hypothèses du modèle : vérifier la multicolinéarité (VIF), la linéarité dans les log-odds (p. ex., en utilisant le test Box-Tidwell ou l'interaction avec les splines) et les observations influentes (distance de Cuisson, DFBETAS).
  8. Présenter les résultats dans un tableau clair qui comprend les rapports de cotes, les intervalles de confiance et les valeurs p pour chaque prédicteur, ainsi que les statistiques sur l'ajustement du modèle.

Exemple appliqué : Prévoir le défaut de paiement du prêt

Considérez un modèle de régression logistique qui prévoit si un emprunteur ne remboursera pas un prêt (1 = défaut, 0 = remboursement) en utilisant trois prédicteurs : cote de crédit (continu), ratio dette/revenu (DTI, continu) et montant du prêt (en unités de 10 000 $).

Note de crédit : β = –0,05, OR = 0,95 (IC à 95 % : 0,93–0,97), p < 0,001
Taux de la dette au revenu : β = 0,12, OU = 1,13 (IC à 95 % : 1,08–1,19), p < 0,001
Montant du prêt (par tranche de 10 000 $) : β = 0,07, OU = 1,07 (IC à 95 % : 0,99–1,15), p = 0,07
AIC = 1240, ASC = 0,82

Interprétation: Chaque point supplémentaire de la cote de crédit réduit les probabilités de défaut de 5 % (OR = 0,95), en maintenant l'IDT et la constante du montant du prêt. L'intervalle de confiance (0,93–0,97) n'inclut pas 1, donc cet effet est statistiquement significatif. Une augmentation d'une unité de l'IDT augmente les probabilités de défaut de 13 % (OR = 1,13), également significative. Le montant du prêt n'est pas statistiquement significatif (p = 0,07, IC inclus 1). L'ASC du modèle de 0,82 indique une bonne capacité discriminative – il peut distinguer les débiteurs des non-défauts raisonnablement bien. Le modèle global est statistiquement significatif (test de ratio de probabilité p < 0,001; non montré).

Lors de la présentation de ces résultats, vous pourriez dire : « Des cotes de crédit plus élevées ont été associées à des cotes de défaut plus faibles (OR = 0,95 par point, IC à 95 % : 0,93–0,97), tandis que des ratios de dette au revenu plus élevés ont été associés à des cotes plus élevées (OR = 1,13 par unité, IC à 95 % : 1,08–1,19).

Ressources pour un apprentissage plus profond

Pour mieux comprendre l'interprétation de la régression logistique, il faut tenir compte de ces sources faisant autorité :

Conclusion

En maîtrisant la signification des log-odds, des rapports de cotes, des intervalles de confiance, des valeurs p et des statistiques de l'ajustement de modèles, vous pouvez toujours tirer des conclusions fiables de vos analyses. Vérifiez toujours les hypothèses, validez votre modèle et communiquez les résultats de façon transparente. Évitez les interprétations erronées communes comme le traitement des rapports de cotes comme des rapports de risque ou une surévaluation des valeurs p sans tenir compte de la taille des effets. Avec la pratique et les conseils des ressources ci-dessus, vous serez en mesure de transformer les résultats de régression logistique en idées pratiques pour la recherche, les affaires ou les décisions stratégiques.