Le modèle probit est une technique statistique fondamentale pour l'analyse des variables de résultat binaire. Lorsque la variable dépendante ne prend que deux valeurs possibles — comme le succès ou l'échec, l'achat ou non, le défaut ou le remboursement — la régression linéaire standard est inappropriée. Le modèle probit fournit une approche de principe pour estimer la probabilité qu'un événement se produise, compte tenu d'un ensemble de variables prédictives.

Comprendre le modèle Probit

Le nom "probit" est court pour "unité de probabilité". Le modèle relie un résultat binaire à une variable latente continue qui suit une distribution normale. Comprendre ce cadre de variables latentes est essentiel pour interpréter correctement les résultats probit.

L'approche variable latente

Le modèle probit suppose une variable continue (latente) non observée y* qui est linéairement lié aux prédicteurs:

y* = β0 + β1x1 + ... + βkxk + ε

où ε est un terme d'erreur aléatoire qui suit une distribution normale standard avec la moyenne 0 et la variance 1. y est ensuite déterminé par y* dépasse un seuil, généralement fixé à zéro:

y = 1 si y* > 0, sinon y = 0- Oui.

Comme ε est normalement distribué, la probabilité que y = 1 étant donné que les prédicteurs sont:

P(y = 1 Φ x) = Φ(β0 + β1 x1 + ... + βkxk)

où Φ est la fonction de distribution cumulative (CDF) de la distribution normale standard. Cette équation montre que le modèle probit est un modèle linéaire généralisé avec une fonction de liaison probit.

Hypothèses du modèle Probit

Pour une inférence valide, le modèle probit repose sur plusieurs hypothèses clés :

  • Observations indépendantes — Les résultats sont indépendants sous condition, compte tenu des prédicteurs.
  • Forme fonctionnelle correcte — Le prédicteur linéaire est additif, bien que des transformations et des interactions puissent être incluses.
  • Pas de multicolinéarité parfaite — Les prédicteurs doivent être linéairement indépendants.
  • Erreurs normales standard — Le terme d'erreur latente a une moyenne de zéro et de variance d'un. Cette hypothèse est critique pour le lien probit; le modèle logit suppose plutôt une distribution logistique.
  • Exogène des prédicteurs — Les covariables ne sont pas corrélés avec l'erreur latente.

Fonction de liaison et CDF normal

La fonction de liaison probit est Φy (l'inverse du CDF normal standard). Elle transforme les probabilités de la plage (0,1) à la ligne réelle entière. Ce lien assure que les probabilités prévues se situent toujours entre 0 et 1. La forme du CDF normal implique que les changements dans les prédicteurs ont un effet plus faible sur la probabilité lorsque la probabilité de base est proche de 0 ou 1, et un effet plus important lorsqu'elle est d'environ 0,5.

Mise en œuvre d'un modèle Probit

La mise en œuvre d'un modèle probit implique la préparation, la spécification et l'estimation des données. Le logiciel statistique moderne gère les étapes de calcul, mais l'analyste doit prendre des décisions éclairées sur les variables et les diagnostics.

Préparation des données

  • Assurez-vous que la variable dépendante est binaire et codée comme 0/1.
  • Vérifiez les valeurs manquantes, les valeurs aberrantes et la colinéarité entre les prédicteurs.
  • Envisager de normaliser les prédicteurs continus si vous prévoyez de comparer directement les grandeurs des coefficients (bien que les effets marginaux soient habituellement préférés pour l'interprétation).
  • Si vos données sont regroupées (p. ex. mesures répétées), comptabilisez-les en utilisant des erreurs standard robustes ou des extensions à plusieurs niveaux.

Spécification du modèle

Choisissez les prédicteurs en fonction de la théorie de la recherche antérieure. Inclure les interactions ou les termes polynômes si la relation entre un prédicteur et la variable latente n'est pas linéaire dans l'échelle logit/probit. Par exemple, l'âge peut avoir un effet quadratique sur la probabilité d'un résultat.

Estimation en utilisant une probabilité maximale

Les paramètres du modèle Probit sont estimés par probabilité maximale (ML). La fonction de probabilité est basée sur le produit des probabilités pour chaque observation — Φ(xβ) pour y=1 et 1-Φ(xβ) pour y=0. L'algorithme ML trouve de façon itérative des valeurs de coefficient qui maximisent cette probabilité. Les erreurs standard sont dérivées de l'inverse de la matrice d'information Fisher observée.

Exemples de logiciels

Autres

Dans R, la fonction correspond aux modèles probit en spécifiant :

Les paquets et simplifient le calcul des effets marginaux. Pour les diagnostics plus avancés, les paquets et fournissent des tests de spécification et des erreurs standard compatibles avec l'hétéroscédasicité.

Python

Dans Python, la bibliothèque fournit la classe :

La méthode calcule les effets marginaux. Pour la robustesse, ou peut être appliquée.

Statistiques

Dans Stata, la commande est simple :

Après estimation, calcule les effets marginaux moyens. Les commandes de postestimation comme et aident à l'évaluation du modèle.

Interprétation des résultats du modèle Probit

L'interprétation des coefficients probits nécessite des soins car ils représentent des changements dans le latent Z-score, pas directement en probabilité. La clé pour une interprétation significative est le calcul des effets marginaux ou des probabilités prévues.

Coefficients et Z-Score

Un coefficient βj indique la variation de la Z-score de la variable latente pour une augmentation d'une unité en xj, en maintenant d'autres variables constantes. Le signe montre la direction de l'effet: moyen positif plus élevé x augmente la probabilité, négatif diminue elle. Cependant, l'ampleur du coefficient ne se traduit pas directement par un changement de probabilité — cette relation dépend du niveau actuel de tous les prédicteurs par la forme du CDF normal.

Effets marginaux

Effets marginaux mesurez le changement de la probabilité prévue d'un changement d'une unité dans un prédicteur. Pour les variables continues, l'effet marginal est le dérivé partiel:

-P(y=1 , x) / , xj = λ(xβ) · βj

où φ est la fonction de densité de probabilité normale standard (PDF). Le facteur λ(xβ) varie avec les valeurs de tous les prédicteurs, de sorte que l'effet marginal diffère selon l'endroit où dans la distribution nous l'évaluons.

Il existe deux approches communes:

  • Effet marginal à la moyenne (MEM) — Évaluer λ et β à la moyenne de tous les prédicteurs, ce qui est facile à calculer mais qui ne représente peut-être pas le bon résultat "moyenne" si les prédicteurs ne sont pas proches de leurs moyens.
  • Effet marginal moyen (AME) — Calculer l'effet marginal pour chaque observation puis la moyenne sur l'échantillon. Les EMA sont généralement privilégiés parce qu'ils reflètent la distribution complète des données.

Les deux peuvent être obtenus facilement dans le paquet R (), Python ( méthode avec et vs. ), et Stata ( donne AME par défaut).

Probabilités prévues

Une autre interprétation intuitive consiste à calculer les probabilités prévues pour des profils de covariables spécifiques. Par exemple, quelle est la probabilité prévue de défaut de prêt pour une personne ayant un revenu de 50 000 $, 40 ans et un diplôme collégial?

P. = Φ(x.

Les chercheurs peuvent alors comparer les probabilités prédites entre différents groupes ou à différents niveaux d'un prédicteur clé, souvent visualisant avec des placettes.

Modèle Probit Diagnostics et Fit

Après estimation, évaluer dans quelle mesure le modèle correspond aux données et si les hypothèses sont violées.

Mesures de bien-être des animaux

  • Présomption de loglihood et Essai de rapport de probabilité — Comparer la probabilité log-lihood du modèle complet avec un modèle nul (intercept seulement). Un test chi-carré significatif indique que les prédicteurs améliorent l'ajustement.
  • Pseudo R carré — Il existe de nombreuses variantes (McFadden, Cox-Snell, Nagelkerke). pleine / LLnullLes valeurs comprises entre 0,2 et 0,4 indiquent une excellente adéquation.
  • AIC et BIC — Critères d'information pour la comparaison des modèles: les valeurs inférieures indiquent un meilleur équilibre entre l'ajustement et la complexité.
  • Précision de classement — Utiliser une limite (souvent 0,5) pour classer les probabilités prévues et comparer aux résultats réels. La sensibilité, la spécificité et la zone sous la courbe ROC (AUC) sont largement utilisées.

Contrôle des hypothèses

Les diagnostics de modèles Probit comprennent des tests d'hétéroscédasicité, des biais variables omis et une mauvaise spécification fonctionnelle de la forme. Test Hosmer-Lemeshow Les observations de partitions en groupes et compare les fréquences attendues par rapport aux fréquences observées, mais elles ont des limites et sont souvent remplacées par des diagrammes d'étalonnage. Test de Pagan et Vella pour les probits hétéroscédastiques sont disponibles dans des logiciels spécialisés.

Si l'on viole l'hypothèse d'une variance constante de l'erreur latente (probit hétéroscédastique), les estimations deviennent incohérentes. Les options comprennent l'utilisation d'erreurs standard robustes ou l'adaptation d'un modèle de probit hétéroscédasique qui modélise la variance en fonction des prédicteurs.

Probit vs Logit: Choisir le bon modèle

Les chercheurs appliqués choisissent souvent entre le probit et le logit (régression logistique).Les deux sont des modèles linéaires généralisés avec une fonction de liaison qui garantit des probabilités entre 0 et 1. La différence clé est la distribution de l'erreur latente : logit suppose une distribution logistique ( queues lourdes) tandis que le probit suppose une distribution normale.

Le probit est parfois préféré parce que l'hypothèse de distribution normale est plus naturelle pour de nombreuses constructions latentes (p. ex., état de santé, solvabilité). Logit est plus commun en épidémiologie et en recherche médicale. Le choix dépend souvent de la convention dans un domaine particulier.

Exemple pratique : Prévoir la défaillance du prêt

Envisager un ensemble de données de 5 000 emprunteurs avec un indicateur binaire pour le défaut (1 = défaut, 0 = remboursement). Les prévisions comprennent le revenu annuel (en 10 000 unités), l'âge, le pointage de crédit et une interaction entre le revenu et le ratio de la dette au revenu. < 0.001) and the coefficient for credit score is -0.02 (p < 0.001). The negative signs indicate that higher income and higher credit scores reduce the probability of default.

Pour interpréter de façon substantielle, nous calculons les effets marginaux moyens. L'EAM pour le revenu peut être -0,03 : une augmentation d'un élément du revenu (10 000 $) réduit la probabilité de défaut de 3 points de pourcentage en moyenne. Pour la cote de crédit, l'EAM peut être -0,002 par point, ce qui signifie qu'une augmentation de 100 points réduit la probabilité de défaut de 20 points de pourcentage.

Les diagnostics de modèles montrent une ASC de 0,85 et un pseudo R2 de 0,32 McFadden, ce qui indique une forte adaptation. La valeur de p de Hosmer-Lemeshow est de 0,12, ce qui ne suggère aucun problème d'étalonnage grave.

Conclusion

La mise en oeuvre exige une préparation minutieuse des données, des spécifications appropriées et une estimation correcte en utilisant la probabilité maximale. L'interprétation repose sur les effets marginaux et les probabilités prévues, et non sur les coefficients bruts. Les vérifications diagnostiques garantissent la validité du modèle et guident les améliorations. En comprenant le cadre variable latent et les principales différences entre logit, les chercheurs peuvent appliquer avec confiance les modèles probit dans les domaines de l'économie à la santé publique aux sciences sociales. l'article Wikipedia sur les modèles probit, Guide de consultation statistique de l'UCLAet les Dossier R Avec ces outils, vous pouvez extraire des informations significatives à partir de données binaires et soutenir la prise de décision fondée sur des preuves.