How to Implement and Interpret a Probit Model in Statistics
Table of Contents
El modelo de pórbito es una técnica estadística fundamental para analizar las variables de resultado binario. Cuando la variable dependiente toma sólo dos valores posibles —como el éxito o el fracaso, la compra o no la compra, el pago o el pago— la regresión lineal estándar es inapropiada. El modelo de pórbito proporciona un enfoque basado en principios para estimar la probabilidad que ocurre un evento, dada un conjunto de variables predictoras.
Comprender el modelo Probit
El nombre "probit" es corto para "unidad de probabilidad".El modelo vincula un resultado binario a una variable latente continua que sigue una distribución normal. Entender este marco variable latente es esencial para interpretar correctamente los resultados de probit.
El enfoque variable latente
El modelo de probito asume una variable continua sin ser conservada (latente) y* que está relacionado linealmente con los predictores:
y* = β0 + β1x1 + ... + βkxk + ε
donde ε es un término de error al azar que sigue una distribución normal estándar con media 0 y varianza 1. El resultado binario observado Y tú. entonces se determina si y* supera un umbral, normalmente fijado a cero:
Y = 1 Si y* ó 0, de lo contrario Y = 0.
Debido a que el ε se distribuye normalmente, la probabilidad de que Y = 1 dados los predictores es:
P(y = 1 Ните x) = Ё(β0 + β1x1 + ... + βkxk)
donde Ё es la función de distribución acumulativa (CDF) de la distribución normal estándar. Esta ecuación muestra que el modelo de probito es un modelo lineal generalizado con función de enlace de probit.
Sumas del modelo Probit
Para inferencia válida, el modelo de probit se basa en varias hipótesis clave:
- Observaciones independientes — Los resultados son condicionalmente independientes dadas las previsiones.
- Forma funcional correcta — El predictor lineal es aditivo, aunque se pueden incluir transformaciones e interacciones.
- No perfecta multicollinearidad - Los predictores deben ser linealmente independientes.
- Errores normales — El término de error latente tiene una media de cero y varianza de uno. Esta suposición es crítica para el enlace de probit; el modelo de logit asume una distribución logística.
- Exogeneity of predictors — Los covariados no están relacionados con el error latente.
Función de enlace y el CDF normal
La función de enlace de probito es ⋅ (el inverso del CDF normal estándar). Transforma probabilidades de la gama (0,1) a toda la línea real. Este enlace asegura que las probabilidades predichas siempre se encuentran entre 0 y 1. La forma del CDF normal implica que los cambios en los predictores tienen un efecto menor en la probabilidad cuando la probabilidad de base está cerca de 0 o 1, y un efecto más grande cuando es alrededor de 0.5.
Aplicación de un modelo de débito
La implementación de un modelo de probito implica la preparación de datos, especificación de modelos y estimación. El software estadístico moderno maneja los pasos computacionales, pero el analista debe tomar decisiones informadas sobre variables y diagnósticos.
Preparación de datos
- Asegurar que la variable dependiente es binaria y codificada como 0/1.
- Revise los valores perdidos, los valores más destacados y la collinearidad entre los predictores.
- Considere la normalización de predictores continuos si planea comparar directamente las magnitudes de coeficiente (aunque los efectos marginales suelen ser preferidos por la interpretación).
- Si sus datos se han agrupado (por ejemplo, medidas repetidas), cuenta con que utiliza errores estándar sólidos o extensión multinivel.
Especificación del modelo
Elija los predictores basados en la teoría de la investigación previa. Incluya interacciones o términos polinomios si la relación entre un predictor y la variable latente no es lineal en la escala logit/probit. Por ejemplo, la edad puede tener un efecto cuadrático en la probabilidad de un resultado.
Estimación usando la probabilidad máxima
Los parámetros del modelo Probit se calculan en máxima probabilidad (ML). La función de probabilidad se basa en el producto de probabilidades para cada observación — Ё(xβ) para y=1 y 1- ⋅(xβ) para y=0. El algoritmo ML encuentra valores de coeficiente que maximizan esta probabilidad. Los errores estándar se derivan del inverso de la matriz de información Fisher observada. Propiedades de gran muestra aseguran que las estimaciones son consistentes, asintotípicamente normales.
Ejemplos de software
R
En R, la función se ajusta a los modelos de probits especificando :
Los paquetes y simplifican la cálculo de los efectos marginales. Para los diagnósticos más avanzados, los paquetes y proporcionan pruebas de especificación y errores estándar consistentes en heteroscedasticidad.
Python
En Python, la biblioteca proporciona la clase :
El método compute los efectos marginales. Para la robustez, o puede ser aplicado.
Stata
En Stata, el comando es directo:
Después de estimar, compute los efectos marginales promedio. Los comandos de postestimación como y ayuda en la evaluación modelo.
Interpretación de los resultados del modelo Probit
La interpretación de los coeficientes de probito requiere atención porque representan cambios en la latente z-score, no directamente en probabilidad. La clave para la interpretación significativa es calcular los efectos marginales o probabilidades predichas.
Coeficientes y el Z-Score
Un coeficiente βJEJE indica el cambio en el z-score de la variable latente para un aumento de una unidad en xJEJE, manteniendo constantes otras variables. El signo muestra la dirección del efecto: positivo significa mayor x aumenta la probabilidad, la disminución negativa. Sin embargo, la magnitud del coeficiente no se traduce directamente a un cambio de probabilidad — esa relación depende del nivel actual de todos los predictores a través de la forma del CDF normal.
Efectos marginales
Efectos marginales mide el cambio en la probabilidad predicha para un cambio de unidad en un predictor. Para variables continuas, el efecto marginal es el derivado parcial:
⁇ P(Y tú.=1 Silencio x) / ⁇ xJEJE = φ(xβ) · βJEJE
donde φ es la función normal de densidad de probabilidad (PDF). El factor φ(xβ) varía con los valores de todos los predictores, por lo que el efecto marginal difiere dependiendo de dónde en la distribución lo evaluamos.
Existen dos enfoques comunes:
- Efecto marginal en la media (MEM) — Evaluar φ y β en la media de todos los predictores. Esto es fácil de calcular pero puede no representar el pozo de observación "promedio" si los predictores no están cerca de sus medios.
- Efecto marginal medio (AME) — Computa el efecto marginal para cada observación y luego promedio sobre la muestra. Las AMEs generalmente son preferidas porque reflejan la distribución completa de los datos.
Ambos pueden obtenerse fácilmente en R ( paquete), Python (] método con y vs. ]), y Stata ([ da AME por defecto).
Probabilidades predecidas
Otra interpretación intuitiva es calcular las probabilidades predichas para perfiles covariados específicos. Por ejemplo, ¿cuál es la probabilidad predicha de predeterminación de préstamos para una persona con ingresos $50.000, edad 40 y un título universitario? Esto se puede hacer a través de:
P ⁇ = ⋅(x ⁇ β)
Los investigadores pueden comparar las probabilidades predichas en diferentes grupos o en diferentes niveles de un predictor clave, a menudo visualizando con las parcelas.
Diagnósticos y Fit de Modelo Probit
Después de estimar, evaluar qué tan bien encaja el modelo con los datos y si se violan las hipótesis.
Medidas de bondad de la propiedad
- Con probabilidad de registro y Prueba de proporción de probabilidad — Compare la probabilidad de registro del modelo completo contra un modelo nulo (intente únicamente). Una prueba significativa de la qui-cuadra indica que los predictores mejoran el ajuste.
- Pseudo R-squared — Existen muchas variantes (McFadden, Cox-Snell, Nagelkerke). R2 = 1 de McFadden (LL)llena / LLnulo) se informa comúnmente. Los valores entre 0.2 y 0.4 indican un ajuste excelente.
- AIC y BIC - Criterios de información para la comparación de modelos. Los valores inferiores indican un mejor equilibrio entre el ajuste y la complejidad.
- Precisión de clasificación — Use un corte (a menudo 0,5) para clasificar las probabilidades predichas y comparar con los resultados reales. Sensibilidad, especificidad y el área bajo la curva ROC (AUC) son ampliamente utilizados.
Chequeando los Asunciones
Los diagnósticos de modelo Probit incluyen pruebas para heteroscedasticidad, sesgo variable omitido y la especificación de forma funcional. Prueba de Hosmer-Lemeshow particiones observaciones en grupos y compara frecuencias observadas esperadas vs., pero tiene limitaciones y a menudo se reemplaza por parcelas de calibración. Pruebas de especificación como Prueba de Pagan y Vella para el probit heteroscedastico están disponibles en software especializado.
Si se viola la suposición de la varianza constante del error latente (probit heteroscedastic), las estimaciones se vuelven inconsistentes. Las opciones incluyen el uso de errores estándar robustos o el ajuste de un modelo de probit heteroscedastico que modela la varianza como función de predictores.
Probit vs. Logit: Elegir el modelo adecuado
Los investigadores aplicados suelen elegir entre probit y logit (regreso logístico). Ambos son modelos lineales generalizados con una función de enlace que garantiza probabilidades entre 0 y 1. La diferencia clave es la distribución del error de latente: logit asume una distribución logística (puertas más pesadas) mientras que el cobit asume una distribución normal. En la práctica, el coito y la logit producen resultados muy similares a menos que los datos contengan muchas observaciones en la cola diferentes coeficiente.
El comportamiento es a veces preferido porque la suposición de distribución normal es más natural para muchos constructos latentes (por ejemplo, estado de salud, solvencia). El Logit es más común en la epidemiología y la investigación médica. La elección depende a menudo de la convención en un campo particular. Independientemente, los efectos marginales de ambos modelos tienden a converger, especialmente para modelos bien especificados con tamaños de muestras decentes.
Ejemplo práctico: Predicción de la deuda del préstamo
Considere un conjunto de datos de 5.000 prestatarios con un indicador binario por defecto (1 = predeterminado, 0 = repagado). Los predictores incluyen ingresos anuales (en 10.000 unidades), edad, puntuación de crédito y una interacción entre el ingreso y la relación deuda-ingreso. Después de ajustar un modelo de probito, suponga que el coeficiente de ingreso es -0.25 (p < 0.001) and the coefficient for credit score is -0.02 (p < 0.001). The negative signs indicate that higher income and higher credit scores reduce the probability of default.
Para interpretar de manera sustantiva, computamos efectos marginales promedio. La AME para los ingresos podría ser -0.03: un aumento de un solo ingreso (10.000 dólares) reduce la probabilidad de incumplimiento en 3 puntos porcentuales, en promedio. Para la puntuación de crédito, la AME podría ser -0.002 por punto, lo que significa que un aumento de 100 puntos reduce la probabilidad por defecto en 20 puntos porcentuales.
Los diagnósticos modelo muestran una AUC de 0,85 y un seudo R2 de 0,32 de McFadden, lo que indica un ajuste fuerte. El valor p-valor Hosmer-Lemeshow es 0,12, lo que sugiere que no hay problemas de calibración severa.
Conclusión
El modelo probit es un método versátil y estadísticamente riguroso para analizar los resultados binarios. La implementación requiere una preparación cuidadosa de datos, especificación adecuada y estimación correcta utilizando la máxima probabilidad. Interpretación se centra en los efectos marginales y probabilidades predichas, no coeficientes brutos. Los controles diagnósticos aseguran la validez y mejora de guía del modelo. Al entender el marco variable latente y las diferencias claves de logit, los investigadores pueden aplicar con confianza modelos de salud públicos. artículo de Wikipedia sobre modelos de probit, Guía de consultoría estadística de UCLA, y el R package documentation con estas herramientas, puede extraer información significativa de datos binarios y apoyar la toma de decisiones basada en evidencia.