How to Use the Akaike Information Criterion for Model Selection
Table of Contents
Comprender el Criterio de Información de Akaike
El Criterio de Información de Akaike (AIC) es una herramienta fundamental en la selección de modelos estadísticos, desarrollada por Hirotugu Akaike en 1973. Proporciona una estimación de la información relativa perdida cuando se utiliza un modelo determinado para representar el proceso que generó los datos. Al equilibrar el modelo adecuado con la complejidad, AIC ayuda a los analistas a evitar dos obstáculos comunes: overfitting (models too complex for the available data) y subfitting (models too simple capture).
La fórmula básica para la AIC es:
AIC = 2k – 2ln(L)
Donde k es el número de parámetros estimados en el modelo, y L es el valor máximo de la función de probabilidad para el modelo dado los datos. El término 2k penaliza la complejidad del modelo, mientras que –2ln(L) mide lo bien que el modelo se ajusta a los datos. AIC no existe en aislamiento; es una medida relativa utilizada para comparar los modelos candidatos en el mismo conjunto de datos. El modelo con el valor AIC más bajo se considera el mejor entre los candidatos, alcanzando un equilibrio práctico entre bondad-de-a-a-a-a-a-a-a-a-a-a-a-a-a-a-a-a-bien y parsimonia.
AIC se basa en la teoría de la información. Se aproxima la divergencia Kullback-Leibler entre el verdadero proceso generador de datos y el modelo. Debido a que el verdadero proceso es desconocido, AIC proporciona una manera de clasificar modelos basados en la precisión predictiva esperada. Esto hace que AIC particularmente útil en campos como la ecología, la econometría, el aprendizaje automático y la epidemiología, donde se necesitan pruebas de múltiples teorías competidoras contra datos observados.
Por qué AIC importa para la selección de modelos
El análisis estadístico moderno suele implicar la comparación de varios modelos plausibles. Sin un criterio riguroso, los analistas podrían depender de valores de probabilidad cruda o de escala R, que tienden a favorecer modelos demasiado complejos. AIC introduce una penalización por cada parámetro adicional, desalentando la complejidad innecesaria. Esta penalidad se deriva de una base teórica: a medida que aumenta el número de parámetros, la variabilidad de las estimaciones modelo crece, que puede degradar las predicciones fuera de muestre.
La clave es que cada parámetro adicional utiliza algunos datos. AIC cuantifica el intercambio: un modelo que añade un parámetro debe mejorar la probabilidad suficiente para compensar la penalización de 2. Por ejemplo, si la adición de una variable aumenta la probabilidad de registro por menos de 1, el AIC en realidad aumentará, indicando la complejidad extra no vale la pena. Esta propiedad hace que AIC sea una herramienta práctica para la selección de modelos variables, determinación de polinomios
AIC es especialmente valioso en la investigación exploratoria donde ningún modelo es universalmente aceptado. Comparando los valores de AIC en un conjunto de modelos candidatos, los investigadores pueden identificar qué modelos son más consistentes con los datos evitando la tentación de perseguir mejor en el muestreo encaja sin fin. También facilita el promedio de modelos, donde las predicciones de varios modelos se ponderan por sus probabilidades basadas en AIC, lo que conduce a estimaciones más robustas y intervalos de confianza más estrechos.
Guía paso a paso para usar AIC
Paso 1: Definir un conjunto de modelos candidatos
Comience por formular la pregunta de investigación e identificar modelos plausibles. Estos modelos deben basarse en análisis de datos teóricos, previos o exploratorios. Todos los modelos deben ajustarse al mismo conjunto de datos. Para la regresión lineal, los candidatos podrían incluir diferentes combinaciones de predictores, términos de interacción o transformaciones polinomios. Para series temporales, los modelos pueden variar por número de lags o componentes estructurales.
Paso 2: Fitar cada modelo y obtener la probabilidad
Para cada modelo candidato, estima los parámetros y calcula el valor máximo de probabilidad de registro. La mayoría de los programas estadísticos (R, Python, SAS, SPSS) pueden producir la probabilidad de salida directamente. Asegúrese de que la función de probabilidad es comparable en los modelos, esto generalmente requiere que los modelos sean adecuados a la misma variable de respuesta y tamaño de muestra.
Paso 3: Computar el valor AIC
Aplicar la fórmula AIC = 2k – 2ln(L) utilizando el número de parámetros k (incluyendo la interceptación, el término de la varianza y cualquier coeficiente estimado) y la probabilidad de registro. Muchos paquetes de software computan automáticamente AIC. Sea consistente: si un modelo estima un parámetro de varianza y otro no, ambos deben tener en cuenta para ello en k.
Paso 4: Compare los valores de AIC en todos los modelos
Modelos de clasificación por AIC de menor a mayor. El modelo con mínimo AIC es el mejor entre los candidatos. Sin embargo, evitar descarte modelos demasiado rápido. Computar ΔAIC para cada modelo: ΔAIC = AIC modelo – AIC min. Los modelos con ΔAIC menos de 2 tienen soporte sustancial; los que tienen ΔAIC entre 4 y 7 tienen menos apoyo; y los modelos con ΔAIC superior a 10 son esencialmente untan
Paso 5: Considerar la simplicidad modelo y el contexto práctico
Si dos modelos tienen valores AIC casi idénticos (ΔAIC < 1), the simpler model is often preferred, especially if the more complex model introduces variables that are difficult to interpret or measure. AIC is a guide, not a rule. Domain knowledge, data quality, and the intended use of the model should always inform the final choice.
Paso 6: (Opcional) Realizar el promedio del modelo
En lugar de seleccionar un modelo único, puede calcular pesos Akaike (w i) para cada modelo: w i = exp(-0.5ΔAIC i) / gia exp(-0.5ΔAIC j). Estos pesos suman a 1 y representan la probabilidad de que el modelo i es el mejor para los datos (de acuerdo al conjunto de candidatos).
Interpretar los valores AIC en la práctica
Los valores AIC son siempre positivos y pueden ser grandes, pero sólo sus diferencias relativas importan. La magnitud absoluta de AIC no tiene sentido sin una base comparativa. Al informar de los resultados de AIC, incluyen los valores ΔAIC y los pesos Akaike. Los siguientes umbrales son ampliamente utilizados en la literatura:
- ΔAIC ≤ 2: El modelo tiene un apoyo sustancial y debe considerarse igualmente plausible como el mejor modelo.
- 4 ≤ ΔAIC ≤ 7: El modelo tiene un apoyo considerablemente menor. Puede que todavía valga la pena considerar en un contexto de promedio modelo.
- ΔAIC > 10: El modelo no tiene esencialmente apoyo y puede ser excluido con confianza de la consideración ulterior.
Estos umbrales son reglas de pulgar. En la práctica, el tamaño del conjunto de candidatos, el tamaño de la muestra y el contexto científico específico pueden afectar la interpretación. Por ejemplo, en conjuntos de datos grandes, incluso pequeñas diferencias de AIC pueden indicar diferencias significativas en la capacidad predictiva. A la inversa, con tamaños de muestra pequeños, se debe utilizar el AICc corregido (discutido abajo).
Cuándo utilizar el AIC corregido (AICc)
La fórmula AIC estándar funciona bien cuando el tamaño de la muestra n es grande en relación con el número de parámetros k. Una regla común de pulgar es que n/k debe ser por lo menos 40. Cuando el tamaño de la muestra es pequeño, AIC tiende a subpenalizar la complejidad y puede seleccionar modelos con demasiados parámetros. Para abordar esto, Sugiura (1978) deriva una versión corregida, AICc:
AICc = AIC + (2k(k+1)) / (n – k – 1)
AICc converge a AIC a medida que crece n, por lo que es seguro utilizar AICc en todos los casos, especialmente cuando n/k < 40. It is recommended as the default choice for model selection in most applied statistics settings. Many software packages offer AICc as an option or allow manual calculation.
Para muestras pequeñas, la penalización adicional puede cambiar sustancialmente la clasificación de modelos. Por ejemplo, con n = 20 y k = 5, el plazo de corrección añade alrededor de 3.4 a AIC, que puede ser la diferencia entre seleccionar un modelo simple y uno sobreparametrizado. Siempre informe si usted utilizó AIC o AICc, y si AICc, el tamaño de la muestra y el número de parámetros utilizados.
AIC vs otros criterios de selección de modelos
El AIC es uno de varios criterios de información. Entender a sus familiares ayuda a contextualizar sus puntos fuertes y débiles.
Criterio de información Bayesian (BIC)
BIC es otro criterio ampliamente utilizado con fórmula BIC = ln(n)k – 2ln(L). La penalización para cada parámetro es ln(n) en lugar de 2. Para tamaños de muestra típicos, ln(n) √≥ 2, por lo que BIC penaliza la complejidad más fuertemente que AIC. BIC se deriva de una perspectiva Bayesian y favorece modelos más simples, especialmente en conjuntos de datos grandes.
Validación cruzada
k-fold cross-validation (CV) calcula directamente el error de predicción fuera de la muestra mediante datos de partición. AIC es asintoticamente equivalente a la validación cruzada de salida para modelos lineales. Para modelos no lineales o cuando n es muy pequeño, CV puede ser más confiable. Sin embargo, CV es computacionalmente más intensivo y puede ser inestable. AIC proporciona una cómoda aproximación de forma cerrada
Ajuste de la categoría R
La R-squared ajustada penaliza R2 por el número de predictores: R2 adj = 1 – (1–R2)(n–1)/(n–k–1). Es fácil de calcular pero sólo se aplica a los modelos de regresión lineal y no tiene una base teórica fuerte para la comparación de modelos generales. AIC es más general, aplicable a cualquier modelo en el que se pueda definir una probabilidad.
Pitfalls y Limitaciones comunes
A pesar de su popularidad, AIC tiene varias limitaciones que los analistas deben considerar.
- ¿Asumiendo que todos los modelos están anidados o comparables? No necesariamente. AIC puede comparar modelos no modificados siempre que estén en condiciones de la misma configuración de datos y utilizar la misma variable de respuesta. Sin embargo, los modelos con diferentes familias de distribución subyacente (por ejemplo, Gaussian vs. Poisson) no deben compararse a menos que las probabilidades estén normalizadas adecuadamente.
- Riesgo de seleccionar modelos demasiado complejos con pequeñas muestras. Esta es exactamente la razón por la que se desarrolló AICc. Siempre prefiere AICc cuando el tamaño de la muestra es pequeño relativo al recuento de parámetro.
- No prueba las suposiciones modelo. AIC no verifica si un modelo es un ajuste razonable a los datos, solo clasifica a los candidatos. Diagnóstico residual, detección externa y pruebas de bondad de beneficio siempre deben acompañar el análisis AIC.
- Dependencia de tamaño muestral. El valor AIC absoluto e incluso la clasificación relativa puede cambiar si el conjunto de datos cambia. Use AIC sólo en la misma muestra a través de todos los modelos.
- Puede favorecer modelos con alta varianza. En presencia de multicollinearidad o de extremos, AIC todavía puede seleccionar un modelo que se ajuste bien a los datos de entrenamiento pero no se generaliza. Es esencial modelar y realizar una selección de variables previa.
- No es adecuado para comparar modelos con diferentes distribuciones de errores. Por ejemplo, comparar una regresión lineal (errores normales) con una regresión logística (errores binomiales) es inválida porque las funciones de probabilidad se escalan de manera diferente.
Otra limitación sutil: AIC asume que el conjunto de candidatos incluye al menos un buen modelo. Si todos los modelos son representaciones deficientes de la realidad, AIC seguirá seleccionando lo mejor entre ellos, pero ese modelo puede ser insuficiente. La selección modelo siempre debe combinarse con validación externa, validación cruzada y conocimiento sustantivo.
Ejemplo práctico: Selección de modelo con AIC
Supongamos que un investigador estudia cómo el crecimiento de árboles (Y, cm/año) se relaciona con nitrógeno del suelo (N, mg/kg), fósforo del suelo (P, mg/kg) y precipitaciones anuales (RSe miden 30 parcelas. Cuatro modelos lineales candidatos son considerados:
- Modelo 1: Y = β0 + β1N + ε
- Modelo 2: Y = β0 + β1N + β2P + ε
- Modelo 3: Y = β0 + β1N + β2R + ε
- Modelo 4: Y = β0 + β1N + β2P + β3R + ε
Cada modelo se ajusta utilizando los mínimos cuadrados ordinarios. Los valores de probabilidad de registro (ln L) se obtienen: Modelo 1: -105.3, Modelo 2: -101.0, Modelo 3: -104.1, Modelo 4: -99.8. Número de parámetros k (incluyendo la diferencia de interceptación y error) para cada uno: Modelo 1: 3, Modelo 2: 4, Modelo 3: 4, Modelo 4: 5.
Compute AIC:
- Modelo 1: AIC = 2*3 – 2*(-105.3) = 6 + 210.6 = 216.6
- Modelo 2: AIC = 2*4 – 2*(-101.0) = 8 + 202.0 = 210.0
- Modelo 3: AIC = 2*4 – 2*(-104.1) = 8 + 208.2 = 216.2
- Modelo 4: AIC = 2*5 – 2*(-99.8) = 10 + 199.6 = 209.6
El modelo 4 tiene el AIC más bajo (209.6), seguido de cerca por el modelo 2 (210.0). ΔAIC para el modelo 2 = 0.4, lo que indica que ambos modelos tienen un apoyo fuerte. Modelo 3 y Modelo 1 tienen ΔAIC de 6,6 y 7,0, respectivamente, indicando un soporte mucho más débil. El investigador puede elegir el modelo 2 porque es más simple (un parámetro menos) mientras que casi tan bueno como el modelo 4.
Implementación de software de AIC
La mayoría de los paquetes estadísticos computan AIC automáticamente. Aquí hay ejemplos comunes:
- R: Utilice la función para los modelos lineales; llame ] o utilice . Para los modelos lineales generalizados, y funcionan de manera similar. El paquete ofrece un promedio de modelos y cálculos AICc.
- Python (statsmodels): Después de ajustar un modelo (por ejemplo, ), utilice el atributo . Para AICc, puede computarlo manualmente o utilizar la propiedad disponible en algunos modelos.
- SAS: La declaración en o produce AIC. En , AIC es parte de la producción de estadísticas adecuadas.
- SPSS: En los diálogos de regresión, seleccione "Crímenes de información" bajo "Estadísticas" para mostrar AIC y BIC.
- Excel: No admiten nativos, pero pueden computar AIC manualmente utilizando la probabilidad de registro obtenida de solucionador o add-ins.
Para los modelos mixtos y la serie de tiempo, asegúrese de utilizar los grados correctos de libertad. Se pueden debatir penalidades para efectos aleatorios; consultar guías de expertos o utilizar AIC condicional (cAIC) para los modelos mixtos.
Lectura y referencias adicionales
Para aquellos que desean profundizar su comprensión de la AIC y la selección de modelos, se recomiendan los siguientes recursos:
- Selección de modelos AIC e inferencia multimodelo en ecología conductual: algunos antecedentes, observaciones y comparaciones – ofrece una visión general del uso de AIC en ecología y evolución.
- Wikipedia: criterio de información de Akaike – una entrada detallada con derivaciones matemáticas e historia.
- Burnham, K.P. & Anderson, D.R. (2002). Selección de modelos e Inferencia multimodel – el libro de texto seminal sobre la inferencia multimodel basada en AIC.
- Paquete de R ‘MuMIn’: Inferencia multimodelo – una guía práctica para implementar la selección de modelos AIC y el promedio en R.
AIC sigue siendo una de las herramientas más influyentes en las estadísticas aplicadas. Al entender su derivación, aplicación adecuada y limitaciones, los analistas pueden tomar decisiones más informadas que conducen a modelos que son interpretables y predictivasmente precisos.