Compreender o critério de informação Akaike

O Akaike Information Criterion (AIC) é uma ferramenta fundamental na seleção de modelos estatísticos, desenvolvido por Hirotugu Akaike em 1973. Ele fornece uma estimativa da informação relativa perdida quando um determinado modelo é usado para representar o processo que gerou os dados. Ao equilibrar o modelo de ajuste com a complexidade, AIC ajuda analistas a evitar duas armadilhas comuns: sobre-ajustamento (modelos muito complexos para os dados disponíveis) e sub-ajustamento (modelos muito simples para capturar o padrão subjacente).

A fórmula principal para a AIC é:

AIC = 2k – 2ln(L)

em que k é o número de parâmetros estimados no modelo, e L O termo 2k penaliza a complexidade do modelo, enquanto –2ln(L) mede o quão bem o modelo se encaixa nos dados. AIC não existe isoladamente; é uma medida relativa usada para comparar modelos candidatos no mesmo conjunto de dados. O modelo com o menor valor de AIC é considerado o melhor entre os candidatos, atingindo um equilíbrio prático entre a bondade de ajuste e a parcimônia.

A AIC está fundamentada na teoria da informação. Ela aproxima a divergência Kullback-Leibler entre o verdadeiro processo de geração de dados e o modelo. Como o verdadeiro processo é desconhecido, AIC fornece uma maneira de classificar modelos baseados na precisão preditiva esperada. Isso torna AIC particularmente útil em campos como ecologia, econometria, aprendizado de máquina e epidemiologia, onde múltiplas teorias concorrentes precisam ser testadas contra dados observados.

Por que AIC importa para a seleção de modelos

A análise estatística moderna muitas vezes envolve a comparação de vários modelos plausíveis. Sem um critério rigoroso, os analistas podem confiar em valores de probabilidade bruta ou R-quadrado, que tendem a favorecer modelos excessivamente complexos. AIC introduz uma penalidade para cada parâmetro adicional, desencorajando complexidade desnecessária. Esta penalidade é derivada de uma base teórica: à medida que o número de parâmetros aumenta, a variância das estimativas do modelo cresce, o que pode degradar previsões fora da amostra.

O insight chave é que cada parâmetro adicional usa algumas das informações dos dados. AIC quantifica o trade-off: um modelo que adiciona um parâmetro deve melhorar a probabilidade suficiente para compensar a penalidade de 2. Por exemplo, se adicionar uma variável aumenta a probabilidade de log-likelihood em menos de 1, o AIC realmente aumentará, indicando que a complexidade extra não vale a pena. Esta propriedade faz do AIC uma ferramenta prática para seleção de variáveis, determinação de ordem polinomial e média de modelos.

A AIC é especialmente valiosa em pesquisas exploratórias onde nenhum modelo único é universalmente aceito. Ao comparar valores AIC em um conjunto de modelos candidatos, os pesquisadores podem identificar quais modelos são mais consistentes com os dados, evitando a tentação de perseguir melhor em amostra se encaixar infinitamente. Também facilita a média de modelos, onde as previsões de modelos múltiplos são ponderadas por suas probabilidades baseadas em AIC, levando a estimativas mais robustas e intervalos de confiança mais estreitos.

Guia passo a passo para usar AIC

Passo 1: Defina um conjunto de modelos de candidatos

Para a regressão linear, os candidatos podem incluir diferentes combinações de preditores, termos de interação ou transformações polinomiais. Para séries temporais, os modelos podem variar pelo número de defasagens ou componentes estruturais.

Passo 2: Ajustar-se a cada modelo e obter a probabilidade

Para cada modelo candidato, estimar os parâmetros e calcular o valor máximo de log-likelihood. A maioria dos softwares estatísticos (R, Python, SAS, SPSS) pode produzir log-likelihood diretamente. Certifique-se de que a função de verossimilhança é comparável entre os modelos, isto geralmente requer que os modelos sejam adequados exatamente à mesma variável de resposta e tamanho da amostra. Modelos com diferentes transformações (por exemplo, logados vs. resultados não registrados) não são diretamente comparáveis usando AIC.

Passo 3: Calcular o valor da AIC

Aplicar a fórmula AIC = 2k – 2ln(L) utilizando o número de parâmetros k (incluindo o intercepto, termo de variância e quaisquer coeficientes estimados) e a probabilidade de log. Muitos pacotes de software calculam AIC automaticamente. Seja consistente: se um modelo estima um parâmetro de variância e outro não, ambos devem ter em conta k.

Passo 4: Comparar os valores AIC entre modelos

Ordenar modelos por AIC de menor para maior. O modelo com AIC mínimo é o melhor entre os candidatos. No entanto, evite descartar modelos muito rapidamente. Calcular ΔAIC para cada modelo: ΔAIC = modelo AIC – AIC min. Modelos com ΔAIC menor que 2 têm suporte substancial; aqueles com ΔAIC entre 4 e 7 têm consideravelmente menos suporte; e modelos com ΔAIC maior que 10 são essencialmente não suportados em relação ao melhor modelo (Burnham & Anderson 2004).

Passo 5: Considere Simplicidade de Modelo e Contexto Prático

Se dois modelos tiverem valores quase idênticos de AIC (ΔAIC) < 1), the simpler model is often preferred, especially if the more complex model introduces variables that are difficult to interpret or measure. AIC is a guide, not a rule. Domain knowledge, data quality, and the intended use of the model should always inform the final choice.

Passo 6: (Opcional) Realizar modelo média

Em vez de selecionar um único modelo, você pode calcular pesos Akaike (w i) para cada modelo: w i = exp(-0.5ΔAIC i) / ē exp(-0.5ΔAIC j). Estes pesos somam 1 e representam a probabilidade de que o modelo i seja o melhor para os dados (dado o conjunto de candidatos). As previsões ponderadas e estimativas de parâmetros reduzem o risco de depender de um único modelo potencialmente sobre- ajuste.

Interpretar os valores da AIC na prática

Os valores da CIA são sempre positivos e podem ser grandes, mas apenas as suas diferenças relativas importam. A magnitude absoluta da CIA não tem significado sem uma linha de base comparativa. Ao reportar os resultados da CIA, incluem os valores da CICA e os pesos de Akaike. Os seguintes limiares são amplamente utilizados na literatura:

  • ΔAIC ≤ 2: O modelo tem suporte substancial e deve ser considerado igualmente plausível como o melhor modelo.
  • 4 ≤ ΔAIC ≤ 7: O modelo tem consideravelmente menos suporte, podendo ainda ser considerado em um modelo de contexto de média.
  • ΔAIC > 10: O modelo não tem, essencialmente, qualquer apoio e pode ser seguramente excluído de uma análise mais aprofundada.

Estes limiares são regras de polegar. Na prática, o tamanho do conjunto candidato, o tamanho da amostra e o contexto científico específico podem afetar a interpretação. Por exemplo, em grandes conjuntos de dados, mesmo pequenas diferenças de AIC podem indicar diferenças significativas na capacidade preditiva. Por outro lado, com tamanhos de amostra pequenos, o AICc corrigido (discussionado abaixo) deve ser usado.

Quando utilizar o AIC corrigido (AICc)

A fórmula padrão AIC funciona bem quando o tamanho da amostra n é grande em relação ao número de parâmetros k. Uma regra comum do polegar é que n/k deve ser pelo menos 40. Quando o tamanho da amostra é pequeno, AIC tende a subpenalizar a complexidade e pode selecionar modelos com muitos parâmetros. Para abordar isso, Sugiura (1978) deriva uma versão corrigida, AICc:

AICc = AIC + (2k(k+1)) / (n – k – 1)

AICc converge para AIC à medida que n cresce, por isso é seguro usar AICc em todos os casos, especialmente quando n/k < 40. It is recommended as the default choice for model selection in most applied statistics settings. Many software packages offer AICc as an option or allow manual calculation.

Para amostras pequenas, a penalidade adicional pode alterar substancialmente os rankings dos modelos. Por exemplo, com n = 20 e k = 5, o termo de correção adiciona cerca de 3,4 para AIC, que pode ser a diferença entre selecionar um modelo simples e um sobreparametrizado. Sempre informe se você usou AIC ou AICc, e se AICc, o tamanho da amostra e o número de parâmetros usados.

AIC vs outros critérios de seleção do modelo

A AIC é um dos vários critérios de informação, pois compreender seus familiares ajuda a contextualizar seus pontos fortes e fracos.

Critério da Informação Bayesiana (BIC)

O BIC é outro critério amplamente utilizado com fórmula BIC = ln(n)k – 2ln(L). A penalidade para cada parâmetro é ln(n) em vez de 2. Para tamanhos típicos de amostra, ln(n) > 2, assim o BIC penaliza a complexidade mais fortemente do que a AIC. O BIC é derivado de uma perspectiva bayesiana e favorece modelos mais simples, especialmente em grandes conjuntos de dados. Qual critério é melhor depende do objetivo: AIC visa minimizar o erro de previsão esperado (Kullback-Leibler distância), enquanto BIC visa identificar o modelo verdadeiro entre um conjunto de candidatos – assumindo que tal modelo existe. Na prática, muitos pesquisadores relatam ambos.

Validação cruzada

A validação cruzada (CV) do k- fold estima diretamente o erro de previsão fora da amostra por particionamento de dados. AIC é assintoticamente equivalente à validação cruzada para modelos lineares. Para modelos não lineares ou quando n é muito pequeno, CV pode ser mais confiável. No entanto, CV é computacionalmente mais intensivo e pode ser instável. AIC fornece uma aproximação conveniente de forma fechada que funciona bem em muitas configurações paramétricas.

Quadrado R ajustado

R-quadrado ajustado penaliza R2 pelo número de preditores: R2 adj = 1 – (1–R2)(n–1)/(n–k–1). É fácil de calcular, mas só se aplica a modelos de regressão linear e não tem uma base teórica forte para comparação de modelos gerais. AIC é mais geral, aplicável a qualquer modelo onde uma probabilidade pode ser definida.

Pistácios e Limitações comuns

Apesar de sua popularidade, a AIC tem várias limitações que os analistas devem considerar.

  • Assume que todos os modelos são aninhados ou comparáveis? Não necessariamente. AIC pode comparar modelos não-nestados, desde que eles estejam aptos para o mesmo conjunto de dados e usem a mesma variável de resposta. No entanto, modelos com diferentes famílias de distribuição subjacentes (por exemplo, Gaussian vs. Poisson) não devem ser comparados, a menos que as probabilidades sejam devidamente normalizadas.
  • Risco de selecionar modelos excessivamente complexos com amostras pequenas. Esta é exatamente a razão pela qual AICc foi desenvolvido. Sempre prefira AICc quando o tamanho da amostra é pequeno em relação à contagem de parâmetros.
  • Não testa pressupostos de modelo. AIC não verifica se um modelo é um ajuste razoável aos dados - ele apenas classifica os candidatos. Diagnósticos residuais, detecção de outlier, e testes de qualidade de ajuste devem sempre acompanhar a análise AIC.
  • Dependência do tamanho da amostra. O valor absoluto do AIC e até mesmo os rankings relativos podem mudar se o conjunto de dados mudar. Use AIC apenas na mesma amostra em todos os modelos.
  • Pode favorecer modelos com alta variância. Na presença de multicolinearidade ou outliers extremos, AIC ainda pode selecionar um modelo que se encaixa bem nos dados de treinamento, mas não consegue generalizar. A modelagem robusta e triagem prévia de variáveis são essenciais.
  • Não é adequado para comparar modelos com diferentes distribuições de erros. Por exemplo, comparar uma regressão linear (erros normais) com uma regressão logística (erros binomiais) é inválido porque as funções de verossimilhança escalam de forma diferente.

Outra limitação sutil: AIC assume que o conjunto candidato inclui pelo menos um bom modelo. Se todos os modelos são representações pobres da realidade, AIC ainda selecionará o melhor entre eles, mas esse modelo pode ser inadequado. A seleção do modelo deve ser sempre combinada com validação externa, validação cruzada e conhecimento substantivo.

Exemplo prático: Seleção do modelo com AIC

Suponhamos que um pesquisador estude como o crescimento da árvore (Y, cm/ano) refere-se ao azoto do solo (N, mg/kg), fósforo no solo (P, mg/kg) e precipitação anual (R, mm). Trinta parcelas são medidas. Quatro modelos lineares candidatos são considerados:

  • Modelo 1: Y = β0 + β1N + ε
  • Modelo 2: Y = β0 + β1N + β2P + ε
  • Modelo 3: Y = β0 + β1N + β2R + ε
  • Modelo 4: Y = β0 + β1N + β2P + β3R + ε

Cada modelo é montado usando mínimos quadrados comuns. Os valores de log-likelihood (L) são obtidos: Modelo 1: -105.3, Modelo 2: -101.0, Modelo 3: -104.1, Modelo 4: -99.8. Número de parâmetros k (incluindo intercepção e variância de erro) para cada: Modelo 1: 3, Modelo 2: 4, Modelo 3: 4, Modelo 4: 5.

Calcular a AIC:

  • Modelo 1: AIC = 2*3 – 2*(-105.3) = 6 + 210.6 = 216,6
  • Modelo 2: AIC = 2*4 – 2*(-101.0) = 8 + 202.0 = 210.0
  • Modelo 3: AIC = 2*4 – 2*(-104.1) = 8 + 208.2 = 216.2
  • Modelo 4: AIC = 2*5 – 2*(-99.8) = 10 + 199.6 = 209.6

O modelo 4 tem o menor AIC (209,6), seguido de perto pelo modelo 2 (210.0). ΔAIC para o modelo 2 = 0,4, que é menor que 2, indicando que ambos os modelos têm forte suporte. Modelo 3 e Modelo 1 têm ΔAIC de 6,6 e 7.0, respectivamente, indicando suporte muito mais fraco. O pesquisador pode escolher o modelo 2 porque é mais simples (um parâmetro menos) enquanto quase tão bom quanto o modelo 4. Alternativamente, eles poderiam realizar a média do modelo: pesos w2 = exp(-0,5*0.4)/(exp(-0,5*0.4)+exp(-0,5*6.6)+exp(-0,5*7.0) .

Implementação de Software da AIC

A maioria dos pacotes estatísticos calculam automaticamente AIC. Aqui estão exemplos comuns:

  • R: Use a função para modelos lineares; chame ou use . Para modelos lineares generalizados, e funcionam de forma semelhante. O pacote oferece médias de modelos e cálculos AICc.
  • Python (statsmodels): Depois de ajustar um modelo (por exemplo, , use o atributo . Para AICc, você pode computá-lo manualmente ou usar a propriedade disponível em alguns modelos.
  • SAS: A declaração em ou produz AIC. Em , AIC faz parte da saída estatística adequada.
  • SPSS: Nas janelas de regressão, selecione "Critérios de informação" em "Estatísticas" para exibir AIC e BIC.
  • Excel: Não suportado nativamente, mas você pode calcular AIC manualmente usando a likelihood obtida do solucionador ou add-ins.

Para modelos mistos e séries temporais, certifique-se de usar os graus corretos de liberdade. As sanções para efeitos aleatórios podem ser debatidas; consulte diretrizes de especialistas ou use AIC condicional (cAIC) para modelos mistos.

Leitura e Referências Adicionais

Para quem deseja aprofundar sua compreensão da AIC e seleção de modelos, os recursos a seguir são altamente recomendados:

A AIC continua sendo uma das ferramentas mais influentes nas estatísticas aplicadas. Ao entender sua derivação, aplicação adequada e limitações, os analistas podem tomar decisões mais informadas que levam a modelos que são tanto interpretáveis quanto preditivamente precisos.