Introdução ao Teste da Razão de Probabilidade

O Teste de Razão de Likelihood (LRT) é uma ferramenta estatística fundamental para comparar o ajuste de dois modelos concorrentes. Ele avalia se um modelo mais complexo fornece uma explicação significativamente melhor dos dados observados do que um modelo de base mais simples e aninhado. Ao quantificar a melhoria da probabilidade, o LRT ajuda os pesquisadores a tomar decisões de princípio sobre complexidade do modelo, reduzindo o risco de sobreajustamento, enquanto ainda captura padrões significativos. Este teste é amplamente aplicado em campos como bioestatística, econometria, aprendizagem de máquinas e ciências sociais, onde a seleção do modelo é fundamental para inferência e previsão.

A ideia central da LRT remonta ao trabalho do estatístico britânico Sir Ronald Fisher e foi posteriormente formalizada por Samuel S. Wilks em 1938. Wilks demonstrou que, sob certas condições, a estatística de teste segue assintoticamente uma distribuição qui-quadrado, tornando-a prática para testes de hipóteses. Hoje, a LRT continua a ser uma pedra angular da inferência baseada em probabilidades, muitas vezes usada ao lado de critérios de informação como AIC e BIC.

Quando usar o teste da razão de probabilidade

O teste da razão de probabilidade é mais apropriado quando comparado modelos aninhados — isto é, quando o modelo mais simples é um caso especial do modelo mais complexo. Por exemplo, um modelo de regressão linear sem termos de interação está aninhado dentro de um modelo que os inclui, ou um modelo com apenas efeitos principais está aninhado dentro de um modelo que inclui termos quadráticos. Nesses casos, o LRT testa diretamente se os parâmetros adicionais melhoram o modelo se encaixam além do que seria esperado por acaso.

Testes alternativos para comparação de modelos incluem o teste de Wald e o teste de escore (Lagrange Multiplier).

  • Teste de Wald: Requer apenas estimativa do modelo completo e é computacionalmente mais simples para testar coeficientes individuais. No entanto, pode ser menos confiável para amostras pequenas ou quando os parâmetros estão próximos do limite do espaço do parâmetro.
  • Teste de pontuação: Só requer uma estimativa do modelo restrito e é frequentemente utilizado na construção de modelos. É particularmente útil quando o modelo completo é difícil de estimar.
  • Teste da razão de probabilidade: Geralmente considerada a mais confiável para amostras de moderada a grande porte, pois compara diretamente as probabilidades de ambos os modelos, requer adaptação de ambos os modelos, mas é invariante à parametrização e muitas vezes mais poderosa.

Escolha o LRT quando você tiver os recursos computacionais para caber em ambos os modelos e você precisa de uma estatística de teste robusta e bem comportada. É especialmente favorecido em modelos lineares generalizados (GLMs), modelos de efeitos mistos e modelagem de equações estruturais.

Assunções do teste da razão de probabilidade

Para que a TRL produza resultados válidos, devem ser cumpridos os seguintes pressupostos:

  • Modelos aninhados: O modelo nulo deve ser um caso especial do modelo alternativo, obtido definindo alguns parâmetros para valores fixos (geralmente zero).
  • Condições de regularidade: Os modelos devem satisfazer as condições de regularidade padrão para a estimativa de máxima verossimilhança (MLE): o parâmetro verdadeiro está no interior do espaço do parâmetro, a função de verossimilhança é suave, e a matriz de informação de Fisher esperada é positiva definida. Isto exclui parâmetros de contorno (por exemplo, componentes de variância a zero) onde a distribuição assintótica pode quebrar.
  • Tamanho da amostra: O LRT é um teste assintótico — depende de propriedades de grande amostra. Embora muitas vezes funcione bem com tamanhos de amostra moderados (por exemplo, n > 30 ou n > 50 dependendo da complexidade do modelo), pequenas amostras podem levar a taxas de erro Tipo I infladas. Os métodos de correção (por exemplo, correção Bartlett) existem mas estão além do escopo deste guia.
  • Observações independentes e distribuídas de forma idêntica (i.i.d.): A maioria das formas padrão da LRT assume observações independentes. Para dados agrupados ou séries temporais, versões robustas ou testes alternativos podem ser necessários.

Se esses pressupostos forem violados, a estatística do teste pode não seguir a distribuição do qui-quadrado, e o valor de p pode não ser confiável. Nesses casos, testes de bootstrapping ou de razão de verossimilhança com estimativas robustas de covariância podem ser usados.

Procedimento passo a passo para executar o teste de probabilidade

O procedimento LRT pode ser dividido em etapas claras e reproduzíveis:

Passo 1: Especifique os modelos nulos e alternativos

Defina o modelo mais simples (null, H0) e o modelo mais complexo (alternative, H1). Certifique-se de que eles estão aninhados. Por exemplo, em uma regressão logística prevendo diabetes (sim/não), o modelo nulo pode incluir apenas idade, enquanto o modelo alternativo adiciona IMC e história familiar.

Passo 2: Ajustar ambos os modelos e obter log-lihoods

Use a estimativa de máxima verossimilhança para se ajustar a cada modelo aos dados. log-likehood (o logaritmo natural da função de verossimilhança avaliada no MLE). A maioria dos softwares estatísticos fornece a probabilidade de log diretamente (por exemplo, ] em R, em Stata, ] em modelos de skkit-learn ou stats). A probabilidade de log é sempre negativa ou zero, com valores mais elevados (mais próximos de zero) indicando melhor ajuste.

Passo 3: Calcular a estatística de teste

A estatística LRT é:

D = 2 × (liquidez de log alternativa – Likelihoodnull)

Este valor é sempre não negativo porque o modelo alternativo não pode ter uma probabilidade de log menor do que o nulo (já que contém o nulo como um caso especial). Um grande D indica que o modelo alternativo explica significativamente mais variação nos dados.

Etapa 4: Determinar os Graus de Liberdade

Graus de liberdade (df) igualam a diferença no número de parâmetros livremente estimados entre os dois modelos. Por exemplo, se o modelo nulo tem 3 parâmetros (preditores de intercepto + 2) e a alternativa tem 5 parâmetros (preditores de intercepto + 4), df = 2.

Nota: Quando os parâmetros são restritos (por exemplo, componentes de variância fixados a zero), o cálculo df pode não ser simplesmente a diferença de contagem — problemas de contorno podem causar a distribuição assintótica para ser uma mistura de qui-quadrados.

Passo 5: Calcular o valor de p

Sob a hipótese nula, a estatística de teste D segue uma distribuição qui-quadrado com df igual à diferença nos parâmetros. O valor de p é a probabilidade de observar uma estatística tão extrema quanto D sob essa distribuição. Use uma tabela qui-quadrado ou ferramentas computacionais:

  • Em R:
  • Em Python:
  • Muitos pacotes de software automatizam esta etapa (por exemplo, ] no pacote lmtest de R ou em R para modelos aninhados).

Passo 6: Tome uma decisão

Compare o valor de p com o nível de significância escolhido (comumente α = 0,05). < α, reject the null hypothesis in favor of the alternative model, concluding that the additional parameters provide a statistically significant improvement in fit. If p ≥ α, fail to reject the null, meaning the simpler model is adequate.

Lembre-se: A significância estatística não garante importância prática. Considere tamanhos de efeito e o contexto substantivo.

Exemplo prático: Comparando modelos de regressão linear

Vamos ilustrar o LRT com um exemplo concreto. Suponhamos que temos dados sobre 200 indivíduos com variáveis: rendimentos (dependente, em milhares de dólares), idade (anos), educação (anos de escolaridade), e experiência Queremos testar se a adição de educação e experiência melhora a previsão de renda para além da idade.

Modelos

  • Modelo nulo (M0): rendimento = β0 + β1·idade + ε
  • Modelo alternativo (M1): rendimento = β0 + β1·idade + β2·educação + β3·experiência + ε

Estes modelos estão aninhados: M1 inclui todos os termos de M0 mais dois parâmetros extras (β2 e β3). Os graus de liberdade para o teste = 2.

Ajustamento e Likelihoods

Após a montagem de ambos os modelos usando mínimos quadrados comuns (que sob normalidade produz MLE), nós obtemos:

  • Likelihood log para M0: -602.3
  • Probabilidade de log para M1: -589,7

Nota M1 tem uma maior (menos negativa) log-likelihood, indicando melhor ajuste.

Estatísticas de Teste

D = 2 × (-589,7 – (-602,3) = 2 × 12,6 = 25,2

Cálculo do valor de p

Com 2 graus de liberdade, procuramos a distribuição qui-quadrado: produz p .4 × 10-6. Isto é muito abaixo de 0,05.

Conclusão

Nós rejeitamos o modelo nulo. Adicionando educação e experiência melhora significativamente a previsão de renda. Na prática, um iria então examinar coeficientes individuais, verificar diagnósticos residuais, e possivelmente considerar modelos adicionais (por exemplo, interações).

Execução em R

Para os utilizadores de R, o LRT pode ser realizado utilizando a função do pacote :

]

Isto calcula automaticamente o valor D, df e p. Alternativamente, funciona para modelos lineares aninhados e modelos lineares generalizados.

Interpretando resultados e armadilhas comuns

Para além do valor de p, considere o seguinte ao utilizar a LRT:

Tamanho do efeito e significado prático

Uma TRL altamente significativa pode ocorrer com melhorias triviais se o tamanho da amostra for grande. Examine sempre a magnitude da melhora — por exemplo, o aumento do quadrado R ou diminuição da AIC. Um teste significativo com um efeito negligenciável pode não justificar a complexidade do modelo.

Comparações Múltiplas

Se você estiver testando muitos modelos aninhados sequencialmente (por exemplo, seleção para a frente), o uso repetido de LRT infla erro Tipo I. Use correções como Bonferroni ou use critérios de informação (AIC, BIC) para seleção de modelos. O LRT é melhor para testar uma hipótese específica e pré-planeada.

Questões Limites

Ao testar se um parâmetro de variância é zero (por exemplo, em modelos de efeitos aleatórios), a hipótese nula está na fronteira do espaço do parâmetro. Nesses casos, a estatística de teste segue uma mistura de distribuições qui-quadrado (por exemplo, 50:50 mistura de χ20 e χ21 para uma única variância). Procedimentos especializados são necessários; valores padrão de p LRT são muito conservadores.

Tamanho da Amostra e Assintotica

Para tamanhos de amostra pequenos, a aproximação do qui- quadrado pode ser fraca. Considere usar um bootstrap paramétrico: simular dados sob a distribuição nula, calcular a estatística LRT para cada conjunto de dados simulados e derivar um valor de p empírico. Esta abordagem é mais confiável mas computacionalmente intensiva.

Modelos Não-Névolos

O LRT não pode ser usado para comparar modelos não-nestados (por exemplo, modelo linear vs. modelo cúbico sem aninhamento). Para tais comparações, use AIC, BIC, ou o teste de Vuong. O teste de Cox é outra opção para hipóteses não-nestadas.

Conclusão

O Teste de Razão de Likelihood é um método poderoso e assintótico para comparar modelos aninhados. Ao fornecer um framework estatisticamente rigoroso para decidir se a complexidade adicional é justificada, permite que os pesquisadores construam modelos parcimoniosos, mas precisos. Cobrimos sua base teórica, pressupostos, aplicação passo a passo e um exemplo prático usando regressão. Lembre-se de verificar os pressupostos — especialmente aninhamento, tamanho da amostra e condições de regularidade — e complementar o LRT com medidas de tamanho do efeito e verificações diagnósticas. Quando usado adequadamente, o LRT é uma ferramenta indispensável no arsenal do estatístico para a tomada de decisões orientadas por dados.

Para mais leitura, explore estes recursos externos: