How to Use Residual Plots to Check Regression Models
Table of Contents
O que são resíduos?
Os resíduos são as diferenças entre os valores observados e os valores previstos pelo seu modelo de regressão. Para cada ponto de dados, o resíduo é calculado como:
Residual = Valor observado − Valor previsto
Num modelo bem ajustado, os resíduos devem ser espalhados aleatoriamente em torno de zero, sem padrão claro. Representam a parte do resultado que o seu modelo não consegue explicar – a variação do "sleft-over" ou "ruído".
Matematicamente, se tiver n observações e seu valor previsto para observação i é □i, em seguida, o residual ei = = yi − □i. Resíduos positivos significam o modelo sub-predito; resíduos negativos significam que ele é sobre-predito.
Entender os resíduos é fundamental porque carregam informações sobre violações de pressupostos de regressão. Ao examinar os resíduos, você pode detectar não linearidade, variâncias de erro desiguais (heterocedasticidade), outliers e pontos de dados influentes. Na prática, nenhum modelo é perfeito, e os resíduos são a principal ferramenta para diagnosticar onde e como seu modelo fica aquém. Por exemplo, em um modelo linear simples que prevê preços de casas, os resíduos podem revelar que o modelo sistematicamente subcota casas maiores, indicando uma interação com imagens quadradas.
Os resíduos também desempenham um papel central na avaliação do ajuste de modelo para além de R2. Um R2 elevado pode levá-lo a complacência, mas um gráfico de resíduos pode expor padrões ocultos que tornam as previsões não confiáveis. Cada cientista de dados deve tratar a análise residual como uma etapa não- negociável após a adaptação de qualquer modelo de regressão.
Por que usar os gráficos residuais?
Gráficos residuais são ferramentas visuais que ajudam você a avaliar se seu modelo satisfaz os principais pressupostos da regressão OLS (mínimo quadrado) ordinária:
- Linearidade – A relação entre preditores e resposta é linear.
- Independência – Os resíduos são independentes uns dos outros (especialmente importantes para dados de séries temporais).
- Homoscedasticidade – A variância dos resíduos é constante em todos os níveis de valores previstos.
- Normalidade dos erros – Os resíduos são distribuídos aproximadamente normalmente (importante para intervalos de confiança e testes de hipóteses).
Um único gráfico residual não pode verificar todas as hipóteses, mas um conjunto de gráficos diagnósticos padrão – resíduos vs. instalados, gráfico Q-Q, gráfico de localização de escala e resíduos vs. alavancagem – dá-lhe uma visão abrangente. Usar esses gráficos no início do processo de modelagem pode poupar horas de análise mal orientada e ajudá-lo a construir modelos mais confiáveis.
Além da verificação de suposições, gráficos residuais também revelam questões práticas, como interações ausentes ou a necessidade de transformações. Muitos profissionais de ciência de dados confiam neles como o primeiro passo após a adaptação de qualquer modelo de regressão. Por exemplo, o gráfico ajustado a resíduos pode alertá-lo para um termo quadrático ausente muito antes de comparar os valores da AIC.
Outra razão para usar gráficos residuais é que eles são robustos para modelar a complexidade. Mesmo em configurações de alta dimensão ou com regressão regularizada, plotar resíduos contra valores ajustados pode destacar viés sistemático que testes numéricos podem falhar. Os resíduos nunca mentem; eles só dizem o que seu modelo não pode explicar.
Criar um Gráfico Residual
A construção de um gráfico residual é simples. Após a montagem de um modelo de regressão, siga estes passos:
- Calcular os valores previstos (o) para cada observação.
- Calcular os resíduos (observados − previstos).
- Escolha o tipo de resíduo que deseja plotar. As opções comuns incluem:
- Resíduos comuns – Diferenças brutas. Fácil de interpretar, mas depende da escala da resposta. São úteis para detectar padrões, mas não para comparar entre modelos com diferentes unidades.
- Resíduos normalizados - Dividido por uma estimativa do seu desvio padrão. Ajuda para detectar outliers (valores & gt;2 ou < - 2 são suspeitos). A normalização coloca resíduos numa escala comum, tornando mais fácil identificar pontos extremos.
- Resíduos (suprimidos) estudantes – Mais robusto para identificar outliers porque cada resíduo é calculado após deixar de fora essa observação. Resíduos Studentized são especialmente poderosos quando você tem alguns outliers potenciais que podem estar puxando a linha de regressão para si mesmos.
- Trace os resíduos no eixo y e os valores previstos (ou, por vezes, a variável independente) no eixo x.
A maioria dos programas estatísticos produz estes gráficos automaticamente. R pode chamar após a montagem de um modelo linear com . Python, usando você pode chamar ou usar a função . Excel, você pode criar um gráfico de dispersão dos resíduos contra os valores previstos manualmente após habilitar o Data Analysis Toolpak.
Ao criar gráficos manualmente, use sempre uma escala consistente para os eixos. Um erro comum é deixar o gráfico ampliar em um conjunto de pontos, ignorando outliers fora da escala; force os limites do eixo para incluir todos os dados. Considere também adicionar uma linha horizontal a zero para enfatizar o espalhamento ideal.
Tipos de Gráficos Residual
Enquanto o gráfico residual mais simples é residual vs. valores ajustados, um diagnóstico completo envolve vários gráficos complementares. Cada gráfico visa uma suposição específica. Abaixo, examinamos os quatro gráficos padrão que devem ser parte de cada análise de regressão.
Resíduos vs. Valores Ajustados
Este é o gráfico diagnóstico mais comum. Verifica a não- linearidade e heterocedasticidade. Idealmente, você deseja que os pontos sejam espalhados aleatoriamente em torno de zero, sem forma sistemática (como uma curva ou um funil). É desejada uma banda horizontal (distribuição constante). Se você vir um U- forma ou invertida- U, o modelo pode estar faltando um termo quadrático ou interação. Se o espalhamento se alarga ou estreita ao longo do eixo x, você provavelmente terá heterocedasticidade.
Exemplo prático: Num modelo que prevê a eficiência do combustível do tamanho do motor, um padrão curvo pode indicar que a eficiência melhora a uma taxa decrescente à medida que o tamanho do motor aumenta. Adicionar um termo quadrático para o tamanho do motor normalmente corrige isto. Da mesma forma, um padrão de funil (difundido aumentando com valores ajustados) é comum em modelos onde a variável resposta tem um limite inferior natural de zero, como custos médicos; uma transformação log da resposta pode ajudar.
Gráfico Q-Q normal
Um gráfico Q-Q (quantile-quantile) compara a distribuição dos seus resíduos com uma distribuição teórica normal. Se os pontos cairem aproximadamente ao longo da linha de referência de 45 graus, a suposição de normalidade se mantém. Desvios nas extremidades indicam caudas pesadas (exteriores) ou inclinação. Este gráfico é especialmente importante quando você planeja usar testes de hipóteses ou intervalos de confiança que dependem da normalidade. Para grandes tamanhos de amostra (n > 100), desvios menores da normalidade são frequentemente aceitáveis devido ao Teorema do Limite Central, mas a inclinação grave pode ainda distorcer intervalos de confiança.
O que procurar: pontos que se desviam acima da linha à direita indicam outliers positivos (resíduos de corte direito); pontos abaixo da linha à esquerda indicam outliers negativos (esquerda). Um S- forma clássico sugere que a distribuição residual tem caudas mais curtas do que o normal, o que é menos problemático do que caudas pesadas.
Gráfico de localização de escala (Spread-Location)
Este gráfico mostra a raiz quadrada dos resíduos absolutos padronizados contra os valores ajustados. Ajuda a detectar a heterocedasticidade mais claramente do que os resíduos vs. parcela ajustada isoladamente. Uma linha horizontal com pontos de dispersão iguais sugere uma variância constante. Uma tendência ascendente ou descendente indica que a variância muda com os valores ajustados. O eixo y ('''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''''
Se você vir uma tendência clara, como o aumento da propagação com valores ajustados maiores, você tem evidência de heterocedasticidade. Isto é comum em modelos onde a resposta é uma contagem (por exemplo, número de defeitos) ou uma variável contínua positiva com uma ampla gama (por exemplo, renda). Peso mínimos quadrados ou transformações estabilizadoras de variância são remédios típicos.
Resíduos vs. Plataforma de Vantagem (Distancia do Cook)
A vantagem mede quanto os valores preditivos de uma observação diferem da média. Pontos de alta-altura podem ter uma influência desproporcional nos coeficientes de regressão. Este gráfico combina alavancagem (eixo x) com resíduos padronizados (eixo y), muitas vezes com contornos que mostram a distância de Cook. Pontos fora dos contornos de distância do Cook (geralmente >1) merecem investigação adicional como outliers influentes.
Nem todos os pontos de alta-avança são problemáticos; se o seu resíduo for pequeno, pode ser inofensivo. O perigo surge quando um ponto tem uma alta alavancagem e um grande resíduo. Tais pontos podem inclinar a linha de regressão dramaticamente. Examine sempre os dados por trás destes pontos – eles podem ser erros de entrada de dados, ou podem ser casos extremos legítimos que exigem uma especificação de modelo diferente (por exemplo, um segmento separado).
Na prática, uma regra rápida de polegar: qualquer ponto com distância de Cook > 1 garante uma olhada próxima. Alguns analistas usam um ponto de corte de 4/n, mas o limite exato é menos importante do que identificar pontos que se destacam dos outros.
Interpretando Gráficos Residual
Interpretar gráficos residuais requer prática. Aqui estão os padrões mais comuns e o que eles indicam:
- Espalhamento aleatório em torno de zero com espalhamento constante – Padrão ideal. O modelo atende às suposições de linearidade e homocedasticidade. Você pode prosseguir com confiança em sua inferência.
- Forma do funil (difundido aumentando ou diminuindo) – Heterocedasticidade. A variância dos erros depende do valor ajustado. Por exemplo, em um modelo que prevê renda, rendimentos mais elevados muitas vezes têm maior variabilidade. Peso mínimos quadrados ou uma transformação log da resposta pode mitigar isso.
- Padrão curvo (por exemplo, U-forma, U invertido) – Não-linearidade. O modelo não consegue captar a verdadeira relação. Tente adicionar termos polinomiais, splines ou preditores de transformação. A direcção da curvatura diz-lhe se o modelo está sistematicamente sob- ou sobre-prevendo em certos intervalos.
- Excedentes distintos longe da linha zero – Possíveis erros de medição ou casos incomuns. Use resíduos estudantes para marcar pontos com valor absoluto > 2. 5 ou 3. Investigue esses casos antes de decidir excluí- los.
- Pontos com alta alavancagem e grandes resíduos – Pontos influentes que podem mudar drasticamente os coeficientes se removidos. Verifique a distância de Cook. Um único ponto influente pode fazer ou quebrar um modelo; regressão robusta é muitas vezes uma boa alternativa para a exclusão.
- Correlação em série em resíduos (por exemplo, padrão alternado) – Para dados de séries temporais, isso sugere autocorrelação; considere adicionar variáveis defasadas ou usar modelos autorregressivos. Um teste de Durbin-Watson pode quantificar a correlação.
- Aglomerados ou lacunas nos resíduos – Indica que o modelo não possui um agrupamento categórico. Considere adicionar uma variável fatorial para esse grupo ou usar um modelo misto. Por exemplo, resíduos agrupados por sujeito em um estudo de medidas repetidas sugerem a necessidade de efeitos aleatórios.
Sempre verifique os padrões ao olhar para múltiplos gráficos juntos. Um gráfico pode sugerir um problema que outro gráfico refuta. Por exemplo, alguns outliers no gráfico Q-Q podem causar uma forma de funil nos resíduos vs. enredo ajustado simplesmente por causa de sua magnitude. Da mesma forma, heterocedasticidade pode produzir um padrão falso curvado se a variância aumenta acentuadamente com a média. O cruzamento protege contra a sobre-interpretação.
Problemas e soluções comuns
Quando os gráficos residuais revelam violações, você tem várias opções corretivas. Abaixo detalhamos soluções para os problemas mais frequentes, encomendados de correções simples para técnicas mais avançadas.
Não- Linearidade
Se você vir um padrão curvo, considere:
- Adição de termos polinomiais (por exemplo, x2 ou x3) ou termos de interação entre preditores numéricos. Comece com um termo quadrático - muitas vezes captura as formas mais comuns de curvatura.
- Transformando a variável resposta (por exemplo, log, raiz quadrada, Box-Cox) para linearizar a relação. As transformadas de log são especialmente eficazes quando a relação é multiplicativa.
- Mudar para um modelo não-linear como modelos aditivos generalizados (GAMs) ou usando splines (splines cúbicos naturais, B-splines) para permitir ajustes flexíveis sem especificar a forma exata.
- Usando o conhecimento de domínio para sugerir uma forma não-linear específica (por exemplo, crescimento exponencial, diminuição de retornos). Às vezes, uma simples função teórica se encaixa melhor do que um polinômio.
Heterocedasticidade
Quando a variância não é constante, você pode:
- Utilização menos quadrados ponderados para dar menos peso às observações com maior variância. Os pesos são geralmente inversos à variância estimada em cada valor ajustado.
- Aplicar a transformação estabilizadora de variância à resposta (por exemplo, log para erro multiplicativo, raiz quadrada para contagem tipo Poisson, arcsina para proporções). A família Box-Cox pode orientar a escolha.
- Calcula erros padrão consistentes com heterocedasticidade (HCSE, também chamados de erros padrão robustos) para obter inferência válida sem fixar a variância. Esta é uma correção rápida se o seu interesse primário é em testar hipóteses em vez de intervalos de previsão.
- Se você estiver usando um modelo linear com uma distribuição de erro não-normal, considere um modelo linear generalizado (GLM) com uma família apropriada (por exemplo, Gama para heterocedasticidade proporcional à média).
Ausências e Pontos Influentes
Para os apagões:
- Investigar a fonte: É um erro de entrada de dados? Se assim for, corrija ou remova- a. Se o outlier reflete um evento real, mas raro, decida se deve ser modelado separadamente.
- Use métodos de regressão robustos que baixam os valores de outliers (por exemplo, Huber ou M-estimation). Estes métodos reduzem automaticamente a influência de resíduos extremos enquanto ainda usando todos os dados.
- Considere a influência através da distância de Cook; remova pontos com distância > 1 e re-fit. Alternativamente, use DFBETAS ou DFFITS para ver quanto cada coeficiente muda.
- Aplicar uma transformação log ou Box-Cox para puxar valores extremos. Isso muitas vezes torna os outliers menos influentes sem descartar dados.
Não- Normalidade
Quando os resíduos se desviam da normalidade:
- Aumentar o tamanho da amostra – o Teorema do Limite Central ajuda com inferência em grandes amostras. Com n > 200, mesmo resíduos não normais muitas vezes produzem intervalos de confiança confiáveis.
- Transformar a variável resposta para atingir a simetria. A transformação Box-Cox pode sugerir um parâmetro de potência que torna os resíduos mais normais.
- O bootstrapping não assume normalidade e funciona bem mesmo com resíduos torcidos, desde que a amostra seja representativa.
- Mudar para um método de regressão não paramétrica (por exemplo, florestas aleatórias, regressão quantil) se a normalidade é crítica para seus objetivos de inferência.
Correlação em série
Para dados de séries temporais, a autocorrelação residual viola a suposição de independência. As soluções incluem:
- Adicionando termos defasados da resposta ou preditores como novos recursos.
- Usando modelos de média móvel integrada autorregressiva (ARIMA) em vez de OLS.
- Empregando mínimos quadrados generalizados (GLS) com uma estrutura de correlação especificada (por exemplo, AR(1)).
- Diferenciando os dados para remover tendência e sazonalidade antes de modelar.
Implementação de Software
A implementação de gráficos residuais é simples na maioria dos ambientes estatísticos. Aqui estão guias rápidos para ferramentas comuns:
- R: Use que produz quatro gráficos padrão. Para mais controle, com do pacote dá-lhe personalização completa. Você também pode usar o pacote para diagnósticos interativos.
- Python: ] fornece a função e . Com , você deve calcular resíduos manualmente e plotar com . A biblioteca automatiza gráficos residuais e torna fácil gerar gráficos diagnósticos.
- SPSS: Após executar a Regressão Linear, verifique o botão "Plotas" na janela Salvar. Selecione ZRESID (resíduos padronizados) contra ZPRED (valores previstos padronizados). Você também pode solicitar um histograma e gráfico de probabilidade normal.
- Excel: Active o complemento do Analysis Toolpak. Correr Regressão, verificar "Resíduos" e "Plots Residual". Você irá obter um gráfico de dispersão de resíduos vs. valores previstos. Para gráficos avançados, você pode criar manualmente um gráfico Q-Q usando a função NORM.S.INV.
- - Não. Use para um objeto de modelo linear . A função oferece opções para gráficos 'fitted', 'laged' e 'probability'.
- SAS: Em , especifique para obter um painel de parcelas residuais. Alternativamente, use e então para controle total.
Independentemente do software, sempre inspecione os gráficos com um olho crítico. Algoritmos podem produzir gráficos, mas só você pode interpretá-los no contexto de seus dados e perguntas de pesquisa.
Conclusão
Os gráficos residuais são indispensáveis para validar modelos de regressão. Eles fornecem feedback visual rápido sobre se os pressupostos principais do seu modelo se mantêm. Ao aprender a identificar padrões comuns – dispersão aleatória, funis, curvas, outliers – você pode diagnosticar problemas precocemente e tomar medidas corretivas. Verificar regularmente os gráficos residuais deve ser uma parte padrão de qualquer fluxo de trabalho de análise de regressão, levando a resultados mais precisos e confiáveis.
A análise residual não é um passo único; revisite as suas tramas sempre que modificar o modelo ou adicionar novos dados. Ao longo do tempo, você desenvolverá uma intuição para reconhecer questões sutis que os resumos numéricos não conseguem. Os poucos minutos que se passam a examinar resíduos podem poupar dias de busca de descobertas espúrias ou conclusões incorretas.
Para mais informações, consultar recursos de autoridade, tais como Notas de curso do Penn State STAT 501, Grupo de Consultoria Estatística da UCLA, ou o texto clássico Modelos estatísticos lineares aplicados Para orientação prática sobre diagnósticos residuais em séries temporais, ver Previsão: Princípios e Prática por Hyndman e Athanasopoulos. Os cientistas de dados modernos também se beneficiam do documentação scikit-learn sobre diagnósticos de regressão linearFinalmente, a Guia da Biblioteca da Universidade de Virgínia para gráficos diagnósticos oferece exemplos claros com o código R. Faça dos gráficos residuais um hábito, e seus modelos irão agradecer.