07. Overfitting, underfitting e trade-off entre viés e variância

Um modelo deve funcionar em novos dados relevantes, e não apenas reproduzir o conjunto em que foi ajustado. Viés e variância ajudam a interpretar diferentes fontes de erro e a escolher intervenções. O capítulo relaciona capacidade, dados e validação sem transformar tendências úteis em regras absolutas.

Com dados compreendidos e governados, avançamos para preparação, modelagem analítica, aprendizado de máquina e processamento em escala. Os capítulos ligam fundamentos, algoritmos e aplicações. Este é o capítulo 7 de 24 da disciplina Engenharia e Análise de Dados. Ele retoma Aprendizado supervisionado, generalização e avaliação e utiliza essa base para avançar. Na sequência, estudaremos Seleção de modelos e validação cruzada.

O fio condutor

Ciência de Dados começa com uma pergunta e termina com uma decisão que precisa ser compreendida, avaliada e acompanhada. Entre esses dois pontos, dados são coletados, examinados e transformados; métodos são escolhidos; resultados são validados; e limitações são comunicadas. Nenhuma etapa compensa automaticamente uma falha grave ocorrida na etapa anterior.

Neste capítulo, use Overfitting, underfitting e trade-off entre viés e variância para acompanhar três dimensões: o problema que se deseja resolver, a evidência disponível e o critério usado para avaliar o resultado. Essa separação ajuda a evitar soluções tecnicamente sofisticadas que não respondem à necessidade real.

Generalização e limites do aprendizado

Começamos por Generalização e limites do aprendizado, pois essa base organiza os conceitos e exemplos que aparecerão no restante do capítulo.

Generalização é o desempenho em dados novos da população ou situação de interesse. Erro de treino mede ajuste aos exemplos já utilizados e não é uma estimativa independente desse desempenho. Memorizar peculiaridades pode reduzir o erro observado e prejudicar previsões futuras. A população e o momento de uso precisam ser definidos, pois um resultado válido em um domínio pode não se transferir a outro.

Na análise clássica sob perda quadrática e hipóteses adequadas, o erro esperado pode ser decomposto em viés ao quadrado, variância e ruído irredutível. Aumentar complexidade pode reduzir viés e elevar variância, mas essa relação é uma orientação, não uma lei monotônica para toda arquitetura moderna. Ruído, tamanho e representatividade da amostra e classe de modelos impõem limites. O objetivo é reduzir erro fora da amostra, não minimizar uma parcela isoladamente.

Viés e underfitting

Depois de compreender Generalização e limites do aprendizado, passamos a Viés e underfitting. A nova seção acrescenta outra etapa ao mesmo raciocínio e mostra como as decisões anteriores influenciam as próximas.

Viés descreve desvio sistemático do estimador em relação à relação que se busca representar, sob a formulação considerada. Não é sinônimo de sensibilidade a pequenas mudanças da amostra, que caracteriza variância. Um modelo excessivamente restrito pode deixar de capturar padrões relevantes mesmo com dados suficientes, apresentando erros altos também no treino.

Underfitting pode decorrer de capacidade insuficiente, atributos inadequados, regularização excessiva ou falha de otimização. Conforme a causa, melhorar representação, aumentar capacidade, reduzir penalização ou corrigir treinamento pode ajudar. Adicionar dados semelhantes não garante resolver uma forma funcional incapaz de representar o sinal. Compare com baselines e inspecione erros para distinguir ausência de sinal e restrição do modelo.