15. Redução de dimensionalidade e PCA

PCA reduz a representação dos dados por combinações lineares que preservam variância. Sua utilidade depende de escala, interpretação e objetivo posterior. O capítulo também relaciona a redução a agrupamento e misturas gaussianas, comparações presentes nas questões, distinguindo qualidade geométrica e significado substantivo.

Com dados compreendidos e governados, avançamos para preparação, modelagem analítica, aprendizado de máquina e processamento em escala. Os capítulos ligam fundamentos, algoritmos e aplicações. Este é o capítulo 15 de 24 da disciplina Engenharia e Análise de Dados. Ele retoma Agrupamento com K-Means e Misturas Gaussianas e utiliza essa base para avançar. Na sequência, estudaremos Método do gradiente, SGD e backpropagation.

O fio condutor

Ciência de Dados começa com uma pergunta e termina com uma decisão que precisa ser compreendida, avaliada e acompanhada. Entre esses dois pontos, dados são coletados, examinados e transformados; métodos são escolhidos; resultados são validados; e limitações são comunicadas. Nenhuma etapa compensa automaticamente uma falha grave ocorrida na etapa anterior.

Neste capítulo, use Redução de dimensionalidade e PCA para acompanhar três dimensões: o problema que se deseja resolver, a evidência disponível e o critério usado para avaliar o resultado. Essa separação ajuda a evitar soluções tecnicamente sofisticadas que não respondem à necessidade real.

Componentes principais e centralização

Começamos por Componentes principais e centralização, pois essa base organiza os conceitos e exemplos que aparecerão no restante do capítulo.

PCA convencional encontra direções ortogonais de máxima variância em combinações lineares dos atributos. O primeiro componente maximiza a variância projetada entre direções unitárias; os seguintes maximizam a variância restante sob ortogonalidade. O alvo não participa desse ajuste. A técnica não escolhe automaticamente as variáveis mais úteis para prever uma classe, pois seu critério é a variação das entradas.

Centralizar subtrai a média de cada atributo para representar variação em torno dela. Sem essa etapa, a posição da origem pode dominar a decomposição em vez da variabilidade pretendida. Componentes são combinações dos atributos e podem dificultar interpretação: não são simplesmente algumas colunas originais selecionadas. Sinais opostos de uma direção representam o mesmo eixo geométrico, com orientação invertida.

Escala e variância explicada

Depois de compreender Componentes principais e centralização, passamos a Escala e variância explicada. A nova seção acrescenta outra etapa ao mesmo raciocínio e mostra como as decisões anteriores influenciam as próximas.

Se atributos possuem unidades muito diferentes, a matriz de covariância pode ser dominada pelos de maior variância numérica. Padronizar antes do PCA equivale a dar outro tratamento às escalas e pode aproximar uma análise baseada em correlações. A escolha depende do significado: não se deve remover automaticamente diferenças de variabilidade que são substantivamente importantes. Centralização e padronização são operações distintas.

A razão de variância explicada indica a parcela da variabilidade capturada por cada componente, e sua soma nos componentes retidos resume a parcela preservada. Alta variância não significa necessariamente sinal útil para um alvo. Ruído, efeitos de lote ou escala podem ocupar direções importantes. Um componente de baixa variância pode conter informação preditiva relevante; avalie o resultado na tarefa posterior.