11. Máquinas de Vetores de Suporte — SVM

Máquinas de vetores de suporte constroem fronteiras com um compromisso entre margem e erros. Kernels permitem relações não lineares, mas exigem preparação e validação. As questões também comparam árvores e florestas; o capítulo distingue esses mecanismos e suas formas de avaliação para evitar atribuir propriedades de um algoritmo a outro.

Com dados compreendidos e governados, avançamos para preparação, modelagem analítica, aprendizado de máquina e processamento em escala. Os capítulos ligam fundamentos, algoritmos e aplicações. Este é o capítulo 11 de 24 da disciplina Engenharia e Análise de Dados. Ele retoma K-Nearest Neighbors — K-NN e utiliza essa base para avançar. Na sequência, estudaremos Árvores de decisão e Random Forests.

O fio condutor

Ciência de Dados começa com uma pergunta e termina com uma decisão que precisa ser compreendida, avaliada e acompanhada. Entre esses dois pontos, dados são coletados, examinados e transformados; métodos são escolhidos; resultados são validados; e limitações são comunicadas. Nenhuma etapa compensa automaticamente uma falha grave ocorrida na etapa anterior.

Neste capítulo, use Máquinas de Vetores de Suporte — SVM para acompanhar três dimensões: o problema que se deseja resolver, a evidência disponível e o critério usado para avaliar o resultado. Essa separação ajuda a evitar soluções tecnicamente sofisticadas que não respondem à necessidade real.

Fronteira, margem e vetores de suporte

Começamos por Fronteira, margem e vetores de suporte, pois essa base organiza os conceitos e exemplos que aparecerão no restante do capítulo.

Na classificação linear, uma fronteira pode ser representada por w·x+b=0. A margem corresponde à separação em relação às observações relevantes. Vetores de suporte são pontos que determinam a solução e sua margem; muitos pontos suficientemente distantes podem não alterar a fronteira ótima. O método procura um compromisso que favoreça separação e generalização, sem exigir ajustar rigidamente todo exemplo.

Soft margin admite violações, penalizadas por C. C alto dá maior peso às violações e pode produzir uma solução menos regularizada, com margem menor e maior sensibilidade ao treino. C baixo tolera mais violações em troca de regularização maior. Não é correto afirmar que aumentar C sempre amplia margem ou reduz overfitting. A escolha deve ser feita com validação e escala compatível.

Kernels, gamma e representação

Depois de compreender Fronteira, margem e vetores de suporte, passamos a Kernels, gamma e representação. A nova seção acrescenta outra etapa ao mesmo raciocínio e mostra como as decisões anteriores influenciam as próximas.

Um kernel calcula similaridades correspondentes a um espaço de atributos sem precisar construir explicitamente todas as coordenadas desse espaço. Isso permite fronteiras não lineares na representação original. A escolha entre kernel linear, polinomial, RBF ou outro deve considerar dados, custo e hipótese da tarefa, e não uma preferência universal. Nem toda função arbitrária de similaridade possui as propriedades exigidas pela formulação padrão.

No RBF, K(x,z)=exp(−gamma×||x−z||²). Gamma alto reduz o alcance de influência e pode criar fronteiras locais complexas; gamma baixo amplia a influência. C e gamma interagem e precisam de validação conjunta. Escalas diferentes alteram distâncias e margens, portanto padronização pode ser importante. Ajuste o transformador no treino e mantenha o mesmo procedimento na inferência.