11. Misturas gaussianas e algoritmo EM

Uma mistura gaussiana descreve a distribuição dos dados como uma combinação de componentes probabilísticos. Em vez de apenas indicar o centro mais próximo, ela permite calcular graus de pertencimento e representar grupos com dispersões distintas. Essa flexibilidade exige cuidado com o número de componentes, a estrutura de covariância e a interpretação das probabilidades. O capítulo relaciona o modelo de densidade, as responsabilidades, as etapas do algoritmo EM e o uso do BIC para comparar alternativas.

A disciplina aprofunda situações em que não existe um rótulo pronto. Distâncias, agrupamentos, redução de dimensionalidade e métricas são estudados como partes de uma única investigação. Este é o capítulo 11 de 20 da disciplina Aprendizado Não Supervisionado e Avaliação de Agrupamentos. Ele retoma DBSCAN e agrupamento por densidade e utiliza essa base para avançar. Na sequência, estudaremos PCA: fundamentos.

O fio condutor

Ciência de Dados começa com uma pergunta e termina com uma decisão que precisa ser compreendida, avaliada e acompanhada. Entre esses dois pontos, dados são coletados, examinados e transformados; métodos são escolhidos; resultados são validados; e limitações são comunicadas. Nenhuma etapa compensa automaticamente uma falha grave ocorrida na etapa anterior.

Neste capítulo, use Misturas gaussianas e algoritmo EM para acompanhar três dimensões: o problema que se deseja resolver, a evidência disponível e o critério usado para avaliar o resultado. Essa separação ajuda a evitar soluções tecnicamente sofisticadas que não respondem à necessidade real.

Mistura

Começamos por Mistura, pois essa base organiza os conceitos e exemplos que aparecerão no restante do capítulo.

Modelo de mistura gaussiana representa a densidade como combinação ponderada de componentes normais.

A densidade é p(x) = Σⱼ πⱼ N(x | μⱼ, Σⱼ), com pesos πⱼ não negativos que somam 1, médias μⱼ e matrizes de covariância Σⱼ. Uma covariância completa permite correlações e orientações diferentes; uma diagonal restringe correlações dentro do componente; uma esférica usa a mesma dispersão em todas as direções de cada componente. Essas escolhas alteram flexibilidade e quantidade de parâmetros. Um componente é parte de uma aproximação estatística da densidade, não necessariamente uma classe substantiva ou um mecanismo causal real.

Responsabilidade

Depois de compreender Mistura, passamos a Responsabilidade. A nova seção acrescenta outra etapa ao mesmo raciocínio e mostra como as decisões anteriores influenciam as próximas.

Responsabilidade é a probabilidade posterior de um componente para uma observação.