04. Metadados, linhagem e proveniência

Quando uma fonte contém erro, é necessário descobrir quais atributos, treinos e modelos foram afetados. Quando uma previsão falha, precisamos reconstruir o caminho percorrido pela requisição. Metadados, linhagem, proveniência e identificadores de correlação atendem a essas perguntas em escalas diferentes. Este capítulo relaciona os registros do desenvolvimento aos da operação, mostrando como construir rastreabilidade útil sem transformar logs em cópias indiscriminadas de dados sensíveis.

A última disciplina leva modelos para a operação. Versionamento, pipelines, implantação, monitoramento, governança e resposta a incidentes formam um ciclo contínuo, do experimento à desativação. Este é o capítulo 4 de 20 da disciplina MLOps e Ciclo de Vida de Modelos. Ele retoma Rastreamento de experimentos e utiliza essa base para avançar. Na sequência, estudaremos Engenharia de atributos e feature store.

O fio condutor

Ciência de Dados começa com uma pergunta e termina com uma decisão que precisa ser compreendida, avaliada e acompanhada. Entre esses dois pontos, dados são coletados, examinados e transformados; métodos são escolhidos; resultados são validados; e limitações são comunicadas. Nenhuma etapa compensa automaticamente uma falha grave ocorrida na etapa anterior.

Neste capítulo, use Metadados, linhagem e proveniência para acompanhar três dimensões: o problema que se deseja resolver, a evidência disponível e o critério usado para avaliar o resultado. Essa separação ajuda a evitar soluções tecnicamente sofisticadas que não respondem à necessidade real.

Linhagem

Começamos por Linhagem, pois essa base organiza os conceitos e exemplos que aparecerão no restante do capítulo.

Linhagem de ML liga modelo às transformações, dados, código e execução.

Linhagem conecta entidades e transformações: uma fonte alimenta um conjunto preparado, que entra em uma execução, que produz um modelo e uma versão implantada. A navegação pode ser retrospectiva, para explicar de onde veio um artefato, ou prospectiva, para descobrir impactos de uma fonte defeituosa. Um diagrama desenhado manualmente pode ficar desatualizado; capture vínculos durante as execuções quando possível. A linhagem precisa identificar versões concretas, pois relacionar apenas nomes de tabelas e modelos não distingue estados que mudaram ao longo do tempo.

Metadados

Depois de compreender Linhagem, passamos a Metadados. A nova seção acrescenta outra etapa ao mesmo raciocínio e mostra como as decisões anteriores influenciam as próximas.

Metadado de execução registra tempo, identidade, parâmetros, recursos e status.