18. Governança, risco e documentação

Decisões sobre modelos precisam ser explicáveis para quem desenvolve, opera, aprova e utiliza o sistema. Governança organiza responsabilidades, evidências e limites ao longo do ciclo. O capítulo apresenta model card, aprovação humana, trilha de auditoria e limites de uso. Esses instrumentos devem orientar decisões reais: documentação vaga ou aprovação sem critérios não substitui avaliação, enquanto controles claros ajudam a reconhecer quando um modelo deve ser atualizado, restringido ou retirado.

A última disciplina leva modelos para a operação. Versionamento, pipelines, implantação, monitoramento, governança e resposta a incidentes formam um ciclo contínuo, do experimento à desativação. Este é o capítulo 18 de 20 da disciplina MLOps e Ciclo de Vida de Modelos. Ele retoma Gatilhos e política de retreinamento e utiliza essa base para avançar. Na sequência, estudaremos Segurança, privacidade e cadeia de suprimentos.

O fio condutor

Ciência de Dados começa com uma pergunta e termina com uma decisão que precisa ser compreendida, avaliada e acompanhada. Entre esses dois pontos, dados são coletados, examinados e transformados; métodos são escolhidos; resultados são validados; e limitações são comunicadas. Nenhuma etapa compensa automaticamente uma falha grave ocorrida na etapa anterior.

Neste capítulo, use Governança, risco e documentação para acompanhar três dimensões: o problema que se deseja resolver, a evidência disponível e o critério usado para avaliar o resultado. Essa separação ajuda a evitar soluções tecnicamente sofisticadas que não respondem à necessidade real.

Model card

Começamos por Model card, pois essa base organiza os conceitos e exemplos que aparecerão no restante do capítulo.

Model card documenta propósito, dados, métricas, limitações e usos.

Uma model card descreve finalidade, população avaliada, dados, métricas, condições de avaliação, limitações e usos pretendidos ou inadequados. Deve distinguir evidências obtidas e hipóteses ainda não verificadas. Resultados por grupos relevantes ajudam a revelar diferenças que uma média esconde. O documento precisa identificar versão e data, pois uma avaliação antiga pode não representar o artefato atual. Não é necessário expor dados pessoais ou segredos para documentar o comportamento. O nível de detalhe deve permitir ao consumidor entender o que a avaliação sustenta.

Aprovação humana

Depois de compreender Model card, passamos a Aprovação humana. A nova seção acrescenta outra etapa ao mesmo raciocínio e mostra como as decisões anteriores influenciam as próximas.

Aprovação humana atribui decisão de promoção a papel autorizado.