03. Ética, governança, regulação e privacidade em IA

A qualidade de uma aplicação de IA não se esgota na taxa de acerto. Também importa saber quem é afetado, quais direitos estão em jogo, que dados são utilizados e quem consegue intervir quando algo dá errado. Governança conecta essas perguntas a responsabilidades e controles durante todo o ciclo de vida. Este capítulo distingue princípios orientadores, instrumentos de gestão de risco e obrigações regulatórias, com os marcos temporais necessários para interpretar as questões.

Depois de compreender o cenário contemporâneo, aprofundamos a inteligência artificial. A sequência parte do funcionamento dos sistemas, avança para os modelos generativos e termina com impactos, riscos e formas de governança. Este é o capítulo 3 de 3 da disciplina Inteligência Artificial: Fundamentos e Aplicações. Ele retoma Modelos generativos, modelos de linguagem e aplicações e amplia a análise do mesmo cenário. Como capítulo final, ele reúne as relações construídas ao longo da disciplina.

Como estudar um tema de atualidades

Atualidades não se resume a memorizar manchetes. Um acontecimento ganha sentido quando é ligado a processos mais longos, atores, interesses, instituições e indicadores. Por isso, cada seção parte de um conceito estável e mostra como ele ajuda a interpretar fatos recentes.

Sempre separe três camadas. A primeira é o conceito, que explica como um fenômeno funciona. A segunda é a evidência, formada por dados, documentos e decisões verificáveis. A terceira é a interpretação, que organiza essas informações e precisa deixar claras suas limitações. Essa separação evita transformar previsão em fato ou opinião em dado.

Princípios e confiança

Começamos por Princípios e confiança, pois essa ideia fornece a base para compreender as demais partes do capítulo.

IA confiável deve ser avaliada em várias dimensões: validade, confiabilidade, segurança, resiliência, transparência, explicabilidade, privacidade e equidade. Um modelo pode acertar bastante e ainda expor dados pessoais; pode ser robusto tecnicamente e produzir consequências injustificáveis para um grupo. A avaliação depende da finalidade e das pessoas afetadas. Nenhuma métrica isolada representa toda a confiança que uma aplicação exige.

Os Princípios de IA da OCDE, adotados em 2019 e atualizados em maio de 2024, orientam uma IA que respeite direitos e valores democráticos. O ponto pedagógico é compreender o papel de um princípio: ele oferece direção para decisões, mas precisa ser convertido em processo. “Ser transparente”, por exemplo, exige definir o que comunicar, a quem, em que momento e com qual grau de compreensão.

Governança distribui responsabilidades: quem autoriza o uso, quem valida os resultados, quem acompanha incidentes e quem pode interromper o sistema. Há tensões legítimas entre atributos. Divulgar detalhes pode ajudar uma auditoria, mas também expor dados ou facilitar abuso; aumentar coleta para medir desigualdade pode exigir novas salvaguardas de privacidade. A resposta responsável identifica e justifica as escolhas, em vez de prometer maximizar tudo sem custo.

Ao reunir essas ideias, observe as relações entre Direitos e democracia, Confiança tem várias dimensões, Princípios viram controles. Elas não descrevem fatos isolados: formam um mecanismo no qual mudanças em uma parte podem produzir efeitos nas demais.

Gestão de riscos com NIST