Governança de IA: pilares, framework e agentes na indústria

Você já tem automações rodando ou está prestes a aprovar as primeiras, e a pergunta que chega do conselho, do jurídico ou do cliente não é sobre tecnologia: é sobre quem responde quando a saída da IA sai errada. Muitas indústrias chegam a esse ponto sem registro de decisão, sem dono definido e sem critério de validação. Este guia trata de governança de IA aplicada à operação industrial: pilares, níveis de maturidade, framework, regulação, agentes que agem em sistemas e como medir se a estrutura funciona.

O que é governança de IA e o que ela resolve na prática

Governança de IA é o conjunto de políticas, papéis, processos e controles que define como uma empresa compra, desenvolve, usa e monitora sistemas de inteligência artificial. Na prática, ela responde a três perguntas sobre cada sistema: o que ele decide, quem responde por ele e como se prova que está funcionando.

Sem essa estrutura, a empresa opera no improviso. Cada área usa uma ferramenta diferente, com critério próprio, e ninguém consegue reconstruir por que um pedido foi recusado, uma peça foi codificada com parâmetro errado ou um certificado de fornecedor foi aprovado. A governança resolve quatro problemas recorrentes:

• Decisão não rastreável: quando algo dá errado, não há registro de entrada, saída e regra aplicada.
• Responsabilidade fragmentada: TI, jurídico, operação e compliance acham que o outro está cuidando.
• Exposição regulatória: leis já exigem explicação e revisão de decisões automatizadas.
• Retrabalho e incidentes evitáveis: o erro aparece meses depois, quando o sistema já está em produção.

É aqui que entra a relação entre compliance e IA. Compliance verifica se a empresa cumpre leis, normas e contratos. A governança de IA cria o mecanismo que torna esse cumprimento possível no dia a dia: inventário, dono, trilha de auditoria, revisão humana. Sem governança, o compliance só descobre o problema na auditoria; com ela, o controle já está embutido no processo.

Vale separar também governança de IA de IA responsável. IA responsável é o conjunto de valores que a empresa declara, como justiça, privacidade e supervisão humana. Governança é o aparato que transforma esses valores em regra executável, papel definido e consequência para o descumprimento. Publicar um código de ética resolve a comunicação, não o risco.

Por que governar IA virou pauta de conselho

Durante anos, a IA ficou confinada a departamentos técnicos. Isso mudou quando ela saiu do backoffice e passou a tocar decisões com efeito financeiro, contratual e trabalhista. Quando um sistema define prioridade de manutenção, valida o certificado de um fornecedor ou codifica uma peça que vai para o cliente, o erro deixa de ser falha de sistema e vira problema de negócio.

Há ainda a pressão de mercado. Clientes multinacionais, seguradoras e auditorias começam a perguntar como a empresa governa seus sistemas automatizados, e quem fornece para cadeias globais sente isso primeiro, em questionários de due diligence e cláusulas contratuais. Sem resposta documentada, a conversa trava. Por isso o tema chegou ao conselho: governança de IA é gestão de risco estratégico, e o conselho precisa saber quais sistemas rodam, com quais dados e sob qual responsabilidade antes de aprovar o próximo orçamento.

Os pilares da governança de IA

Não existe uma lista oficial e única de pilares. O que existe é convergência entre as principais referências. Os princípios da OCDE, adotados em 2019 e atualizados em 2024, incluem transparência e explicabilidade, robustez e segurança, e responsabilização. Quando alguém pergunta pelos "3 pilares", normalmente a resposta é esta tríade de princípios:

1. Transparência e explicabilidade: qualquer pessoa afetada consegue entender quais dados foram usados e qual lógica orientou o resultado. Em uma automação que lê pedidos e lança dados no ERP, transparência é registrar qual campo do documento alimentou qual campo do sistema; explicabilidade é conseguir apontar por que um pedido virou exceção.
2. Equidade e tratamento de vieses: o modelo não pode errar sistematicamente mais para um grupo, região ou tipo de caso. Na indústria, o viés aparece de forma menos óbvia: um configurador treinado só com pedidos de uma região pode errar mais nas especificações típicas de outra.
3. Responsabilização: alguém com nome responde por cada sistema em produção, com revisor, canal de contestação e data de reavaliação.

Quando a pergunta é pelos "5 pilares", a resposta costuma ser organizacional, olhando para quem faz o quê dentro da empresa:

• Organização e papéis: comitê, donos de sistema, revisores e alinhamento com a estratégia.
• Conformidade legal e regulatória: mapeamento das leis aplicáveis e de como cada sistema as cumpre.
• Ética e transparência: princípios, explicabilidade e supervisão humana traduzidos em controle.
• Dados e operação: qualidade, origem e ciclo de vida dos dados e dos modelos ou regras.
• Segurança: proteção contra vazamento, manipulação de instruções e acesso indevido.

As duas visões não competem. A tríade diz o que não pode ser negociado; os cinco pilares dizem onde, na estrutura da empresa, cada exigência vai morar.

Níveis de maturidade: informal, ad hoc e formal

Antes de desenhar qualquer estrutura, vale saber onde a empresa está. Uma forma simples de classificar a maturidade separa três níveis.

Governança informal

Existem valores e alguma boa intenção, talvez uma conversa no comitê de ética, mas nenhuma regra escrita sobre IA. Cada gestor decide o que usar. É o estágio da maioria das empresas que começaram com assistentes de texto e planilhas, e funciona até a primeira automação tocar um sistema de registro.

Governança ad hoc

As regras nascem como resposta a problemas pontuais: depois de um vazamento, surge uma política sobre quais dados não colar em ferramentas externas; depois de um erro de lançamento, surge uma conferência obrigatória. É um avanço, mas a cobertura é desigual. Os controles existem onde já doeu, não onde o risco é maior.

Governança formal

Há um framework abrangente, com inventário, classificação de risco, papéis definidos, revisão periódica e alinhamento com a legislação. Os controles são proporcionais ao risco de cada caso de uso, e a empresa consegue mostrar a um auditor o que cada sistema faz e quem responde por ele. É o nível que clientes exigentes e reguladores esperam encontrar.

A passagem de um nível para outro não depende de comprar uma plataforma. Depende de inventariar o que existe, classificar o risco e nomear responsáveis, nessa ordem.

Framework de governança de IA: como estruturar na indústria

Um framework de governança de IA conecta o princípio ao controle, o controle ao responsável e o responsável a uma métrica. Não é preciso inventar do zero. O NIST AI RMF, publicado em janeiro de 2023, organiza o trabalho em quatro funções (governar, mapear, medir e gerenciar), e a norma ISO/IEC 42001, de dezembro de 2023, especifica requisitos para um sistema de gestão de IA certificável. Ambos servem de esqueleto; o que muda de empresa para empresa é o conteúdo de cada camada.

Três camadas: estratégia, política e operação

A camada estratégica define apetite a risco, prioridades e o que a empresa não fará com IA. A camada de política traduz isso em regras por tipo de uso: o que pode rodar com autonomia, o que exige revisão, que dados nunca saem da empresa. A camada operacional executa os controles no dia a dia. Quem pula direto para a operação cria controles sem critério; quem fica só na estratégia cria intenção sem execução.

Papéis: quem responde pelo quê

• Comitê de governança: operação, jurídico, compliance e TI; aprova casos de alto risco, define apetite a risco e revisa incidentes.
• Dono do sistema: responde por desempenho, documentação e incidentes de cada sistema em produção.
• Revisor de saída: confere amostras e autoriza a liberação em produção.
• Auditoria interna: verifica se os controles seguem a política.

Em operações menores, os papéis se acumulam, mas não desaparecem. O diretor de operações pode ser dono do sistema e membro do comitê, desde que quem aprova não seja o mesmo que audita.

Inventário e classificação de risco por caso de uso

Não se governa o que não se conhece. O inventário registra, para cada sistema em uso ou em teste, finalidade, fonte de dados, fornecedor, versão, dono e status. Inclua as automações que as equipes montaram por conta própria: costumam ser as que ninguém listou. Em seguida, cada caso de uso recebe uma classificação de risco, que define o peso do controle. A tabela abaixo é um ponto de partida para a indústria.

Risco do caso de uso	Exemplo na indústria	Controles mínimos
Baixo	Rascunho de e-mail interno, resumo de reunião, pesquisa de referência técnica	Política de dados que não podem ser colados em ferramenta externa; revisão de quem usa
Médio	Leitura de pedido em PDF para planilha de conferência; padronização de reclamações de qualidade para Pareto	Dono nomeado, amostragem periódica da saída, registro de entrada e saída, taxa de correção manual monitorada
Alto	Codificar peça que vai para produção; validar certificado de fornecedor; lançar dados no ERP; enviar documento a portal do governo	Teste caso a caso antes da produção, revisão humana nas exceções, trilha de auditoria por execução, plano de reversão, aprovação do comitê
Crítico (afeta pessoas)	Triagem de candidatos, avaliação de desempenho, pontuação que restringe crédito ou contrato de pessoa física	Base legal, explicação dos critérios, canal de revisão da decisão, teste de viés por grupo, revisão jurídica antes de ligar

Documentação, testes e monitoramento contínuo

Documentação mínima por sistema inclui finalidade, dados usados, versão do modelo ou das regras, limites conhecidos e o registro da decisão de liberação. Os testes precisam cobrir casos de borda, entradas ambíguas e cenários de falha, não só o acerto médio. O monitoramento acompanha a deriva de desempenho e, principalmente, a taxa de correção manual: um sistema de leitura de documentos que começa a receber formatos novos de fornecedores degrada em silêncio, e essa taxa é o primeiro sinal. Com alerta de limite, a degradação vira ação antes de virar prejuízo.

Regulação: o que a lei já exige e o que vem por aí

O ambiente regulatório deixou de ser promessa distante. No Brasil, há uma lei em vigor que já alcança decisões automatizadas e um marco específico em discussão. Na Europa, a regra já vale e alcança quem fornece para o bloco.

LGPD: revisão de decisões automatizadas

A LGPD, no seu artigo 20, garante ao titular o direito de pedir a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluindo as que definem perfil profissional, de consumo e de crédito. O mesmo artigo obriga o controlador a fornecer, quando solicitado, informações claras sobre os critérios e procedimentos usados, ressalvados os segredos comercial e industrial.

Na indústria, o ponto de contato mais comum são dados de funcionários, representantes e clientes pessoa física. Um sistema que avalia desempenho ou prioriza atendimento com base em dados pessoais precisa conseguir explicar seus critérios e ter um caminho de revisão. Isso já é obrigação hoje, independentemente de lei específica de IA.

PL 2338/2023, o marco da IA no Brasil

O PL 2338/2023 propõe regras gerais para desenvolvimento e uso de IA no país, com abordagem baseada em risco. Segundo a ficha do Senado, o texto foi aprovado no plenário em dezembro de 2024 e remetido à Câmara em março de 2025. Pela tramitação na Câmara, o projeto segue na comissão especial, acumulando projetos apensados, sem votação em plenário até setembro de 2026. O texto ainda pode mudar, mas a direção é clara: classificação por risco, avaliação de impacto e supervisão humana nos usos de alto risco. Quem já organiza inventário e classificação sai na frente, seja qual for a redação final.

AI Act europeu e referências internacionais

O Regulamento (UE) 2024/1689, conhecido como AI Act, entrou em vigor em agosto de 2024. Segundo a Comissão Europeia, ele separa os sistemas em risco inaceitável (proibidos), alto risco (com exigências de gestão de risco, qualidade de dados, registro, documentação e supervisão humana), risco de transparência e risco mínimo. As proibições valem desde fevereiro de 2025, e as obrigações para alto risco foram adiadas para dezembro de 2027 e agosto de 2028, conforme a categoria. Empresas brasileiras que fornecem para a Europa podem ser alcançadas, e as exigências tendem a chegar antes por contrato do que por lei.

Governança de IA generativa: riscos que os controles antigos não cobrem

Os controles clássicos foram desenhados para sistemas determinísticos, em que a mesma entrada produz a mesma saída. A IA generativa quebra esse pressuposto: a saída varia entre execuções e pode parecer correta sem estar. Quatro riscos pedem controle próprio:

• Alucinação: o modelo inventa um valor plausível que não existe no documento original. Controle: conferência contra a fonte antes de qualquer gravação em sistema de registro.
• Vazamento de dados: informação confidencial colada em ferramenta externa. Controle: política clara de dados proibidos e contas corporativas com isolamento.
• Injeção de instrução: um documento recebido traz texto que tenta mudar o comportamento do modelo. Controle: tratar todo conteúdo externo como dado, nunca como ordem.
• Variabilidade: a mesma pergunta gera respostas diferentes. Controle: registrar versão de instrução e de modelo, e testar com um conjunto fixo de casos.

Uma decisão de arquitetura reduz boa parte desses riscos: deixar a IA ler o texto e entregar a conta e a decisão final para o sistema ou para uma regra escrita. Assim, a parte probabilística fica onde o erro é conferível.

Governança de identidade para agentes de IA

Agentes de IA são sistemas que não só respondem, mas agem: abrem um portal, preenchem um formulário, lançam um pedido no ERP, enviam um e-mail. Quando um agente age, a primeira pergunta de governança é a mesma que se faz para uma pessoa: com qual credencial ele entrou e o que ele pode fazer. A governança de identidade para agentes de IA aplica ao agente as regras que a empresa já aplica a funcionários e sistemas.

• Identidade própria por agente: cada agente tem seu usuário e sua credencial, nunca a senha emprestada de um analista. Se o agente entra como "joao.silva", o log mostra que João fez algo que não fez.
• Menor privilégio: o agente recebe só as permissões da tarefa. Um agente que consulta status de pedido não precisa de permissão para aprovar pagamento.
• Acesso individual e segregado: um agente por função, com escopo separado, em vez de um "superagente" com acesso a tudo.
• Trilha de auditoria: cada ação registrada com data, sistema, dado de entrada e resultado, de forma que alguém consiga reconstruir o que o agente fez sem perguntar a ninguém.
• Revogação imediata: desligar o agente precisa ser tão simples quanto bloquear um usuário, sem depender de quem o construiu.
• Credenciais guardadas fora do código: senhas e chaves em cofre, com rotação periódica, nunca em planilha ou mensagem.

Na prática, o caminho mais curto é envolver a área que já administra acessos na empresa. Ela sabe criar usuários técnicos, aplicar perfis de permissão e revisar acessos periodicamente; o agente entra nesse processo como mais um usuário, com dono nomeado. Para atendimento ao cliente, onde o agente conversa com pessoas de fora, o cuidado com escopo é ainda maior, como mostramos no guia de agente de IA para atendimento.

Melhores práticas de governança de IA agentic

Identidade resolve quem é o agente. As melhores práticas de governança de IA agentic resolvem até onde ele pode ir sozinho. Um agente erra de um jeito diferente de um relatório: o erro já foi executado quando alguém percebe. Por isso o controle precisa estar antes da ação, não depois.

1. Defina limites de ação por escrito: o que o agente pode fazer sozinho, o que ele só sugere e o que nunca faz. Valores acima de um teto, clientes novos e alterações de cadastro são bons candidatos a "só sugere".
2. Coloque humano no loop onde o erro é caro: aprovação antes de enviar a portal do governo, antes de faturar ou antes de alterar dado mestre. Nas tarefas de baixo risco, revisão por amostragem basta.
3. Registre cada passo: não só o resultado final, mas a sequência de ações, telas acessadas e dados usados. Sem esse log, um incidente vira investigação de dias.
4. Teste antes de produção com casos reais: rode o agente em paralelo à equipe, compare as respostas caso a caso e só libere quando a divergência estiver explicada.
5. Ligue em etapas: primeiro em ambiente de teste, depois em produção com volume limitado, depois em escala. Cada etapa com critério de passagem.
6. Tenha um botão de parada: pausar o agente e reverter as últimas ações precisa ser um procedimento conhecido, não improviso.
7. Revise quando o sistema muda: agentes que operam a tela de um sistema quebram quando o layout muda. Toda atualização do sistema-alvo dispara um novo teste.

Como isso aparece na prática: testar antes de qualquer tela

No trabalho do Studio Artemis em indústria, uma regra de método resolve boa parte da governança antes de ela virar burocracia: antes de qualquer tela, uma planilha comparando caso a caso a resposta da equipe e a da IA. Cada linha é um caso real; uma coluna traz o que a equipe decidiu, outra o que a IA decidiu, e as divergências são discutidas uma a uma. Essa planilha vira, ao mesmo tempo, teste de aceitação, documentação dos limites e registro de liberação.

Às vezes o resultado do teste é decidir que a IA não deve decidir. Em um projeto de logística para uma multinacional de alimentos, uma pessoa recalculava à mão, duas vezes por dia, o fechamento de cada rota. O diagnóstico encontrou uma regra que não estava escrita em lugar nenhum: carga direta acima de 12 toneladas, fracionada abaixo. A entrega foi feita sem nenhum modelo de IA rodando na operação, por decisão de arquitetura: a IA escreveu e testou o sistema, e quem decide é uma regra escrita e auditável. Do ponto de vista de governança, é o cenário mais simples de defender, porque toda decisão pode ser explicada em uma linha. Mais sobre como esse tipo de projeto é conduzido está no guia de consultoria em IA para indústrias.

Indicadores para medir se a governança está funcionando

Governança sem métrica vira teatro de compliance: documentos existem, reuniões acontecem, mas ninguém sabe se o risco está sob controle. Os indicadores precisam medir cobertura, eficácia dos controles e impacto na operação.

1. Cobertura de inventário: sistemas mapeados sobre sistemas em uso. Dez automações rodando e três no inventário é risco oculto.
2. Classificação concluída: sistemas com risco classificado e dono nomeado sobre o total.
3. Taxa de correção manual: saídas corrigidas por humano sobre o total. Subiu, algo mudou.
4. Tempo de detecção e de correção: intervalo entre a falha, a identificação e a solução.
5. Acessos de agentes revisados: agentes com credencial própria e permissões revisadas no período.

A taxa de correção manual merece atenção especial. Quando uma automação de preenchimento de ERP exige intervenção constante, ou o sistema foi mal calibrado ou a regra de negócio mudou e ninguém atualizou. A governança funciona quando essa taxa dispara uma revisão, não quando o humano vira muleta permanente. Esse mesmo número entra na conta de retorno da automação, como detalhamos no texto sobre ROI de automação.

Erros comuns na implantação e como evitá-los

• Começar pela ferramenta: comprar uma plataforma antes de saber quais sistemas existem gera controles genéricos. Inverta: inventário, classificação, controles.
• Concentrar em uma área: política escrita só por TI ou só por compliance ignora como o trabalho acontece. Quem executa a tarefa conhece as regras não escritas e os desvios tolerados.
• Documentar sem monitorar: papel não previne incidente; métrica com alerta, sim.
• Emprestar credencial ao agente: apaga a trilha de auditoria e torna a revogação impossível sem afetar uma pessoa.
• Controle uniforme para tudo: o mesmo rito para um resumo de reunião e para um lançamento no ERP empurra a operação para a informalidade. O peso do controle acompanha o risco.

Primeiros passos para colocar a governança em movimento

O roteiro inicial pede sequência: conhecer o que existe, classificar o que importa, definir quem responde e só então detalhar controles.

1. Inventariar todos os sistemas de IA, automações e agentes em uso ou em teste, incluindo os criados pelas equipes.
2. Classificar cada caso de uso por risco, usando uma tabela como a deste guia.
3. Nomear dono e revisor para cada sistema de risco médio, alto ou crítico.
4. Dar identidade própria e permissões mínimas a cada agente que age em sistemas.
5. Testar caso a caso contra a resposta da equipe antes de qualquer liberação.
6. Definir a métrica mínima de monitoramento, começando pela taxa de correção manual.
7. Instituir revisão periódica do comitê para incidentes, novos casos e mudanças na lei.

O custo de um programa assim depende do número de sistemas, do rigor do setor e do volume de revisão humana exigido. Para quem tem poucas automações, é sobretudo tempo de pessoas. Não espere o framework perfeito para começar: a maturidade vem da repetição dos ciclos de revisão, não do tamanho do documento inicial.

Perguntas frequentes

O que é governança de IA?

Governança de IA é o conjunto de políticas, papéis, processos e controles que define como uma empresa adota, usa e monitora sistemas de inteligência artificial com segurança e dentro da lei. Ela determina quem aprova cada uso, quais dados podem ser usados, como a saída é conferida e quem responde quando algo dá errado. Não é um software nem um documento único: é a rotina que mantém cada sistema com dono, registro e critério de revisão ao longo do tempo.

Quais são os pilares da governança de IA?

Os três pilares mais citados são transparência, equidade e responsabilização: entender como o sistema decide, evitar erros sistemáticos contra grupos ou casos e ter alguém que responda por ele. Visões mais operacionais falam em cinco pilares, somando organização e papéis, conformidade legal, ética, dados e operação, e segurança. As listas variam entre autores, mas convergem no essencial: rastreabilidade, supervisão humana proporcional ao risco e proteção dos dados usados pelo sistema.

Qual a diferença entre governança de IA e governança de dados?

Governança de dados cuida da qualidade, da origem, do acesso e do ciclo de vida das informações da empresa. Governança de IA usa essa base, mas vai além: trata das decisões que os sistemas tomam com esses dados, de quem aprova cada uso, de como a saída é testada e de quem responde pelo resultado. Uma empresa pode ter dados bem governados e, ainda assim, nenhum controle sobre o que um modelo faz com eles.

Empresa pequena ou média precisa de comitê de governança de IA?

Precisa da função, não necessariamente de uma estrutura grande. Em empresas médias, o comitê pode ser uma reunião mensal com operação, jurídico e TI, e o mesmo gestor pode acumular papéis, desde que quem aprova um sistema não seja quem o audita. O que não pode faltar é inventário atualizado, dono nomeado para cada uso relevante e um registro das decisões de liberação. O tamanho da estrutura acompanha o número e o risco dos sistemas.

Usar ChatGPT ou Copilot na empresa já exige governança?

Sim, ainda que em nível básico. O risco principal desse uso é o vazamento de dados confidenciais colados em ferramentas externas e a confiança cega em respostas inventadas. O mínimo é uma política escrita dizendo quais dados nunca podem ser inseridos, preferência por contas corporativas, orientação para conferir números e fontes antes de usar a resposta e um canal para a equipe registrar novos usos, que depois entram no inventário.

Precisa de ajuda com isso?

Se a sua operação já usa IA ou automações e você quer saber onde estão os riscos, quem deveria responder por cada sistema e o que testar antes de escalar, converse com o Studio Artemis. A primeira conversa não tem custo e parte dos processos que mais consomem tempo da sua equipe.