Microsoft leva governança de IA do papel para o tempo de execução

A Microsoft publicou uma arquitetura de governança de IA↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI → que desloca o controle de documentos de política para aplicação em tempo de execução (runtime enforcement), com avaliação contínua, observabilidade↳Observabilidade11 conteúdosObservabilidade para APIs: os desafios e benefícios dessa abordagemDev (Back & Front) · jan 2025Falhas em Observabilidade afetam os Apps e a Segurança das OrganizaçõesDev (Back & Front) · nov 2023ADK Java 1.0: O Google quer que você pare de gambiarra Python no seu backendMarketing Tech · abr 2026Ver tudo em DevSecOps → e geração de evidências para auditoria conforme organizações colocam aplicações e agentes de IA em produção. A informação foi reportada pela InfoQ com base em publicação da própria Microsoft.

A ideia central é resumida por Anthony Bartolo, Principal Cloud Advocate da Microsoft, em post no LinkedIn citado pela reportagem: "Sua política de IA não é governança até que a produção consiga prová-la". Ou seja, ter um documento dizendo o que o modelo pode ou não fazer não significa nada se o ambiente de produção não impede, registra e comprova esse comportamento.

O que muda em relação ao modelo anterior

Até aqui, boa parte da governança de IA nas empresas vivia em documentos: políticas de uso aceitável, classificações de risco, checklists de compliance. O problema é que nada disso é verificável em tempo real quando um agente chama uma API ou um modelo gera uma resposta.

A proposta da Microsoft trata governança como um loop operacional contínuo, dividido em quatro funções:

• Política: define requisitos e classificações de risco;
• Controle: traduz política em regras de acesso e regras de runtime;
• Visibilidade (observabilidade): captura o comportamento do sistema;
• Prova (audit): converte a telemetria operacional em evidência para compliance e investigação de incidentes.

Manasa T. Ramalinga, Cloud Solution Architect da Microsoft, resume a motivação em outro post citado pela InfoQ: organizações que movem cargas de IA para produção estão re-arquitetando suas estruturas fundamentais em vez de tratar governança como algo posterior. A frase que a Microsoft coloca no centro do material: "você não consegue escalar o que não consegue controlar".

Os nove domínios e o AI Gateway

A arquitetura define nove domínios de governança: política, governança de dados, governança de modelos, observabilidade, avaliações (evals), segurança, identidade e acesso, auditoria e compliance, e governança de agentes.

Na prática, ela combina o Microsoft Foundry com serviços já conhecidos do ecossistema Azure:

• Microsoft Purview para governança de dados;
• Microsoft Entra ID para identidade e acesso;
• Defender para segurança;
• Azure API Management para o controle de tráfego.

O ponto que mais interessa a quem desenvolve é o AI Gateway do Foundry, apresentado como uma fronteira de runtime para autenticação, limites de token, quotas e aplicação de políticas. Segundo a documentação da Microsoft, o gateway também serve para governar ferramentas expostas via MCP (Model Context Protocol), oferecendo autenticação centralizada, rate limiting, restrição por IP e log de auditoria sem modificar os servidores MCP nem o código do agente.

Esse último detalhe é relevante: significa que dá para adicionar uma camada de controle sobre um agente já existente sem reescrever a lógica dele, interceptando o tráfego no gateway.

Evals antes e depois do deploy

Outro deslocamento importante é o posicionamento das avaliações. Em vez de testar o modelo só antes de subir, o Foundry suporta avaliar aplicações e agentes contra datasets usando avaliadores prontos e customizados, tanto na fase de pré-deploy quanto monitorando o comportamento em produção.

Na prática, é a diferença entre "passou nos testes uma vez" e "continua dentro dos limites de qualidade e segurança enquanto roda", capturando regressões e comportamentos indesejados que só aparecem com tráfego real.

Governança de agentes: checkpoints e aprovação humana

A camada de governança de agentes adiciona controles sobre identidade, acesso, atividade e checkpoints de workflow dos agentes autônomos. A Microsoft mantém um Agent Governance Toolkit de código aberto que fornece capacidades de segurança em runtime, incluindo aplicação de política e pontos de interceptação.

A arquitetura também descreve a Agent Control Specification, um mecanismo de checkpoints ao longo do ciclo de um agente: entradas, chamadas ao modelo, execução de ferramentas e saídas. Ações de maior impacto podem ser configuradas para exigir aprovação humana antes de executar, o padrão "human-in-the-loop" aplicado em pontos específicos e não no fluxo inteiro.

Não é só coisa de Azure

A reportagem faz questão de situar que a abordagem é mais ampla que um plano de controle proprietário. O NIST AI Risk Management Framework e seu Generative AI Profile oferecem um arcabouço neutro de fornecedor para gerenciar riscos de IA ao longo do ciclo de vida, cobrindo governança, medição, avaliação e mitigação de risco. O que a Microsoft faz é mapear essas preocupações genéricas em controles concretos de plataforma e telemetria operacional.

O que isso muda para o dev brasileiro

Para quem constrói software no Brasil usando Copilot, APIs do Azure OpenAI ou monta agentes com MCP, o recado é que governança de IA está deixando de ser tarefa de compliance para virar problema de arquitetura e de runtime, ou seja, coisa que cai no colo de quem escreve e opera o sistema.

Alguns pontos práticos que emergem:

• Rate limiting, quotas e limites de token deixam de ser preocupação só de custo e passam a ser mecanismo de controle de segurança, aplicados no gateway;
• Trilha de auditoria vira requisito de design desde o início, não algo a improvisar quando o cliente ou o regulador pedir;
• Para empresas sob LGPD↳LGPD14 conteúdosComo utilizar a LGPD com o objetivo de conformidade e inovação?Gestão Dev & TI · out 2021LGPD coloca pressão inédita nos responsáveis pela tecnologia das empresasData · ago 2021Proteção de dados: LGPD é sancionada e começa a valerData · set 2020Ver tudo em Gestão Dev & TI →, ter evidência operacional de como dados sensíveis transitaram por um agente ou modelo pode ser a diferença entre demonstrar controle e ficar no escuro em um incidente. A combinação com Purview e Entra ID mira exatamente esse rastreamento de dados e identidade.

O que fica em aberto

A fonte descreve a arquitetura e as ferramentas, mas não traz números de adoção, benchmarks de overhead do gateway em produção nem casos brasileiros concretos. Também não detalha o quanto dessa governança depende de estar preso ao ecossistema Foundry/Azure versus o que é replicável em stacks mistas. Fica a observar se o modelo de "prova em runtime" que a Microsoft (e, por caminho parecido, a Cloudflare) vem empurrando de fato se firma como padrão de mercado ou permanece como diferencial de plataforma.

Fonte: InfoQ