Microsoft amplia governança de IA agêntica com foco em segurança, gestão de riscos e identidade de agentes
O avanço da inteligência artificial, especialmente dos sistemas agênticos, está ampliando os desafios de segurança, gestão de riscos e governança. Em 2026, a Microsoft atualizou seu padrão de IA responsável e ampliou controles sobre identidade de agentes, permissões, uso de ferramentas e monitoramento de ações, em uma estratégia voltada a acompanhar a evolução da tecnologia.
Por Natasha Crampton
A IA está avançando rapidamente, assim como as expectativas da sociedade. Os limites do que as pessoas conseguem realizar com IA estão se expandindo, e as comunidades estão fazendo mais perguntas sobre como os sistemas de IA são projetados, desenvolvidos e utilizados.
À medida que a IA se torna mais integrada à forma como vivemos e trabalhamos, a confiança de que os sistemas de IA operam de maneira confiável e segura passa a ser um pré-requisito essencial para sua adoção ampla e benéfica.
Na Microsoft, há quase uma década, desenvolvemos um programa de IA responsável baseado em duas crenças centrais: a de que a confiança é fundamental para concretizar os benefícios da IA e a de que o empoderamento de pessoas e organizações deve permanecer no centro da nossa estratégia. À medida que as capacidades avançam e a adoção se acelera, essa experiência nos ajuda a encarar o momento atual e a nos adaptarmos ao que vem a seguir.
Nosso terceiro Relatório Anual de Transparência em IA Responsável apresenta como nosso programa está evoluindo e as prioridades que continuam a orientar nosso trabalho. Ao longo do último ano, os investimentos em três áreas específicas nos permitiram incorporar a confiança de forma mais profunda e em maior escala: governança adaptativa e gerenciamento de riscos técnicos, ferramentas e capacidades, além de práticas compartilhadas e parcerias sólidas. Esses investimentos atravessam cinco tendências que moldam o cenário da IA, incluindo a rápida expansão da IA agêntica.
Em conjunto, essas tendências e investimentos reforçam nossa visão de que a capacidade do modelo, por si só, não determinará o impacto da IA. Esse impacto dependerá de organizações que desenvolvam e implantem tecnologias de IA capazes de entregar valor real — e que as governem com o rigor e a adaptabilidade necessários para conquistar e sustentar a confiança.
Governança adaptativa e gerenciamento de riscos técnicos
À medida que as fronteiras da IA avançam, estamos tornando nossa governança mais adaptativa e mais integrada aos fluxos de trabalho de engenharia. Na prática, isso significa que atualizamos nossas políticas para que estejam mais alinhadas à pilha tecnológica e a cadeia de valor da IA, evoluímos nossas práticas de gestão de riscos para abordar capacidades e riscos emergentes referentes a tecnologia e fortalecemos a preparação da nossa comunidade de IA responsável: as pessoas que operacionalizam nosso programa em escala empresarial.
Neste ano, reformulamos nosso Padrão de IA Responsável para torná-lo mais adaptável às realidades técnicas, aos usos, riscos e requisitos regulatórios em evolução. O novo Padrão é estruturado com base nos diferentes componentes da pilha tecnológica — modelos, serviços de plataforma e aplicações — e ao papel que a Microsoft desempenha no desenvolvimento ou na implantação desses componentes.
Ele combina requisitos essenciais que sempre se aplicam com requisitos mais direcionados e específicos para cadacenário, que podem evoluir conforme as capacidades e os riscos mudam. Por exemplo, aplicamos algumas de nossas medidas mais rigorosas de gestão de riscos a sistemas de IA com capacidades cibernéticas mais significativas, ajudando a garantir que os avanços em IA favoreçam os defensores responsáveis por proteger infraestruturas digitais críticas.
Também estamos evoluindo nossas práticas de gestão de riscos técnicos. Sistemas cada vez mais avançados podem reter memória, usar ferramentas, acessar dados e executar ações em nome dos usuários.
A governança desses sistemas exige que pensemos além do comportamento de um modelo ou aplicação individual, considerando as interações entre modelos, agentes, aplicações, ferramentas, dados e pessoas. Nosso trabalho está cada vez mais concentrado em controles como identidades de agentes, permissões de ferramentas e monitoramento de ações.
E a governança só funciona quando as pessoas conseguem colocá-la em prática. Continuamos a desenvolver capacidades de IA responsável em toda a Microsoft, capacitando milhares de engenheiros e gerentes de produto com treinamentos em temas como modelagem de ameaças para IA agêntica e defesas contra injeção de prompts.
Juntos, esses investimentos nos ajudam a avançar para uma abordagem de governança de IA mais contínua e baseada no ciclo de vida. Com a IA agêntica, os riscos podem evoluir à medida que os sistemas interagem com seus ambientes, usuários e outros sistemas. Nossa governança precisa evoluir junto com essas capacidades agênticas — e incorporar o que aprendemos com seus testes e implantação.
Ferramentas e capacidades práticas
Uma governança eficaz depende de ferramentas que ajudem a transformar objetivos de política em ação. À medida que desenvolvedores e organizações navegam por um ambiente técnico e regulatório mais complexo, eles precisam de formas práticas de identificar riscos, avaliar sistemas, estabelecer controles e monitorar como a IA se comporta no mundo real.
Estamos aplicando o que aprendemos com a governança da IA na Microsoft em ferramentas, capacidades e recursos que ajudam desenvolvedores e organizações fora da empresa a fazer exatamente isso — seja criando em nossas plataformas ou aproveitando projetos de código aberto.
Expandimos ferramentas para avaliar sistemas de IA ao longo de todo o ciclo de vida. Um novo AI Red Teaming Agent ajuda a acelerar a identificação e avaliação de riscos. Avaliadores de agentes ajudam desenvolvedores a medir a qualidade, segurança e o desempenho de aplicações agênticas. O RAMPART transforma descobertas de red team em testes repetíveis, permitindo uma cobertura mais contínua à medida que os sistemas mudam.
Também estamos criando maior visibilidade e controle em sistemas agênticos. Com ASSERT e Agent Control Specification, os desenvolvedores podem avaliar agentes em relação às suas políticas, inserir controles em tempo de execução em pontos críticos do fluxo de trabalho de um agente e monitorar seu comportamento.
Essas ferramentas e capacidades refletem uma mudança: à medida que os sistemas se tornam mais dinâmicos, a governança precisa se tornar mais operacional. As organizações precisam conseguir ver o que seus sistemas estão fazendo, testar como se comportam e intervir quando necessário, não apenas avaliá-los antes da implantação.
As organizações também precisam de confiança e, cada vez mais, precisam demonstrar que as práticas de IA responsável estão sendo implementadas de forma consistente. A Microsoft é uma das poucas empresas certificadas pela ISO 42001 em um amplo portfólio, incluindo Microsoft 365 Copilot, Foundry e GitHub Copilot. No último ano, simplificamos e fortalecemos nossos processos internos que dão suporte a essa certificação.
Em última análise, a governança de IA responsável é uma responsabilidade compartilhada em toda a cadeia de valor da IA. Nosso objetivo é ajudar a tornar as práticas e capacidades necessárias para cumprir essa responsabilidade mais acessíveis, práticas e escaláveis.
Práticas compartilhadas e parcerias sólidas
Os desafios de governar a IA são maiores do que qualquer empresa isoladamente, e sistemas de IA cada vez mais interconectados tornam a colaboração ainda mais essencial.
À medida que a adoção da IA se expande por fronteiras e setores, precisamos de expectativas compartilhadas sobre como os sistemas são avaliados, monitorados e governados, além de padrões interoperáveis que permitam visibilidade sobre as interações entre ferramentas, dados e sistemas. Também precisamos continuar avançando na ciência subjacente e nas práticas técnicas para que possamos nos beneficiar de insights rigorosos e aplicados sobre como é uma governança eficaz e onde ainda existem lacunas.
Isso começa pela pesquisa. Ao longo do último ano, avançamos nosso trabalho com o Centro de Padrões e Inovação em IA (CAISI) dos Estados Unidos e com os Institutos de Segurança e Proteção de IA (AISI) na Austrália, em Singapura e no Reino Unido para fortalecer a ciência e a prática da avaliação de IA. Também lançamos uma Aliança Externa Red Team com 18 universidades em seis continentes para ampliar a compreensão sobre riscos prioritários.
Práticas técnicas comuns e padrões são essenciais. Por meio do Frontier Model Forum, do OpenTelemetry e da Fundação Appia, estamos ajudando a desenvolver abordagens que abrangem benchmarks cibernéticos de fronteira, observabilidade de ponta a ponta para sistemas cada vez mais agênticos e garantia de IA em cadeias de suprimentos e setores.
Também contribuímos para esforços que tornam os relatórios de transparência mais interoperáveis entre organizações e jurisdições, inclusive por meio de uma força-tarefa informal liderada pela OCDE que desenvolveu a versão 2.0 do Framework dos relatórios do processo de IA de Hiroshima.
Também precisamos de formas compartilhadas de medir o progresso. Não podemos avaliar o progresso de maneira significativa se cada organização mede os riscos de IA de forma diferente. Por meio de nosso trabalho com a MLCommons, estamos ajudando a expandir o AILuminate para uma suíte mais ampla de benchmarks de confiabilidade, criando abordagens comuns para avaliar áreas como resiliência a jailbreaks, desempenho multilíngue e risco psicossocial em IA conversacional.
Aprendizado, práticas, padrões e métricas compartilhadas podem ajudar todo o ecossistema a se desenvolver, ao mesmo tempo em que elevam as expectativas comuns de confiança.
Respondendo às demandas do momento e investindo no futuro
Nossa experiência ao longo do último ano reforçou que a IA responsável não pode ser estática. Ela precisa estar incorporada aos processos de desenvolvimento, apoiada por ferramentas práticas e continuamente informada pelo que aprendemos.
É por isso que nossos investimentos em IA responsável vão dos sistemas que desenvolvemos às ferramentas que oferecemos aos nossos clientes, passando pela pesquisa, pelas práticas e abordagens de mensuração que nos ajudam a tornar o ecossistema mais amplo.
Nosso Relatório de Transparência em IA Responsável de 2026 explora esse trabalho com mais profundidade, desde como reformulamos nosso Padrão de IA Responsável até como estamos fortalecendo a governança para IA agêntica, avançando na avaliação e lidando com o uso indevido da IA. Convidamos você a explorar o relatório para ver o que aprendemos, o que mudamos e como estamos colocando nossas prioridades em prática.
À medida que a IA se torna mais poderosa e mais presente na vida das pessoas, nosso compromisso é continuar ouvindo e aprendendo, seguir fortalecendo nossas salvaguardas e manter o empoderamento de pessoas e organizações no centro da nossa estratégia.
Fonte: Microsoft
VU apresenta detecção de deepfakes com IA e camada de dados de identidade para o Brasil
Nutanix amplia infraestrutura para IA com novas versões de NAI e Kubernetes
95% das empresas adiam projetos de IA, revela novo relatório da Cloudera
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
