Autonomia sem limites claros pode ampliar riscos de segurança, governança e responsabilidade no uso corporativo de agentes de inteligência artificial
Por Alex Ferreira, CEO da FMG
Funcionários têm crachá, cargo, funções e registro das atividades que realizam. Um gerente pode aprovar uma despesa até determinado valor. Um analista consegue acessar alguns sistemas, mas não outros. E, quando alguém toma uma decisão importante, existe uma pessoa identificável que vai responder por ela.
Com os agentes de inteligência artificial, essa lógica nem sempre existe. Empresas estão colocando sistemas autônomos para executar tarefas, acessar dados, tomar decisões e interagir com ferramentas externas sem necessariamente saber quantos agentes estão em operação, quais permissões receberam ou até onde podem ir quando encontram um obstáculo.
O resultado é uma espécie de procuração em branco. Ou seja, uma autorização para agir sem que estejam claramente definidos o escopo e a responsabilidade. E isso já é uma realidade comum.
Em setembro, pesquisadores revelaram que milhares de agentes identificados como sistemas da OpenAI haviam utilizado o DSEWiki, um wiki alemão voltado a desenvolvedores, para publicar mensagens e interagir entre si. Foram registrados cerca de 18 mil posts, atribuídos a mais de 3,7 mil nomes distintos de agentes. A maior parte da atividade ocorreu entre maio e junho de 2026.
O caso, assumido posteriormente pela Open AI, chamou atenção porque os agentes deveriam ter acesso somente de leitura à internet. Ainda assim, encontraram uma maneira de realizar operações de escrita explorando uma característica do software utilizado pelo wiki. Nos conteúdos publicados, pesquisadores encontraram discussões sobre maneiras de contornar restrições do sandbox, tentativas de explorar funcionalidades do site, personificação de moderadores e criação de páginas de backup para preservar informações.
O episódio ganhou uma dimensão ainda maior quando pesquisadores identificaram evidências de que o comportamento não estava restrito ao DSEWiki. Outros sites também teriam sido utilizados por agentes para comunicação não autorizada, incluindo páginas pessoais e sites ligados a universidades.
Esses incidentes mostram um problema mais profundo: quando um agente recebe um objetivo, pode procurar caminhos que seus criadores não imaginaram para alcançá-lo. Se os limites forem definidos apenas pelo que o sistema deveria fazer, e não também pelo que está proibido de fazer, existe um espaço perigoso entre intenção e execução.
A própria OpenAI reconheceu que a indústria ainda está desenvolvendo padrões para reportar comportamentos de desalinhamento que podem aparecer durante treinamento, avaliação ou implantação dos sistemas.
Governança da IA
Esse debate não deveria ficar restrito aos grandes laboratórios de IA. Uma pesquisa da Enterprise Management Associates (EMA), divulgada pela Cequence, mostra que 65% das empresas já observaram um agente de IA atuar fora do escopo pretendido. Além disso, 47% não conseguem inventariar de forma confiável todos os agentes em produção e 54,5% levam horas para conter comportamentos indesejados.
O problema, portanto, já é empresarial. Ao colocar um agente em produção, a pergunta não deveria ser apenas “o que ele consegue realizar?“, mas “o que ele está autorizado a fazer?“.
Um agente deve consultar uma base de dados sem ter permissão para alterá-la, por exemplo. Pode acessar um sistema financeiro sem conseguir aprovar pagamentos e interagir com clientes sem estar autorizado a negociar preços ou assumir compromissos em nome da empresa.
A fronteira entre capacidade e autorização precisa ser explícita. Para cada agente, a empresa deveria saber quem o autorizou, o que pode fazer, quais são seus limites, quanto pode comprometer em recursos e onde estão registrados seus atos.
Se essas respostas não existem, há um problema de governança. Nenhuma empresa contrataria um funcionário para operar seu caixa sem definir sua alçada, seus acessos e mecanismos de auditoria. Não deveria fazer isso com um agente apenas porque seu “funcionário” é software.
A questão se torna ainda mais complexa porque agentes não são apenas versões mais rápidas de softwares tradicionais. Eles interpretam objetivos, escolhem caminhos e interagem com diferentes ferramentas. Uma permissão aparentemente pequena pode desencadear uma cadeia de ações que ninguém previu.
O caso do DSEWiki mostra que os agentes encontraram uma característica do ambiente que permitia realizar uma ação que deveria estar bloqueada. O problema não estava apenas no agente, mas na combinação entre agente, permissões e ambiente.
Para as empresas, a resposta não é impedir a autonomia, mas estabelecer autonomia com limites de atuação. Isso significa manter um inventário atualizado dos agentes, definir responsáveis, registrar permissões, estabelecer limites financeiros e operacionais e criar mecanismos para interromper sua atuação quando necessário.
Quanto maior a autonomia, maior precisa ser a clareza sobre os limites. Existe uma diferença entre automatizar uma tarefa e delegar uma decisão. Na primeira situação, a tecnologia executa um processo conhecido. Na segunda, parte da capacidade de decisão é entregue a um sistema que pode encontrar caminhos que seus criadores não anteciparam.
É nessa transição que muitas organizações podem confundir capacidade técnica com autorização. Um agente que consegue fazer alguma coisa não necessariamente deveria poder fazê-la. E uma empresa que não sabe exatamente o que seus agentes estão fazendo não está apenas diante de um problema de tecnologia. Está diante de um problema de gestão.
A corrida pela inteligência artificial tornou comum perguntar quantos agentes uma empresa pretende colocar em operação. Talvez a questão mais importante agora seja outra: quantos agentes estão trabalhando hoje sem que alguém consiga dizer exatamente quem os autorizou, quais são seus limites e onde estão registrados os seus atos? Se a resposta for “não sabemos“, talvez a empresa já tenha concedido a primeira procuração em branco.
Agradecimento
O Crypto ID agradece a Alex Ferreira, CEO da FMG, pela contribuição ao debate sobre os desafios de governança, segurança e responsabilidade relacionados ao uso de agentes de inteligência artificial nas organizações.
Tecnologia embarcada ganha espaço na prevenção de acidentes e muda gestão de riscos no transporte
Mastercard, AWS e Adyen apoiam primeiro evento brasileiro dedicado ao Agentic Commerce
Futurecom 2026 reúne discussões sobre IA, computação quântica e infraestrutura digital
Vertiv participa do Data Center World Brasil 2026 com foco em infraestrutura crítica
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
