Agentes de IA nas empresas ampliam riscos de segurança e exigem novos modelos de proteção e resposta a incidentes
A adoção de agentes de IA em empresas está ampliando os riscos de cibersegurança ao introduzir sistemas autônomos que operam com pouca visibilidade e controle. Especialistas apontam que isso exige novos modelos de proteção, com foco em governança de agentes, resposta a incidentes adaptada a comportamentos não humanos e testes contínuos de segurança, marcando uma mudança estrutural na forma como riscos digitais são gerenciados.
IA agêntica: três prioridades inegociáveis para CISOs
Por James Robinson
As ameaças relacionadas à IA evoluíram mais rápido ao longo do último ano do que a maioria das empresas consegue acompanhar, e não há muito tempo para recuperar esse atraso. Não estamos nos preparando para um mundo agêntico, nós já estamos vivendo nele.
Os agentes de IA já atuam dentro dos ambientes corporativos, alguns desenvolvidos por nossas próprias equipes, outros operados ou manipulados por invasores. Eles tomam decisões em velocidade e escala sem precedentes.
Ainda estamos começando a compreender essas ameaças, enquanto tentamos administrá-las com um modelo de segurança concebido para um cenário anterior à IA agêntica.
Agora, precisamos substituir esse modelo por uma abordagem que reflita como os agentes – tanto os utilizados pelas empresas quanto os explorados por cibercriminosos, operam, falham e quais recursos podem acessar. É hora de construir as bases de segurança adequadas para um mundo que já é impulsionado por agentes de IA. E, para isso, vejo três prioridades que devem orientar os CISOs durante essa transição.
1- Construir uma estratégia de segurança para a economia agêntica
Os agentes já estão operando dentro das empresas, muitas vezes sem serem percebidos, e a maioria das equipes ainda não sabe onde nem como a IA agêntica está sendo utilizada. Isso precisa mudar. A segurança na economia agêntica começa pelo conhecimento de todos os agentes presentes no ambiente: o que podem acessar, sob qual identidade operam e quais decisões estão autorizados a tomar. Sem esse inventário, não há como proteger o ambiente de forma eficaz.
No entanto, assim que atingem essa visibilidade, surge um novo desafio: a velocidade. Os agentes são criados, modificados e implementados na mesma velocidade do desenvolvimento de software, geralmente em questão de minutos.
Isso significa que a segurança não pode mais atuar apenas após o processo de desenvolvimento. As equipes de segurança precisam incorporar controles diretamente às etapas de criação, testes e implementação dos agentes.
As estruturas tradicionais de governança deixaram de acompanhar esse ritmo. Por isso, as equipes de segurança precisam adotar um modelo automatizado, integrado e contínuo, com aplicação de políticas em tempo real e monitoramento capaz de detectar imediatamente qualquer desvio de comportamento.
2- Criar um modelo de resposta a incidentes para violações conduzidas por agente
Historicamente, a maioria das violações de segurança envolvia engenharia social e algum elo humano na cadeia de ataque. Por isso, os processos de resposta a incidentes (IR) foram estruturados em torno do comportamento humano: alguém clicando em um link indevido, acessando um recurso inadequado ou realizando uma alteração que não deveria.
Mas quando um agente executa essas ações, segue uma instrução equivocada ou interpreta um contexto de forma incorreta, esse modelo deixa de funcionar. As empresas precisam de uma abordagem de resposta a incidentes que trate os agentes como atores autônomos, e não como simples extensões dos usuários.
Hoje, nenhuma organização possui um manual completo para lidar com esse cenário. O trabalho começa pela definição de quais evidências são relevantes em uma investigação envolvendo agentes: a cadeia de instruções recebidas, as respostas produzidas pelo modelo, a janela de contexto utilizada, as permissões concedidas e os limites de decisão que foram ultrapassados. Sem registrar essas informações, fica impossível explicar por que um agente se comportou de determinada maneira.
Além disso, os agentes falham de formas diferentes. Eles podem alucinar etapas de um processo, agir com base em contexto incompleto, seguir instruções elaboradas por invasores, extrapolar sua finalidade original ou encadear ações de maneiras que nenhum ser humano faria. Esses comportamentos criam uma categoria inédita de incidentes.
Por isso, os CISOs precisam redefinir o que significa uma resposta eficaz a incidentes. Isso envolve identificar quais pressupostos deixaram de fazer sentido, como reconstruir o comportamento dos agentes e de que forma priorizar incidentes cuja intenção foi gerada por uma máquina, e não por uma pessoa. Ainda não existe um modelo maduro para responder a incidentes envolvendo IA agêntica, mas não podemos esperar que ele apareça. É preciso começar a construí-lo agora.
3- Incorporar red teaming para IA
As equipes de segurança não conseguem improvisar uma mentalidade voltada para ataques envolvendo inteligência artificial. A maioria dos profissionais de defesa foi treinada para proteger sistemas, e não para pensar como invasores que dedicam seu tempo a descobrir formas de manipular agentes, explorar prompts ou levar sistemas além dos limites para os quais foram projetados.
Por isso, se uma empresa não dispõe de especialistas com experiência real em segurança ofensiva aplicada à IA, deve buscar parceiros que possuam esse conhecimento.
Esses parceiros adotam uma abordagem diferente, passam o tempo tentando comprometer modelos, testando agentes de formas que os defensores normalmente não considerariam e identificando comportamentos que só surgem sob pressão adversária. Compreendem como os invasores pensam porque testam essas técnicas diariamente, de forma segura e controlada.
O red teaming para IA (prática que simula ataques para identificar vulnerabilidades em modelos e agentes antes que sejam exploradas por invasores) também precisa caminhar lado a lado com a resposta a incidentes.
Se uma empresa tem dificuldade para entender o comportamento de um agente, a melhor forma de evoluir é simular falhas reais: ataques por injeção de prompts, instruções maliciosas, uso indevido de privilégios, desvios de escopo ou agentes executando ações que ninguém havia previsto.
As equipes de segurança devem submeter esses cenários a testes de estresse regularmente, porque, embora muitos deles ainda não tenham ocorrido em larga escala, certamente farão parte da realidade.
E esse trabalho não pode ser pontual. As empresas precisam transformar essa capacidade em uma competência permanente, estabelecendo um processo contínuo para testar o comportamento dos agentes, compreender suas falhas e avaliar se as defesas continuam eficazes quando algo sai do esperado.
Da conscientização à ação
A IA agêntica já está transformando a forma como os ataques acontecem, como os sistemas se comportam e o que se espera das equipes de segurança. A resiliência só virá se deixarmos de esperar por respostas definitivas e começarmos desde já a desenvolver essas capacidades.
As empresas precisam de um modelo de segurança que ofereça aos CISOs visibilidade sobre seus agentes, de uma estratégia de resposta a incidentes capaz de lidar com novos comportamentos e de iniciativas de red teaming para IA que revelem vulnerabilidades antes que elas cheguem aos ambientes de produção.
Nada disso é opcional. A IA agêntica já deixou de ser uma tendência para se tornar parte da realidade das empresas. A discussão já não é mais se essa transformação vai acontecer, mas como preparar a segurança para acompanhá-la. As decisões tomadas pelos CISOs definirão a forma como as empresas vão adotar e governar esses agentes.
O Crypto ID agradece a James Robinson e à Netskope pela contribuição na discussão sobre os desafios de segurança na era da IA agêntica, destacando a importância de novas abordagens de governança, resposta a incidentes e testes contínuos para lidar com agentes autônomos nas empresas.
Segurança de IA evolui do controle de acesso para o monitoramento do comportamento dos agentes
IA eleva em 93% o volume de logs e pressiona empresas a rever observabilidade
IA agêntica pode impactar US$ 234 bilhões no SaaS até 2030, aponta Gartner
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
