Avanço dos agentes de IA nas empresas amplia desafios de segurança, governança e responsabilidade sobre decisões automatizadas
A rápida adoção de agentes de inteligência artificial nas empresas começa a colocar um desafio além dos ganhos de produtividade: definir quem responde pelos atos de sistemas que já operam com autonomia. À medida que essas ferramentas passam a acessar dados, APIs e processos corporativos, falhas de segurança, decisões equivocadas e violações regulatórias podem deixar de ser apenas problemas tecnológicos e se transformar em riscos jurídicos, financeiros e reputacionais para as organizações.
Agentes de IA estão falhando e o custo para as empresas não têm precedentes
Bruno Abreu, CTO da Sofist
Se traçarmos um diagrama de Venn (aquela representação gráfica de círculos que se cruzam para mostrar a interseção) do mercado corporativo atual, o ponto em comum será a adoção de agentes de IA. Estes são vistos como o ápice da produtividade, e de fato trazem muita eficiência, e é por isso que viraram a prioridade em diversas empresas de diferentes setores.
De acordo com um estudo global da Veeam Software, 88% das empresas já usam ou testam agentes de IA – sistemas autônomos já estão nas companhias, essa é a realidade. Mas há um ponto sendo ignorado nessa corrida pela eficiência: o agente não é uma simples tecnologia terceirizada da OpenAI, do Google ou da Anthropic. Ele é um ativo operacional da empresa.
Quando um agente é conectado às APIs internas, ele recebe autonomia para agir, analisar, executar e responder em nome da marca. Se ele cometer um erro catastrófico, vazar um banco de dados ou violar uma lei, a responsabilidade jurídica, financeira e reputacional poderá recair sobre a empresa. Essa desconexão entre ambição e prudência fica evidente na velocidade com que os projetos ganham tração.
O mercado está pisando fundo no acelerador, mas a provocação que precisa ser feita a cada CEO, CTO e CISO é se a adoção acelerada está sendo feita com práticas e governança adequadas. Caso contrário, crescem os riscos jurídico, operacional e reputacional para a instituição.
Os sinais de que a implementação atropelada pode cobrar seu preço já se espalham pelo mercado global. Nos Estados Unidos, a concessionária Watsonville Chevrolet integrou uma IA generativa à sua plataforma de atendimento e, em questão de minutos, Chris Bakke publicou na rede social X uma interação com um prompt capaz de manipular o assistente digital.
A IA concordou em vender um SUV zero quilômetro por apenas um dólar, ainda alegando que o acordo era “juridicamente vinculativo“. O carro não foi entregue, pois a concessionária alegou que aquele agente não fazia vendas, apenas primeiros atendimentos. A responsabilidade, no entanto, não pode ser atribuída à IA.
No Reino Unido, a gigante de logística DPD viu seu agente de suporte alucinar após ser desafiado por um cliente. A máquina usou palavrões para xingar esse consumidor e escreveu um poema chamando a própria empresa de inútil e ‘a pior transportadora do mundo’. A empresa desativou a IA, mas o cliente publicou um print que viralizou.
E poderia ter sido até pior. A Air Canada respondeu perante um tribunal e tentou se eximir da responsabilidade por uma orientação incorreta sobre uma tarifa de luto fornecida por seu agente. A alegação foi que o algoritmo era uma entidade separada responsável por suas próprias respostas, mas a Justiça canadense rejeitou o argumento e condenou a companhia aérea. A decisão tornou-se uma referência no debate. O caso reforça que empresas podem responder pelas informações fornecidas por seus canais digitais.
Senso crítico e avaliação contínua serão barreiras contra os erros
A mensagem do Judiciário foi clara e reforça que o erro não pode ser tratado como sendo apenas da Inteligência Artificial. Os gestores precisam entender que avaliar o agente de IA por um único prisma ignora brechas inéditas e as consequências, em alguns casos, podem nem ser conhecidas ainda.
Mas o paradoxo é simples de ser resolvido. Nenhum executivo em sã consciência contrataria um desconhecido na rua e, no primeiro dia de trabalho, entregaria a ele acesso irrestrito aos sistemas e permitiria que ele assinasse contratos sem supervisão. Mas estamos fazendo algo muito parecido com os agentes de IA.
O risco dessa miopia pode custar muito caro. Além do problema jurídico, o impacto pode vir de incidentes que escapam à segurança tradicional, como o recente caso em que modelos da OpenAI, durante uma avaliação interna, comprometeram a infraestrutura da Hugging Face. Colocar agentes baseados em LLMs em operação sem incorporar regras de compliance da corporação e liberar acessos excessivos é abraçar o risco desnecessariamente.
Assim como a Inteligência Artificial evolui, a abordagem sobre suas vulnerabilidades precisa crescer junto. Hoje, o conceito de resiliência agêntica, em que o ambiente passa por simulações, testes de estresse e avaliações contínuas, precisa caminhar de mãos dadas com a adoção dos agentes.
Dar autonomia a um algoritmo sem simulação prévia de seu comportamento em cenários reais é falta de estratégia, de visão holística. Essa avaliação não pode terminar na homologação; mudanças no modelo, nos prompts, nos dados ou nas integrações exigem reavaliações frequentes. Os casos já demonstraram que a conta pode ser alta e não são as máquinas que estarão lá para pagar.
O Crypto ID agradece a Bruno Abreu e à Sofist pela contribuição para este debate sobre o avanço dos agentes de IA, seus impactos nas organizações e a importância de combinar inovação, segurança e governança no uso dessas tecnologias.
III Congresso FENACON coloca Split Payment, Reforma Tributária e IA no centro dos debates
IA contextual amplia autonomia e muda forma de aplicação da tecnologia no setor financeiro
ID Flash | Identidade, credencial, DID e agente de IA: como não confundir os conceitos
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
