Gartner justifica que as aplicações corporativas de GenAI enfrentarão aumento de incidentes de segurança conforme a adoção acelera
Até 2028, 25% de todas as aplicações corporativas de Inteligência Artificial Generativa (GenAI) sofrerão pelo menos cinco incidentes de segurança menores por ano, um aumento em relação aos 9% em 2025, de acordo com o Gartner, Inc., empresa de insights de negócios e tecnologia.
Conforme as organizações continuam a desenvolver e integrar aplicações de IA Agêntica utilizando tecnologias como o Model Context Protocol (MCP), novos vetores de ataque e práticas de segurança imaturas elevarão significativamente a exposição ao risco.
“O MCP foi desenvolvido prioritariamente para interoperabilidade, facilidade de uso e flexibilidade; portanto, erros de segurança podem ocorrer sem a supervisão contínua em relação à IA Agêntica”, diz Aaron Lord, Diretor Analista Sênior do Gartner. “Por isso, a taxa de incidentes de segurança menores em aplicações de GenAI deve crescer em um ritmo acelerado. Eventualmente, veremos 15% de todas as aplicações corporativas de GenAI sofrerem pelo menos um grande incidente de segurança por ano até 2029, contra 3% em 2025.”
À medida que cresce o entusiasmo por estruturas como o MCP, os líderes de engenharia de software devem estar preparados para as realidades de segurança que se seguem, que vão desde incidentes de exposição de dados até vulnerabilidades ocultas em componentes de terceiros amplamente utilizados.
A proteção contra esses riscos exige o estabelecimento de processos rigorosos de revisão de segurança, a priorização de casos de uso de baixo risco, a mitigação de padrões de ameaças conhecidos e o empoderamento de especialistas do domínio para definir proteções que mantenham a Inteligência Artificial Agêntica ao mesmo tempo poderosa e segura.
O design do MCP otimiza a interoperabilidade e a velocidade dos desenvolvedores, e não a aplicação de segurança por padrão, o que significa que erros podem surgir durante o uso normal. Isso pode acontecer especialmente quando os agentes podem acessar dados sensíveis, consumir conteúdo não confiável ou se comunicar externamente no mesmo fluxo. Os líderes de engenharia de software devem tratar qualquer caso de uso que combine esses três fatores como uma “zona proibida” devido ao risco elevado de exfiltração.
“Os líderes de engenharia de software devem colaborar com as equipes de dados, segurança e infraestrutura para criar uma revisão formal de segurança para os casos de uso de MCP, para priorizar padrões de baixo risco e excluir explicitamente combinações de alto risco”, diz Lord. “Eles devem reforçar isso com práticas robustas de autenticação e autorização adaptadas especificamente para agentes de IA, e não herdadas de funções de usuários humanos, a fim de manter as permissões estritamente delimitadas. A aplicação de medidas de mitigação de padrões de ameaças bem conhecidas, como a proteção contra injeção de conteúdo e o reforço da supervisão de componentes MCP de terceiros, ajudará a fechar as lacunas mais comuns antes que possam ser exploradas.”
Mitigações bem-sucedidas e proativas para a segurança de MCP exigem conhecimento de antipadrões que podem levar a vulnerabilidades. Os líderes de engenharia de software precisarão mitigar as vulnerabilidades do MCP com foco em padrões de ameaças conhecidos, como ataques de injeção de conteúdo, ameaças à cadeia de suprimentos e a divulgação de dados sensíveis ou a escalada de privilégios quando a IA tenta ajudar, mas comete um erro.
“Os líderes de engenharia de software precisarão estabelecer uma propriedade orientada por domínio para servidores MCP, para implementar barreiras de segurança orientadas por domínio”, diz Lord. “A crescente complexidade da IA Agêntica acabará levando a complicações no gerenciamento do acesso aos dados e na manutenção da conformidade.”
Para lidar com isso em escala, o Gartner recomenda que os líderes de engenharia de software colaborem com especialistas do domínio e trabalhem de forma retroativa para garantir interações seguras por padrão para a IA Agêntica.
Será fundamental que os especialistas do domínio predefinam suas proteções antes de permitir que clientes MCP acessem seus dados e recursos. Esses domínios devem ser os proprietários dos servidores MCP e definir as proteções para o uso da IA Agêntica.
Temas como esses e outros relacionados à segurança cibernética, gestão de riscos e proteção de infraestruturas críticas, serão abordados durante a Conferência Gartner Segurança & Gestão de Risco, que será realizada nos dias 4 e 5 de agosto em São Paulo.
Os clientes do Gartner podem saber mais em “Best Practices to Counter MCP Security Risks”.
Gartner é a autoridade mundial em IA
O Gartner é o parceiro indispensável para executivos C-Level e fornecedores de tecnologia à medida que implementam estratégias de IA para alcançar suas prioridades de missão crítica. A independência e a objetividade dos insights do Gartner proporcionam aos clientes a confiança necessária para tomar decisões bem fundamentadas e desbloquear todo o potencial da IA. Clientes C-Level estão usando a ferramenta de IA do Gartner AskGartner para definir como aproveitar a IA em seus negócios. Com mais de 2.500 especialistas em negócios e tecnologia, 6.000 insights escritos, além de mais de 1.000 casos de uso e estudos de caso de IA, o Gartner é a autoridade mundial em IA.
Sobre a Conferência Gartner Segurança & Gestão de Risco
Os analistas do Gartner apresentarão os últimos insights para os líderes de segurança e gestão de risco durante a Conferência Gartner Segurança & Gestão de Risco, que será realizada em 4 e 5 de agosto em São Paulo (Brasil) e de 22 a 24 de setembro em Londres (Reino Unido).
Sobre o Gartner for Software Engineering Leaders
O Gartner for Software Engineering Leaders ajuda líderes a se alinharem com stakeholders, reterem e otimizarem equipes e desenvolverem produtos inovadores que apoiem e atendam toda a organização, seus parceiros e clientes.
Sobre o Gartner
O Gartner, Inc. fornece insights objetivos e acionáveis que impulsionam decisões mais inteligentes e um melhor desempenho para as prioridades de missão crítica das empresas.
IA integrada ao ERP deve acelerar produtividade e maturidade digital das empresas brasileiras
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
