Gartner aponta formas para que as organizações priorizem investimentos em segurança, levando em consideração as limitações de recursos
Existem quatro ameaças críticas e imprevisíveis nas quais atacantes detêm uma vantagem significativa para explorar com sucesso as vulnerabilidades das organizações visadas, de acordo com o Gartner, Inc., empresa de insights de negócios e tecnologia. Entre elas estão deepfakes, comprometimento de aplicações de Inteligência Artificial (IA), injeção de prompts e cadeias de suprimentos de software.
O Gartner ThreatScape classifica as ameaças em seis áreas distintas ao longo de dois eixos:
- Diferenciar ameaças com base na qualidade e no volume de informações (“sinal de ameaça”) disponíveis.
- Avaliar ameaças com base nas capacidades organizacionais para gerenciá-las e se os agentes de ameaças detêm uma vantagem.
Gartner ThreatScape 2026-2027
“A introdução de iniciativas de segurança por parte de empresas de ponta de IA gera um ruído significativo em um cenário de ameaças já bastante agitado”, afirma John Watts, Vice-Presidente Analista do Gartner. “Os líderes em segurança cibernética devem ser capazes de identificar os sinais de ameaça em meio a todo esse ruído para poderem responder às mudanças no cenário de ameaças.”
Temas como esses e outros relacionados à segurança cibernética e gestão de riscos em IA serão abordados durante a Conferência Gartner Segurança & Gestão de Risco, que será realizada nos dias 4 e 5 de agosto em São Paulo.
Comprometimento de aplicações de IA
O comprometimento de aplicações de Inteligência Artificial figura na seção de ameaças críticas, uma vez que os atacantes têm como alvo o número crescente de ferramentas de IA empresariais, tanto internas quanto voltadas para o público, que estão prontas para produção.
A superfície de ataque se expandiu para incluir agentes personalizados, integrações de terceiros e aplicações exclusivas para funcionários, muitas vezes expondo dados sensíveis ou credenciais quando os controles são fracos.
“As equipes de segurança cibernética precisam expandir seus programas para além das proteções de software tradicionais, mapeando novas superfícies de ataque introduzidas por modelos de IA Generativa (GenAI) ou ferramentas agênticas”, diz Watts. “O uso do framework de gerenciamento de confiança, risco e segurança (TRiSM) do Gartner permite que as equipes de segurança cibernética saibam onde incorporar medidas de mitigação de ameaças específicas para Inteligência Artificial diretamente no processo de desenvolvimento de aplicações de IA.”
Proteger uma aplicação de Inteligência Artificial nem sempre significa começar do zero. Existem muitas startups de segurança de IA que oferecem recursos mais amplos e aprofundados à medida que as organizações amadurecem e precisam de mais segurança em torno do uso da Inteligência Artificial.
Para lidar com essa ameaça, os Chief Information Security Officers (CISOs) devem aplicar o ciclo de vida de desenvolvimento seguro e as melhores práticas de modelagem de ameaças às aplicações de IA.
Eles também devem fortalecer a segurança dos dados melhorando a classificação deles, adotar o controle de acesso baseado em propósito (PBAC) e implementar o monitoramento em tempo de execução.
Falsificação de identidade por meio de deepfakes
O avanço GenAI aumentou drasticamente o volume, a qualidade e a acessibilidade da criação de deepfakes em voz, vídeo e imagens, tanto em forma de artefatos pré-gravados quanto gerados em tempo real. Isso ampliou as oportunidades para que atacantes se façam passar por outras pessoas em diversas superfícies de ataque.
Os deepfakes podem ser usados para atacar processos de autenticação biométrica, podem ser combinados com engenharia social em ataques em tempo real contra funcionários e podem ser usados para subverter processos de recrutamento.
“O uso de deepfakes por atacantes continua a avançar e agora é comum, tornando fraudes e golpes de phishing difíceis de detectar”, diz Watts. “Não existe um único controle de segurança cibernética que irá protegê-lo. Em vez disso, as organizações devem usar uma combinação de fortalecimento dos processos de negócios, aumento da conscientização e implementação das tecnologias de detecção de deepfakes disponíveis, sempre que possível.”
Como resultado, as equipes de segurança cibernética devem ir além da detecção de deepfakes e fortalecer os controles para proteger a integridade das comunicações em tempo real, bem como os processos de autenticação e verificação biométricas, considerando o seguinte:
- Elabore uma estratégia de mitigação robusta, reconhecendo que a detecção de deepfakes por si só não é suficiente para detectar e prevenir ataques de falsificação de identidade por meio de deepfakes. Em vez disso, concentre-se em camadas de controles que variam de acordo com o caso de uso.
- Proteja a verificação de identidade biométrica, concentrando-se na detecção de ataques de apresentação e injeção, além de sinais contextuais.
- Proteja as reuniões online implementando políticas de acesso condicional para exigir autenticação forte dos participantes e a análise dos metadados da chamada.
Ameaças à cadeia de suprimentos de software
“A evolução das ofertas de GenAI só vai acelerar a tendência de ataques à cadeia de suprimentos de software por meio de vulnerabilidades em softwares de código aberto”, afirma Watts. “As organizações devem trabalhar no sentido de criar registros confiáveis de componentes, fortalecer seus pipelines de integração contínua / desenvolvimento contínuo (CI/CD) e desenvolver capacidades robustas de detecção e resposta a anomalias operacionais.”
As equipes de segurança cibernética devem criar inventários abrangentes de ativos de software e, ao mesmo tempo, integrar controles robustos em todas as etapas do desenvolvimento. Essas medidas ajudam a defender contra ameaças emergentes que visam tanto aplicações tradicionais quanto pipelines modernos baseados em IA. Com isso em mente, os CISOs devem:
- Exigir listas de materiais de software (SBOMs) e listas de materiais de IA (AIBOMs) de todos os fornecedores; avaliar o risco de cada componente usando ferramentas com inteligência de ameaças atualizada antes da implementação.
- Usar repositórios curados para código de terceiros, imagens de contêineres e modelos de IA; aplicar proteção de ramificação em repositórios de código.
- Assinar artefatos durante as compilações; implementar controles de acesso com privilégios mínimos nos sistemas de compilação; monitorar continuamente a atividade em tempo de execução por meio de ferramentas agênticas.
Injeção de prompts
A injeção de prompts é uma ameaça à segurança cibernética que tem como alvo sistemas de IA, especialmente aqueles que utilizam Grandes Modelos de Linguagem (LLMs). Os atacantes manipulam os prompts para alterar o comportamento do modelo, fazendo com que ele vaze informações sensíveis, execute ações não autorizadas ou contorne controles. À medida que as organizações adotam cada vez mais a GenAI, o risco de injeção de prompts aumenta, tornando-se uma questão crítica para as equipes de segurança cibernética.
Para combater de forma eficaz as ameaças de injeção de prompt, as equipes de segurança cibernética devem implementar uma estratégia de mitigação em camadas. Isso envolve testes de segurança de IA para identificar proativamente vulnerabilidades, estabelecer prompts de sistema robustos para orientar o comportamento da Inteligência Artificial e implementar mecanismo de proteções em tempo de execução de IA que monitorem e bloqueiem atividades suspeitas. As principais ações para os CISOs incluem:
- Implementar validação e sanitização de entradas para filtrar prompts potencialmente maliciosos.
- Estabelecer monitoramento e alertas para comportamentos anormais da IA que possam indicar injeção de prompt bem-sucedida.
- Integrar testes de injeção de prompts no ciclo de vida de desenvolvimento do sistema de IA.
- Aproveitar os resultados dos testes para melhorar os controles de tempo de execução.
Os clientes da Gartner podem ler mais em “How to Respond to the 2026-2027 Threat Landscape”.
Gartner é a autoridade mundial em IA
O Gartner é o parceiro indispensável para executivos C-Level e fornecedores de tecnologia à medida que implementam estratégias de IA para alcançar suas prioridades de missão crítica. A independência e a objetividade dos insights do Gartner proporcionam aos clientes a confiança necessária para tomar decisões bem fundamentadas e desbloquear todo o potencial da IA.
Clientes C-Level estão usando a ferramenta de IA do Gartner AskGartner para definir como aproveitar a IA em seus negócios. Com mais de 2.500 especialistas em negócios e tecnologia, 6.000 insights escritos, além de mais de 1.000 casos de uso e estudos de caso de IA, o Gartner é a autoridade mundial em IA.
Sobre a Conferência Gartner Segurança & Gestão de Risco
Os analistas do Gartner estão apresentando os mais recentes insights para os líderes de segurança e gestão de risco durante a Conferência Gartner Segurança & Gestão de Risco, que acontece nesta semana em National Harbor (Estados Unidos).
Outras datas e locais para as Conferências Gartner Segurança & Gestão de Risco são: 1 a 3 de junho 22 a 24 de julho em Tóquio (Japão), 4 e 5 de agosto em São Paulo (Brasil) e 22 a 24 de setembro em Londres (Reino Unido).
Sobre Gartner for Cybersecurity Leaders
O Gartner for Cybersecurity Leaders equipa os líderes de segurança com as ferramentas para ajudar a reformular os papéis, alinhar a estratégia de segurança aos objetivos de negócios e construir programas para equilibrar a proteção com as necessidades das empresas.
Sobre o Gartner
O Gartner, Inc. fornece insights objetivos e acionáveis que impulsionam decisões mais inteligentes e um melhor desempenho para as prioridades de missão crítica das empresas.
Cibercriminosos usam técnica dos anos 60 para criar QR Codes falsos e invadir e-mails corporativos
iFood confirma vazamento de dados de 1,2 milhão de usuários e ANPD pede explicações
O Crypto ID conecta tecnologia, regulação voltada à segurança da informação com inteligência editorial porque acreditamos no poder da informação bem posicionada para orientar decisões.
Conheça a coluna Cibersegurança.
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
