Estudo destaca aumento do uso de agentes de IA e alerta para riscos relacionados à autonomia, governança e proteção de dados
Celebrado em 16 de julho, o AI Appreciation Day marca uma data voltada ao reconhecimento dos avanços da inteligência artificial e de seu impacto na transformação dos negócios. O crescimento da adoção da tecnologia, porém, também tem ampliado os desafios relacionados à segurança cibernética, especialmente com a evolução da IA de ferramenta de apoio para sistemas capazes de executar tarefas de forma autônoma.
As conclusões fazem parte do Relatório de Segurança de IA 2026, da Check Point Research (CPR), divisão de inteligência em ameaças da Check Point Software. O estudo aponta que a inteligência artificial passou a desempenhar um papel mais ativo tanto nas operações corporativas quanto no cenário de ameaças digitais.
Avanço de sistemas autônomos de inteligência artificial muda o cenário de segurança digital e reforça a necessidade de políticas de governança e monitoramento contínuo
De acordo com o levantamento, as mesmas capacidades que tornam agentes de IA mais produtivos, como interpretar documentos, navegar na internet e interagir com diferentes aplicações, também ampliam a superfície de ataque das organizações. Entre os riscos identificados estão instruções maliciosas ocultas em páginas web, arquivos de configuração comprometidos e vulnerabilidades em servidores utilizados por agentes de IA.
O relatório apresenta ainda casos que ilustram o uso da tecnologia em atividades maliciosas. Em uma das situações analisadas pelos pesquisadores, um único desenvolvedor utilizou uma ferramenta comercial de IA para criar cerca de 88 mil linhas de código de um malware de comando e controle funcional em menos de uma semana. Segundo o estudo, um volume semelhante de desenvolvimento tradicionalmente exigiria meses de trabalho de uma equipe especializada.
A rápida adoção da inteligência artificial pelas empresas também aparece como um fator de atenção. Segundo o relatório, as organizações utilizam, em média, dez aplicações de IA por mês. O levantamento indica ainda que a proporção de interações de alto risco com ferramentas de IA generativa, envolvendo o compartilhamento de informações corporativas, pessoais ou reguladas, dobrou no último ano, passando de 2% para 4% de todos os prompts analisados.
Entre 87% e 93% das organizações registraram pelo menos uma interação considerada de alto risco em todos os meses avaliados.
“O uso da IA nas empresas está avançando em um ritmo muito superior ao da implementação de políticas de governança e segurança. A discussão sobre inteligência artificial precisa evoluir da adoção para a responsabilidade, ou seja, as organizações precisam saber quais sistemas estão sendo utilizados, quais dados estão sendo processados e quais decisões estão sendo tomadas por essas tecnologias. Quanto mais autonomia a IA ganha, maior deve ser a maturidade das empresas para monitorar seu funcionamento, proteger os dados utilizados por esses sistemas e manter supervisão humana sobre processos críticos“, afirma Fernando de Falchi, gerente de Engenharia de Segurança da Check Point Software Brasil.
Diante desse cenário, a Check Point recomenda que as empresas ampliem suas estratégias de cibersegurança para incluir a proteção dos sistemas de IA, considerados um novo ambiente operacional sujeito a riscos específicos.
Entre as medidas apontadas estão o monitoramento contínuo, a criação de políticas para o uso corporativo da tecnologia, a proteção de informações compartilhadas com plataformas de IA e a adoção de soluções capazes de responder às ameaças em evolução.
“Celebrar os avanços da IA é reconhecer seu enorme potencial para impulsionar inovação e produtividade. Mas aproveitar esses benefícios de forma sustentável exige que segurança, governança e transparência façam parte da estratégia desde o início. A confiança será um dos principais fatores para o sucesso da IA nas empresas“, conclui Falchi.
IA ganha espaço na educação corporativa para enfrentar queda no engajamento dos trabalhadores
Vazamento invisível: uso amador de IA no atendimento médico expõe dados de pacientes
Onde usar IA para seguros com segurança em processos internos e atendimento?
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
