A ausência de padrões globais consistentes para Inteligência Artificial (IA) tem forçado empresas a adotarem estratégias regionais, gerando ineficiências e expondo dados a riscos, como o uso indevido da IA generativa além de fronteiras. Essa é a principal conclusão de um estudo do Gartner, que prevê que 40% das violações de dados relacionadas à IA serão causadas por esse problema até 2027. O tema será central na Conferência Gartner Data & Analytics 2025, que acontece em São Paulo nos dias 28 e 29 de abril.
Gartner prevê que, até 2027, 40% das violações de dados de IA serão decorrentes do uso indevido da GenAI além das fronteiras
A falta de padrões globais consistentes de IA força empresas a desenvolver estratégias específicas para cada região, segundo Gartner
Até 2027, mais de 40% das violações de dados relacionadas à Inteligência Artificial (IA) serão causadas pelo uso indevido da Inteligência Artificial Generativa (GenAI) além das fronteiras, de acordo com o Gartner, Inc.
A rápida adoção das tecnologias de GenAI pelos usuários finais ultrapassou o desenvolvimento de medidas de segurança e governança de dados, levantando preocupações sobre a localização de dados devido ao poder de computação centralizado necessário para fornecer suporte a essas tecnologias.
Temas como esse e outros que moldam as prioridades para líderes de dados, analytics e Inteligência Artificial (IA) e mostram como eles podem aproveitar os mais recentes desenvolvimentos e tendências para acelerar os negócios serão destaque na Conferência Gartner Data & Analytics 2025, que será realizada nos dias 28 e 29 de abril, no Sheraton São Paulo WTC Hotel.
“As transferências de dados não intencionais além das fronteiras geralmente ocorrem devido à supervisão insuficiente, principalmente quando a GenAI é integrada a produtos existentes sem descrições ou anúncios claros”, diz Joerg Fritsch, Vice-Presidente e Analista do Gartner.
“As empresas estão percebendo mudanças no conteúdo produzido pelos funcionários que usam as ferramentas de GenAI. Embora essas ferramentas possam ser usadas para aplicações de negócios aprovadas, elas apresentam riscos de segurança se prompts sensíveis forem enviados para ferramentas de IA e APIs hospedadas em locais desconhecidos.”
Lacunas na padronização global de IA geram ineficiência operacional:
A falta de práticas recomendadas e padrões globais consistentes para IA e governança de dados agrava os desafios ao causar fragmentação do mercado e forçar as empresas a desenvolver estratégias específicas para cada região. Isso pode limitar sua capacidade de dimensionar as operações globalmente e se beneficiar dos produtos e serviços de Inteligência Artificial.
“A complexidade de gerenciar fluxos de dados e manter a qualidade devido a políticas de IA localizadas pode levar a ineficiências operacionais”, diz Fritsch. “As empresas devem investir em governança e segurança avançadas de Inteligência Artificial para proteger dados sensíveis e garantir a conformidade. Essa necessidade provavelmente impulsionará o crescimento dos mercados de serviços de segurança, governança e conformidade de IA, bem como de soluções tecnológicas que aumentam a transparência e o controle sobre os processos de Inteligência Artificial.”
Empresas devem agir antes que a governança de IA se torne uma obrigação global:
O Gartner prevê que, até 2027, a governança de IA se tornará um requisito de todas as leis e regulamentações soberanas de Inteligência Artificial em todo o mundo.
“As companhias que não conseguem integrar os modelos e controles de governança necessários podem se encontrar em desvantagem competitiva, especialmente aquelas que não têm recursos para ampliar rapidamente as estruturas de governança de dados existentes”, diz Fritsch.
Para mitigar os riscos de violações de dados de IA, principalmente do uso indevido da GenAI além das fronteiras, e para garantir a conformidade, o Gartner recomenda diversas ações estratégicas para as empresas:
- Aprimorar a governança de dados: Garanta a conformidade com as regulamentações internacionais e monitore as transferências de dados transfronteiriças não intencionais ao ampliar as estruturas de governança de dados para incluir diretrizes para dados processados por IA. Isso envolve a incorporação de avaliações de impacto de linhagem de dados e transferência de dados em avaliações regulares de impacto de privacidade.
- Estabelecer comitês de governança: Forme comitês para aprimorar a supervisão da IA e garantir uma comunicação transparente sobre as implementações de Inteligência Artificial e o tratamento de dados. Esses comitês precisam ser responsáveis pela supervisão técnica, gerenciamento de risco e conformidade e relatórios de comunicação e decisão.
- Reforçar a segurança dos dados: Use tecnologias avançadas, criptografia e anonimização para proteger dados sensíveis. Por exemplo, verifique os Ambientes de Execução Confiáveis (Trusted Execution Environments) em regiões geográficas específicas e aplique tecnologias avançadas de anonimização, como a Privacidade Diferencial (Differential Privacy), quando os dados precisarem sair dessas regiões.
- Investir em produtos TRiSM: Planeje e aloque orçamentos para produtos e recursos de gerenciamento de confiança, risco e segurança (TRiSM) adaptados às tecnologias de IA. Isso inclui governança de Inteligência Artificial, governança de segurança de dados, filtragem e redação de prompt e geração sintética de dados não estruturados. O Gartner prevê que, até 2026, as empresas que aplicarem controles de TRiSM de IA consumirão pelo menos 50% menos informações imprecisas ou ilegítimas, reduzindo a tomada de decisões equivocadas.
Os clientes do Gartner podem saber mais em “Predicts 2025: Privacy in the Age of AI and the Dawn of Quantum”.
Saiba como maximizar o valor da IA e, ao mesmo tempo, gerenciar riscos críticos com o ebook complementar AI in Cybersecurity: Minimize Risks and Maximize Impact.
Sobre a Conferência Gartner Data & Analytics
Os analistas do Gartner fornecerão análises adicionais sobre tendências de Data e Analytics nas Conferências Gartner Data & Analytics, que acontecerão de 03 a 05 de março em Orlando (Flórida – EUA); em 28 e 29 de abril em São Paulo (Brasil), de 12 a 14 de maio em Londres (Inglaterra); de 20 a 22 de maio em Tóquio (Japão); em 2 e 3 de junho em Mumbai (Índia) e em 17 e 18 de junho em Sydney (Austrália). Siga as notícias e atualizações da conferência no X usando #GartnerDA.
Sobre Gartner for Cybersecurity Leaders
O Gartner for Cybersecurity Leaders equipa os líderes de segurança com as ferramentas para ajudar a reformular os papéis, alinhar a estratégia de segurança aos objetivos de negócios e construir programas para equilibrar a proteção com as necessidades das empresas.
Sobre o Gartner
O Gartner, Inc. fornece insights objetivos e acionáveis que impulsionam decisões mais inteligentes e um melhor desempenho para as prioridades de missão crítica das empresas.
Gartner anuncia novidades da conferência de Data & Analytics 2025
Mercado de PCs Mundiais: Gartner Anuncia Crescimento de 1,3% em 2024
Gartner afirma que receita mundial de semicondutores cresceu 18% em 2024
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
