Gartner explica que o aumento do volume de dados gerados por IA ameaça a confiabilidade futura dos Grandes Modelos de Linguagem
Até 2028, 50% das organizações implementarão uma postura de zero-trust para a governança de dados devido à proliferação de dados não verificados gerados por Inteligência Artificial (IA), de acordo com o Gartner, Inc., empresa de insights de negócios e tecnologia.
“As organizações não podem mais confiar implicitamente nos dados ou presumir que eles foram gerados por humanos”, diz Wan Fui Chan, Vice-Presidente de Gestão do Gartner. “À medida que os dados gerados por IA se tornam onipresentes e indistinguíveis dos dados criados por humanos, uma postura zero-trust que estabeleça medidas de autenticação e verificação é essencial para proteger os resultados comerciais e financeiros.”
Dados gerados por IA aumentam os riscos de colapso do modelo e as exigências de conformidade
Os Grandes Modelos de Linguagem (LLMs) são normalmente treinados com dados “coletados na web” e uma variedade de fontes, incluindo livros, repositórios de código e artigos de pesquisa. Algumas dessas fontes já contêm conteúdo gerado por Inteligência Artificial e, se as tendências atuais continuarem, quase todas acabarão sendo preenchidas com dados gerados por IA.
De acordo com a 2026 Gartner CIO and Technology Executive Survey, 84% dos entrevistados esperam que suas organizações aumentem o financiamento para Inteligência Artificial Generativa (GenAI) em 2026.
À medida que as organizações aceleram a adoção e o investimento em iniciativas de IA, o volume de dados gerados por Inteligência Artificial continuará a aumentar. Isso significa que as futuras gerações de LLMs serão cada vez mais treinadas com base nos resultados de modelos anteriores, aumentando o risco de “colapso do modelo”, em que as respostas das ferramentas de IA podem não refletir mais a realidade com precisão.
“Conforme o conteúdo gerado por Inteligência Artificial se torna mais prevalente, espera-se que os requisitos regulatórios para verificar dados ‘livres de IA’ se intensifiquem em certas regiões”, diz Chan. “No entanto, esses requisitos podem diferir significativamente entre as regiões geográficas, com algumas jurisdições buscando aplicar controles mais rígidos ao conteúdo gerado por IA, enquanto outras podem adotar uma abordagem mais flexível”.
“Nesse ambiente regulatório em evolução, todas as organizações precisarão ter a capacidade de identificar e fazer marcações (tag) em dados gerados por IA. O sucesso dependerá de ter as ferramentas certas e uma força de trabalho qualificada em gestão de informações e de conhecimento, bem como soluções de gestão de metadados que são essenciais para a catalogação de dados”.
Práticas ativas de gestão de metadados se tornarão um diferencial importante, permitindo que as organizações analisem, alertem e automatizem a tomada de decisões em todos os seus ativos de dados.
Gerenciando riscos associados ao aumento de dados não verificados gerados por IA
As organizações devem considerar diversas ações estratégicas para gerenciar os riscos de dados não verificados:
- Nomear um líder de governança de IA: estabeleça um cargo responsável pela governança de Inteligência Artificial, incluindo políticas de zero-trust, gerenciamento de riscos de IA e operações de conformidade. Esse líder deve trabalhar em estreita colaboração com as equipes de Data & Analytics (D&A) para garantir que os dados estejam prontos para Inteligência Artificial e que os sistemas sejam capazes de lidar com o conteúdo gerado por IA.
- Promover a colaboração multifuncional: forme equipes multifuncionais que incluam segurança cibernética, Data & Analytics e outras partes interessadas relevantes para conduzir avaliações abrangentes de riscos de dados, buscando identificar os riscos para os negócios relacionados a informações geradas por IA e determinar quais são abordados pelas políticas de segurança de dados existentes e quais precisam de novas estratégias.
- Aproveitar as políticas de governança existentes: baseie-se nas estruturas de governança de Data & Analytics atuais e concentre-se na atualização das políticas relacionadas à segurança, gerenciamento de metadados e ética para lidar com novos riscos de dados gerados por IA.
- Adotar práticas ativas de metadados: isso permite alertas em tempo real quando os dados estão desatualizados ou precisam de recertificação, ajudando as organizações a identificar rapidamente quando sistemas críticos para os negócios podem ficar expostos a informações imprecisas ou tendenciosas.
Tópicos como esse e outros relacionados a dados e segurança e gestão de risco serão abordados durante a Conferência Gartner Data & Analytics, realizada nos dia 28 e 29 de abril, e Conferência GartnerSegurança & Gestão de Risco, que acontece nos dias 04 e 05 de agosto, em São Paulo.
Os clientes do Gartner podem saber mais em “Predicts 2026: AI-Driven, Automated, Zero-Trust Governance”. Saiba como maximizar o valor da IA enquanto gerencia riscos críticos com o e-book gratuito “AI in Cybersecurity: Minimise Risks and Maximise Impact”.
Gartner é a autoridade mundial em IA
O Gartner é o parceiro indispensável para executivos C-Level e fornecedores de tecnologia à medida que implementam estratégias de IA para alcançar suas prioridades de missão crítica. A independência e a objetividade dos insights do Gartner proporcionam aos clientes a confiança necessária para tomar decisões bem fundamentadas e desbloquear todo o potencial da IA.
Clientes C-Level estão usando a ferramenta de IA do Gartner AskGartner para definir como aproveitar a IA em seus negócios. Com mais de 2.500 especialistas em negócios e tecnologia, 6.000 insights escritos, além de mais de 1.000 casos de uso e estudos de caso de IA, o Gartner é a autoridade mundial em IA.
Sobre a Conferência Gartner Segurança & Gestão de Risco
Os analistas do Gartner apresentarão os mais recentes insights para os líderes de segurança e gestão de risco durante as Conferências Gartner Segurança & Gestão de Risco, que serão realizadas nos dias 09 e 10 de março em Mumbai (Índia), 16 e 17 de março em Sydney (Autrália), 1 a 3 de junho em National Harbor (EUA), 22 a 24 de julho em Tóquio (Japão), 4 e 5 de agosto em São Paulo (Brasil) e 22 a 24 de setembro em Londres (Reino Unido).
Sobre a Conferência Gartner Data & Analytics
Os analistas do Gartner fornecerão análises adicionais sobre tendências de Data e Analytics nas Conferências Gartner Data & Analytics, que acontecerão em 09 a 11 de março em Orlando (Estados Unidos), 28 e 29 de abril em São Paulo (Brasil), 11 a 13 de maio em Londres (Reino Unido), 19 a 21 de maio em Tóquio (Japão), 16 e 17 de junho em Sydney (Austrália) e 21 e 22 de setembro em Mumbai (Índia).
Sobre o Gartner for Data & Analytics Leaders
O Gartner for Data & Analytics Leaders fornece insights objetivos e práticos para CDAOs e líderes de Data & Analytics, ajudando-os a acelerar sua estratégia e modelo operacional de D&A para aumentar o valor dos negócios.
Sobre o Gartner
O Gartner, Inc. fornece insights objetivos e acionáveis que impulsionam decisões mais inteligentes e um melhor desempenho para as prioridades de missão crítica das empresas.
Proteção de dados virou questão estratégica para a sobrevivência dos negócios, apontam especialistas
Proteção de dados pessoais se consolida como pilar da confiança digital na era da IA
Privacidade de Dados: O que sustenta a confiança na economia digital
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
