TrustOps deve impulsionar arquitetura de confiança proativa em organizações pra combater deepfakes em escala e fortalecer segurança digital
Quarenta por cento das organizações governamentais estabelecerão funções dedicadas de TrustOps até 2028 para combater a falsificação de identidade por meio de deepfakes e a desinformação como serviço (disinformation-as-a-service – DaaS), de acordo com o Gartner, Inc., empresa de insights de negócios e tecnologia.
As organizações governamentais devem estabelecer urgentemente capacidades de confiança, como a transição da verificação reativa de fatos para uma arquitetura de confiança proativa, para se defenderem contra deepfakes. Essas ameaças se manifestam como campanhas de desinformação voltadas para o público, como a falsificação de identidade de líderes para emitir declarações públicas enganosas, e em ataques a sistemas internos. Estes últimos visam comprometer a autenticação biométrica automatizada (voz ou rosto) ou usar engenharia social para manipular funcionários a realizar ações prejudiciais, normalmente criando a sensação de autoridade e urgência.
“Os deepfakes podem minar ou até mesmo transformar em arma as noções de identidade digital, atacando a credibilidade do próprio Estado”, diz Daniel Nieto, Diretor Analista Sênior do Gartner. “Se os cidadãos não conseguirem distinguir um anúncio legítimo do primeiro-ministro ou um portal seguro da agência tributária de uma réplica, a arquitetura fundamental da verdade entra em colapso.”
Para mitigar o risco existencial da irrelevância institucional, os CIOs devem passar da verificação reativa de fatos para uma arquitetura de confiança proativa. As implicações dos deepfakes em escala, resultantes da união entre mídias sociais e conteúdo sintético, exigem uma defesa orquestrada, rápida e abrangente em toda a organização.
“O fenômeno do deepfake ameaça provocar uma regressão digital, revertendo o retorno sobre o investimento (ROI) da transformação digital ao forçar uma volta para interações presenciais e em papel, que geram grande atrito”, afirma Nieto.
Temas como esses e outros relacionados à cibersegurança, gestão de riscos, confiança digital, governança de IA e proteção contra ameaças emergentes serão abordados durante a Conferência Gartner Segurança & Gestão de Risco, que será realizada nos dias 4 e 5 de agosto em São Paulo.
Preparando organizações governamentais para a desinformação
As organizações governamentais não devem tratar os deepfakes apenas como um problema de TI. Trata-se de uma crise envolvendo múltiplas funções, que exige coordenação executiva e uma educação contínua e prolongada da força de trabalho e do público; não há apenas um único responsável em uma estrutura organizacional tradicional. Elas também devem evitar depender de remoções reativas. Não é possível conter um deepfake depois que ele se torna viral. As organizações devem saturar primeiro o espaço de informação com a verdade.
Por fim, elas não devem confiar excessivamente na conscientização dos cidadãos. Embora a educação seja necessária, o ônus da verificação deve ser transferido do usuário final para a arquitetura institucional por meio da proveniência criptográfica.
Para atingir esses objetivos, as organizações governamentais devem priorizar o seguinte no curto prazo:
- Estabelecer um conselho de confiança: Orquestrar uma função de supervisão em consulta com as principais partes interessadas (TI, jurídico, comunicação, RH). Essa estrutura deve gerenciar as questões relacionadas à identidade digital e controlar as atividades de desinformação internas e externas.
- Reforçar os processos de negócios: Identificar e, em seguida, auditar fluxos de trabalho administrativos de alto risco, como desembolsos financeiros. Implementar medidas de segurança que exijam múltiplos aprovadores e autenticação no nível da aplicação para eliminar vulnerabilidades de ponto único de falha que possam ser exploradas por executivos com voz clonada. Em seguida, adotar estratégias e programas formais de governança de dados e segurança que se concentrem inicialmente nesses fluxos de trabalho de alto risco e, posteriormente, se expandam para outros, conforme necessário.
- Desenvolver procedimentos de verificação de deepfakes: Elaborar procedimentos operacionais padrão (standard operating procedures – SOPs) que utilizem guias passo a passo para usar tecnologia para testar interações digitais suspeitas e expor conteúdos que possam ter sido criados sinteticamente por IA.
“No longo prazo, as organizações governamentais podem considerar a implementação de soluções como o protocolo C2PA”, diz Nieto. “Elas devem tornar obrigatória a verificação da proveniência do conteúdo de saída adotando o protocolo C2PA, incorporando metadados criptográficos à prova de adulteração em todas as mídias digitais oficiais. Também podem promover o uso da proveniência do conteúdo junto aos cidadãos e partes interessadas para reforçar a confiança.”
Gartner é a autoridade mundial em IA
O Gartner é o parceiro indispensável para executivos C-Level e fornecedores de tecnologia à medida que implementam estratégias de IA para alcançar suas prioridades de missão crítica. A independência e a objetividade dos insights do Gartner proporcionam aos clientes a confiança necessária para tomar decisões bem fundamentadas e desbloquear todo o potencial da IA. Clientes C-Level estão usando a ferramenta de IA do Gartner AskGartner para definir como aproveitar a IA em seus negócios. Com mais de 2.500 especialistas em negócios e tecnologia, 6.000insights escritos, além de mais de 1.000 casos de uso e estudos de caso de IA, o Gartner é a autoridade mundial em IA.
Sobre a Conferência Gartner Segurança & Gestão de Risco
Os analistas do Gartner apresentarão os últimos insights para os líderes de segurança e gestão de risco durante a Conferência Gartner Segurança & Gestão de Risco, que será realizada de 1 a 3 de junho em National Harbor (Estados Unidos), de 22 a 24 de julho em Tóquio (Japão), em 4 e 5 de agosto em São Paulo (Brasil) e de 22 a 24 de setembro em Londres (Reino Unido).
Sobre o Gartner for Government and Public Sector
O Gartner for Government and Public Sector equipa líderes de TI e suas equipes com insights e ferramentas objetivas e práticas para tomar decisões mais rápidas e inteligentes e alcançar um desempenho mais sólido em prioridades de missão crítica.
Sobre o Gartner
O Gartner, Inc. fornece insights objetivos e acionáveis que impulsionam decisões mais inteligentes e um melhor desempenho para as prioridades de missão crítica das empresas.
Navegando no iceberg cibernético da IA: deepfakes na superfície, zero days nas profundezas
O Crypto ID conecta tecnologia, regulação voltada à segurança da informação com inteligência editorial porque acreditamos no poder da informação bem posicionada para orientar decisões.
Conheça a coluna Cibersegurança.
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
