O uso de deepfakes para criar vídeos ou áudios é simples e acessível, sendo possível obter um vídeo por apenas US $ 2 na Darknet
Enquanto os Estados Unidos se preparam para o seu pleito presidencial, e o Brasil para a realização de suas eleições municipais, neste ano, um novo risco cibernético coloca em jogo a integridade desses processos democráticos. Os avanços tecnológicos trazem métodos sofisticados de engano e falsidade, como a tecnologia deepfake, uma ferramenta que facilita a fraude eleitoral.
Tal fenômeno não é obra de indivíduos agindo isoladamente, mas sim de um esforço coordenado por um grande número de fraudadores e cibercriminosos que não deixam rastros digitais. Suas ações tecem uma complexa rede de desinformação e manipulação, dificultando a proteção da integridade eleitoral.
A Check Point Software analisou o funcionamento da tecnologia deepfake e as extensas camadas deste submundo digital, e alerta sobre o aumento da disponibilidade desses serviços na Darknet e no Telegram. A tecnologia deepfake permite criar conteúdo audiovisual “hiper-realista” falso e manipulado para confundir a opinião pública ou desacreditar políticos.
Em plataformas como o GitHub existem mais de 3 mil repositórios relacionados à tecnologia deepfake, o que indica seu amplo desenvolvimento e o potencial para sua distribuição. O Telegram hospeda mais de 400 canais e grupos que oferecem serviços deepfake, desde bots automatizados que orientam os usuários durante o processo, até alguns customizados.
Os preços são bem acessíveis, já que você pode criar um vídeo de US＄ 2 a US＄ 100, dependendo da complexidade. A facilidade de acesso e utilização desses serviços evidencia uma ameaça crescente não só à transparência das eleições, mas também à confiança fundamental sobre a qual as instituições democráticas devem ser construídas.
Uma das técnicas mais utilizadas com a tecnologia deepfake é a clonagem de voz, que permite replicá-la com grande precisão. Esta é uma técnica mais fácil de produzir e compartilhar que deepfakes de vídeo e é realmente eficaz na disseminação de desinformação.
Em janeiro deste ano foi distribuída uma chamada automática na qual se ouvia a voz falsa de Joe Biden, atual presidente dos Estados Unidos e novamente candidato às eleições, incitando os moradores de New Hampshire a não votarem. Os Estados Unidos proibiram as chamadas automáticas geradas por IA, refletindo as preocupações crescentes sobre a manipulação digital e o seu impacto nas eleições.
Para combater a tecnologia deepfake e conseguir preservar a confiança da população nos processos democráticos, é essencial que sejam promovidas medidas legislativas, soluções tecnológicas e a sensibilização pública. Os cidadãos devem estar atentos aos conteúdos com os quais interagem e confiar exclusivamente em informações provenientes de fontes fidedignas e oficiais, bem como procurar não compartilhar notícias desatualizadas ou pouco confiáveis.
“O desenvolvimento da Inteligência Artificial e de tecnologias como o deepfake nos tornou mais céticos que nunca, e é lógico quando até a democracia, pilar fundamental sobre a qual se estrutura a nossa sociedade, faz parte desta realidade”, afirma Fernando de Falchi, gerente de Engenharia de Segurança da Check Point Software Brasil.
Impacto da IA nas eleições no Brasil
A IA deve interferir muito nas eleições municipais de 2024 no Brasil, mesmo com o Tribunal Superior Eleitoral (TSE) tendo aprovado no último dia 27 de fevereiro a regra que proíbe uso de IA para criar e propagar deepfakes e conteúdos falsos.
Fernando de Falchi explica que essa interferência nas eleições pelo cibercrime e por atacantes movimentará também a oferta e procura dos serviços que estão disponíveis na Deep Web, que conseguem oferecer, entre outros recursos, vídeos falsos que utilizam imagens de pessoas e em diferentes locais.
“Há ainda mensagens de voz disponíveis que são, praticamente, uma clonagem da voz. Um dos usos em deepfake, por exemplo, seria imitar uma pessoa alvo de um áudio falso reagindo a uma pergunta sobre algum tema polêmico.”
Como comentado anteriormente em relação ao pleito nos Estados Unidos, Falchi acredita que uma forma que será bem utilizada por aqui é a maneira de distribuição de vídeos, áudios, de mensagens falsas e deepfakes encaminhados essencialmente por e-mail, por mensagens, por WhatsApp, SMS, de modo a atingir o maior número de pessoas.
“Além disto, tanto voz como vídeo poderão ser disseminados por trás das técnicas de phishing e engenharia social para poder atingir o maior número de pessoas. Nas redes sociais também será preciso prestar atenção com posts que aparecem em seu perfil”, alerta ele.
Outro problema apontado pelo gerente é que as pessoas já postam o que recebem sem antes fazer uma avaliação do que está vendo, lendo ou ouvindo. É sabido que, depois de algo ser publicado, é praticamente impossível apagar esses vídeos e outras mensagens na Internet. “Esse prejuízo à imagem de uma pessoa pode ser muito danoso e bem complexo para a pessoa alvo se desvencilhar”, diz Falchi.
Por isso, o especialista da Check Point Software reforça as dicas básicas, mas importantes, de ficarmos atentos principalmente de onde vem o conteúdo, de onde a pessoa recebe suas mensagens, quem está enviando as mensagens. É preciso também verificar se um vídeo existe realmente, pois podem ser vídeos novos que utilizarão pessoas como figurantes e mudanças nas imagens ou vídeos existentes nos quais podem ser alteradas as falas.
“Ou seja, deve-se verificar origem, quem está enviando, verificar data do que foi dito, se há veículos de comunicação comentando ou noticiando o assunto abordado no vídeo, na mensagem e no áudio. Às vezes você pode receber um vídeo que aparenta ser real, mas ninguém está comentando o assunto ou notícia abordada nele. Precisa checar, não confiar e, principalmente, não passar para frente, não contribuir para a disseminação de fake news, deepfakes e golpes”, alerta Falchi.
Ele ainda chama a atenção para a possibilidade de cibercriminosos se aproveitarem de deepfakes e do evento do momento, as eleições municipais, para realizar ataques de ransomware.
“Tudo isso é similar ao cenário dos golpes, que se utilizam de phishing e engenharia social ao enviarem esses vídeos e áudios. É preciso muita atenção, como disse antes, para não cair em golpes. Os cibercriminosos se utilizarão do momento de um grande evento como as eleições para distribuir deepfakes, desinformação e conteúdo falso para roubar credenciais, identidade e outros dados, bem como obter lucro financeiro e realizar ataques de ransomware com esse conteúdo. Pois, o ransomware é outro ponto a ser explorado pelo cibercrime com mensagens de voz e vídeo de deepfake.”
Deepfakes de voz em alta. Como a biometria pode ajudar a resolver isso?
