Novo fascículo da Cartilha de Segurança para Internet aborda riscos da IA e orienta sobre privacidade, alucinações, agentes e fraudes
O uso de inteligência artificial já faz parte da rotina de muitas pessoas, seja para auxiliar em atividades profissionais, traduzir textos, criar imagens ou esclarecer dúvidas. Apesar da popularização dessas ferramentas, os resultados produzidos por sistemas de IA podem conter erros, expor dados pessoais e corporativos e ser utilizados em golpes.
Diante desse cenário, o Centro de Estudos, Resposta e Tratamento de Incidentes de Segurança no Brasil (CERT.br), do Núcleo de Informação e Coordenação do Ponto BR (NIC.br), lançou o fascículo “Inteligência Artificial”, novo integrante da Cartilha de Segurança para Internet.
A publicação reúne orientações sobre o uso seguro e consciente da tecnologia e reforça a mensagem: “A IA é assistente. O responsável é você”.
O material destaca que não existe uma única inteligência artificial capaz de realizar qualquer atividade. Há diferentes ferramentas voltadas a finalidades específicas. Grandes modelos de linguagem (LLMs, na sigla em inglês), utilizados em chatbots, não necessariamente identificam fatos ou determinam qual é a resposta correta. Esses sistemas funcionam por meio de algoritmos matemáticos que calculam a resposta mais provável, considerando os dados utilizados no treinamento e o contexto do prompt.
Como consequência, os resultados podem apresentar informações incorretas, desatualizadas ou inventadas, fenômeno conhecido como alucinação. O CERT.br recomenda tratar os conteúdos gerados como rascunhos, verificar os fatos, confirmar se as fontes citadas realmente existem e abordam o assunto e consultar referências independentes antes de tomar decisões.
“Por mais avançada que a tecnologia pareça, a inteligência artificial é um software que usa cálculo probabilístico e não possui discernimento ou senso crítico. O ser humano precisa estar no comando em etapas decisivas: estabelecendo limites de acesso aos agentes, realizando aprovação prévia antes de ações irreversíveis e revisando o conteúdo gerado. A ferramenta apoia o trabalho, mas a análise final, a validação das informações e a responsabilidade pelo resultado permanecem inteiramente com o usuário”, salienta Cristine Hoepers, gerente do CERT.br.
Cuidados com prompts e alucinações
Para reduzir erros e obter respostas mais precisas, a publicação recomenda elaborar prompts claros e detalhados, indicando a tarefa, o contexto, o público-alvo e o tom de linguagem desejado.
Em temas muito específicos, o CERT.br orienta fornecer diretamente no prompt uma fonte especializada e restringir a resposta da ferramenta estritamente a esse conteúdo.
Outra recomendação é estabelecer previamente que a IA informe quando não tiver certeza ou quando não houver informações suficientes, em vez de tentar produzir uma resposta.
Privacidade e uso de IA no ambiente de trabalho
A proteção de dados pessoais e corporativos também recebe atenção no fascículo. Informações inseridas em chatbots públicos geralmente são enviadas aos servidores da empresa responsável pela ferramenta e podem ser utilizadas para treinar o modelo.
A orientação é considerar que tudo o que é inserido em um prompt pode se tornar de uso comum. Senhas, números de documentos como CPF, dados bancários, informações de clientes, códigos-fonte e documentos internos não devem ser inseridos nessas ferramentas.
No ambiente profissional, o CERT.br recomenda consultar as regras da empresa sobre o uso de IA, verificar quais aplicações são permitidas e evitar o uso de contas pessoais para realizar tarefas profissionais ou processar dados corporativos.
A publicação também orienta a ajustar as configurações de privacidade das ferramentas, desativar o uso das interações para treinamento do modelo, desligar o histórico de atividades e utilizar conversas temporárias, quando disponíveis.
Antes de compartilhar arquivos gerados por IA, é necessário verificar se não houve exposição inadvertida de dados sensíveis ou de trechos do prompt original em comentários ou metadados.
Agentes de IA e prompt injection
O fascículo aborda ainda os agentes de IA, sistemas capazes de acessar aplicações e dados e executar ações de forma autônoma. Nesses casos, o CERT.br reforça a necessidade de manter o controle humano e limitar as permissões concedidas ao agente ao estritamente necessário para a tarefa.
A recomendação é configurar os sistemas para exigir aprovação humana antes de efetivar pagamentos, enviar mensagens, publicar conteúdos ou realizar ações irreversíveis, como a exclusão de dados.
O cuidado é necessário porque agentes podem ser manipulados por instruções maliciosas escondidas em sites, arquivos ou e-mails, em um tipo de ataque conhecido como prompt injection, ou agir de maneira inesperada.
Se um agente precisa apenas ler um documento, por exemplo, não deve receber permissão para alterá-lo ou apagá-lo.
Uso de IA em fraudes e deepfakes
A publicação também alerta para o uso de inteligência artificial por criminosos na criação de deepfakes, como áudios, imagens e vídeos falsos utilizados para se passar por pessoas conhecidas, pedir dinheiro ou disseminar desinformação.
A tecnologia também pode ser empregada para gerar comprovantes falsos de transferências e entregas.
Em situações suspeitas, a recomendação é confirmar as informações por canais oficiais, desconfiar de pedidos urgentes e verificar o efetivo crédito na conta bancária antes de considerar um pagamento concluído.
Direitos autorais, plágio e orientações sobre saúde
O material também apresenta orientações relacionadas a direitos autorais. Para evitar o plágio de obras protegidas por direitos autorais, que compõem a base de treinamento das LLMs, a recomendação é reescrever os textos com palavras próprias, citar os autores originais e indicar quando ferramentas de IA foram utilizadas.
Na área da saúde, o fascículo alerta que chatbots de uso geral não devem ser utilizados para autodiagnóstico, automedicação ou como substitutos de profissionais de saúde e terapeutas.
Segundo a publicação, essas ferramentas não possuem treinamento específico nem sigilo profissional e não compreendem o contexto médico ou emocional do usuário. Por isso, podem fornecer orientações incorretas ou prejudiciais.
O fascículo “Inteligência Artificial” integra a Cartilha de Segurança para Internet e está disponível gratuitamente no site do CERT.br.
Cidadão na Rede
Além do novo fascículo, foram lançadas duas animações do projeto Cidadão na Rede sobre inteligência artificial.
Uma delas alerta para os riscos de compartilhar dados pessoais em prompts de chatbots de ferramentas de IA generativa. O vídeo orienta os usuários a substituir informações reais por termos genéricos e proteger dados como CPF, endereço e senhas.
A segunda animação aborda imagens, áudios e vídeos gerados por inteligência artificial utilizados na aplicação de golpes e na disseminação de informações falsas. O conteúdo apresenta orientações para reconhecer sinais de alerta, verificar materiais suspeitos e se proteger desses golpes.
Capitaneado pelo Centro de Estudos e Pesquisas em Tecnologia de Redes e Operações do NIC.br (Ceptro.br|NIC.br), o Cidadão na Rede é uma iniciativa criada para difundir e incentivar boas práticas relacionadas à cidadania digital e ao uso da Internet.
Por meio de animações curtas, o projeto apresenta orientações sobre o uso correto e responsável da rede, abrangendo questões técnicas e comportamentais.
Sobre o CERT.br
O Centro de Estudos, Resposta e Tratamento de Incidentes de Segurança no Brasil é um Grupo de Resposta a Incidentes de Segurança (CSIRT) de responsabilidade nacional de último recurso, mantido pelo NIC.br. Sua missão é aumentar os níveis de segurança e de capacidade de tratamento de incidentes das redes conectadas à Internet no País. Para atingir esse objetivo, além de atividades de tratamento a incidentes, o Centro também investe na conscientização sobre os problemas de segurança, no auxílio ao estabelecimento de novos CSIRTs no Brasil e no aumento da consciência situacional sobre ameaças na Internet, sempre respaldados por uma forte integração estabelecida com as comunidades nacional e internacional de CSIRTs.
Sobre o Núcleo de Informação e Coordenação do Ponto BR (NIC.br)
O Núcleo de Informação e Coordenação do Ponto BR é uma entidade civil de direito privado e sem fins de lucro, encarregada da operação do domínio.br, bem como da distribuição de números IP e do registro de Sistemas Autônomos no País. O NIC.br implementa as decisões e projetos do Comitê Gestor da Internet no Brasil – CGI.br desde 2005, e todos os recursos arrecadados provêm de suas atividades que são de natureza eminentemente privada. Conduz ações e projetos que trazem benefícios à infraestrutura da Internet no Brasil.
Sobre o Comitê Gestor da Internet no Brasil (CGI.br)
O Comitê Gestor da Internet no Brasil, responsável por estabelecer diretrizes estratégicas relacionadas ao uso e desenvolvimento da Internet no Brasil, coordena e integra todas as iniciativas de serviços Internet no País, promovendo a qualidade técnica, a inovação e a disseminação dos serviços ofertados. Com base nos princípios do multissetorialismo e transparência, o CGI.br representa um modelo de governança da Internet democrático, elogiado internacionalmente, em que todos os setores da sociedade são partícipes de forma equânime de suas decisões.
A transformação digital das PMEs já não depende de grandes investimentos, mas de boas decisões
VU apresenta detecção de deepfakes com IA e camada de dados de identidade para o Brasil
IA responsável em 2026: como estamos nos adaptando ao que vem pela frente
95% das empresas adiam projetos de IA, revela novo relatório da Cloudera
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
