Nota técnica do Comitê Gestor da Internet no Brasil destaca avanços do PL 2.338/2023, mas recomenda aprimoramentos para fortalecer a proteção de direitos fundamentais diante do uso crescente da Inteligência Artificial
O debate sobre a regulação da Inteligência Artificial no Brasil avança em um momento decisivo. O Comitê Gestor da Internet no Brasil (CGI.br) divulgou uma nota técnica com contribuições ao Projeto de Lei nº 2.338/2023, que estabelece o Marco Regulatório da Inteligência Artificial no país. O documento reconhece avanços importantes no texto, mas aponta a necessidade de ajustes para fortalecer a proteção de direitos fundamentais diante da rápida expansão dessas tecnologias.
O PL 2.338/2023 já foi aprovado pelo Senado e segue em tramitação na Câmara dos Deputados. Segundo o CGI.br, a proposta representa um passo relevante para organizar o desenvolvimento, a implementação e o uso de sistemas de Inteligência Artificial no Brasil, estabelecendo direitos, deveres e mecanismos de governança para toda a cadeia tecnológica.
Regulação baseada em risco
Entre os pontos positivos destacados pelo Comitê está a adoção de um modelo regulatório baseado em risco. Nesse modelo, quanto maior o impacto potencial de um sistema de IA sobre indivíduos ou grupos, mais rigorosas são as exigências de governança, transparência e supervisão.
Sistemas classificados como de alto risco passam a ter obrigações mais robustas, enquanto aplicações de menor impacto possuem regras simplificadas. A proposta busca equilibrar o estímulo à inovação tecnológica com a necessidade de proteção de direitos fundamentais.
Ainda assim, o CGI.br sugere que o projeto torne obrigatória a realização de uma análise preliminar de risco antes da implementação de sistemas de IA. Atualmente, essa avaliação aparece apenas como uma possibilidade no texto legal. Para o Comitê, a análise prévia é essencial para identificar potenciais impactos e evitar danos antes que a tecnologia seja colocada em operação.
Deepfakes e violência digital
A nota técnica também dedica atenção especial ao avanço das deepfakes, especialmente aquelas que envolvem conteúdo sexual manipulado digitalmente.
O documento recomenda ampliar o escopo da legislação para incluir a proibição da criação ou disseminação de conteúdo sintético que represente nudez ou material sexual sem o consentimento das pessoas retratadas. A medida busca responder ao aumento de casos desse tipo de violência digital.
Estudos citados na nota indicam que mais de 90% das vítimas de deepfakes sexuais são mulheres, o que reforça a necessidade de uma abordagem regulatória mais abrangente para combater esse tipo de prática.
Além disso, o CGI.br alerta que deepfakes também podem ser utilizados em campanhas de desinformação e manipulação política, ampliando os impactos sociais dessa tecnologia.
Reconhecimento facial e vigilância em massa
Outro tema sensível abordado na nota técnica é o uso de sistemas de identificação biométrica à distância, como o reconhecimento facial em espaços públicos.
Embora o projeto de lei proíba esse tipo de tecnologia, ele prevê diversas exceções que, segundo o CGI.br, podem acabar permitindo seu uso amplo em contextos de segurança pública.
Dados citados no documento indicam que mais de 87 milhões de pessoas podem estar potencialmente sujeitas a sistemas de vigilância por reconhecimento facial no Brasil, considerando projetos já implementados em diferentes estados.
Entre os principais riscos apontados estão a baixa taxa de acerto dos sistemas, a possibilidade de vieses raciais e de gênero, detenções indevidas e impactos diretos sobre direitos fundamentais como privacidade, proteção de dados e liberdade de expressão.
Policiamento preditivo e discriminação
A nota técnica também recomenda a proibição do uso de Inteligência Artificial para prever crimes com base em perfis de indivíduos ou grupos, prática conhecida como policiamento preditivo.
Segundo o CGI.br, sistemas desse tipo podem reproduzir desigualdades históricas e reforçar padrões discriminatórios, especialmente quando baseados em dados históricos de segurança pública.
A recomendação é que esse tipo de aplicação seja classificado como de risco excessivo e, portanto, proibido pela legislação.
IA no crédito e impacto social
Outro ponto de atenção levantado pelo Comitê envolve o uso de Inteligência Artificial em sistemas de pontuação de crédito.
Hoje, birôs de crédito utilizam algoritmos e grandes bases de dados para calcular a probabilidade de inadimplência de consumidores, influenciando decisões sobre financiamento, concessão de crédito, seguros e até oportunidades de emprego.
Segundo a nota técnica, esses sistemas podem gerar discriminações indiretas, especialmente quando utilizam dados como localização geográfica ou padrões de consumo para classificar indivíduos. Por isso, o CGI.br recomenda que análises automatizadas de crédito sejam classificadas como sistemas de alto risco dentro da legislação.
Governança e participação multissetorial
O documento também reforça a importância de uma arquitetura regulatória que envolva diferentes atores da sociedade, com participação de governo, empresas, academia e sociedade civil.
Nesse modelo, a Autoridade Nacional de Proteção de Dados (ANPD) aparece como potencial coordenadora do Sistema Nacional de Regulação e Governança de Inteligência Artificial, responsável por articular políticas públicas e diretrizes regulatórias.
Ao final da nota técnica, o CGI.br reafirma seu compromisso em contribuir para o debate público e destaca que a construção do marco regulatório da IA no Brasil deve ocorrer de forma transparente, participativa e alinhada à proteção dos direitos fundamentais.
Nota técnica do Comitê Gestor da Internet no Brasil
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Inteligência Editorial que Orienta Cenários
Desde 2014, o Crypto ID oferece conteúdo editorial sobre tecnologia de segurança referente à requisitos técnicos e regulatórios. Levamos conhecimento e provocamos reflexões que sustentam decisões em transformação digital e cibersegurança. Temos a força do contexto que impulsiona a comunicação. Fale com a gente contato@cryptoid.com.br
