O Instituto Nacional de Padrões e Tecnologia (NIST) lançou uma nova iniciativa chamada “Avaliando Riscos e Impactos da IA” (ARIA), com o objetivo de avaliar as interações entre sistemas de inteligência artificial (IA) e usuários humanos. O foco é entender como esses sistemas impactam e são influenciados por fatores sociais.
De acordo com o NIST, o programa ARIA fornecerá métricas mensuráveis para avaliar o desempenho desses sistemas, abrangendo aspectos como validade, confiabilidade, segurança, proteção, privacidade e justiça. O objetivo é apoiar os esforços do Instituto de Segurança da IA dos EUA na criação de sistemas de IA confiáveis.
A iniciativa inclui três níveis de avaliação
- Testes de modelo: Verificação das capacidades dos modelos de IA.
- Red Teaming: Aplicação de testes de estresse para identificar vulnerabilidades.
- Testes de campo: Exame das interações entre indivíduos e IA em cenários cotidianos.
Alguns casos específicos de avaliação de modelos de IA incluem previsão de spoilers de TV, planejamento de refeições e descoberta de rotas.
O NIST planeja expandir a avaliação ARIA para incluir tecnologias generativas de IA, como modelos de texto para imagem, além de outros métodos de IA, como sistemas de recomendação ou ferramentas de apoio à decisão.
Reva Schwartz, líder do programa ARIA no Laboratório de Tecnologia da Informação do NIST, destaca que a ARIA considera a IA além do modelo, avaliando os sistemas no contexto realista de interação com as pessoas.
Essa iniciativa baseia-se no Quadro de Gestão de Riscos de IA lançado em janeiro de 2023, que descreve métodos para analisar e monitorar os riscos e impactos dos sistemas de IA.
A estrutura visa orientar as empresas na gestão dos riscos associados à implementação de sistemas de IA.
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.


Junte-se a nós na construção de um futuro digital mais seguro e confiável!
O Crypto ID é uma plataforma de destaque no cenário de identificação digital, cibersegurança e tecnologia, atuando como referência em conteúdos especializados e atualizados sobre temas como certificação digital, blockchain, biometria, autenticação multifatorial e tendências regulatórias.
Fundado há mais de uma década, a plataforma se consolidou como uma fonte confiável para profissionais de TI, empresas e entusiastas da segurança digital.
A plataforma posiciona-se não apenas como um veículo de notícias, mas como um agente ativo na promoção de um ecossistema digital seguro.
Sua combinação de análises técnicas, cobertura de eventos e parcerias com líderes do setor faz dele um recurso indispensável para quem busca entender e se adaptar às transformações da identidade digital e da cibersegurança no Brasil.