O Instituto Nacional de Padrões e Tecnologia (NIST) lançou uma nova iniciativa chamada “Avaliando Riscos e Impactos da IA” (ARIA), com o objetivo de avaliar as interações entre sistemas de inteligência artificial (IA) e usuários humanos. O foco é entender como esses sistemas impactam e são influenciados por fatores sociais.
De acordo com o NIST, o programa ARIA fornecerá métricas mensuráveis para avaliar o desempenho desses sistemas, abrangendo aspectos como validade, confiabilidade, segurança, proteção, privacidade e justiça. O objetivo é apoiar os esforços do Instituto de Segurança da IA dos EUA na criação de sistemas de IA confiáveis.
A iniciativa inclui três níveis de avaliação
- Testes de modelo: Verificação das capacidades dos modelos de IA.
- Red Teaming: Aplicação de testes de estresse para identificar vulnerabilidades.
- Testes de campo: Exame das interações entre indivíduos e IA em cenários cotidianos.
Alguns casos específicos de avaliação de modelos de IA incluem previsão de spoilers de TV, planejamento de refeições e descoberta de rotas.
O NIST planeja expandir a avaliação ARIA para incluir tecnologias generativas de IA, como modelos de texto para imagem, além de outros métodos de IA, como sistemas de recomendação ou ferramentas de apoio à decisão.
Reva Schwartz, líder do programa ARIA no Laboratório de Tecnologia da Informação do NIST, destaca que a ARIA considera a IA além do modelo, avaliando os sistemas no contexto realista de interação com as pessoas.
Essa iniciativa baseia-se no Quadro de Gestão de Riscos de IA lançado em janeiro de 2023, que descreve métodos para analisar e monitorar os riscos e impactos dos sistemas de IA.
A estrutura visa orientar as empresas na gestão dos riscos associados à implementação de sistemas de IA.
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
O Crypto ID trilhou um caminho incrível!
Ao longo de uma década, fomos além das inovações e tendências, tornando-nos referência em segurança digital, identificação e privacidade.
Neste marco tão especial, renovamos nosso compromisso com um mundo digital mais seguro e confiável.
Agradecemos a todos que fizeram e fazem parte dessa trajetória – parceiros, colunistas, colaboradores, assessorias de imprensa e a nossa comunidade! Juntos, estamos construindo um futuro em que empresas, máquinas e pessoas possam confiar muito mais umas nas outra.
