O Instituto Nacional de Padrões e Tecnologia (NIST) lançou uma nova iniciativa chamada “Avaliando Riscos e Impactos da IA” (ARIA), com o objetivo de avaliar as interações entre sistemas de inteligência artificial (IA) e usuários humanos. O foco é entender como esses sistemas impactam e são influenciados por fatores sociais.
De acordo com o NIST, o programa ARIA fornecerá métricas mensuráveis para avaliar o desempenho desses sistemas, abrangendo aspectos como validade, confiabilidade, segurança, proteção, privacidade e justiça. O objetivo é apoiar os esforços do Instituto de Segurança da IA dos EUA na criação de sistemas de IA confiáveis.
A iniciativa inclui três níveis de avaliação
- Testes de modelo: Verificação das capacidades dos modelos de IA.
- Red Teaming: Aplicação de testes de estresse para identificar vulnerabilidades.
- Testes de campo: Exame das interações entre indivíduos e IA em cenários cotidianos.
Alguns casos específicos de avaliação de modelos de IA incluem previsão de spoilers de TV, planejamento de refeições e descoberta de rotas.
O NIST planeja expandir a avaliação ARIA para incluir tecnologias generativas de IA, como modelos de texto para imagem, além de outros métodos de IA, como sistemas de recomendação ou ferramentas de apoio à decisão.
Reva Schwartz, líder do programa ARIA no Laboratório de Tecnologia da Informação do NIST, destaca que a ARIA considera a IA além do modelo, avaliando os sistemas no contexto realista de interação com as pessoas.
Essa iniciativa baseia-se no Quadro de Gestão de Riscos de IA lançado em janeiro de 2023, que descreve métodos para analisar e monitorar os riscos e impactos dos sistemas de IA.
A estrutura visa orientar as empresas na gestão dos riscos associados à implementação de sistemas de IA.
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Junte-se a nós na construção de um futuro digital mais seguro e confiável!
Ao longo de dez anos, trilhamos um caminho de pioneirismo com foco em segurança digital, identificação e privacidade. Celebramos essa jornada com a certeza de que a confiança é a base para um futuro digital sólido e promissor.
Mas a nossa missão continua! Convidamos você, leitor, e sua empresa a se juntarem a nós nesta jornada em busca de um futuro digital ainda mais seguro e confiável. Acreditamos no poder da colaboração para construir um ecossistema digital onde empresas, máquinas e pessoas possam confiar muito mais uma nas outras.
