O Instituto Nacional de Padrões e Tecnologia (NIST) lançou uma nova iniciativa chamada “Avaliando Riscos e Impactos da IA” (ARIA), com o objetivo de avaliar as interações entre sistemas de inteligência artificial (IA) e usuários humanos. O foco é entender como esses sistemas impactam e são influenciados por fatores sociais.
De acordo com o NIST, o programa ARIA fornecerá métricas mensuráveis para avaliar o desempenho desses sistemas, abrangendo aspectos como validade, confiabilidade, segurança, proteção, privacidade e justiça. O objetivo é apoiar os esforços do Instituto de Segurança da IA dos EUA na criação de sistemas de IA confiáveis.
A iniciativa inclui três níveis de avaliação
- Testes de modelo: Verificação das capacidades dos modelos de IA.
- Red Teaming: Aplicação de testes de estresse para identificar vulnerabilidades.
- Testes de campo: Exame das interações entre indivíduos e IA em cenários cotidianos.
Alguns casos específicos de avaliação de modelos de IA incluem previsão de spoilers de TV, planejamento de refeições e descoberta de rotas.
O NIST planeja expandir a avaliação ARIA para incluir tecnologias generativas de IA, como modelos de texto para imagem, além de outros métodos de IA, como sistemas de recomendação ou ferramentas de apoio à decisão.
Reva Schwartz, líder do programa ARIA no Laboratório de Tecnologia da Informação do NIST, destaca que a ARIA considera a IA além do modelo, avaliando os sistemas no contexto realista de interação com as pessoas.
Essa iniciativa baseia-se no Quadro de Gestão de Riscos de IA lançado em janeiro de 2023, que descreve métodos para analisar e monitorar os riscos e impactos dos sistemas de IA.
A estrutura visa orientar as empresas na gestão dos riscos associados à implementação de sistemas de IA.
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
A força invisível que constrói reputações
Em um cenário digital saturado, a reputação se constrói com conteúdo inteligente e estratégico. O Crypto ID, desde 2014, oferece essa plataforma de profundidade em tecnologia, segurança e regulação, diferenciando-se pelo foco na análise e no aprendizado, não no sensacionalismo. Marcas que buscam autoridade duradoura encontram aqui um público qualificado e engajado, ávido por conhecimento.
Para empresas visionárias, o Crypto ID representa a oportunidade de construir uma presença inteligente e respeitada. Nossa linha editorial independente e nosso compromisso com conteúdo relevante e atemporal solidificam a reputação de nossos parceiros. Junte-se a nós e posicione sua marca onde a informação tem valor e gera confiança. Fale com a gente! [contato@cryptoid.com.br]
