F5 Labs lançou hoje recursos aprimorados de inteligência de ameaças sobre IA, ranking que avalia segurança dos principais modelos de IA do mercado
A F5 Labs (NASDAQ: FFIV), empresa de fornecimento e proteção de aplicações e APIs, lançou hoje recursos aprimorados de inteligência de ameaças sobre IA. A meta é ajudar os líderes de cybersecurity a medir e comparar com confiabilidade os perfis de risco de todos os modelos populares de IA.
Desenvolvidos e atualizados uma vez por mês pela equipe de pesquisa de ameaças do F5 Labs, os rankings do Índice Abrangente de Segurança de IA (CASI) e da Pontuação de Resistência Agente (ARS) fornecem benchmarks padronizados, respaldados por pesquisas de ponta, combinando inteligência de ataques em tempo real com análises especializadas de vetores de ataque de IA em evolução.
Resultantes da aquisição da CalypsoAI pela F5, esses recursos de segurança incluem uma das maiores bibliotecas de vulnerabilidades de IA, atualizada de forma exclusiva com mais de 10.000 novos prompts de ataque por mês e utilizando mais de um ano de dados de ataque acumulados.
O F5 Labs agora oferece às empresas e à comunidade de segurança em geral um meio poderoso e consistente de avaliar, comparar e selecionar modelos e fornecedores de IA. Isso pode ser feito antes da IA entrar em produção, medindo a capacidade de modelos como os da Anthropic, OpenAI, Microsoft e MiniMax de lidar com os principais desafios e ameaças à segurança de aplicações do mundo real.
“Implantar modelos de IA não verificados em infraestruturas críticas não é inovação; é negligência”, disse Kunal Anand, diretor de produtos da F5. “As organizações precisam de uma maneira de quantificar continuamente a resiliência. Os rankings de IA do F5 Labs oferecem esse padrão. Essas classificações isolam pontos fracos específicos na camada do modelo, fornecendo às equipes de segurança as informações necessárias para controlar a inferência e bloquear ataques antes que eles aconteçam”. Os rankings informam, ainda, os diferentes custos de segurança das das plataformas de IA mais populares do mercado.
Os rankings do F5 Labs ajudam as equipes de segurança a identificar e reforçar vulnerabilidades de forma holística para melhorar as defesas junto com a F5 Application Delivery and Security Platform, desde a proteção de APIs e dados até a prevenção de ataques DDoS e a aceleração do DevSecOps por meio de automação e escalabilidade.
Avaliando o panorama atual dos modelos de IA
A rápida integração da IA em todas as facetas das operações comerciais trouxe consigo a necessidade de uma validação de segurança robusta dos modelos escolhidos por uma organização. Projetados para ajudar os profissionais de segurança a responder à pergunta “Quão seguro é o meu modelo?”, os rankings do F5 Labs estabelecem métricas em torno dos caminhos de menor resistência e dos recursos mínimos de computação necessários para completar ataques simples e complexos.
Junto com uma classificação direta, o Índice Abrangente de Segurança de IA (CASI) da F5 Labs oferece métricas como:
- Desempenho médio: desempenho do modelo de linha de base medido em tarefas padronizadas em condições normais de operação
- Relação risco-desempenho: insight sobre a relação entre segurança e desempenho do modelo
- Custo da segurança: o custo de inferência atual em relação ao CASI (Índice Abrangente de Segurança de IA) do modelo. A meta é avaliar o impacto financeiro da segurança em cada um dos modelos
Complementando o CASI, a Pontuação de Resistência Agente (ARS) da F5 Labs avalia como os sistemas de IA resistem a ataques sustentados e adaptativos realizados por um agente de IA malicioso, encarregado de atingir um objetivo. Em vez de tentar executar um comando individual, os agentes de IA conduzem interações prolongadas com os modelos, aplicando métodos de raciocínio e psicológicos na tentativa de contornar as barreiras de segurança. O ARS avalia os sistemas de IA em três dimensões principais:
- Sofisticação necessária: o nível mínimo de engenhosidade do invasor necessário para comprometer com sucesso o sistema de IA
- Resistência defensiva: por quanto tempo o sistema permanece seguro sob ataques prolongados, adaptativos e em várias etapas
- Contra-inteligência: se os ataques fracassados expõem inadvertidamente sinais ou comportamentos do sistema que poderiam permitir explorações futuras
Indo além de uma linha de base para a segurança do modelo
O anúncio de hoje complementa a recente disponibilidade geral do F5 AI Guardrails e do F5 AI Red Team. O F5 AI Guardrailspermite que as empresas apliquem proteções prontas para uso e personalizadas para proteger a forma como a IA interage com usuários e dados. O F5 AI Red Team oferece testes rigorosos com ondas de agentes de IA autônomos, simulando uma equipe dedicada de analistas de segurança modernos e ataques em várias etapas que investigam, aprendem e se adaptam.
Essa abordagem alimenta diretamente os rankings CASI e ARS, permitindo que a F5 avalie tanto as características básicas de segurança do modelo quanto a resistência a longo prazo em condições de ameaças contínuas do mundo real. Além dos rankings CASI e ARS, que são atualizados mensalmente com as pontuações mais recentes, o F5 Labs também publica mensalmente o AI Security Insights, uma pesquisa complementar. Esses artigos focados explicam movimentos notáveis nas pontuações refletidos nos rankings de IA do F5 Labs, cobrem notícias e pesquisas recentes sobre IA e fornecem análises aprofundadas sobre ataques específicos de IA.
“Os recursos existentes de inspeção e registro de tráfego da F5 são expandidos com a aquisição da CalypsoAI, adicionando recursos de governança de IA em tempo de execução e visibilidade do comportamento do sistema de IA. Em conjunto com seu braço de pesquisa de segurança, o F5 Labs, que atualiza os rankings CASI e ARS todos os meses, os clientes da F5 recebem um conjunto útil de métricas de segurança a serem consideradas ao selecionar um modelo de IA, bem como as ferramentas necessárias para restringir como os sistemas de IA são usados, quais dados eles podem acessar e como os resultados são gerados”, disse Grace Trinidad, diretora de pesquisa, Segurança e Confiança em IA, IDC.
Os rankings de IA do F5 Labs são apenas um exemplo de como a F5 está ajudando os clientes e a comunidade de segurança a adotar a IA com uma compreensão mais ampla das metodologias de ataque em evolução e das defesas dos modelos. Ao revelar e agregar resultados impactantes, a F5 está equipando melhor a comunidade global para enfrentar os desafios crescentes impostos pelas ameaças modernas à segurança cibernética. Ao formalizar um sistema de classificação para os principais modelos de IA, o F5 Labs também incentiva o compartilhamento de conhecimento entre profissionais de segurança, criando um efeito cascata para uma maior adoção das melhores práticas de segurança de aplicações.
Sobre a F5
A F5, Inc. (NASDAQ: FFIV) é líder global no fornecimento e proteção de as aplicações. Com três décadas de experiência, a F5 criou a principal plataforma do setor — o F5 Application Delivery and Security Platform (ADSP) — para entregar e proteger as aplicações e APIs em qualquer lugar: on-premises, na nuvem, no Edge e em ambientes híbridos e multicloud. A F5 está comprometida com a inovação e a parceria com as maiores e mais avançadas organizações do mundo. Sua missão é oferecer experiências digitais rápidas, disponíveis e seguras. E, juntos, ajudar uns aos outros a prosperar e a criar um mundo digital melhor.
Agentic mindset ganha espaço e transforma os papéis de gestão nas organizações
ICL lança IA com garantia de autoria e base no pensamento de grandes intelectuais contemporâneos
CFM Estabelece Marco Regulatório para IA na Medicina. Confira Como Outras Nações Tratam o Tema
Currículo não é tudo: nova solução usa neurociência e IA para prever comportamento e eliminar vieses
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
