Entrevista especial com Jimi Sebree1 da Tenable, uma empresa líder em segurança cibernética, sobre a Descoberta de Vulnerabilidades no Azure Health Bot Service
Recentemente, a equipe de pesquisa da Tenable descobriu vulnerabilidades críticas na plataforma de nuvem Azure Health Bot Service, que permite que profissionais de saúde implantem assistentes virtuais com tecnologia de Inteligência Artificial (IA).
Como disse Lucas Tamagna-Darr, diretor sênior de Engenharia da Tenable: “LLMs e IA em geral criaram muita empolgação em organizações globalmente, mas também deixaram muitas equipes de segurança com perguntas sem resposta sobre como podem gerenciar os riscos”.
Como essas vulnerabilidades afetam a segurança dos sistemas e o que as equipes de TI precisam saber? Para nos ajudar a entender melhor, Crypto ID, o maior portal sobre identificação digital do Brasil, entrevistou Jimmy Sebrae, engenheiro sênior de Pesquisa da Tenable, para esclarecer as dúvidas.
Leia entrevista na íntegra!
Crypto ID: Quais foram as principais vulnerabilidades descobertas na plataforma Azure Health Bot Service?
Jimi Sebree: A Tenable Research descobriu vários problemas de escalonamento de privilégios no Azure Health Bot Service por meio de uma falsificação de solicitação do lado do servidor (SSRF).
Este serviço do Azure permite que os provedores de assistência médica criem e implantem chatbots voltados para o paciente para lidar com fluxos de trabalho administrativos em seus ambientes.
Portanto, esses chatbots geralmente têm algum acesso a informações confidenciais do paciente, embora as informações disponíveis para esses bots possam variar com base na configuração de cada bot.
Os pesquisadores da Tenable descobriram que certos recursos eram vulneráveis ao SSRF, o que tornava acessíveis muitos endpoints internos, como o Internal Metadata Service (IMDS) do Azure
Crypto ID: Como essas vulnerabilidades poderiam afetar a segurança dos sistemas e dados dos usuários?
Jimi Sebree: A exploração desses problemas permitiu o acesso de gerenciamento de recursos cross-tenant dentro deste serviço. Com base no nível de acesso concedido, é provável que o movimento lateral para outros recursos em ambientes de clientes teria sido possível.
Crypto ID: A Microsoft já aplicou mitigações para esses problemas. Quais são as ações recomendadas para os clientes que utilizam o Azure Health Bot Service?
Jimi Sebree: De acordo com a Microsoft, mitigações para esses problemas foram aplicadas a todos os serviços e regiões afetados. Nenhuma ação do cliente é necessária.
Crypto ID: O que são Large Language Models (LLMs) e como eles estão relacionados à IA generativa?
Jimi Sebree: LLMs são uma classe especial de modelos baseados em IA que utilizam processamento de linguagem natural para entender e gerar conteúdo semelhante ao humano, geralmente na forma de texto de pergunta e resposta.
IA generativa é uma classe especial de IA focada na capacidade de produzir conteúdo com base em um prompt de entrada e um determinado conjunto de dados de treinamento.
Esses dois conceitos estão relacionados, pois a IA generativa faz uso de LLMs e outros modelos fundamentais para gerar uma variedade de conteúdo, como imagens, áudio ou vídeos.
Crypto ID: Quais são os principais desafios enfrentados pelas equipes de segurança ao lidar com LLMs e IA em geral?
Jimi Sebree: Riscos como injeção de prompt, divulgação de informações confidenciais e envenenamento de dados de treinamento não são novos por si só. No entanto, a praticidade da exploração e os desafios de proteção contra esses riscos ainda são uma área de pesquisa extensiva.
Vimos relatos de ataques de injeção de prompt em modelos de linguagem em que um invasor convence o modelo a ignorar suas instruções e divulgar informações que não deveria ter divulgado. Esses tipos de ataques são tecnicamente realizáveis, mas devido à natureza dos LLMs, a praticidade desses ataques é incerta.
Ao contrário de um ataque de injeção de SQL em que você pode desenvolver algum grau de controle dos dados que obtém de volta, um ataque de injeção de prompt de LLM sempre estará sujeito ao comportamento do modelo subjacente.
Em geral, a implantação de novas soluções baseadas em LLM e IA destaca a importância contínua das medidas de segurança tradicionais tomadas ao desenvolver e implantar novos serviços.
Crypto ID: Você poderia compartilhar algumas dicas práticas para reduzir os riscos associados ao uso de LLMs e proteger a superfície de ataque?
Jimi Sebree: LLMs e IA em geral criaram muita empolgação em organizações globalmente, mas também deixaram muitas equipes de segurança com perguntas sem resposta sobre como podem gerenciar os riscos. Inevitavelmente, veremos uma onda de novos produtos e recursos voltados para proteger modelos e prompts e bloquear qualquer atividade maliciosa.
Dada a incerteza em torno da confiabilidade e praticidade dos ataques a LLMs e a capacidade das ferramentas de bloquear esses ataques sem negar o valor dos LLMs, pode ser melhor observar esse ambiente antes de se apressar.
Enquanto isso, as equipes de segurança podem tomar medidas concretas, bem compreendidas e bem definidas para reduzir seus riscos e proteger a superfície de ataque. Elas também podem estabelecer políticas corporativas fortes sobre o uso de LLMs e aplicativos com tecnologia LLM e conduzir o monitoramento para garantir que essas políticas sejam seguidas.
- Jimi Sebree – Engenheiro de Pesquisa de Equipe Sênior, Zero Day Research Desde que entrou em 2014, Jimi assumiu várias funções na Tenable. Ele esteve envolvido na maioria dos aspectos do ciclo de vida do plug-in em um ponto ou outro e foi responsável pela criação e manutenção de várias estruturas de plug-in principais. Antes de entrar para a equipe da Zero Day Research, ele foi responsável pelo design, criação e lançamento de uma iniciativa de automação interna que serve como uma fonte de dados primária para produtos e fluxos de trabalho na Tenable. ↩︎
Sobre Tanable
O propósito da Tenable é expor e fechar lacunas prioritárias de segurança que colocam as empresas em risco. Nossa plataforma de gerenciamento de exposição líder do setor unifica totalmente a visibilidade da segurança, as informações e a tomada de decisões para a superfície de ataque. Dessa forma, as organizações modernas podem se proteger contra qualquer tipo de ataque cibernético a diferentes ambientes, como a nuvem, a infraestrutura crítica ou da TI, entre outros. Protegendo a infraestrutura digital e crítica contra exposições, a Tenable reduz o risco de negócios para mais de 44.000 clientes em todo o mundo.
Entrevista com Cesar Ripari sobre principais inovações da Qlik durante Febraban Tech 2024
Entrevista com Wanderson Castilho: Maior vazamento de dados da história, o que fazer agora?
Tenable Alerta: Cryptomining cresce em ambientes de Nuvem
Assista e leia outras entrevistas feitas pelo Crypto ID. Você vai gostar muito. Acesse a coluna IDTalks aqui!
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
