Recurso integrado ao Norton 360 permite controlar o acesso de ferramentas de IA a arquivos pessoais, bloquear ações não autorizadas e identificar links potencialmente perigosos
A Norton, marca de segurança digital para consumidores da Gen, anunciou o Safe AI, conjunto de recursos integrado ao Norton 360 para ampliar a proteção durante o uso de ferramentas de inteligência artificial (IA), como ChatGPT e Claude.
A solução monitora atividades de aplicativos de IA no dispositivo, ajuda a bloquear ações não autorizadas, permite controlar o acesso dessas ferramentas a arquivos pessoais e identifica links potencialmente perigosos. A proposta é adicionar uma camada de segurança às ferramentas de IA, reduzindo os riscos associados à execução de tarefas, ao compartilhamento de informações e à navegação por links sugeridos pelos assistentes.
Assistentes de IA ampliam os desafios de segurança
A expansão do uso de assistentes de IA para pesquisas e execução de tarefas também introduz novos riscos. Respostas podem conter links maliciosos, instruções manipuladas podem levar ferramentas a executar ações indesejadas e arquivos pessoais podem ficar acessíveis além do que o usuário pretendia autorizar.
Segundo os Laboratórios de Ameaças da Gen, o conteúdo malicioso entregue a usuários da empresa por meio de chatbots de IA, como ChatGPT e Claude, aumentou 54% globalmente nos 90 dias anteriores à divulgação dos dados.
A empresa também informou que mais de dois terços das pessoas entrevistadas em seu levantamento demonstraram preocupação com privacidade, vazamentos de dados ou perda de controle ao utilizar assistentes autônomos de IA capazes de agir em seu nome.
O Safe AI foi desenvolvido para responder a esses riscos, com recursos voltados ao controle das ações automatizadas, ao gerenciamento de permissões e à identificação de links suspeitos.
“A maioria das ferramentas de IA que as pessoas usam hoje deveria incluir uma etiqueta de advertência informando que a segurança não está incluída. As ferramentas foram desenvolvidas para executar tarefas, mas não necessariamente para fazê-lo corretamente ou até mesmo com segurança, apesar das boas intenções”, afirmou Dagim Girma, gerente-geral da Norton.
“É aí que entramos. As pessoas não deveriam precisar se tornar especialistas em segurança de IA para se beneficiar dessas ferramentas. Com o Safe AI, ajudamos as pessoas a manter o controle de suas informações e a aproveitar as possibilidades da IA com mais confiança”, acrescentou.
Norton Safe AI reúne três recursos de proteção
Integrado ao Norton 360, o Safe AI reúne três funcionalidades destinadas a diferentes etapas da interação com assistentes de inteligência artificial.
- Action Shield: ajuda a impedir ações indesejadas de ferramentas de IA e a bloquear injeções de instruções (prompt injection) potencialmente prejudiciais antes de sua execução. Esse tipo de ataque busca manipular o comportamento de sistemas de IA por meio de instruções maliciosas, podendo induzir a realização de ações não pretendidas pelo usuário.
- Safe Zone: permite definir o nível de acesso das ferramentas de IA a arquivos e conteúdos pessoais conectados. O usuário pode configurar permissões de acesso completo, somente leitura ou bloqueio, de acordo com suas necessidades.
- Safe Links: identifica links potencialmente prejudiciais compartilhados pelo ChatGPT e pelo Claude antes que o usuário os abra. O recurso busca reduzir o risco de acesso a páginas maliciosas ou destinos inseguros apresentados durante interações com os assistentes.
Em conjunto, as funcionalidades procuram oferecer maior controle sobre o que os assistentes de IA podem executar, quais informações podem acessar e quais links podem ser abertos durante a utilização dessas ferramentas.
Gen amplia iniciativas de segurança para a inteligência artificial
O lançamento integra as iniciativas da Gen para enfrentar os riscos associados à evolução dos sistemas de inteligência artificial e ao aumento de sua autonomia.
Por meio do Agent Trust Hub, a empresa busca ampliar a compreensão sobre ameaças relacionadas à IA e os desafios de segurança decorrentes da capacidade crescente dessas ferramentas de executar tarefas em nome dos usuários.
A Gen também utiliza pesquisas e análises de seus Laboratórios de Ameaças para orientar o desenvolvimento de recursos de proteção, como o Safe AI, incorporado ao Norton 360.
A iniciativa acompanha a expansão do uso de assistentes inteligentes e reforça a importância de mecanismos que permitam controlar permissões, reduzir a exposição de informações pessoais e identificar ameaças durante as interações com sistemas de IA.
Sobre a Norton, parte da Gen
A Norton é referência em segurança digital e ajuda milhões de pessoas e famílias a proteger seus dispositivos, sua privacidade on-line e sua identidade por meio de soluções premiadas. A Norton faz parte da Gen, empresa global dedicada a promover a liberdade digital por meio de um conjunto de marcas confiáveis que ajudam as pessoas a proteger e assumir o controle de suas vidas digitais e financeiras.
À medida que a inteligência artificial transforma a maneira como as pessoas descobrem informações, tomam decisões e realizam transações, a Gen está desenvolvendo uma camada de segurança e confiança que permite que as pessoas e seus agentes de IA naveguem pelo ambiente digital com mais segurança.
A Gen protege quase 500 milhões de usuários em mais de 150 países por meio de seus produtos e serviços, que abrangem cibersegurança, privacidade on-line, proteção de identidade e bem-estar financeiro.
IA acelera ataques e fraudes e exige uma nova estratégia de segurança das empresas
SITA adquire Flightscape para ampliar uso de IA nas operações aéreas
Ataque com IA, proteção de dados e propriedade intelectual digital
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
