A Inteligência Artificial se tornou uma realidade cotidiana no mundo dos negócios e é preciso refletir sobre o bônus e também o ônus
Por Ricardo Recchi
A Inteligência Artificial é presente, se tornou uma realidade cotidiana no mundo dos negócios e, como toda inovação, é preciso refletir não apenas sobre o bônus, mas também o ônus.
Por um lado, os assistentes virtuais ajudam na jornada do cliente, enquanto os agentes inteligentes automatizam processos internos, ou seja, nunca foi tão fácil colocar a IA para trabalhar a serviço das organizações.
Segundo a McKinsey, mais de 78% das organizações já utilizam a ferramenta em pelo menos uma função de negócios, e 71% adotaram IA Generativa regularmente em 2024.
A contrapartida desse cenário é a reflexão a respeito da segurança dessas plataformas, pois um assistente de IA acessa informações sobre contratos, dados de clientes, resultados financeiros ou até estratégias de mercado. Caso exista falha na configuração de permissões ou ausência de políticas de segurança, essas informações podem chegar às mãos de alguém que não deveria ter acesso.
Parece um cenário abstrato, mas infelizmente, máquinas estão suscetíveis a erros desta magnitude se não forem bem programadas. Segundo o relatório AI Threat Landscape Report 2024 da HiddenLayer, 77% das empresas sofreram violações de segurança relacionadas à IA em 2023.
Empresas que ignorarem essa camada de segurança na adoção de IA estarão suscetíveis a riscos que vão muito além de multas regulatórias. Estão colocando em risco sua reputação, competitividade e sustentabilidade no mercado. E, quando informações são vazadas, a responsabilidade não é da IA, e sim de quem a colocou para rodar sem os devidos controles.
Para que agentes e assistentes inteligentes sejam, de fato, aliados seguros dos negócios, alguns princípios precisam ser tratados como cláusulas inegociáveis. O primeiro é a gestão de acesso e de contexto.
Essas ferramentas só respondem dentro do escopo de dados e informações que aquele usuário, ou grupo de usuários, tem permissão para acessar. Sem isso, não há segurança. Também é indispensável a implementação de guard rails de IA, trilhos de segurança que impedem a geração de respostas inadequadas, enviesadas ou que exponham dados sensíveis.
Outro ponto crítico é o isolamento de dados sensíveis. Informações estratégicas e confidenciais não devem trafegar em ambientes externos, APIs (Application Programming Interface) abertas ou modelos públicos. A IA precisa operar sob os mesmos critérios de segurança que regem toda a infraestrutura corporativa.
Além disso, é fundamental garantir auditoria e rastreabilidade. Toda interação precisa ser registrada, permitindo saber quem perguntou, o que foi respondido e quando. Isso não é apenas segurança, é também compliance. Por fim, há a necessidade de avaliação e treinamento constantes.
As ferramentas de IA não são estáticas, elas aprendem, evoluem e, por isso, precisam ser continuamente monitoradas e ajustadas para assegurar que estejam sempre alinhados às diretrizes de segurança e governança da organização. Ou seja, é preciso que os desenvolvedores estejam atentos e atualizem as ferramentas sempre que necessário.
A IA chegou para ficar, não é possível falarmos de TI, sem tratar do impacto dessa tecnologia. O importante é lembrar que não existe meio-termo em segurança. Ou o sistema é projetado desde o início, de forma robusta, ou os riscos rapidamente superam os benefícios.
Vazamentos de dados, exposições acidentais de informações estratégicas e falhas de compliance não são falhas da tecnologia, são falhas de quem a implementou sem os devidos controles. Na corrida pela adoção de IA, quem não olhar para segurança e governança, não estará à frente, estará vulnerável. A verdadeira Transformação Digital não é só inteligente. É, acima de tudo, segura.
*Ricardo Recchi regional manager Brasil e Portugal da GeneXus, empresa especializada em plataformas Enterprise Low-Code que simplificam o desenvolvimento e a evolução de softwares por meio da Inteligência Artificial.
Como a biometria por voz e IA podem evitar fraudes até 2027
Tornando-se Customer Centric: o papel dos Managed Service Providers nesta jornada
Zendesk participa do VTex Day 2025 e apresenta ao público sua Resolution Plataform com Agentic AI
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
