Apesar da ampla adoção da tecnologia, especialistas alertam para riscos relacionados à segurança de dados, à qualidade das decisões e à perda de pensamento crítico
Por Bruno Dietrich Bicca
A inteligência artificial (IA) já faz parte da estratégia de muitas empresas brasileiras. Uma pesquisa da Amcham Brasil em parceria com a Humanizadas, realizada com 629 executivos, aponta que 84% das companhias representadas pelos entrevistados já utilizam a tecnologia.
O avanço da adoção, porém, traz uma questão que vai além da implementação de novas ferramentas: saber em quais atividades a IA realmente agrega valor e quando seu uso pode comprometer a qualidade das decisões, a segurança das informações e a capacidade crítica dos profissionais. Incorporar a solução à rotina corporativa não significa que todas as tarefas devam ser automatizadas.
Um dos principais riscos está em delegar atividades sobre as quais o próprio usuário não possui conhecimento suficiente para avaliar os resultados. Modelos de IA generativa podem produzir respostas convincentes, mas incorretas, incompletas ou descontextualizadas.
Sem domínio mínimo do assunto, torna-se mais difícil identificar erros, informações falsas e conclusões sem fundamento. Por isso, a tecnologia deve funcionar como apoio à análise e à pesquisa, e não como substituta do conhecimento técnico e da capacidade de verificação dos profissionais.
O cuidado deve ser ainda maior em decisões que envolvem consequências jurídicas, financeiras, médicas ou éticas. Utilizar respostas automatizadas sem revisão especializada pode gerar prejuízos, comprometer a segurança e ampliar a exposição a riscos legais.
Nessas situações, a IA pode auxiliar na organização de informações e na identificação de possibilidades, mas a avaliação final precisa considerar o contexto, as consequências e as responsabilidades envolvidas. Quanto maior o impacto de uma decisão, maior deve ser o nível de supervisão humana.
A tecnologia também apresenta limitações em atividades que dependem de empatia, sensibilidade e compreensão de contextos humanos complexos. Na gestão de equipes, por exemplo, conflitos, negociações e conversas delicadas exigem interpretação de comportamentos e consideração de circunstâncias que nem sempre podem ser traduzidas em dados.
Na produção de conteúdos autorais, a IA pode contribuir com pesquisas, estruturação e revisão, mas a experiência, a perspectiva e a originalidade humanas continuam essenciais para construir uma comunicação autêntica. A delegação integral dessas tarefas pode resultar em interações padronizadas e conteúdos que não refletem a identidade de quem os produz.
Outro ponto de atenção é a proteção de dados. O compartilhamento de informações confidenciais, documentos estratégicos e dados pessoais em plataformas de IA sem a devida avaliação das políticas de privacidade pode expor empresas e indivíduos a riscos de vazamento e uso indevido. Dependendo da ferramenta e de suas configurações, o que for inserido pode ser armazenado ou processado por serviços externos.
Para reduzir essas vulnerabilidades, as organizações precisam estabelecer diretrizes claras de uso, definir quais dados podem ser compartilhados e orientar suas equipes sobre segurança digital, governança e responsabilidade no uso dessas soluções.
Também é necessário evitar que a facilidade de obter respostas prontas enfraqueça o pensamento crítico. A confiança excessiva nas ferramentas pode reduzir o incentivo à pesquisa, à comparação de fontes e à construção de argumentos próprios.
Em vez de aceitar automaticamente o conteúdo gerado, profissionais devem questionar as respostas, verificar dados relevantes e considerar perspectivas alternativas. Esse cuidado é especialmente importante porque a fluidez e a segurança com que a IA apresenta uma resposta não garantem sua precisão. Desenvolver familiaridade com a tecnologia, portanto, também significa reconhecer suas limitações.
O avanço da inteligência artificial não elimina a necessidade de julgamento humano, mas torna essa competência ainda mais importante. Seu uso responsável depende de objetivos bem definidos, verificação das respostas, proteção de informações e supervisão proporcional aos riscos de cada atividade.
Nas empresas, o desafio não é apenas ampliar a adoção da IA, mas estabelecer critérios para que a automação complemente a experiência dos profissionais sem transferir às ferramentas responsabilidades que exigem discernimento, conhecimento e prestação de contas.
Agradecimento
O Crypto ID agradece a Bruno Dietrich Bicca, Gerente de Operações e Projetos da Origin Inovação, pela disponibilidade e pela contribuição ao compartilhar seus conhecimentos e experiências conosco. Sua participação enriquece o debate e amplia a compreensão sobre os desafios e as oportunidades da inovação e da tecnologia no ambiente corporativo.
Sobre a Origin Inovação
A Origin Inovação é uma empresa brasileira especializada no desenvolvimento de fundo de investimentos em startups e programas de inovação para médias e grandes corporações. Fundada em 2023 e sediada em Palhoça (SC), a companhia atua na conexão entre empresas com o ecossistema de inovação e startups, para impulsionar iniciativas de inovação aberta, desenvolvimento tecnológico e investimentos em startups. Por meio de consultorias, programas de aceleração e projetos estratégicos, a Origin apoia organizações privadas na criação e operacionalização de iniciativas de inovação.
Empresas de setores regulados terão de garantir atendimento humano e cumprir novas regras para o SAC
CERT.br atualiza guias de segurança digital e inclui alertas sobre riscos da inteligência artificial
Investimentos em data centers no Brasil podem chegar a US$ 60 bilhões por ano até 2050
Norton lança Safe AI para ampliar a segurança no uso da inteligência artificial
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
