Avanço da inteligência artificial no sistema financeiro pressiona instituições a rever governança, auditoria, cibersegurança e responsabilização por decisões automatizadas
A expansão da inteligência artificial no sistema financeiro começa a provocar uma mudança que vai além da automação de processos. À medida que algoritmos passam a participar de decisões, análises e operações cada vez mais críticas, bancos e demais instituições financeiras precisam criar mecanismos capazes de controlar, auditar e acompanhar o comportamento dessas próprias tecnologias.
Na avaliação de Elias Zoghbi, líder da Indústria Financeira e de Consultoria Tecnológica da Grant Thornton, o setor avança para um cenário em que a própria inteligência artificial será utilizada para fiscalizar outras aplicações de IA.
“Estamos caminhando para um cenário de ‘IA contra IA’. As instituições precisarão utilizar inteligência artificial para monitorar, auditar e controlar outras aplicações de IA. O monitoramento contínuo se torna realidade, e essa tecnologia deixa de ser apenas uma ferramenta de eficiência para fazer parte da própria gestão de riscos”, afirma.
Governança passa a acompanhar a automação
Quanto maior o grau de autonomia dos sistemas, maior também a necessidade de estabelecer responsabilidades sobre seu funcionamento.
Transparência, rastreabilidade das decisões, monitoramento dos resultados e definição de responsáveis passam a integrar a discussão sobre governança de IA dentro das instituições financeiras.
Nesse movimento, áreas de compliance, auditoria interna, tecnologia e gestão de riscos tendem a trabalhar de maneira mais integrada, com mecanismos de acompanhamento contínuo e, em determinadas operações, auditorias praticamente em tempo real.
“A automação sem governança pode aumentar o risco em vez de reduzi-lo. Não basta implementar inteligência artificial; é preciso definir responsabilidades, monitorar os resultados e entender como essas decisões estão sendo tomadas”, destaca Zoghbi.
Velocidade das operações muda a resposta às fraudes
O avanço da digitalização também altera a dinâmica da segurança cibernética no setor financeiro.
Em ambientes de pagamentos instantâneos e operações executadas em segundos, o intervalo entre uma tentativa de fraude, sua identificação e a resposta da instituição torna-se cada vez menor.
“Nas operações financeiras, os riscos se propagam em questão de segundos. Isso exige capacidade de detecção em tempo real e uma integração ainda maior entre as áreas de tecnologia, risco e segurança. Nesse cenário, a evolução dos criminosos acontece cada vez mais rápido, aumentando o grau de sofisticação dos ataques e tornando a disputa tecnológica ainda mais complexa”, afirma.
A tendência, portanto, é que ferramentas automatizadas também assumam uma parcela crescente da identificação de comportamentos anômalos, fraudes e outros eventos de risco.
Investir em IA sem definir o problema também cria riscos
Outro desafio está na própria estratégia de adoção.
Segundo Zoghbi, parte das organizações pode repetir com a inteligência artificial um movimento observado anteriormente na migração para a computação em nuvem: acelerar investimentos antes de definir claramente quais problemas de negócio precisam ser resolvidos e como os resultados serão mensurados.
“Estamos em um momento de forte investimento em inteligência artificial, mas também veremos uma fase de maior racionalização. Muitas empresas ainda não sabem exatamente qual problema estão tentando resolver com IA, e isso pode gerar custos elevados sem retorno proporcional”, diz.
Além do impacto financeiro, a adoção sem planejamento e sem capacitação das lideranças pode ampliar riscos operacionais e aumentar a exposição de informações sensíveis.
Hiperautomação exige revisão dos modelos de risco
A automação já transformou diversas atividades de back office e ainda apresenta espaço para reduzir tarefas manuais, falhas operacionais e tempos de processamento.
Mas a eficiência, segundo o especialista, precisa estar associada à estratégia e à experiência do cliente.
“Implementações mal planejadas podem produzir o efeito contrário e prejudicar a experiência do cliente. A tecnologia precisa ser utilizada para fortalecer a operação e melhorar a jornada do usuário, e não apenas para reduzir custos”, afirma.
Para as instituições financeiras, a consequência é uma revisão mais ampla dos próprios modelos de gestão de riscos. Ambientes compostos por algoritmos, automações e aplicações de inteligência artificial introduzem vulnerabilidades diferentes das encontradas nos modelos tradicionais e exigem novas formas de supervisão.
“A substituição de modelos tradicionais de análise por ecossistemas cada vez mais baseados em inteligência artificial muda completamente a dinâmica da gestão de riscos no setor financeiro. O desafio agora é garantir que a inovação aconteça com segurança, governança e responsabilidade”, conclui Zoghbi.
Febraban reforça uso da CIN no combate às fraudes bancárias após 55,8 milhões de emissões
Conheça nossa coluna sobre o Mercado Financeiro, leia outros artigos e acompanhe os principais eventos do setor. Somos oficialmente parceiros de mídia do Febraban Tech.
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
