Estudo divulgado no FICO Forum Brasil 2026 revela desafios de governança, auditabilidade e segurança da IA, apesar dos retornos positivos dos investimentos
A inteligência artificial já apresenta resultados financeiros positivos para a maioria das organizações que investem na tecnologia, mas a capacidade de explicar, auditar e controlar suas decisões ainda representa um desafio.
Essa é uma das principais conclusões do estudo 2026 State of Responsible AI: The Confidence Gap in AI Decisions, realizado pela Corinium Global Intelligence para a FICO e divulgado nesta quarta-feira, 14 de outubro, durante o FICO Forum Brasil 2026, em São Paulo.
A pesquisa ouviu 1.004 executivos seniores das áreas de tecnologia, dados, inteligência artificial e gestão de riscos, em diferentes setores econômicos.
Embora 85,1% dos entrevistados afirmem que os investimentos em IA atenderam ou superaram suas expectativas de retorno, apenas 5,2% demonstram muita confiança na capacidade de suas organizações de explicar decisões orientadas por IA a clientes e reguladores. Outros 57,6% declaram ter alguma confiança, enquanto 37,3% se mostram neutros ou pouco confiantes.
“A maioria das organizações consegue dizer onde e o que a IA decidiu. Muito poucas conseguem explicar o porquê”, afirma Scott Zoldi, Chief Analytics Officer da FICO.
Segundo o executivo, essa dificuldade reflete a ausência de padrões e técnicas de IA responsável capazes de oferecer maior segurança às decisões automatizadas.
“Com reguladores e clientes analisando de perto como a IA é usada nessas decisões, auditabilidade e explicabilidade se tornam inegociáveis”, acrescenta Zoldi.
IA apresenta retorno financeiro, mas ainda participa de poucas decisões
Um dos contrastes identificados pelo estudo está na diferença entre os benefícios econômicos da IA e sua participação nas decisões que afetam os clientes.
Segundo o levantamento, 71,5% dessas decisões ainda são tomadas sem inteligência artificial, utilizando julgamento humano, sistemas baseados em regras ou ferramentas tradicionais de análise.
Apenas 28,5% envolvem modelos de IA, distribuídos entre aprendizado de máquina e modelos preditivos tradicionais (13,1%), IA generativa (8,9%) e IA agêntica (6,5%).
Os resultados indicam que a ampliação da tecnologia depende não apenas de modelos mais avançados, mas também de infraestrutura capaz de sustentar sua utilização com governança e transparência.
Entre as práticas consideradas mais relevantes pelos entrevistados estão a adoção de padrões para desenvolvimento de modelos de IA, mencionada por 71,9%, e a utilização de arquiteturas interpretáveis, citada por 67,9%.
A pesquisa mostra ainda que 82,8% dos executivos consideram suas organizações alinhadas ou à frente das exigências regulatórias que antecipam. Entretanto, a confiança elevada na capacidade de explicar decisões automatizadas permanece restrita a uma pequena parcela dos participantes.
Auditoria ainda depende de registros tradicionais dos sistemas
Outro aspecto relevante do levantamento está nos mecanismos utilizados pelas organizações para registrar e auditar decisões de inteligência artificial.
Segundo a pesquisa:
- 75,8% utilizam registros tradicionais de eventos dos sistemas existentes.
- 62,5% utilizam trilhas de auditoria fornecidas por terceiros.
- 41,8% utilizam trilhas de auditoria baseadas em blockchain.
- 7% não possuem trilhas formais de auditoria ou processos definidos.
A existência desses mecanismos, entretanto, não assegura que uma organização consiga explicar tecnicamente por que determinado modelo produziu um resultado.
Os registros de operações contribuem para identificar acontecimentos e reconstruir processos, mas a explicabilidade exige informações adicionais sobre os critérios empregados pelos modelos e os fatores que influenciaram suas decisões.
O levantamento mostra que 58,8% das organizações utilizam ferramentas de detecção de vieses e 53,5% realizam auditorias regulares dos modelos.
Apesar dessas práticas, a confiança na explicabilidade permanece limitada.
A infraestrutura também representa um obstáculo. Apenas 8,2% das organizações possuem uma plataforma compartilhada para implantação de IA plenamente implementada, enquanto 71,2% contam com estruturas parcialmente implementadas.
Para Lariza Carrera, diretora de produção da Corinium Global Intelligence, as prioridades dos executivos estão mudando. Segundo ela, enquanto anteriormente predominavam questionamentos sobre o retorno dos investimentos em IA, agora o principal desafio está em ampliar sua utilização nas organizações.
“Cada vez mais, a resposta tem menos a ver com a tecnologia em si e mais a ver com as pessoas que a operam”, afirma.
IA agêntica: somente 2,4% das organizações alcançaram implementação ampla
A pesquisa também dedica atenção à IA agêntica, que permite a sistemas executar sequências de operações e tomar determinadas decisões com diferentes graus de autonomia.
Apesar do interesse crescente, apenas 2,4% dos executivos afirmam que suas organizações implementaram amplamente agentes de IA em múltiplos casos de uso com impacto nos clientes.
Outros 25,9% utilizam a tecnologia em aplicações limitadas de produção, enquanto 71,5% permanecem em exploração inicial ou projetos-piloto.
As principais barreiras identificadas são as preocupações com segurança, mencionadas por 40,1% dos participantes, e os desafios de integração e qualidade dos dados, citados por 38,3%.
Ao mesmo tempo, 82,2% dos entrevistados defendem a autonomia condicionada dos agentes, permitindo que os sistemas atuem dentro de limites previamente estabelecidos, com supervisão humana nas decisões de maior risco.
Para Rachael Hadaway, vice-presidente de produtos de IA da FICO, as organizações precisam desenvolver mecanismos de segurança e integração antes de ampliar a autonomia dos sistemas.
“A IA agêntica ainda está em fase inicial de experimentação, e é exatamente quando a base preparatória é mais importante”, afirma.
Segundo a executiva, as organizações que investem atualmente em segurança e integração de dados estão desenvolvendo a infraestrutura necessária para ampliar a autonomia dos agentes.
Scott Zoldi também chama a atenção para a importância de estabelecer limites precisos para as operações executadas por sistemas autônomos.
Sua avaliação é que não basta estabelecer orientações genéricas de comportamento. As organizações precisam definir quais ações os agentes estão autorizados a executar, quais decisões exigem intervenção humana e quais mecanismos permitirão monitorar seu funcionamento.
Essa abordagem amplia a importância dos controles de acesso, da autorização e da rastreabilidade das operações em ambientes corporativos que utilizam IA.
FICO Forum Brasil 2026 reúne grandes empresas para discutir aplicações da inteligência artificial
A divulgação da pesquisa integra a programação do FICO Forum Brasil 2026, realizado nesta quarta-feira, 14 de outubro, no WTC Events Center, em São Paulo.
O encontro ainda está em andamento no momento da publicação desta matéria e já proporcionou excelentes painéis sobre aplicações práticas de inteligência artificial, gestão de riscos, prevenção a fraudes e transformação dos processos de decisão nas instituições financeiras.
O evento reúne representantes de importantes organizações, entre elas McKinsey, Itaú Unibanco, Banco do Brasil, Bradesco, Santander, BTG Pactual, PagBank, Dock, FIS, Cateno, HDI Seguros, Porto, Mapfre e Tokio Marine.
A abertura foi conduzida por José Augusto Gabizo, vice-presidente e General Manager da FICO para a América Latina, e Pablo Morales, Senior Director de Partner Management da empresa.
Entre os destaques da manhã esteve a apresentação de Pedro Paganella, líder da prática de risco da McKinsey, e Cristian Berner, líder da prática de Risk & Resilience da consultoria, sobre o impacto da inteligência artificial nas decisões de risco do setor bancário.
A programação também trouxe experiências relacionadas à utilização de IA em crédito e cobrança, integração de sistemas, prevenção a fraudes financeiras, autenticação de clientes e automação de processos.
O Itaú Unibanco apresentou sua experiência de centralização das decisões de crédito empresarial, enquanto Banco do Brasil e Cateno abordaram aplicações de comunicação em tempo real para alertas de transações.
Bradesco e BTG Pactual também integraram as discussões sobre otimização de decisões financeiras e transformação digital.
No setor de seguros, representantes de HDI Seguros, Porto, Bradesco Seguros, Mapfre e Tokio Marine participam de debates sobre automação de sinistros, identidade dos segurados, prevenção a fraudes e precificação com inteligência artificial.
Entre os temas de maior relevância para a segurança digital está a relação entre identidade, titularidade de contas e controle efetivo dos recursos financeiros, especialmente diante da atuação de redes criminosas que utilizam contas aparentemente legítimas.
A programação da tarde também contempla um debate com Santander e Dock sobre os desafios do relacionamento com clientes em um cenário no qual agentes de inteligência artificial poderão executar operações em nome de seus usuários.
O evento terá ainda a palestra de encerramento de Guga Stocco, com o tema “Do algoritmo à consciência: Como a IA está impulsionando a maior revolução financeira e cognitiva da história”.
Segurança, explicabilidade e governança são desafios para ampliar a IA
Os resultados do 2026 State of Responsible AI reforçam uma questão presente nas discussões sobre a evolução da inteligência artificial: a capacidade de automatizar decisões precisa ser acompanhada de mecanismos que permitam compreender, supervisionar e justificar seus resultados.
À medida que agentes de IA passam a executar operações com menor intervenção humana, torna-se necessário estabelecer limites de autorização, mecanismos de monitoramento e critérios para encaminhar decisões de maior risco à avaliação humana.
Nesse cenário, segurança, governança, explicabilidade e rastreabilidade deixam de ser apenas requisitos complementares e passam a integrar a infraestrutura necessária à ampliação da inteligência artificial em operações financeiras.
O desafio para as organizações não é somente desenvolver modelos capazes de tomar decisões, mas garantir que essas decisões possam ser compreendidas, auditadas e respaldadas.
Fonte dos dados do estudo: 2026 State of Responsible AI: The Confidence Gap in AI Decisions, FICO e Corinium Global Intelligence.
José Carlos da Silva Neto, CTO da CERMOB defende crachá, alçada e gestor para agentes de IA
Orçamento 2027: guia da NACD ensina CISOs a falar a língua do conselho
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Acesse a coluna Mercado Financeiro, leia outros artigos e acompanhe os principais eventos do setor.
Destaque: Do onboarding ao Pix: como a HID está redefinindo a segurança da identidade nos bancos
