A supervisão de sistemas de inteligência artificial precisa ir além da aprovação formal de resultados, com participação humana efetiva, rastreabilidade e definição clara de responsabilidades
Por Hugo Brito
A inteligência artificial já ocupa um espaço importante nos processos de decisão das organizações.
Da análise de dados à automação de tarefas, a tecnologia amplia a capacidade de processamento e oferece ganhos de escala e produtividade.
À medida que os sistemas assumem funções mais complexas, ficam as dúvidas sobre quem responde quando eles erram e se esse responsável tinha ferramentas ou metodologias para evitar o erro.
Manter uma pessoa para aprovar o resultado produzido pela máquina resolve pouco. Uma supervisão meramente formal pode criar uma falsa sensação de controle, sem assegurar que alguém tenha condições reais de questionar ou interromper uma decisão automatizada.
A expressão human in the loop virou lugar-comum em contratos, políticas e apresentações de produto, e quase nunca diz o que o humano faz dentro desse “loop“, com que informação, em quanto tempo e com que poder de veto.
Quando a exigência é só manter alguém no circuito, o resultado previsível é um profissional diante de uma fila de textos gerados por IA clicando “aceito” em sequência, ou seja, uma revisão tão rigorosa quanto a leitura dos termos de uso de um aplicativo recém-baixado. Importa menos saber se existe um humano no processo e mais se esse humano tem tempo, informação e algum incentivo para recusar; se ele consegue realmente fazer uma avaliação crítica e menos passiva.
Essa discussão também é abordada por Heni Rothstein Cohen no artigo Human Roles Across the AI Lifecycle: Shifting Beyond the “Human Supervision” Paradigm. A autora propõe ampliar a participação humana para todas as etapas do ciclo de vida da inteligência artificial, da definição do problema ao desenvolvimento, à implantação e ao monitoramento dos sistemas. A presença humana só faz diferença quando chega cedo o bastante para mudar o resultado.
A supervisão começa antes de a tecnologia entrar em operação. Em uma ferramenta de recrutamento, por exemplo, é necessário avaliar se os critérios utilizados são pertinentes à vaga, se os dados podem reproduzir vieses históricos e se os resultados favorecem determinados perfis sem justificativa.
A atuação humana deve estar presente desde a definição dos critérios até a análise dos resultados, sem depender exclusivamente da classificação gerada pelo sistema. Faço ainda um adendo, reforçando que, idealmente, a mesma pessoa que avalia os resultados é quem define os critérios.
Em decisões financeiras, a inteligência artificial pode identificar padrões, acelerar análises e apoiar avaliações de risco. Ainda assim, casos atípicos, informações incompletas ou resultados inconsistentes precisam de mecanismos de revisão. A recomendação automatizada é subsídio. Decisão é outra coisa.
O mesmo princípio vale para agentes de IA conectados a sistemas corporativos. É preciso definir quais tarefas podem ser executadas autonomamente, quais exigem autorização humana e em que situações o sistema deve interromper uma operação. Uma atividade de baixo risco pode demandar menos intervenção, enquanto uma movimentação financeira relevante ou uma alteração envolvendo dados sensíveis pode exigir aprovação explícita.
O critério que uso é curto. A ação é difícil de desfazer? Mexe com dado sensível ou com a vida de alguém? Existe uma pessoa que responde por ela perante a lei? Cada “sim” sobe um degrau de exigência; três “sim” é aprovação explícita, sem exceção.
Na prática, isso forma uma escada. No degrau mais baixo, a IA executa sozinha e registra: classificar um e-mail, sugerir uma tag, resumir um documento interno. Errou, corrige-se em segundos, sem consequência para ninguém. No degrau seguinte, a IA executa e um humano confere por amostragem ou revisa só os casos atípicos: triagem de chamados, extração de dados de contratos, rascunho de respostas padrão.
Mais acima, a IA apenas propõe e nada acontece sem aprovação individual: a classificação de severidade de um incidente de segurança, a minuta de uma notificação a um órgão regulador, uma alteração em cadastro de cliente.
E no topo há decisões que a IA não toma em hipótese alguma, mesmo com aprovação posterior: comunicar um vazamento à autoridade e aos titulares, concluir a avaliação de um risco, movimentar recursos financeiros, dentre outras. Ali a IA prepara o terreno; a decisão e a assinatura são de quem a lei designou.
Supervisão que não deixa rastro não existe para efeito de responsabilidade. O mínimo que exijo nos nossos sistemas: toda saída de IA chega rotulada como tal, para que ninguém a confunda com uma análise humana; cada sugestão aceita grava quem aceitou e o que alterou antes de aceitar; o modelo, a versão e a instrução que geraram a resposta ficam arquivados; e o processo manual continua disponível para quando a IA falhar ou for desligada. Com isso, uma auditoria (ou um titular de dados exercendo o direito de revisão previsto na LGPD) consegue reconstruir a decisão. Sem isso, a única evidência de que alguém supervisionou é a palavra de quem clicou.
Nada disso é novo para quem trabalha com segurança e governança; é o que nós identificamos como o tripé da sustentabilidade digital: Segurança da Informação, Governança de Dados e IA Responsável. A segurança estabelece limites de acesso e protege sistemas e informações. A governança contribui para assegurar qualidade, rastreabilidade e uso adequado dos dados. Já a IA Responsável envolve critérios claros e mecanismos de controle ao longo de todo o ciclo de vida da tecnologia.
O desafio, portanto, não é escolher entre inteligência artificial e inteligência humana, mas construir processos nos quais ambas atuem de forma complementar. Quanto maior a autonomia concedida aos sistemas, mais importante se torna definir seus limites, acompanhar seu comportamento e estabelecer quem responde pelas decisões.
Olhar apenas o “caminho feliz” é uma escolha consciente de ver só um lado da moeda. A maturidade no uso da inteligência artificial vai se medir pelo que a organização faz no dia em que o sistema erra.
Agradecimento
O Crypto ID agradece a Hugo Brito, Head de IA na Bravonix, pela disponibilidade e contribuição com este artigo. Sua análise traz reflexões importantes sobre os desafios da supervisão humana, da governança e da definição de responsabilidades no uso da inteligência artificial, temas fundamentais para a construção de ambientes digitais mais seguros, transparentes e confiáveis.
Agradecemos por compartilhar seu conhecimento e contribuir para ampliar esse debate com nossos leitores.
Empresas de setores regulados terão de garantir atendimento humano e cumprir novas regras para o SAC
CERT.br atualiza guias de segurança digital e inclui alertas sobre riscos da inteligência artificial
IA nas empresas: todo mundo quer usar, mas será que deveria?
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
