Gartner explica que o aumento dos gastos com IA impulsionados pelo consumo de tokens está pressionando os orçamentos
Até 2028, os custos de codificação com Inteligência Artificial (IA) superarão o salário médio de um desenvolvedor devido ao aumento do consumo de tokens por Grandes Modelos de Linguagem (LLMs) e à migração para modelos de licenciamento baseados em consumo, segundo o Gartner, Inc., empresa de insights de negócios e tecnologia.
Os tokens de IA são as unidades de dados processadas por modelos de Inteligência Artificial Generativa (GenAI). O consumo de tokens impacta diretamente o custo das ferramentas de codificação com IA, especialmente em estruturas de precificação baseadas em consumo.
“As organizações estão avançando rapidamente da experimentação para a implementação em escala de agentes de codificação baseados em IA, mas muitas estão subestimando o impacto financeiro do aumento do consumo de tokens”, afirma Nitish Tyagi, Diretor Analista Sênior do Gartner. “A disciplina no uso de tokens não surgirá apenas pela escolha dos desenvolvedores, já que eles tendem a priorizar velocidade e conveniência em vez de eficiência de custos. Sem um modelo operacional de engenharia governado, os custos podem crescer mais rapidamente do que os ganhos de produtividade que essas ferramentas prometem entregar.”
Temas como esses e outros relacionados à adoção de Inteligência Artificial, inovação tecnológica e transformação dos negócios serão abordados durante a Conferência Gartner CIO & IT Executive, que será realizada nos dias 21 a 23 de setembro em São Paulo.
Precificação baseada em consumo traz desafios para a previsibilidade de custos
A mudança do licenciamento por usuário para modelos de precificação baseados em consumo entre fornecedores de agentes de codificação com IA está introduzindo estruturas de custos altamente variáveis para as atividades de engenharia de software. Muitos fornecedores ainda não oferecem transparência sobre como o consumo de tokens é calculado e cobrado, limitando a capacidade das empresas de prever e controlar custos com precisão.
Sem visibilidade clara sobre o uso de tokens nas diferentes atividades de desenvolvimento, as organizações correm o risco de exceder seus orçamentos e perder a capacidade de acompanhar a relação entre custos e valor gerado.
“A maioria das organizações ainda não possui a maturidade nem os frameworks necessários para medir efetivamente custos versus impacto nos negócios”, afirma Tyagi. “Os líderes de engenharia de software estão cada vez mais preocupados à medida que os gastos com IA baseados em consumo de tokens se tornam mais difíceis de justificar, com orçamentos frequentemente sendo consumidos antes do esperado.”
Padrões de uso e lacunas de governança estão aumentando a pressão sobre os custos
Além dos desafios relacionados à precificação e à visibilidade, a forma como os agentes de codificação com IA são utilizados dentro das organizações também está contribuindo para o aumento dos custos. O gasto excessivo com tokens costuma estar relacionado à maneira como líderes de engenharia de software governam o uso; entre os problemas comuns, estão a autonomia sem governança em fluxos de trabalho orientados por agentes, janelas de contexto excessivamente grandes e a ausência de mecanismos estruturados de feedback para otimizar a utilização.
Além disso, os fornecedores de soluções de codificação com IA ainda não disponibilizaram recursos maduros e nativos de otimização de custos em seus agentes, o que contribui ainda mais para a escalada dos gastos.
“Os custos da codificação com IA continuarão aumentando à medida que os investimentos em infraestrutura e os desafios de rentabilidade pressionarem os preços dos modelos para cima”, afirma Tyagi. “Ao mesmo tempo, conforme mais desenvolvedores adotam ferramentas de IA, usuários ocasionais tendem a se tornar usuários frequentes à medida que aumenta sua familiaridade e dependência dessas tecnologias, impulsionando ainda mais o consumo de tokens e os gastos totais.”
Para gerenciar o aumento dos custos e evitar estouros de orçamento, o Gartner recomenda que líderes de engenharia de software implementem um modelo operacional disciplinado para o uso de IA:
- Estabelecer um framework de decisão orientado por casos de uso: As organizações devem definir claramente quando os agentes de codificação com IA devem ser utilizados e determinar níveis adequados de autonomia para cada tarefa. Isso inclui classificar atividades de desenvolvimento em três modelos de execução: liderado pelo desenvolvedor, desenvolvedor com agente e totalmente conduzido por agente.
- Alinhar a seleção de modelos à complexidade da tarefa: Os agentes de codificação com IA são mais econômicos quando o trabalho é dividido em tarefas menores que podem ser executadas por modelos menores, com escalonamento apenas quando a complexidade exigir. Equipes de engenharia e plataforma devem implementar estratégias inteligentes de roteamento de modelos, direcionando tarefas simples e de alta frequência para modelos menores e reservando modelos de ponta para atividades de desenvolvimento complexas e de alto valor.
- Tornar obrigatórias as práticas de engenharia de contexto: Os desenvolvedores devem ser treinados para otimizar o contexto de input fornecido aos sistemas de IA, incluindo apenas informações relevantes, resumindo conteúdos quando possível e eliminando dados desnecessários para reduzir o consumo de tokens sem comprometer a qualidade dos resultados.
- Implementar governança e controles de custo: As organizações devem adotar mecanismos como limites de consumo de tokens, políticas de escalonamento e monitoramento automatizado para gerenciar o uso. Incorporar esses controles aos fluxos de trabalho de engenharia garante consistência e evita o crescimento descontrolado dos custos.
- Incluir revisões de uso de tokens nos ciclos de desenvolvimento: Os líderes devem exigir análises regulares dos fluxos de trabalho com alto consumo de tokens durante retrospectivas de sprint, com o objetivo de identificar ineficiências, aprimorar práticas e promover o compartilhamento de conhecimento entre as equipes de engenharia.
Gartner é a autoridade mundial em IA
O Gartner é o parceiro indispensável para executivos C-Level e fornecedores de tecnologia à medida que implementam estratégias de IA para alcançar suas prioridades de missão crítica. A independência e a objetividade dos insights do Gartner proporcionam aos clientes a confiança necessária para tomar decisões bem fundamentadas e desbloquear todo o potencial da IA. Clientes C-Level estão usando a ferramenta de IA do Gartner AskGartner para definir como aproveitar a IA em seus negócios. Com mais de 2.500 especialistas em negócios e tecnologia, 6.000 insights escritos, além de mais de 1.000 casos de uso e estudos de caso de IA, o Gartner é a autoridade mundial em IA.
Sobre a Conferência Gartner CIO & IT Executive
Os analistas do Gartner fornecerão insights adicionais sobre tendências que moldam o futuro da TI e dos negócios, incluindo a aceleração da transformação empresarial, modernização de aplicações, infraestrutura e operações, durante a Conferência Gartner CIO & IT Executive, que será realizada de 21 a 23 de setembro em São Paulo (Brasil) e de 5 a 7 de outubro em Dubai (Emirados Árabes).
Sobre o Gartner for Software Engineering Leaders
O Gartner for Software Engineering Leaders ajuda líderes a se alinharem com stakeholders, reterem e otimizarem equipes e desenvolverem produtos inovadores que apoiem e atendam toda a organização, seus parceiros e clientes.
A adoção em massa da IA amplia os riscos de cibersegurança às PMEs, alerta a Check Point
IT, OT e IA: a tríade que está redefinindo competitividade industrial. Por Marco Stefanini
76% dos brasileiros pretendem usar IA para realizar compras, aponta estudo da Visa
Estagnação regulatória do Redata ameaça investimentos em data centers no Brasil
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
