Custo da IA generativa deve quintuplicar até 2028, aponta Gartner
A migração para agentes de IA mais sofisticados enfrenta desafios financeiros significativos.
A transição de chatbots simples para fluxos de trabalho agênticos mais avançados pode encontrar um obstáculo crucial: o custo. Um estudo recente indica que, apesar da queda nos preços unitários dos tokens de inteligência artificial, o investimento total das empresas em IA tende a aumentar. Isso ocorre porque, à medida que os fluxos de trabalho se tornam mais complexos e eficientes, os custos associados a essas tecnologias também crescem.
Esse fenômeno, conhecido como “paradoxo da inferência”, ocorre quando os ganhos de eficiência no custo por token são compensados pelos gastos adicionais necessários para implementar capacidades de IA mais sofisticadas. Três tendências principais contribuem para esse efeito: a melhoria na economia de custos dos modelos de base, o aumento da eficiência que possibilita aplicações de IA mais complexas e o maior consumo de tokens em fluxos de trabalho avançados, em comparação com chatbots tradicionais.
O diretor sênior de pesquisa de uma renomada consultoria destaca que a diferença de custo entre um chatbot básico e um agente de IA reside na natureza das tarefas realizadas. Enquanto um chatbot simples apenas interpreta perguntas e fornece respostas diretas, um agente de IA deve raciocinar, negociar e questionar continuamente através de várias etapas. O uso de um modelo de raciocínio agêntico pode multiplicar por cinco o custo de inferência, com esse multiplicador tendendo a aumentar conforme a complexidade da tarefa se intensifica.
Os líderes de produto precisam ir além da simples expectativa de redução de preços dos tokens para justificar seus investimentos em IA. Cada nova geração de inteligência artificial requer mais tokens, frequentemente mais caros. Atualmente, não existe um modelo único que seja confiável e econômico o suficiente para atender a todas as demandas, o que implica em manter ecossistemas complexos com múltiplos modelos simultaneamente.
O estudo sugere que as consequências do paradoxo da inferência ainda não são totalmente compreendidas pelas empresas que estão implementando soluções agênticas. Uma possível estratégia seria formar parcerias entre corporações para compartilhar o desenvolvimento de agentes de IA, assim distribuindo os custos. Contudo, a tendência geral é que tanto o volume quanto o valor gasto em tokens aumentem à medida que os modelos e agentes se tornem mais sofisticados.
