Custos de inteligência artificial revelam desafios de contexto e aumentam despesas nas empresas, aponta Forrester
Crescimento dos gastos com inteligência artificial é impulsionado pela qualidade do contexto fornecido.
O aumento dos investimentos em inteligência artificial (IA) está mais relacionado à qualidade do contexto que as máquinas recebem do que ao uso dos próprios modelos. Essa análise revela que muitas empresas enfrentam custos inesperados com a implementação de projetos de IA generativa e agentes autônomos.
As organizações estão percebendo que a maneira como os sistemas acessam e interpretam informações corporativas impacta diretamente nos gastos. A consultoria destaca que esses agentes não apenas respondem a solicitações isoladas, mas operam em ciclos contínuos, interagindo frequentemente com dados e contexto para completar suas tarefas.
Esse funcionamento contínuo resulta em um aumento significativo no consumo de recursos. Pesquisas indicam que um agente de IA pode consumir até quatro vezes mais tokens em comparação a uma interação convencional, e sistemas que utilizam múltiplos agentes podem elevar esse consumo para até quinze vezes.
Dívida de contexto amplia despesas operacionais
Esse fenômeno é denominado “dívida de contexto”, que se refere à falta de estrutura adequada no conhecimento corporativo para que as máquinas possam compreendê-lo facilmente. Quando o conhecimento não está bem organizado, os agentes precisam reinterpretar informações a cada nova interação, resultando em maior consumo de recursos computacionais e aumento da latência nas respostas.
À medida que as empresas adotam sistemas multiagentes, a questão da dívida de contexto torna-se ainda mais crítica. A forma como os dados, a documentação e o conhecimento institucional são organizados afeta diretamente a eficiência financeira e o desempenho dos modelos de IA.
Para mitigar os custos associados à IA, é fundamental que as empresas invistam não apenas em modelos de IA mais eficientes, mas também em estratégias que tornem o conhecimento corporativo mais acessível e compreensível para esses sistemas inteligentes.
