Postgres reduz custo de inteligência artificial em empresas em até 76 vezes, aponta estudo

Estudo revela que escolha inadequada de banco de dados pode aumentar custos de IA em até cinco vezes.

Um estudo independente demonstrou que a seleção do banco de dados para aplicações de inteligência artificial tem um impacto significativo nos custos operacionais das empresas. A pesquisa revela que a eficiência na entrega de contexto aos grandes modelos de linguagem é crucial para evitar desperdícios financeiros.

O orçamento de TI das empresas, independentemente do seu porte, pode ser afetado diretamente pela escolha do banco de dados. Quando um banco de dados consome muitos tokens para alimentar um agente de IA, isso resulta em faturas mais altas dos provedores de LLM e na necessidade de uma infraestrutura maior para compensar a lentidão no processamento.

Metodologia e escopo do benchmark

O estudo avaliou seis plataformas em condições de hardware equivalentes, com 64 a 72 núcleos virtuais de processamento e 512 GB de memória RAM. As plataformas incluídas foram Amazon Aurora PostgreSQL, Crunchy Bridge, Databricks, MongoDB Atlas, PostgreSQL de código aberto e EDB Postgres AI. Os testes simularam operações clínicas com 10 milhões e 50 milhões de registros, refletindo os desafios enfrentados por setores como saúde, finanças e varejo na implementação de IA.

Dois conceitos fundamentais foram considerados para entender os resultados: a busca vetorial, que localiza informações por significado, e o sistema de geração aumentada por recuperação (RAG), que utiliza essa busca para integrar dados corporativos privados aos LLMs, permitindo respostas baseadas em informações reais.

Desperdício de tokens e diferença de custos

Nos testes, o Databricks apresentou um desperdício de 41,8% dos tokens enviados ao LLM, enquanto o MongoDB Atlas registrou 27%. O EDB Postgres AI se destacou com apenas 17% de desperdício. Em busca semântica pura, a diferença foi ainda mais acentuada, com o Databricks desperdiçando 24,3% dos tokens em comparação a 8,0% do EDB Postgres AI, evidenciando uma vantagem significativa.

O estudo indicou que a ineficiência no uso de tokens não é apenas uma questão técnica, mas um problema financeiro. Empresas que utilizam plataformas ineficientes podem incorrer em custos desnecessários que se acumulam rapidamente, representando uma quantia significativa em despesas mensais com APIs de LLM.

A latência também é um fator crítico. Em testes com 50 milhões de vetores, o EDB Postgres AI apresentou uma latência mediana de 50 milissegundos, enquanto o MongoDB Atlas alcançou 1.083 ms e o Databricks 4.023 ms, tornando este último impraticável para aplicações interativas.

Custo efetivo por hora

Ao ajustar os preços de tabela de cada plataforma pela performance real, as diferenças se tornaram ainda mais evidentes. O MongoDB Atlas, com um custo tabelado de US$ 26,66 por hora, resultou em um custo efetivo de US$ 577 por hora para igualar a performance do EDB Postgres AI, uma diferença de 34 vezes. O Databricks, por sua vez, atingiu um custo de US$ 1.287 por hora, representando um aumento de 76 vezes.

A eficiência do banco de dados é crucial para reduzir custos. A narrativa de que a IA é inerentemente cara pode ser desmistificada ao considerar a eficiência da camada de dados, onde o PostgreSQL, quando configurado corretamente, pode oferecer a precisão e velocidade necessárias para minimizar o custo total de propriedade de IA.

Setores afetados no Brasil

Os resultados do estudo têm implicações diretas em diversos setores, incluindo bancos e fintechs que utilizam IA para atendimento e análise de crédito, serviços de saúde com RAG clínico, varejo e comércio eletrônico com busca semântica, e seguradoras para análise de sinistros. Além disso, o setor público e as telecomunicações também se beneficiam da eficiência dos sistemas de IA.

O benchmark sugere que as empresas não necessitam de bancos de dados vetoriais separados para IA, uma vez que as variantes do PostgreSQL demonstraram superioridade em latência, precisão e eficiência de tokens. O EDB Postgres AI se destacou em todos os testes, apresentando configurações otimizadas que garantem maior relevância dos dados sob carga concorrente.

O mercado de bancos de dados vetoriais no Brasil está em