Nvidia apresenta rack Groq 3 LPX voltado para aceleração de inteligência artificial
Nvidia inicia produção do rack Groq 3 LPX, marcando um novo capítulo em sua trajetória tecnológica.
A Nvidia anunciou que seu rack Groq 3 LPX está em produção plena, sinalizando o início da comercialização da tecnologia adquirida na maior compra da sua história. Os sistemas estão previstos para entrar em operação em 2026.
Este rack será integrado com os processadores centrais Vera e os processadores gráficos Rubin na nuvem da empresa Nebius, conforme informações de um diretor sênior da Nvidia. Essa combinação promete otimizar o desempenho e a eficiência em serviços de nuvem.
Inferência de baixa latência
A introdução do rack Groq 3 LPX destaca a crescente relevância da inferência de baixa latência, essencial para tornar os agentes de inteligência artificial (IA) mais ágeis, especialmente em aplicações de codificação. Provedores de nuvem podem oferecer serviços premium, aproveitando essa tecnologia para atender a clientes que necessitam de soluções mais rápidas.
Com a aquisição da startup de chips Groq por US$ 20 bilhões, a Nvidia se posiciona de forma competitiva no mercado. A arquitetura Groq incorpora 500 megabytes de memória estática de acesso aleatório (SRAM) no chip, minimizando os gargalos de memória. A fabricação dos chips é realizada pela Samsung, enquanto as unidades de processamento gráfico (GPUs) são produzidas pela Taiwan Semiconductor Manufacturing.
Desempenho dos chips Groq
Cada rack LPX contém 256 chips Groq 3, com um desempenho notável de 3.400 tokens por segundo, conforme benchmarks realizados. Este segmento de baixa latência é altamente competitivo, com empresas como a Advanced Micro Devices integrando seus sistemas com chips da Cerebras, que também se especializa nessa área.
O recém-lançado modo Ultrafast da OpenAI, que promete 750 tokens por segundo, ilustra a crescente demanda por soluções de inferência rápida. Chips como os da Groq não substituem as GPUs, que continuam a ser fundamentais para treinamento e inferência em IA, mas oferecem uma solução especializada para a fase de decodificação.
De acordo com a Nvidia, a estratégia não é substituir GPUs, mas sim utilizar o processador adequado para cada parte da carga de trabalho, otimizando recursos e custos.
Expansão do portfólio Vera Rubin
A Nvidia está acelerando os embarques de seus sistemas Vera Rubin, que começaram a ser produzidos no início de 2026. Durante uma apresentação conjunta dos sistemas Vera Rubin e do rack Groq 3 LPX, o CEO da Nvidia projetou vendas acumuladas de US$ 1 trilhão entre os chips da geração atual e os novos sistemas até 2027.
Ele também mencionou que destinará um quarto do espaço de seus data centers para chips Groq, enquanto o restante será totalmente dedicado aos chips Vera Rubin. A Nvidia está programada para divulgar seus resultados financeiros em breve, o que promete trazer mais informações sobre o desempenho e as expectativas para suas novas tecnologias.
